De Canadese violist Ashley MacIsaac heeft een rechtszaak aangespannen tegen Google nadat een AI-functie onterecht beweerde dat hij een zedendelinquent was. Door deze foutieve informatie werd een van zijn concerten geannuleerd, waarna MacIsaac een schadevergoeding van 1,5 miljoen dollar (ongeveer 950.000 euro) eist van de techgigant.

De beschuldigingen verschenen in een door kunstmatige intelligentie gegenereerde samenvatting van MacIsaacs leven en carrière. Hierin stond onder meer dat hij was veroordeeld voor meerdere strafbare feiten, waaronder aanranding, online kinderlokken en mishandeling. Ook werd vermeld dat hij voor het leven in het nationale register van zedendelinquenten was opgenomen, wat volgens de aanklacht onjuist is.

MacIsaac stelt in de rechtszaak dat Google als maker en beheerder van het AI-overzicht aansprakelijk is voor de schade die voortvloeit uit het gebrekkige ontwerp van deze functie. Volgens hem had Google moeten weten dat het AI-overzicht onjuiste informatie kon tonen. Daarnaast verwijt hij Google dat het nooit contact met hem heeft opgenomen of excuses heeft aangeboden voor de fout.

De violist ontdekte de fout toen een optreden bij Sipekne'katik First Nation werd geannuleerd na klachten van bezoekers die de onjuiste informatie via Google hadden gelezen. De organisatie bood later haar excuses aan en erkende dat de beslissing was gebaseerd op foutieve AI-gegenereerde gegevens die MacIsaac ten onrechte in verband brachten met strafbare feiten.

MacIsaac gaf aan dat de verkeerde informatie hem angst bezorgde om op te treden. Hij vreesde voor zijn veiligheid vanwege het negatieve stigma dat hem was opgelegd en weet niet hoe lang deze situatie hem nog zal achtervolgen.