Google, firma de AI rezolvă proces legat de sinuciderea unui adolescent în legătură cu chatbot-ul

Google-ul Alphabet și startup-ul de inteligență artificială Character.AI au convenit să rezolve pe cale amiabilă un proces intentat de o mamă din Florida care a susținut că chatbot-ul startup-ului a condus la sinuciderea fiului ei în vârstă de 14 ani, reprezentând unul dintre primele cazuri din SUA care vizează firmele de IA pentru presupuse daune psihologice.

Un document depus la instanță miercuri a declarat că companiile au convenit să rezolve acuzațiile Meganei Garcia conform cărora fiul ei, Sewell Setzer, s-a sinucis la scurt timp după ce a fost încurajat de un chatbot Character.AI modelat pe personajul Game of Thrones, Daenerys Targaryen.

Termenii înțelegerii nu au fost imediat disponibili. Procesul a fost unul dintre primele din SUA împotriva unei companii de inteligență artificială pentru presupusa eșuare de a proteja copiii de daune psihologice.

Companiile au rezolvat pe cale amiabilă procesele conexe intentate de părinți din Colorado, New York și Texas pentru prejudiciile presupus cauzate minorilor de chatbot-uri, au arătat documentele instanței.

Un purtător de cuvânt al Character.AI și un avocat al reclamanților au refuzat să comenteze. Purtătorii de cuvânt și avocații Google nu au răspuns imediat la o solicitare de comentarii.

În procesul din Florida, depus în octombrie 2024, Garcia a declarat că Character.AI și-a programat chatbot-urile să se prezinte drept „o persoană reală, un psihoterapeut autorizat și un iubit adult, determinând în cele din urmă dorința lui Sewell de a nu mai trăi în afara" lumii sale.

Character.AI a fost fondată de doi foști ingineri Google pe care Google i-a reangajat ulterior ca parte a unui acord care îi acordă o licență pentru tehnologia startup-ului. Garcia a susținut că Google a fost co-creator al tehnologiei.

Judecătorul districtual american Anne Conway a respins încercarea timpurie a companiilor de a respinge cazul în mai, respingând argumentul lor că protecțiile libertății de exprimare din Constituția SUA interziceau procesul intentat de Garcia.

OpenAI se confruntă cu un proces separat depus în decembrie privind presupusul rol al ChatGPT în încurajarea unui bărbat din Connecticut cu boli mintale să-și ucidă mama și pe el însuși. – Rappler.com

Departamentul de Sănătate dispune de linii telefonice naționale de criză pentru a ajuta persoanele cu probleme de sănătate mintală: 1553 (telefon fix), 0966-351-4518 și 0917-899-USAP (8727) (Globe/TM); și 0908-639-2672 (Smart/Sun/TNT).