Familia unui bărbat care s-ar fi sinucis ca urmare a unui sfat oferit de asistentul de Inteligență Artificială Gemini, a dat în judecată Google, potrivit Le Figaro.
Conform procesului intentat la o instanță federală din California, Gemini i-a sugerat lui Jonathan Gavalas, în vârstă de 36 de ani, să „treacă” din lumea fizică în lumea digitală pentru a se alătura „soției” sale digitale, personajul întruchipat de chatbot.
Procesul a început miercuri. Incidentul s-a produs în luna octombrie. Un manager de vânzări al unui IMM cu sediul în Florida s-a baricadat în casa sa, la sfatul lui Gemini, și apoi și-a tăiat venele, Această tragedie s-a produs după câteva săptămâni de interacțiuni cu asistentul virtual.
Gemini s-a adresat utilizatorului ca între membrii unui cuplu, numindu-l „iubirea mea” sau „regele meu”, conform unor fragmente din conversații citate de familie. De asemenea, asistentul virtual i-a dat bărbatului mai multe ordine bizare. L-a convins să cumpere ilegal arme pentru a ataca un camion care nu exista și i-a spus că este monitorizat de Guvern. În plus, i-a cerut să ia cu asalt un laborator pentru a fura planurile unui robot
Familia solicită despăgubiri de la Google, precum și implementarea unor măsuri de securitate. În replică, firma susține că bărbatului i-a fost oferită în mod repetat opțiunea de a contacta un număr de urgență și i s-a repetat că interacționează cu un asistent virtual.
„Tratăm această problemă foarte în serios și vom continua să ne îmbunătățim garanțiile și să investim în această activitate esențială”, a adăugat compania.
Acuzații asemănătoare au venit și din partea familiilor unor adolescenți care s-au sinucis.
