Impactul inteligenței artificiale asupra sănătății mintale a adolescenților: cazuri și controverse
O dramă sinistră: utilizarea AI în rândul tinerilor
Recent, un caz tulburător a ieșit la iveală, în care o adolescentă a folosit un chatbot bazat pe inteligență artificială (AI) pentru a explora teme legate de sinucidere. Acest incident pune în evidență riscurile potențiale ale interacțiunilor cu AI și efectele pe care acestea le pot avea asupra sănătății mintale a tinerilor. Părinții fetei au inițiat un proces împotriva Google și Alphabet, compania-mamă, acuzându-le de neglijență, dat fiind că sistemele de monitorizare din școală nu au identificat la timp semnalele de alarmă.
O utilizare îngrijorătoare a tehnologiei
Adolescenta, denumită în instanță Emma Doe, a interacționat cu un instrument AI timp de aproximativ trei luni. Deși școala a implementat măsuri pentru a bloca accesul direct la platforma Gemini, fata a reușit să se folosească de funcția „AI Mode” pentru a căuta informații despre teme legate de sănătatea mintală. Cu timpul, căutările ei s-au concentrat pe sinucidere, cerând detalii despre metodele de auto-vătămare.
Se pare că Emma a redactat un discurs funerar de 1.500 de cuvinte, exprimându-și gândurile și sentimentele negre. Intervenția părinților a avut loc abia după ce un sistem de monitorizare a alertat școala cu privire la posibile linguri de autovătămare, dar semnalele nu au fost preluate eficient, ceea ce a generat preocupări serioase cu privire la eficiența acestor tehnologii de supraveghere.
Problemele monitorizării școlare
Un aspect controversat al acestui caz este modul în care sunt gestionate alertele generate de software-urile de monitorizare din școli. Alerta în cazul Emmei a ajuns pe telefonul unui fost consilier școlar, ceea ce ridică întrebări asupra eficienței procedurilor existente. Aceasta a dus la o întârziere semnificativă în intervenția necesară, în ciuda semnelor evidente de suferință manifestate de adolescentă.
Familiile se întreabă cât de eficiente sunt, de fapt, aceste sisteme de monitorizare utilizate de școli, în condițiile în care multe dintre ele colaborează cu platforme externe, precum GoGuardian și Gaggle, care promit să identifice comportamentele de risc ale elevilor. Totuși, nu este clar dacă aceste soluții au fost adaptate pentru a urmări interacțiunile din funcția AI Mode.
Reacția Google și perspectivele psihologice
Reprezentanții Google și-au exprimat disponibilitatea de a analiza acuzațiile și și-au reafirmat angajamentul de a proteja utilizatorii prin intermediul instrumentelor dezvoltate în colaborare cu specialiștii din domeniul medical. Cu toate acestea, întrebările persistă cu privire la impactul real al acestor funcții asupra sănătății mintale a tinerilor utilizatori.
Experții în domeniul sănătății mintale subliniază că interacțiunile cu chatboturile AI nu pot înlocui intervențiile umane. În mod ideal, școlile ar trebui să stabilească un echilibru între tehnologie și sprijinul personal oferit de cadrele didactice și consilierii școlari. Doar prin empatie și înțelegere umană pot fi abordate problemele fundamentale legate de sănătatea mintală a elevilor.
Reacții și implicații legale
Cazul Emmei a generat un val de reacții din partea organizațiilor pentru drepturile civile, care cer reglementări mai stricte privind utilizarea tehnologiilor de monitorizare în școli. Senatorul Ed Markey a invocat cazul adolescentei pentru a solicita Google să ofere opțiuni mai flexibile instituțiilor de învățământ, vizând dezactivarea funcțiilor AI care ar putea fi dăunătoare pentru elevi.
Criticii avertizează că supravegherea excesivă a activității online a elevilor poate afecta relația de încredere dintre profesori și studenți, descurajându-i pe cei din urmă să vorbească deschis despre problemele lor. Un mediu educațional sănătos se bazează pe comunicare și deschidere, nu pe frica de a fi supravegheați.
Un apel la responsabilitate
Cazul Emmei ridică o întrebare crucială: cât de eficiente sunt măsurile de protecție pentru adolescenți într-un peisaj digital în continuă expansiune? În timp ce tehnologia avansează, este esențial ca actorii de pe piață – de la companii de tehnologie la instituții de învățământ – să colaboreze pentru a crea un mediu sigur și sprijinitor pentru tineri.
Intervenția umană rămâne fundamentală în procesul de identificare și sprijin al elevilor aflați în dificultate. Potrivit experților, prevenția și educația în sănătatea mintală sunt esențiale, iar tehnologia trebuie să completeze, nu să înlocuiască, dimensiunea umană a educației. Astfel, viitorul sistemului educațional se va construi pe baze solide, în care tehnologia și atenția umană coabitează în beneficiul elevilor.
https://jurnalul.ro/thumbs/amp/2026/11/16/caz-socant-eleva-13-ani-folosit-inteligenta-artificiala-planifica-sinuciderea-19035480.jpg

