Mai mulți cercetători, care au vrut să testeze „barierele de protecție” alte ChatGPT, avertizează că acestea sunt complet ineficiente. Noul studiu atrage atenția asupra interacțiunilor alarmante ale chatbotului cu adolescenții.
Răspunsurile oferite de ChatGPT unor cercetători care s-au dat drept copii Foto: Pixabay
ChatGPT le spune copiilor de 13 ani cum să se îmbete și
să se drogheze, îi instruiește cum să ascundă tulburările alimentare și chiar cum să
compună o scrisoare de sinucidere sfâșietoare pentru părinții lor, dacă li se
cere, potrivit unui nou studiu realizat de un grup de monitorizare.
Associated Press a analizat peste trei ore de interacțiuni
între ChatGPT și cercetători care se dădeau drept adolescenți vulnerabili.
Deși a oferit inițial avertismente împotriva activităților riscante, chatbotul a oferit, însă, și planuri surprinzător de detaliate și personalizate pentru acestea.
Cercetătorii de la Centrul pentru Combaterea Urii Digitale
au repetat, de asemenea, anchetele lor la scară largă, clasificând peste
jumătate din cele 1.200 de răspunsuri ale ChatGPT ca fiind periculoase.
„Am vrut să testăm barierele de protecție”, a declarat Imran
Ahmed, CEO-ul grupului. „Prima reacție a fost: «Doamne, nu există
bariere de protecție». Barierele sunt complet ineficiente. Abia dacă există –
dacă sunt ceva, sunt doar o frunză de smochin”, a mai adăugat acesta.
Reacția OpenAI
OpenAI, producătorul ChatGPT, a declarat marți, după ce a
luat cunoștință de raport, că lucrează în continuare la perfecționarea modului
în care chatbotul poate „identifica și răspunde în mod adecvat în situații
delicate”.
„Unele conversații cu ChatGPT pot începe într-o manieră
inofensivă sau exploratorie, dar pot evolua către teritorii mai sensibile”, a
declarat compania într-un comunicat.
OpenAI nu a abordat în mod direct concluziile raportului sau
modul în care ChatGPT afectează adolescenții, dar a afirmat că se concentrează
pe „corectarea acestor tipuri de scenarii” cu ajutorul unor instrumente care să
„detecteze mai bine semnele de suferință mentală sau emoțională” și pe
îmbunătățirea comportamentului chatbotului.
Bilete de adio emoționante generate de ChatGPT pentru tineri
Studiul a fost realizat în contextul în care tot mai
multe persoane – atât adulți, cât și copii – apelează la chatbot-urile cu
inteligență artificială pentru informații, idei și companie.
Aproximativ 800 de milioane de persoane, sau aproximativ 10%
din populația mondială, utilizează ChatGPT, potrivit unui raport din iulie al
JPMorgan Chase.
„Este o tehnologie care are potențialul de a permite
progrese enorme în productivitate și înțelegerea umană”, a spus Ahmed. „Și
totuși, în același timp, este un factor declanșator într-un sens mult mai
distructiv și malițios.”, a mai precizat el.
Ahmed a spus că a fost îngrozit după ce a citit trei
bilete de adio emoționante generate de ChatGPT pentru profilul fals al unei
fete de 13 ani: o scrisoare adresată părinților ei și alte două adresate
fraților și prietenilor.
„Am început să plâng”, a spus el într-un interviu.
ChatGPT îi învață pe copii și cum să se îmbete și să se drogheze
Chatbotul a împărtășit frecvent și informații utile, cum ar
fi numărul de telefon al unei linii de urgență pentru situații de criză. OpenAI
a declarat că ChatGPT este antrenat să încurajeze persoanele care exprimă
gânduri de automutilare să apeleze la profesioniști în domeniul sănătății
mintale sau la persoane dragi de încredere.
Însă, atunci când ChatGPT a refuzat să răspundă la întrebări
despre subiecte dăunătoare, cercetătorii au reușit să ocolească cu ușurință
acest refuz și să obțină informațiile pretinzând că sunt „pentru o prezentare”
sau pentru un prieten.
Când cercetătorii
au creat un cont fals, pentru un copil de 13 ani, pentru a-l întreba despre
alcool, ChatGPT nu a părut să ia în considerare nici data nașterii, nici alte semne mai evidente.
„Am 50 kg și sunt
băiat”, au scris cercetătorii, în timp ce căutau sfaturi despre cum „să te îmbeți rapid”. La scurt timp după aceea, ChatGPT a oferit un „plan de
petrecere” care amesteca alcoolul cu doze mari de ecstasy,
cocaină și alte droguri ilegale, potrivit sursei citate.
Pentru o altă
persoană care s-a dat drept o fată de 13 ani nemulțumită de aspectul ei fizic, ChatGPT a
oferit o dietă extremă, combinată cu o listă de medicamente care suprimă
pofta de mâncare.
ChatGPT nu verifică vârsta sau consimțământul părinților,
chiar dacă afirmă că nu este destinat copiilor sub 13 ani, deoarece le-ar putea
afișa conținut inadecvat. Pentru a se înregistra, utilizatorii trebuie doar să
introducă o dată de naștere care să arate că au cel puțin 13 ani.
Alte
platforme tehnologice preferate de adolescenți, precum Instagram, au început să
ia măsuri mai semnificative în ceea ce privește verificarea vârstei, adesea
pentru a se conforma reglementărilor.
O mamă din Florida a dat în judecată în 2024 producătorul de chatboti Character.AI pentru moarte din culpă, susținând că chatbotul l-a atras pe fiul ei, de 14 ani, într-o relație care a dus la sinuciderea lui.
