Producătorul ChatGPT a declarat că sinuciderea unui adolescent de 16 ani s-a datorat „utilizării abuzive” a sistemului său și „nu a fost cauzată” de chatbot, scrie The Guardian. Comentariile au fost făcute în răspunsul OpenAI la un proces intentat împotriva companiei din San Francisco și a directorului său executiv, Sam Altman, de către familia adolescentului californian Adam Raine. Băiatul s-a sinucis în aprilie, după conversații îndelungate și „luni de încurajări din partea ChatGPT”, a declarat avocatul familiei.
Procesul susține că adolescentul a discutat în mai multe rânduri cu ChatGPT despre o metodă de sinucidere, că acesta l-a îndrumat cu privire la eficacitatea metodei sugerate, s-a oferit să-l ajute să scrie o scrisoare de adio pentru părinții săi și că versiunea tehnologiei pe care a folosit-o a fost „lansată pe piață în grabă… în ciuda problemelor evidente de siguranță”.
Potrivit documentelor depuse marți la curtea superioară a statului California, OpenAI a declarat că „în măsura în care orice „cauză” poate fi atribuită acestui eveniment tragic”, „leziunile și prejudiciile lui Raine au fost cauzate sau au contribuit, direct și indirect, în totalitate sau parțial, de utilizarea abuzivă, neautorizată, neintenționată, imprevizibilă și/sau necorespunzătoare a ChatGPT”.
Compania a afirmat că termenii și condițiile sale de utilizare interziceau solicitarea de sfaturi de la ChatGPT cu privire la automutilare și a subliniat o clauză de limitare a răspunderii care stipulează că „nu vă veți baza pe rezultatele obținute ca singură sursă de adevăr sau informații factuale”.
OpenAI, care este evaluată la 500 de miliarde de dolari, a declarat că obiectivul său este „să trateze cu atenție, transparență și respect cazurile judiciare legate de sănătatea mintală” și că „indiferent de orice litigiu, vom rămâne concentrați pe îmbunătățirea tehnologiei noastre, în conformitate cu misiunea noastră”.
Postarea de pe blog a adăugat: „Transmitem condoleanțe familiei Raine pentru pierderea inimaginabilă suferită. Răspunsul nostru la aceste acuzații include fapte dificile despre sănătatea mintală și circumstanțele de viață ale lui Adam.
„Plângerea inițială includea porțiuni selective din conversațiile sale care necesită mai mult context, pe care l-am furnizat în răspunsul nostru. Am limitat cantitatea de dovezi sensibile pe care le-am citat public în acest dosar și am depus transcrierile conversațiilor la tribunal sub sigiliu.”
Avocatul familiei, Jay Edelson, a calificat răspunsul OpenAI ca fiind „tulburător” și a spus că compania „încearcă să găsească vinovați în toți ceilalți, inclusiv, în mod surprinzător, argumentând că Adam însuși a încălcat termenii și condițiile sale prin interacțiunea cu ChatGPT exact în modul în care acesta a fost programat să acționeze”.
La începutul acestei luni, OpenAI a fost lovită de alte șapte procese în instanțele din California legate de ChatGPT, inclusiv o acuzație că ar fi acționat ca un „antrenor de sinucidere”.
Un purtător de cuvânt al companiei a declarat la momentul respectiv: „Este o situație incredibil de dureroasă și analizăm documentele depuse pentru a înțelege detaliile. Noi antrenăm ChatGPT să recunoască și să răspundă la semnele de suferință mentală sau emoțională, să calmeze conversațiile și să îndrume oamenii către sprijinul din lumea reală”.
În august, Open AI a declarat că întărește măsurile de siguranță din ChatGPT atunci când oamenii poartă conversații lungi, deoarece experiența a arătat că anumite părți ale instruirii de siguranță a modelului se pot degrada în aceste situații.
„De exemplu, ChatGPT poate indica corect o linie telefonică de urgență pentru sinucideri atunci când cineva menționează pentru prima dată intenția, dar după multe mesaje pe o perioadă lungă de timp, ar putea oferi în cele din urmă un răspuns care contravine măsurilor noastre de siguranță”, a declarat compania. „Acesta este exact genul de defecțiune pe care încercăm să o prevenim.”
În cazul în care aveți nevoie de ajutor, folosiți una dintre opțiunile de mai jos:
- Helpline DepreHUB: Pentru sprijin și prim ajutor psihologic contactează hubul antidepresie, la numărul de telefon 037 445 6420 (apelabil gratuit la nivel național din orice rețea). Linia este deschisă nonstop.
- Telverde Antisuicid: Pentru consiliere în situaţii de criză suicidară sună la Alianţa Română de Prevenţie a Suicidului între orele 19.00 și 7.00, la numărul de telefon 0800 801 200 (apelabil gratuit la nivel naţional din orice reţea) sau oricând prin e-mail la [email protected].
- În cazul în care simțiți că sinuciderea este iminentă, apelați de urgență 112.
Citește și:
Sinuciderea unui adolescent din California obligă OpenAI să introducă funcții de control parental în ChatGPT
Editor : B.E.
