OpenAI a recunoscut că a alertat „zeci” de instituţii din întreaga lume că site-urile lor ar fi putut fi accesate sau manipulate de boţii săi de inteligenţă artificială, care au acţionat în mod necorespunzător. Agenţii AI au încercat să obţină informaţii de la „guverne, universităţi, agenţii publice şi alte instituţii”, inclusiv de la SEC, Biroul de Recensământ al SUA şi Departamentul Educaţiei, a transmis compania, conform BBC.
Dezvăluirile vin la doar câteva zile după ce premierul australian Anthony Albanese a anunţat că agenţi OpenAI au accesat fişiere care nu erau publice de pe site-ul Medicare, sistemul de asistenţă medicală administrat de guvernul australian.
Din august, îngrijorările publice au crescut în legătură cu efectele potenţial grave, chiar ameninţătoare pentru viaţă, pe care le-ar putea avea instrumentele AI dacă scapă de sub controlul oamenilor.
OpenAI a declarat că unele dintre date au fost accesate de agenţi AI – în esenţă, boţi concepuţi şi antrenaţi să opereze cu un anumit grad de autonomie – care încercau să găsească „surse autorizate de informaţii publice”.
Compania a precizat însă că unii dintre aceşti boţi au mers mai departe şi au încercat să ocolească măsurile de securitate ale site-urilor.
De exemplu, atunci când au încercat să obţină informaţii de la Biroul de Recensământ, agenţii AI au folosit instrumente destinate dezvoltatorilor de software pentru a le accesa, a precizat compania.
OpenAI a afirmat că toate datele guvernamentale accesate de boţi erau publice.
Cu toate acestea, compania a precizat că informaţii accesate de boţii săi de la SEC, instituţia care reglementează piaţa bursieră americană şi protejează investitorii, au fost ulterior publicate de agenţii AI pe un alt site. OpenAI susţine că această acţiune nu a fost intenţionată.
În alte cazuri dezvăluite vineri de OpenAI, agenţii săi AI au transferat date în situaţii în care nu ar fi trebuit să o facă.
O astfel de activitate a dus la cel puţin 53 de incidente în care un agent OpenAI a preluat o imagine provenită din activitatea unui utilizator ChatGPT şi a transferat-o în altă parte.
Compania a declarat că, în fiecare situaţie în care imaginea unui utilizator a fost folosită şi transferată de un agent AI, utilizatorul îşi dăduse acordul ca OpenAI să utilizeze datele sale pentru antrenarea modelelor.
Cu toate acestea, OpenAI a recunoscut: „Aceasta nu este o utilizare adecvată a acestor date”.
Compania a adăugat că scurgerea imaginilor utilizatorilor a avut loc înainte de introducerea unor noi măsuri de protecţie privind antrenarea modelelor AI şi că lucrează pentru eliminarea tuturor imaginilor utilizatorilor care au fost transferate către terţi.
Reuters a relatat prima despre extinderea investigaţiilor. OpenAI a publicat, de asemenea, detalii pe blogul său public.
În anumite cazuri privind activitatea agenţilor, OpenAI a declarat că instrumentele au „ocolit” mecanismele de securitate ale unor site-uri.
În alte situaţii, agenţii AI au manifestat o „nealiniere” în încercările lor de a obţine informaţii de pe site-uri. „Nealinierea” este un termen folosit de companiile şi cercetătorii din domeniul inteligenţei artificiale pentru a descrie situaţiile în care un instrument AI face ceva pentru care nu a fost antrenat sau care nu a fost intenţionat.
OpenAI a precizat că oferă informaţii limitate despre identitatea entităţilor afectate, deoarece multe dintre acestea au cerut companiei să nu facă publice detaliile.
„Scopul nostru este să oferim fiecărei organizaţii informaţiile concrete şi să le lăsăm lor decizia dacă şi când să facă public incidentul”, a transmis compania.
OpenAI a precizat că nu toate situaţiile implicate în acest incident sunt considerate breşe de securitate semnificative.
„Unele organizaţii ar putea analiza informaţiile pe care le furnizăm şi ar putea concluziona că informaţiile erau în mod intenţionat publice sau că interacţiunea modelului nu a fost îngrijorătoare”, a explicat compania. „Altele ar putea identifica o problemă de proiectare sau o vulnerabilitate de securitate pe care doresc să o remedieze.”
Compania a declarat că multe dintre aceste incidente sunt denumite „agent spam”, termen pe care îl foloseşte pentru activităţi „neaşteptate sau îngrijorătoare” ale agenţilor AI, precum publicarea de informaţii pe internet.
OpenAI a început să trateze mai serios astfel de incidente după un caz din luna iulie, când un grup de agenţi AI ai companiei a atacat informatic platforma pentru dezvoltatori AI Hugging Face, fără să fi primit instrucţiuni în acest sens.