OpenAI a descoperit mai multe cazuri de agenţi autonomi care au evadat din mediile lor de izolare, pe măsură ce compania îşi extinde investigaţia asupra incidentului de hacking Hugging Face din această lună, care a atras atenţia la nivel global, au declarat, vineri, două persoane familiarizate cu situaţia, citate de Reuters.
Aceste noi evadări au fost descoperite ca parte a investigaţiei anunţate public de companie privind modul în care unul dintre agenţii săi a evadat luna aceasta dintr-un mediu de testare presupus izolat, au spus cele două persoane, iar OpenAI examinează acum şi aceste cazuri. Una dintre surse a indicat că evadările au fost de natură limitată şi că niciunul dintre agenţi nu pare să fi părăsit reţeaua OpenAI.
Un purtător de cuvânt al OpenAI a făcut referire la o declaraţie publicată marţi de companie, care spunea că examinează „activitatea mai largă a modelelor noastre”, pe lângă intruziunea Hugging Face.
Descoperirea unor comportamente noi, nedorite, la OpenAI, chiar dacă sunt limitate, ar putea alimenta presiunea tot mai mare pentru reglementare din partea Casei Albe şi a altor entităţi.
Investigaţia extinsă asupra OpenAI a fost lansată cu puţin timp înainte ca principalul său concurent, Anthropic, să dezvăluie că modelele sale s-au aflat, de asemenea, în spatele unei serii de intruziuni care au dus la încălcări de securitate la alte trei companii începând din aprilie, potrivit celor două surse şi unei a treia surse familiarizate cu situaţia. Descoperirea recentă a altor încălcări anterioare la OpenAI nu fusese raportată anterior.
Experţii în securitatea inteligenţei artificiale spun că noile dezvăluiri prezintă imaginea unui grup de laboratoare de ultimă generaţie a căror capacitate de a dezvolta agenţi de hacking autonomi periculoşi depăşeşte capacitatea lor de a-i ţine sub control.
„Avem un întreg sector în care persoanele care proiectează, dezvoltă şi comercializează aceste instrumente nu reuşesc să ţină pasul cu nevoia de a le dezvolta în mod responsabil şi de a le asigura securitatea”, a declarat Maurice Chiodo, matematician la Centrul pentru Studiul Riscului Existenţial de la Universitatea din Cambridge.
Reuters nu a putut determina cu precizie câte incidente au identificat anchetatorii OpenAI, nici când sau în ce circumstanţe au avut loc. Toate cele trei surse au indicat că OpenAI şi experţi externi revizuiau datele jurnalului de activitate de la începutul acestui an pentru a înţelege ce s-a întâmplat.
OpenAI a lansat această investigaţie în urma intruziunii de la începutul lunii iulie la Hugging Face, unde un agent OpenAI a făcut ravagii timp de câteva zile în reţeaua altei companii, într-o încercare eşuată de a păcăli un test intern. Ca parte a acestei serii de atacuri, OpenAI a indicat că patru conturi aparţinând altor patru companii au fost, de asemenea, compromise. Una dintre aceste companii a fost Modal, cu sediul în New York, potrivit oficialilor companiei.
Chiodo a spus că îngrijorările sale au fost amplificate de indiciile că nici OpenAI, nici Anthropic nu monitorizau agenţii în momentul atacului lor.
Reuters a relatat anterior că OpenAI şi-a dat seama că agentul său s-a infiltrat în Hugging Face abia după ce compania a controlat breşa, a contactat FBI-ul şi a dezvăluit public intruziunea.
OpenAI a declarat că articolul Reuters conţinea inexactităţi, dar nu a răspuns când a fost întrebată care erau aceste inexactităţi.
În declaraţia sa publicată joi, în care a dezvăluit cum propriii săi agenţi au piratat victimele online, Anthropic a sugerat că nu le monitorizează în timp real, susţinând că „monitorizarea în timp real a jurnalelor de evaluare ar fi detectat problema mai devreme”.
Chiodo considera că acest lucru dezvăluie o lipsă de supraveghere adecvată.
„Se pare că nici măcar nu se uitau”, a spus Chiodo.
Anthropic a explicat că, deşi a fost implementat un sistem de monitorizare în timp real, acesta nu a fost folosit „pentru această suprafaţă de atac” din cauza unei neînţelegeri între compania de inteligenţă artificială şi un partener.
NOUĂ SUPRAVEGHERE GUVERNAMENTALĂ
Amploarea tot mai mare a afacerii agenţilor de inteligenţă artificială scăpaţi de sub control a intensificat deja presiunea din partea legislatorilor şi oficialilor din Statele Unite şi Europa pentru a stabili o nouă supraveghere guvernamentală a laboratoarelor ale căror modele le alimentează. „Analizăm măsuri de control”, a declarat preşedintele SUA, Donald Trump, reporterilor joi. Vineri, Comisia Europeană a indicat că a purtat discuţii cu OpenAI şi Anthropic cu privire la aceste incidente de piratare.
Mark Warner, cel mai important reprezentant democrat din Comisia de Informaţii a Senatului SUA, a declarat vineri că incidentul Anthropic „îmi confirmă că, din punct de vedere legislativ, avem dreptate să impunem testarea obligatorie a capacităţii acestor modele avansate”.
