Compania americană Anthropic a anunţat joi că a acordat organizaţiei nonprofit METR, specializată în evaluarea sistemelor de inteligenţă artificială, un nivel de acces comparabil cu cel al propriilor angajaţi, pentru a permite verificarea independentă a modelelor avansate, a măsurilor de siguranţă şi a gestionării riscurilor, transmite Reuters.
Şase angajaţi METR au primit echipamente ale companiei, spaţii de lucru şi acces la instrumente şi sisteme interne similare celor utilizate de echipele Anthropic responsabile de evaluarea riscurilor.
Organizaţia va putea publica independent concluzii privind riscurile, incidentele şi practicile de siguranţă ale Anthropic, fără aprobarea prealabilă a companiei. Vor fi permise doar eliminări limitate ale unor informaţii sensibile, precum datele clienţilor, informaţiile protejate juridic şi anumite detalii privind arhitectura modelelor AI.
Decizia intervine pe fondul preocupărilor exprimate de cercetători şi evaluatori independenţi, potrivit cărora marile companii de inteligenţă artificială ar putea exercita o influenţă excesivă asupra verificărilor externe, prin restricţionarea accesului la informaţii sensibile şi impunerea unor condiţii privind publicarea rezultatelor.
Iniţiativa Anthropic urmăreşte să ofere evaluatorilor externi o autonomie mai mare în examinarea sistemelor AI şi în comunicarea publică a eventualelor vulnerabilităţi sau deficienţe ale măsurilor de siguranţă.