Directorul general al Amazon, Andy Jassy, s-a numărat printre liderii din tehnologie care au semnalat în această săptămână oficialilor administraţiei Trump preocupări legate de riscurile de securitate asociate celor mai avansate modele de inteligenţă artificială dezvoltate de Anthropic, potrivit unei surse citate de Reuters.
Informaţia oferă noi detalii despre decizia fără precedent prin care Anthropic a dezactivat la nivel global accesul la cele mai noi modele ale sale, după ce a primit ordine motivate de considerente de securitate naţională din partea administraţiei americane.
Compania, care pregăteşte o listare bursieră în Statele Unite, avertizase anterior asupra capacităţilor avansate de hacking ale modelului Mythos şi amânase lansarea sa pe scară largă. În această săptămână, Anthropic a lansat însă o versiune publică numită Fable, despre care susţinea că include măsuri suplimentare de protecţie cibernetică.
Lansarea a fost de scurtă durată. Anthropic a anunţat vineri că guvernul american consideră că există o metodă de ocolire a mecanismelor de siguranţă ale modelului, ceea ce ar permite identificarea unor vulnerabilităţi informatice.
Compania a precizat că metoda descoperită permite identificarea doar a unor probleme minore de securitate, similare cu cele care pot fi găsite şi cu alte modele AI disponibile public.
Administraţia Trump a ordonat Anthropic să blocheze accesul la modelele Fable 5 şi Mythos 5 pentru toţi cetăţenii străini, indiferent dacă se află în Statele Unite sau în alte ţări. Ca răspuns, compania a decis să dezactiveze complet accesul la aceste modele la nivel mondial.
Amazon nu a confirmat dacă a discutat cu oficialii guvernamentali despre modelele Anthropic, însă un purtător de cuvânt a declarat că autorităţile solicită frecvent opinia companiei în privinţa riscurilor de securitate, având în vedere poziţia sa importantă în sectorul serviciilor cloud.
Potrivit Anthropic, restricţiile impuse de guvernul american au forma unor controale la export. Consilierul Casei Albe David Sacks a afirmat că măsura a fost adoptată după ce directorul executiv al Anthropic, Dario Amodei, ar fi refuzat să remedieze vulnerabilitatea sau să retragă modelul.
Sacks a precizat că administraţia speră ca problema să fie rezolvată rapid, iar restricţiile să fie ridicate, permiţând relansarea modelului Fable.
Decizia a stârnit însă critici inclusiv din partea unor experţi care susţin controalele asupra tehnologiilor avansate. Aceştia au remarcat că măsura afectează şi state aliate ale Statelor Unite.
„Această decizie nu a fost bine gândită. Ea îi afectează inclusiv pe canadienii şi britanicii care lucrează pentru Anthropic şi desfăşoară activităţi de cercetare şi dezvoltare”, a declarat Jimmy Goodrich, cercetător la Institutul pentru Conflict şi Cooperare Globală al Universităţii California.