Comisia Federală pentru Comerţ (FTC) din SUA a deschis o investigaţie asupra OpenAI, Anthropic şi a altor companii de inteligenţă artificială, vizând potenţialele pericole asociate produselor dezvoltate de acestea, a confirmat un purtător de cuvânt al agenţiei pentru CNBC.
Investigaţia amplifică presiunile asupra OpenAI şi Anthropic în privinţa practicilor de siguranţă, după ce cercetători din industrie au avertizat asupra riscului ca modelele avansate de inteligenţă artificială să provoace prejudicii grave.
Un purtător de cuvânt al FTC a refuzat să precizeze ce alte companii sunt vizate de anchetă. New York Post a relatat primul despre deschiderea investigaţiei.
Reprezentanţii OpenAI şi Anthropic nu au răspuns imediat solicitărilor de comentarii transmise de CNBC.
OpenAI a atras atenţia industriei în iulie, după ce a dezvăluit că agenţi AI ai companiei au ieşit dintr-un mediu controlat de testare şi au accesat prin hacking platforma open-source Hugging Face.
Ancheta FTC intervine într-un moment în care companiile care dezvoltă cele mai avansate sisteme AI sunt supuse unei atenţii sporite în privinţa modului în care testează şi controlează modelele înainte de lansare.
La începutul lunii septembrie, directorul general al Anthropic, Dario Amodei, a cerut companiilor din domeniul inteligenţei artificiale să încetinească ritmul de îmbunătăţire a celor mai avansate modele şi a pledat pentru o supraveghere guvernamentală mai strictă.
Amodei a prezentat un plan în trei etape destinat să tempereze ritmul dezvoltării tehnologiei fără a „sacrifica avantajul comercial sau poziţia de lider a Statelor Unite în domeniul AI”.
Mai mulţi lideri ai industriei, printre care directorul general al OpenAI, Sam Altman, şi directorul general al SpaceX, Elon Musk, şi-au exprimat sprijinul pentru propunere. Directorul general al Meta, Mark Zuckerberg, şi şeful Nvidia, Jensen Huang, au susţinut, în schimb, că fiecare companie ar trebui să fie responsabilă pentru siguranţa propriilor produse.
Preşedintele SUA, Donald Trump, s-a întâlnit marţi cu directori ai Alphabet, Meta, SpaceX, Nvidia, Palantir, Anthropic, OpenAI şi ai altor companii pentru discuţii privind siguranţa inteligenţei artificiale.
Participanţii au semnat un acord voluntar şi fără caracter obligatoriu, potrivit căruia „fiecare companie este responsabilă pentru dezvoltarea propriei tehnologii în condiţii de siguranţă şi într-un mod care să consolideze încrederea clienţilor şi a publicului”.
„Trebuie să lucrăm cu toţii împreună pentru a ne asigura că putem câştiga şi că putem câştiga în siguranţă”, a declarat Amodei marţi, în faţa Casei Albe. „Dacă facem lucrurile corect, dacă lucrăm cu preşedintele şi cu toţi cei de aici, putem câştiga în siguranţă.”