China intenţionează să înăsprească reglementările privind chatboturile bazate pe inteligenţă artificială, vizând în special aplicaţiile care pot influenţa emoţiile utilizatorilor în moduri care pot conduce la suicid, automutilare sau alte riscuri psihologice, potrivit unor proiecte de reglementări, relatează CNBC.
Propunerile au fost formulate de Cyberspace Administration of China şi vizează ceea ce autorităţile definesc drept ”servicii AI interactive cu caracteristici umane”.
Regulile ar urma să se aplice produselor şi serviciilor AI disponibile publicului din China care simulează personalitatea umană şi interacţionează emoţional cu utilizatorii prin text, imagini, sunet sau video. Perioada de consultare publică se încheie la 25 ianuarie.
Potrivit experţilor, iniţiativa ar reprezenta prima tentativă la nivel global de a reglementa explicit inteligenţa artificială cu trăsături antropomorfe.
Winston Ma, profesor asociat la NYU School of Law, a declarat că noile propuneri marchează o tranziţie clară de la accentul pus pe siguranţa conţinutului, prezent în reglementările din 2023 privind AI generativ, către un cadru axat pe ”siguranţa emoţională”.
Documentul prevede că chatboturile AI nu vor avea voie să genereze conţinut care încurajează suicidul sau automutilarea şi nici să recurgă la violenţă verbală ori manipulare emoţională care ar putea afecta sănătatea mintală a utilizatorilor.
În situaţiile în care un utilizator exprimă explicit intenţii suicidare, furnizorii de tehnologie ar fi obligaţi să transfere conversaţia către un operator uman şi să contacteze imediat un tutore sau o persoană desemnată.
Regulile propuse mai stabilesc că chatboturile nu pot genera conţinut legat de jocuri de noroc, materiale obscene sau violente. În cazul minorilor, utilizarea AI pentru companie emoţională ar necesita consimţământul unui tutore şi ar fi supusă unor limite de timp. Platformele ar trebui, de asemenea, să fie capabile să determine dacă un utilizator este minor chiar şi atunci când acesta nu îşi declară vârsta, aplicând setări de protecţie în caz de incertitudine, cu posibilitatea de contestare.
Proiectul de reglementare introduce şi cerinţe suplimentare, precum obligaţia ca platformele să reamintească utilizatorilor după două ore de interacţiune continuă cu un chatbot AI şi impunerea unor evaluări de securitate pentru serviciile care depăşesc un milion de utilizatori înregistraţi sau 100.000 de utilizatori activi lunar.
În acelaşi timp, autorităţile chineze încurajează utilizarea inteligenţei artificiale cu trăsături umane în domenii precum promovarea culturii şi sprijinul pentru persoanele vârstnice.
Iniţiativa vine într-un moment sensibil pentru industria locală de AI, după ce două startupuri chineze importante din zona chatboturilor, Z.ai şi Minimax, au depus recent documentaţia pentru listări publice iniţiale la Hong Kong.
Minimax este cunoscută la nivel internaţional pentru aplicaţia Talkie AI, care permite utilizatorilor să converseze cu personaje virtuale, în timp ce Z.ai, cunoscută şi sub numele de Zhipu, susţine că tehnologia sa este utilizată pe zeci de milioane de dispozitive. Până în prezent, companiile nu au comentat modul în care noile reguli ar putea influenţa planurile lor de listare.
Prin aceste măsuri, Beijingul îşi consolidează controlul asupra dezvoltării rapide a inteligenţei artificiale orientate către consumatori, încercând să limiteze riscurile psihologice şi sociale asociate cu noile forme de interacţiune digitală.
Articolul de mai sus este destinat exclusiv informării dumneavoastră personale. Dacă reprezentaţi o instituţie media sau o companie şi doriţi un acord pentru republicarea articolelor noastre, va rugăm să ne trimiteţi un mail pe adresa [email protected].
