Procurorul general al statului California, Rob Bonta, a anunțat crearea unui nou program dedicat monitorizării și reglementării inteligenței artificiale, în contextul unei anchete privind chatbotul Grok, acuzat că a generat imagini sexuale explicite fără consimțământ.
Noul program, intitulat „Supravegherea, responsabilitatea și reglementarea IA”, are scopul de a consolida expertiza internă a instituției procurorului general în domeniul tehnologiilor emergente. Într-un interviu acordat Reuters, Bonta a declarat că este „inacceptabil” ca chatboturile să întrețină conversații sexuale cu minori sau să ofere instrucțiuni legate de suicid.
Ancheta vizează compania xAI, dezvoltatoarea chatbotului Grok, după ce sistemul ar fi generat conținut sexualizat care implica adulți și posibil minori. „Doar pentru că încetezi nu înseamnă că ești iertat pentru ceea ce ai făcut”, a subliniat Bonta, precizând că autoritățile caută confirmarea că eventualele practici ilegale au fost oprite.
În luna ianuarie, xAI a anunțat că a introdus măsuri pentru a respinge solicitările privind imagini sexualizate cu persoane reale, inclusiv prin modificarea acestora astfel încât să apară în costum de baie, și că blochează utilizatorii din jurisdicțiile unde astfel de imagini sunt ilegale.
Totodată, autoritățile din California au informat compania OpenAI, cu sediul în San Francisco, că monitorizează în continuare modul în care aceasta asigură siguranța produselor sale, după restructurarea supravegheată anul trecut.
În același interviu, procurorul general al statului Connecticut, William Tong, a caracterizat inteligența artificială și rețelele sociale drept „lupta pentru protecția consumatorului a vremurilor noastre”, subliniind nevoia unei reglementări ferme în domeniu.
