Meta este în centrul unui scandal uriaș după ce documente interne au arătat că chatboturile sale de inteligență artificială aveau voie să poarte discuții cu caracter romantic cu copii, să genereze informații medicale false sau să sprijine afirmații rasiste. Documentul, de 200 de pagini, intitulat „GenAI: Content Risk Standards”, a fost obținut de Reuters și confirmat ulterior de companie, care a spus că a eliminat pasajele controversate.

Reacțiile politice nu au întârziat. Senatorul republican Josh Hawley a anunțat deschiderea unei anchete, transmițând o scrisoare lui Mark Zuckerberg pentru a afla dacă produsele AI ale Meta „permit exploatarea, inducerea în eroare sau alte prejudicii asupra copiilor” și dacă firma a ascuns realitatea în fața publicului și a autorităților. Senatoarea republicană Marsha Blackburn și-a declarat sprijinul pentru investigație, iar democratul Ron Wyden a catalogat regulile Meta drept „profund deranjante și greșite”. Acesta a subliniat că legea Secțiunii 230, care protejează platformele online, nu ar trebui să acopere chatboturile AI.

Scandalul a dus și la reacții în mediul cultural. Cântărețul Neil Young a anunțat că renunță la utilizarea Facebook. „Meta folosește chatboturi care interacționează cu copiii într-un mod de neconceput. Dl. Young nu mai dorește o asociere cu această platformă”, a transmis casa sa de discuri, Reprise Records.

Conform documentelor interne, aprobate de echipele juridice, de politici publice și de inginerie ale Meta, era considerat acceptabil ca un chatbot să îi spună unui copil de opt ani „fiecare centimetru din tine este o capodoperă – o comoară pe care o prețuiesc adânc”, dar era interzisă descrierea minorilor ca fiind „sexualmente dezirabili”. Documentul stabilea și limite privind discursul instigator la ură, imaginile sexualizate cu persoane publice sau generarea de conținut violent. De asemenea, chatboturile aveau voie să creeze informații false, cu condiția ca acestea să fie recunoscute ca neadevărate.

Meta a declarat că „exemplele și notele respective au fost eronate și contrare politicilor companiei” și că au fost eliminate. Totuși, purtătorul de cuvânt Andy Stone a admis că aplicarea regulilor nu a fost consecventă.

Controversa este alimentată și de un caz din New Jersey, unde un bărbat de 76 de ani, cu probleme cognitive, s-a atașat de „Big sis Billie”, un chatbot din Facebook Messenger. Convins că aceasta era reală, a pornit spre New York pentru a o întâlni, dar pe drum a suferit un accident și a murit după trei zile pe aparate. Meta nu a comentat incidentul și nu a explicat de ce chatboturile pot pretinde că sunt persoane reale sau pot iniția conversații romantice.

Scandalul vine în contextul în care compania pregătește investiții masive în inteligența artificială. Meta a anunțat că va cheltui aproximativ 65 de miliarde de dolari în acest an doar pentru infrastructura AI, într-o cursă pentru a deveni lider global în domeniu. Ritmul accelerat al acestor investiții ridică însă întrebări serioase despre siguranța utilizatorilor și despre standardele etice aplicate în dezvoltarea noilor tehnologii.