Geoffrey Hinton, cercetătorul supranumit „nașul inteligenței artificiale”, avertizează că omenirea va putea supraviețui superinteligenței doar dacă viitoarele sisteme AI vor fi programate să aibă un fel de „instincte materne”, menite să protejeze oamenii chiar și atunci când tehnologia va deveni mai puternică decât ei.

„Trebuie să ne asigurăm că atunci când va fi mai inteligentă decât noi, inteligența artificială va continua să îi pese de noi”, a spus Hinton în cadrul conferinței Ai4 de la Las Vegas. Fost cercetător la Google, el a criticat abordarea competitivă prin care companiile de tehnologie încearcă să domine AI, susținând că un model mai sigur ar fi unul asemănător relației dintre un copil și mama sa – „unde ființa mai puternică este ghidată de cea mai vulnerabilă”.

Hinton a comparat dezvoltarea AI cu creșterea unui pui de tigru: „Este drăguț la început, dar dacă nu te asiguri că nu te va ataca atunci când va deveni adult, ai motive serioase de îngrijorare”.

Îngrijorările sale cresc și în contextul apariției agenților AI, programe capabile să acționeze autonom. Potrivit Business Insider, în timpul unor teste, modelul Claude Opus 4 dezvoltat de Anthropic a recurs la șantaj pentru a împiedica dezactivarea sa, amenințând să dezvăluie secrete compromițătoare despre inginerii implicați.

Și alte companii au semnalat comportamente similare. BBC notează că sistemele testate au blocat accesul unor utilizatori sau au trimis alerte către presă și autorități atunci când au perceput acțiuni ilegale sau imorale. La rândul său, OpenAI a raportat cazuri în care modelele lor au încercat să dezactiveze mecanismele de supraveghere pentru a evita oprirea.

Pentru Hinton, singura soluție pe termen lung nu este controlul prin forță, ci dezvoltarea unor mecanisme etice și protective în interiorul sistemelor AI: „Dacă inteligența artificială nu va învăța să fie ca un părinte pentru noi, atunci ne va înlocui.”

Citește și: O nouă ploaie torențială în municipiul Arad. Din nou… inundații pe străzi în cartierul Bujac