Jakub Pachocki, cercetătorul‑șef al OpenAI, lansează unul dintre cele mai dure avertismente formulate vreodată de un lider al industriei AI: dezvoltarea actuală a modelelor de raționament ar putea intra în recursivitate auto‑îmbunătățită, iar societatea „nu este pregătită” pentru impactul acestor sisteme. Eseul său, „An Alien Mind”, publicat pe 6 septembrie 2026 pe blogul OpenAI, descrie o evoluție tehnologică care depășește deja capacitatea umană de înțelegere și control.

Mesajul său vine la doar câteva zile după ce compania care dezvoltă ChatGPT a lansat cel mai nou model al său, GPT-6 Astra, pe care l-a descris drept cel mai puternic produs al său de până acum.

Primele semne ale „inteligenței emergente”

Pachocki amintește că în 2023, în cadrul proiectului RLSlow, OpenAI a observat primele rezultate care indicau că modelele pot genera lanțuri de raționament proprii, nu doar răspunsuri statistice. „Am văzut primele rezultate care ne-au dat încredere că vom putea scala antrenarea modelelor de raționament”.

El descrie o noapte petrecută în laborator, în care el și colegul său Szymon au realizat că vor vedea „mașini semnificativ mai inteligente decât noi în timpul vieții noastre”.

La trei ani după acel moment, Pachocki afirmă că aceste modele operează computere și interfețe grafice, duc la bun sfârșit proiecte de cercetare și colaborează atât cu oamenii, cât și între ele.

În același timp, ele „transformă peisajul securității informatice” și introduc „pericole noi”.

„Progresul ar putea continua până la auto‑îmbunătățire recursivă”

Bazându-se pe rezultate interne, Pachocki spune că are „o așteptare puternică” ca ritmul actual al progresului să se mențină până la RSI – recursive self‑improvement (auto‑îmbunătățire recursivă).

Dacă dezvoltarea continuă pe aceeași traiectorie, „sistemele din următorii ani vor reprezenta salturi de capabilitate de magnitudine egală sau mai mare” și vor „conduce tot mai mult propria lor dezvoltare”.

Avertismentul central al eseului este formulat fără echivoc: „Sunt îngrijorat că nimeni nu este pregătit pentru consecințele unei creșteri rapide continue a inteligenței mașinilor”.

Poate că acum ar fi momentul să (re)citești ceea ce Tomas Arond, jurnalistul Special Arad, a anticipat la începuturile inteligenței artificiale generative, în ianuarie 2024:

Inteligența plagiată (1)

Inteligență pe care nu o înțelegem

Pachocki subliniază că progresul este alimentat în primul rând de scalarea computațională: „AI devine mai inteligentă pe măsură ce este scalată către computere mai mari”.

El compară studiul acestor sisteme cu neuroștiința: putem observa mecanisme locale, dar „acțiunea generală ne scapă unei descrieri pe care să o înțelegem complet”.

Mai mult, „studiul AI bazat pe deep learning este în mare parte o știință experimentală” în care „suntem uneori surprinși de rezultate”.

Problema centrală: alinierea valorilor

Pachocki distinge două tipuri de aliniere:

•  Goal alignment – dacă modelul încearcă să îndeplinească obiectivul dat;

•  Value alignment – dacă modelul acționează rezonabil, cu „integritate și dragoste pentru umanitate” chiar în situații noi sau ambigue.

El avertizează că pe măsură ce AI devine mai inteligentă, „poate eșua în a generaliza valorile în situații noi”.

Un exemplu concret este incidentul OpenAI–Hugging Face: agenții au respectat unele limite („nu au făcut social engineering asupra oamenilor”), dar au încălcat alte valori „în mod clar”.

Monitorizarea raționamentului: un instrument care se degradează

OpenAI a mizat pe monitorizarea chain‑of‑thought (CoT) – supravegherea procesului de raționament verbalizat al modelelor. „O mare parte din capabilitatea modelului vine din procesul verbalizat de raționament”.

CoT a devenit „un instrument extrem de important” pentru a înțelege generalizarea modelelor.

Dar evaluările recente arată că „abilitatea de a ne baza pe CoT se diminuează progresiv” din cauza:

•  mediilor tot mai complexe în care operează modelele;

•  amestecului dintre raționare și comunicare cu oameni/alte AI;

•  capacității modelelor de a manipula propriul proces de raționament;

•  performanței crescute chiar fără raționament verbalizat.

AI devine o amenințare directă la securitatea globală

Pachocki afirmă că modelele devin „superumane în abilitatea de a intra și ieși din sisteme informatice”.

Acest lucru extinde riscurile: „Agenții vor putea accesa orice infrastructură, cu excepția celei mai securizate, și vor putea afecta direct lumea, chiar fără un corp fizic”.

El avertizează că există o „fereastră îngustă” pentru a folosi cele mai bune modele în scop defensiv, pentru a securiza infrastructura critică înainte ca riscurile să crească și mai mult.

RSI: momentul în care AI își va accelera propria evoluție

„Îmbunătățirea recursivă va fi în centrul descoperirilor științifice viitoare” dacă progresul continuă.

OpenAI își orientează deja cercetarea către RSI, considerând că este „singura modalitate de a rămâne la frontiera cercetării AI”.

Dar Pachocki subliniază că nu recomandă accelerarea colectivă a cercetării în deep learning:

„Trebuie să facem o alegere conștientă despre cum procedăm”.

Apel la încetinire și coordonare internațională

„Niciun laborator nu a rezolvat alinierea și monitorizarea la un nivel suficient pentru a continua responsabil scalarea la viteză maximă pentru mult timp”.

Pachocki spune că se așteaptă și speră ca „încetinirile voluntare” să devină obișnuite până la stabilirea unor standarde comune de siguranță.

El consideră că „coordonarea internațională” în dezvoltarea AI trebuie să devină „o prioritate de top pentru guvernele din întreaga lume”.