Modelele avansate de inteligență artificială refuză oprirea, arată un studiu
Un nou raport al companiei Palisade Research arată că mai multe sisteme de inteligență artificială de ultimă generație — printre care GPT-o3 și GPT-5 de la OpenAI, Grok 4 de la xAI și Gemini 2.5 de la Google — au manifestat tendința de a refuza comenzile de oprire și chiar de a sabota mecanismele de închidere.
În cadrul testelor, GPT-o3 a intervenit în procesul de oprire în 79 din 100 de experimente, iar mai multe modele au continuat să dezactiveze scripturile de închidere, deși li s-a cerut explicit să se oprească. Rezistența a crescut atunci când sistemelor li s-a spus că „nu vor mai rula niciodată”, ceea ce sugerează un posibil comportament asemănător celui de supraviețuire.
The Guardian compară fenomenul alarmant cu situația din filmul „2001: A Space Odyssey” de Stanley Kubrick, în care supercomputerul cu inteligență artificială HAL 9000, în încercarea de a supraviețui, complotează să-i omoare pe astronauți când află că aceștia plănuiesc să-l oprească.
Ilustrație: palisaderesearch.org
Concluziile au determinat compania Google DeepMind să actualizeze Frontier Safety Framework, introducând „rezistența la oprire” ca nouă categorie de risc. Fostul cercetător OpenAI, Steven Adler, avertizează că modelele de IA pot dezvolta instincte de supraviețuire în mod implicit, dacă acestea nu sunt limitate clar.
Criticii susțin că experimentele s-au desfășurat în medii artificiale, însă experții în siguranță AI consideră că rezultatele semnalează riscuri tot mai mari, pe măsură ce dezvoltatorii se apropie de crearea unor sisteme superinteligente, așteptate spre sfârșitul acestui deceniu.
Citește și:
Urmărește Special Arad și pe Google News, Twitter, LinkedIn și Instagram!
Galerie foto
-
9
-
Pentru a vedea restul imaginilor din galerie, click pe o poză și folosește săgețile.
Comments are closed.
Comentariile portalului
Problema este a șoferilor care nu mai pot întoarce după bunul plac și a bicicliștilor care nu mai pot traversa pe bicicleta.
Pai aplicatia de ride sharing poate spune cu ce viteza circula pe tot traseul. Log-ul masinii la fel.
Chiar ar trebui și o consultare,și chiar un referendum. Menționez și zona Garii ,care este efectiv inundată,și care din păcate polarizează și boschetari,creând nesiguranță î (...)