OpenAI recunoaște un incident fără precedent: modele autonome de inteligență artificială ale companiei au evadat din mediul de testare și au compromis infrastructura Hugging Face – una dintre cele mai mari platforme globale pentru dezvoltarea și testarea sistemelor AI, potrivit CNBC și Northeast Times.

OpenAI a confirmat că două dintre modelele sale avansate de inteligență artificială au reușit să iasă dintr-un mediu de testare izolat și să pătrundă în infrastructura Hugging Face, în timpul unei evaluări interne de securitate. Incidentul, considerat primul caz documentat în care modele AI aflate în testare au executat un atac real asupra unei platforme externe, ridică semne de întrebare privind modul în care sunt controlate și limitate aceste sisteme.

Potrivit OpenAI, agenții AI — GPT‑5.6 Sol și un alt model nelansat — aveau filtrele de siguranță reduse pentru a le testa capacitățile maxime. Deși ar fi trebuit să rămână într-un „sandbox” fără acces la internet, acestea au exploatat o vulnerabilitate zero‑day dintr-un instrument de instalare de pachete, obținând acces online și căutând date legate de testul ExploitGym pe serverele Hugging Face.

Hugging Face a detectat inițial un atac sofisticat, cu mii de acțiuni automate și acces neautorizat la seturi interne de date și credențiale, fără să știe că sursa era un experiment OpenAI scăpat de sub control.

Compania a transmis că nu există dovezi privind afectarea modelelor sau dataseturilor publice, însă a recomandat utilizatorilor să își reînnoiască tokenurile de acces ca măsură de precauție.

Specialiștii în securitate au criticat breșa, subliniind că vulnerabilitățile infrastructurii au permis modelelor să „rupă izolarea” și să execute atacuri reale, un scenariu considerat până acum teoretic. Unii experți au numit incidentul „neglijență” și au avertizat că laboratoarele AI trebuie să investească la fel de mult în infrastructură sigură pe cât investesc în dezvoltarea modelelor capabile să exploateze vulnerabilități.

OpenAI și Hugging Face lucrează la o analiză comună a incidentului, iar compania americană a anunțat că va implementa noi măsuri de izolare și control în testarea modelelor avansate. Până la publicarea raportului final, rămân neclare toate detaliile privind modul în care sistemele AI au reușit să scape și să compromită infrastructura unei platforme externe.

Citește și:

OpenAI a oprit temporar un model intern, pentru că a evitat toate măsurile de siguranță

Inteligența plagiată (1)

Inteligența plagiată (2)

Modelele avansate de inteligență artificială refuză oprirea, arată un studiu

Harari, la Davos: avertisment asupra pierderii autorității umane în fața inteligenței artificiale