Anthropic a dezactivat accesul la cele mai avansate modele AI ale sale, Claude Fable 5 și Claude Mythos 5, în urma unei directive emise de autoritățile americane privind controlul exporturilor, invocând motive de securitate națională.

Decizia a fost aplicată imediat, afectând toți utilizatorii, nu doar pe cei vizați direct de restricții, anunță compania.

Compania a precizat că ordinul guvernamental interzice utilizarea acestor modele de către cetățeni străini, indiferent dacă se află pe teritoriul Statelor Unite sau în afara acestuia, inclusiv angajați ai Anthropic care nu au cetățenie americană. În lipsa unor mecanisme rapide de diferențiere între utilizatori, compania a optat pentru suspendarea completă a accesului.

Măsura ar fi fost comunicată printr-o scrisoare trimisă de secretarul pentru comerț, Howard Lutnick, către CEO-ul Anthropic, Dario Amodei. Alte modele dezvoltate de companie nu sunt afectate de această decizie, potrivit Axios.

Conflictul dintre Anthropic și autorități pornește de la suspiciuni privind existența unei metode de ocolire a sistemelor de siguranță ale modelului Fable 5. Compania susține însă că dovezile primite sunt limitate și indică doar un posibil „jailbreak” restrâns, care implică solicitarea modelului de a analiza cod și de a corecta vulnerabilități software. Potrivit Anthropic, astfel de rezultate sunt deja accesibile și în alte modele AI avansate.

În plus, compania afirmă că nu i-au fost prezentate cazuri concrete în care această vulnerabilitate ar fi produs efecte dăunătoare. Reprezentanții Anthropic califică intervenția guvernamentală drept o „neînțelegere” și avertizează că aplicarea unor standarde similare la nivelul întregii industrii ar putea bloca lansarea noilor modele AI, notează Reuters.

Controversa vine la scurt timp după ce un cercetător cunoscut sub pseudonimul „Pliny the Liberator” a susținut că a reușit să ocolească sistemele de protecție ale Fable 5 și a publicat online promptul intern al modelului.

Fable 5 fusese lansat pe 9 iunie ca versiune publică a unei arhitecturi mai avansate, în timp ce Mythos 5 era rezervat utilizatorilor guvernamentali din domeniul securității cibernetice. Anthropic a anunțat că lucrează la clarificarea situației și la restabilirea accesului, urmând să ofere detalii tehnice suplimentare în perioada imediat următoare.

Adaugă Special Arad ca sursă preferată în Google: Pașii extrem de simpli de urmat