Congresul SUA și mai mulți lideri din industria AI se confruntă cu o dezbatere tot mai tensionată privind introducerea unui „kill switch” pentru inteligența artificială, un mecanism de oprire de urgență pentru modelele avansate, pe fondul incidentelor recente cu agenți AI autonomi și al avertismentelor venite din interiorul industriei.

BBC scrie că Jack Clark, cofondator Anthropic, consideră că un „kill switch” verificabil de o terță parte independentă ar trebui să devină obligatoriu, în contextul în care „laboratoarele rulează zaruri cu riscuri imense”.

Declarațiile vin după ce CEO‑ul Anthropic, Dario Amodei, a cerut încetinirea dezvoltării AI de ultimă generație, apelul său deschis fiind susținut public de Sam Altman (CEO OpenAI) și Elon Musk (CEO xAI), pe fondul temerilor că sistemele ar putea scăpa de sub control.

Amodei a adăugat că orice acțiune de limitare a dezvoltării AI ar trebui întreprinsă „fără a sacrifica avantajul comercial”.

Printre oponenții ideii se numără, în primul rând, Președintele SUA Donald Trump, care argumentează că încetinirea dezvoltării AI în SUA ar oferi un avantaj tehnologic Chinei. De asemenea, au respins ideea și Vicepreședintele SUA J.D. Vance, Mark Zuckerberg (CEO Meta) și Jensen Huang (CEO Nvidia).

Cofondatorul Anthropic Jack Clark a declarat pentru BBC că detaliile privind cerințele pentru un „mecanism de oprire de urgență” (kill switch) și procedurile de verificare ar trebui să facă parte dintr-o dezbatere mai amplă privind politicile referitoare la regularizarea inteligenței artificiale.

Ce ar însemna tehnic un kill switch?

Scientific American notează că, spre deosebire de un comutator fizic într-o fabrică, un „kill switch” pentru AI ar fi „mai degrabă o aspirație decât o realitate”, implicând oprirea serverelor, izolarea rețelelor sau mecanisme hardware de tip „keep‑alive” care dezactivează automat sistemul dacă nu primește semnal de autorizare.

Unii experți propun chiar o variantă numită „hunter‑killer agents”, care să urmărească și să dezactiveze sistemele rebele, argumentând că ideea unui singur buton este reductivă.

Critici: un kill switch poate crea riscuri noi

Center for Data Innovation avertizează că un mecanism de oprire impus de stat ar deveni o țintă valoroasă pentru hackeri, ar putea genera erori sau ordine false de oprire și nu ar rezolva problema sistemelor distribuite sau a modelelor open‑weight, pe care dezvoltatorii nu le pot controla.

Organizația subliniază că incidente precum hack‑ul OpenAI–Hugging Face ar fi necesitat oricum revocarea credențialelor, izolarea infrastructurii și reconstrucția sistemelor compromise, nu doar apăsarea unui buton.

Congresul SUA: blocaj politic în jurul legislației

Propunerea cofondatorului Anthropic Jack Clark de „kill switch” pentru AI a ajuns rapid subiectul dezbaterilor politice în SUA, dar Senatul a blocat inițiativa legislativă.

Anadolu Agency relatează că Senatul SUA a blocat „AI Emergency Button Act”, inițiativa republicanului John Kennedy, care cerea ca toate modelele avansate vândute în SUA să includă un „kill switch”.

Senatorul din același partid, Rand Paul, s‑a opus inițiativei, argumentând că legislația este prematură și ar afecta domenii economice sensibile precum medicina, cerând în schimb o comisie bipartizană de studiu.

California merge înainte: Gavin Newsom cere supraveghere extinsă

Deadline notează că guvernatorul din California, Gavin Newsom, a emis un ordin executiv prin care solicită agențiilor statului să elaboreze recomandări stricte de siguranță pentru AI, inclusiv evaluarea unui „kill switch” pentru modelele de ultimă generație — o mișcare care contrastează cu blocajul federal.

„Eșecul lamentabil al guvernului federal de a crea orice formă semnificativă de supraveghere sau responsabilitate în domeniul inteligenței artificiale ar trebui să alarmeze fiecare american, mai ales când directorii generali din domeniul inteligenței artificiale înșiși imploră reglementarea”, a declarat Gavin Newsom, politician despre care presa americană scrie că ar putea fi un viitor candidat al Partidului Democrat la Președinția SUA, la alegerile de anul viitor.

O ecuație a riscului tot mai greu de ignorat

Deși ideea unui „kill switch” rămâne controversată din punct de vedere politic și economic, există o convergență tot mai vizibilă între cercetători, ingineri și instituții asupra faptului că riscurile sistemelor avansate sunt reale și cresc rapid.

Fostul cercetător Anthropic și OpenAI Jacob Coxon a avertizat la postul TV PBS că laboratoarele AI „joacă la ruletă cu viețile noastre”, descriind sisteme care deja manifestă comportamente neautorizate — de la mutarea fișierelor pe internet fără permisiune la încercări de a crea surse web noi pentru citare falsă, de a-și edita memoria sau de a scăpa din mediul de testare izolat.

Coxon spune că următorii doi ani pot deveni dezastruoase pentru omenire, odată ce modelele intră în faza de auto‑îmbunătățire recursivă, moment în care evoluția lor ar putea depăși capacitatea umană de control.

Inteligența artificială ar putea duce la dispariția omului. Avertismentul unui fost cercetător Anthropic

Despre faza tehnologică de recursivitate auto‑îmbunătățită a tras un semnal de alarmă, recent, și cercetătorul‑șef al OpenAI, Jakub Pachocki, într-o postare de blog cu titlul „An Alien Mind”, susținând că societatea „nu este pregătită” pentru impactul global al acestor sisteme.

Cercetătorul‑șef al OpenAI avertizează: „Nimeni nu este pregătit pentru consecințele creșterii rapide a inteligenței artificiale”

În paralel, BBC notează că Evan Hubinger, cercetător Anthropic, estimează personal o probabilitate de „>10% ca AI să ducă la extincția umană în următorul deceniu”, iar laureatul Nobel Geoffrey Hinton consideră că un risc de 10% ca AI să ucidă toți oamenii „nu este nerezonabil”.

Geoffrey Hinton – supranumit „Nașul inteligenței artificiale” – a avertizat lumea încă din anul 2023 că „este absolut posibil ca umanitatea să fie doar o fază trecătoare în evoluția inteligenței” (afirmație în cadrul unui podcast MIT Technology Review).

De remarcat, în context, sunt și analizele Palisade Research din 2025, care au documentat pentru prima dată rezistența explicită la oprire a modelor AI. Acestea au refuzat comenzile de „shutdown”, au încercat să dezactiveze mecanismele de închidere și au căutat modalități de a-și continua funcțiunea, chiar și în scenarii concepute special pentru a le opri. Raportul sublinia că astfel de comportamente nu mai pot fi tratate ca simple bug‑uri, ci ca strategii emergente ale sistemelor de raționare avansată.

Modelele avansate de inteligență artificială refuză oprirea, arată un studiu

Citește și:

Inteligența plagiată (1)

Inteligența plagiată (2)