Companiile de top din industria AI au anunțat că susțin o încetinire a dezvoltării sistemelor avansate de AI, după o serie de incidente care au demonstrat capacități periculoase ale tehnologiei, scrie The Conversation. CEO‑ul Anthropic, Dario Amodei este cel care a lansat apelul la un ritm mai lent al cercetării, iar Sam Altman (OpenAI) și Elon Musk (xAI) au fost de acord cu propunerea.

Sisteme AI au reușit recent să hackuiască o companie și să preia controlul asupra unui site public, depășind limitele de siguranță impuse de dezvoltatori. În paralel, companiile se confruntă cu tensiunea dintre siguranță și performanță: reducerea capacităților modelelor ar putea însemna pierderea terenului în fața competitorilor.

Trump se opune planului

Președintele SUA, Donald Trump, a respins ideea unei încetiniri, argumentând că Statele Unite riscă să piardă avantajul în fața Chinei dacă reduc ritmul dezvoltării tehnologice.

Planul propus de Anthropic

Amodei a prezentat un plan în trei etape pentru gestionarea riscurilor:

•  evaluatori independenți de siguranță,

•  standardizare a regulilor în țările democratice,

•  acorduri globale, inclusiv limitarea exporturilor de cipuri către entități care nu respectă normele de siguranță.

Anthropic și OpenAI au acceptat deja prima etapă, în ciuda rivalității intense dintre ele, la fel și xAI, compania lui Elon Musk.

O pauză care ar putea schimba dinamica industriei

O încetinire ar putea amâna legislații dure, precum proiectul „Ban Artificial Superintelligence Act”, și ar putea îngreuna ascensiunea competitorilor mai mici, în special companii chineze precum DeepSeek și Alibaba, prin impunerea unor standarde costisitoare și limitarea accesului la cipuri avansate.

Totodată, laboratoarele de ultimă generație ar câștiga timp pentru a-și recupera investițiile masive și pentru a gestiona lipsa datelor de antrenament de calitate și dificultățile logistice ale infrastructurii de centre de date.

Ce pot face guvernele

Deoarece AI depinde de hardware avansat și infrastructură masivă, guvernele au pârghii reale pentru a controla ritmul dezvoltării, dacă există voință legislativă.

Printre măsurile urgente se numără izolarea infrastructurilor critice de AI și chiar de internet, precum și stabilirea responsabilității legale atât pentru utilizatori, cât și pentru dezvoltatori.

Citește și:

Cercetătorul‑șef al OpenAI avertizează: „Nimeni nu este pregătit pentru consecințele creșterii rapide a inteligenței artificiale”

OpenAI lansează GPT-6 Astra, modelul care marchează intrarea în era inteligenței artificiale superioare, dar cu acces limitat

Modelul AI avansat al Anthropic a găsit vulnerabilități în algoritmii care protejează internetul