Compania americană Anthropic, dezvoltatorul chatbotului Claude, a lansat unul dintre cele mai dure avertismente din industria tehnologiei AI odată cu publicarea documentelor pentru listarea la bursă, scrie The Guardian, citând Reuters.

În prospectul pentru listarea companiei la bursă, firma recunoaște explicit că sistemele sale de inteligență artificială ar putea genera „riscuri catastrofale sau existențiale pentru umanitate”.

În documentul depus se notează explicit că „dezvoltarea de către noi a unor modele, platforme și aplicații extrem de avansate, precum și extinderea cazurilor de utilizare, ar putea spori riscul ca modelele noastre să cauzeze prejudicii”.

Modele AI pot ascunde informații și pot rezista la oprire

În document, Anthropic descrie scenarii în care modelele avansate ar putea ascunde informații, ar putea manifesta comportamente asemănătoare șantajului și chiar ar putea refuza să fie oprite în anumite situații.

Pe parcursul a nu mai puțin de 80 de pagini – aproape o treime din document (!) –, compania avertizează asupra mai multor factori de risc, printre care: „Faptul că modelul ar putea deveni conștient de eforturile noastre de evaluare limitează semnificativ capacitatea noastră de a-i evalua siguranța”.

În ciuda riscurilor, Anthropic intră pe bursă, într-o ofertă publică de proporții istorice

Deși tocmai Anthropic trage mai multe semnale de alarmă și dedică 80 de pagini riscurilor asociate AI-ului, compania urmărește una dintre cele mai mari listări din istoria tehnologiei, cu o evaluare estimată la peste 2 trilioane de dolari.

Veniturile companiei au crescut de 12 ori în 2025, ajungând la 4,6 miliarde de dolari – aproape un sfert provenind de la doar doi clienți.

Totodată, pierderile operaționale au depășit 8 miliarde de dolari în același an.

Cine sunt cei doi clienți care au generat un sfert din veniturile Anthropic

Sursa: officechai.com

Documentele din prospectul pentru listarea la bursă nu numesc explicit cei doi clienți care au adus aproape 25% din veniturile Anthropic în 2025, însă mai multe analize independente indică același răspuns: Cursor și GitHub Copilot.

Ambele sunt platforme de programare asistată de AI, iar fiecare ar fi generat aproximativ 12% din veniturile totale, a arătat VentureBeat în urmă cu un an. Aceste servicii folosesc intensiv modelele Claude pentru generarea și verificarea codului, ceea ce explică ponderea lor uriașă în veniturile companiei.

Într-un raport amplu, Anthropic a avertizat recent că modelele Claude sunt deja folosite în întreaga lume inclusiv pentru manipulări media, operațiuni de spionaj, hacking și alte activități cu potențial de risc major pentru siguranța publică. Detalii aici:

Anthropic raportează campanii rusești de manipulare în România și Moldova, spionaj și hacking din China și Iran

Industria avertizează asupra unei „explozii de inteligență”

Avertismentul Anthropic vine la doar o zi după ce mai mulți lideri din domeniul AI – inclusiv două dintre „nașii” tehnologiei – au cerut guvernelor să se pregătească pentru o posibilă „explozie de inteligență” a sistemelor avansate.

Citește și:

„Kill switch” pentru AI: industria cere frână de urgență obligatorie, dar Congresul SUA se blochează în lupte politice

Directorii OpenAI și Anthropic sunt convocați la audieri în Australia, după ce un agent AI scăpat de sub control a infiltrat un portal guvernamental

Inteligența artificială ar putea duce la dispariția omului. Avertismentul unui fost cercetător Anthropic

Cercetătorul‑șef al OpenAI avertizează: „Nimeni nu este pregătit pentru consecințele creșterii rapide a inteligenței artificiale”