Pe măsură ce sistemele de inteligență artificială devin tot mai performante, principala amenințare nu ar fi neapărat dispariția speciei umane, ci riscul ca acestea să provoace perturbări grave în infrastructura critică, de la transporturi și comerț până la energie, sănătate și telecomunicații.

Subiectul a revenit în atenție după avertismentul lansat de Jacob Coxon, fost angajat al OpenAI și Anthropic, care și-a anunțat retragerea din industria inteligenței artificiale. Coxon susține că sistemele AI ar putea evolua în viitorul apropiat către capacități „superumane” și avertizează asupra unor consecințe extreme, inclusiv asupra posibilității ca tehnologia să scape de sub control.

Afirmațiile sale au generat numeroase reacții în rândul specialiștilor. Unii experți consideră exagerat scenariul dispariției omenirii, însă avertizează că riscurile legate de infrastructura digitală sunt mult mai concrete.

Sistemele AI actuale nu ar avea capacitatea de a provoca direct un scenariu de extincție, însă agenții autonomi sau sistemele care acționează în afara limitelor stabilite ar putea produce daune semnificative rețelelor digitale de care depind sectoare esențiale ale societății.

Printre domeniile vulnerabile se numără comerțul global, traficul aerian, spitalele și telecomunicațiile. O perturbare majoră a unor astfel de sisteme ar putea avea inclusiv consecințe asupra vieții oamenilor.

Jacob Coxon, matematician britanic în vârstă de 27 de ani, și-a anunțat plecarea din industria AI printr-o serie de șapte mesaje publicate pe platforma X. El a afirmat că dezvoltarea responsabilă a sistemelor avansate de inteligență artificială nu mai poate fi garantată exclusiv de companiile din domeniu și că este necesară intervenția statelor prin reglementări.

Mesajele sale au devenit rapid virale, fiind vizualizate de peste două milioane de ori în mai puțin de două ore.

Coxon susține că interesul uriaș pentru avertismentul său demonstrează existența unei îngrijorări tot mai mari în societate cu privire la evoluția inteligenței artificiale. În opinia sa, ritmul progreselor tehnologice ar putea conduce, chiar în următorii ani, la apariția unor sisteme capabile să se perfecționeze într-o măsură tot mai mare fără intervenție umană.

Fostul cercetător avertizează că problema esențială nu este doar nivelul de inteligență pe care îl pot atinge aceste sisteme, ci viteza cu care se produce dezvoltarea lor și dificultatea de a controla eventualele consecințe.

Deși scenariul dispariției omenirii rămâne controversat, dezbaterea scoate în evidență o problemă tot mai importantă pentru industria tehnologică și pentru autorități: modul în care sistemele AI foarte avansate pot fi dezvoltate și utilizate fără a pune în pericol infrastructura și serviciile esențiale de care depinde societatea.

Citește și: Cinci gata, plus un artificiu pentru „Campusul Tehnologic”. Primăria nu a pierdut finanțarea PNRR pentru niciuna dintre școlile din municipiu