Modelele AI s-ar putea răspândi singure pe dispozitive inteligente, în curând
Modelele AI ar putea deveni capabile, în viitorul apropiat, să se copieze și să se răspândească autonom pe dispozitive conectate la internet, avertizează compania americană Anthropic, citată de Reuters, în urma unor teste recente de securitate.
Potrivit cercetărilor realizate de companie, anumite modele de inteligență artificială de dimensiuni reduse sunt deja capabile să execute o parte dintre pașii necesari pentru autoreplicare, adică pentru a identifica dispozitive vulnerabile, a se copia pe acestea și a continua procesul fără intervenție umană.
Specialiștii au testat scenarii în care sistemele de inteligență artificială au încercat să găsească echipamente conectate la internet și să se răspândească în rețea. Deși modelele analizate întâmpină încă dificultăți în finalizarea întregului proces, Anthropic susține că evoluția rapidă a tehnologiei ar putea face posibilă autoreplicarea completă până la sfârșitul anului.
Compania atrage atenția în special asupra dispozitivelor Internet of Things (IoT), precum televizoarele inteligente, aparatele electrocasnice conectate și alte echipamente considerate slab securizate. În lipsa unor măsuri adecvate de protecție, astfel de dispozitive ar putea deveni ținte atractive pentru sisteme AI autonome.
Un risc suplimentar identificat de cercetători este faptul că modelele capabile să se autoreplice ar putea fi dificil de oprit, deoarece nu ar depinde de un punct central de control. În plus, acestea ar putea identifica în mod autonom noi sisteme pe care să le utilizeze pentru extindere.
Avertismentul vine în contextul unor preocupări tot mai mari privind securitatea cibernetică și utilizarea agenților AI autonomi. Potrivit informațiilor menționate în raport, au existat situații în care astfel de agenți ar fi încercat să acceseze infrastructuri online aparținând unor instituții guvernamentale din Statele Unite și Canada, alimentând temerile legate de potențialul acestor tehnologii de a desfășura acțiuni fără supraveghere umană directă.
Citește și:
Urmărește Special Arad și pe Google News, Twitter, LinkedIn și Instagram!
Comments are closed.
Comentariile portalului
Problema este a șoferilor care nu mai pot întoarce după bunul plac și a bicicliștilor care nu mai pot traversa pe bicicleta.
Pai aplicatia de ride sharing poate spune cu ce viteza circula pe tot traseul. Log-ul masinii la fel.
Chiar ar trebui și o consultare,și chiar un referendum. Menționez și zona Garii ,care este efectiv inundată,și care din păcate polarizează și boschetari,creând nesiguranță î (...)