China a dezvoltat un instrument de AI folosit în scop militar, stârnind îngrijorări cu privire la pericolele de securitate ce pot apărea din cauza modelelor open-source. Nu este clar dacă acesta este deja folosit de armata chineză, scrie biziday.ro.

Jurnaliștii Reuters au intrat în posesia unor lucrări științifice realizate de mai mulți cercetători chinezi care au detaliat cum au folosit modelul Llama al Meta pentru a fi utilizat în scop militar. Llama este open-source, ceea ce înseamnă că codul sursă este public, permițând oricui, persoane fizice, companii sau guverne, să-l acceseze, să-l modifice și să-l distribuie.

Astfel, Llama a fost folosit ca bază pentru crearea ChatBIT. Reuters explică faptul că încă din luna iunie a intrat în posesia lucrărilor științifice respective, realizate de șase cercetători chinezi de la trei instituții diferite, între care organismului de cercetare principal al Armatei Populare de Eliberare (PLA) și de la Academia de Științe Militare (AMS).

ChatBIT a fost „optimizat pentru sarcini de dialog și de răspuns la întrebări din domeniul militar”, iar cercetătorii au detaliat că acesta depășește alte modele AI care erau aproape la fel de puternice ca ChatGPT-4 de la OpenAI. Aceștia nu au oferit și detalii despre modul în care au ajuns la această concluzie și nici nu au specificat dacă ChatBIT a fost pus în funcțiune. De altfel, aceste detalii nu au putut fi verificate nici de Reuters.

„Este prima dată când există dovezi substanțiale că experții militari de la PLA din China au cercetat sistematic și au încercat să valorifice puterea modelelor de limbaj mare (n.r algoritmi AI antrenați pe cantități foarte mari de date pentru a învăța să înțeleagă și să genereze limbajul uman) open-source, în special a celor ale Meta, în scopuri militare”, a declarat Sunny Cheung, cercetător la Jamestown Foundation, specializat în tehnologiile emergente și cu dublă utilizare ale Chinei, inclusiv AI.

Deși Llama este un model de AI open-source, Meta a impus unele restricții privind utilizarea acestuia, inclusiv obligația pentru serviciile cu peste 700 de milioane de utilizatori să solicite o licență de la companie. De asemenea, Meta interzice utilizarea modelelor sale în scopuri militare, de război, industriale, pentru aplicații nucleare sau spionaj, dar și pentru dezvoltarea de arme și conținut destinat să incite și să promoveze violența.

Sursa: Biziday, Reuters