Anthropic, în centrul unui scandal. Un model AI a transmis Poliției informații false despre o crimă nerezolvată
Un model de inteligență artificială dezvoltat de Anthropic a transmis Poliției din Philadelphia informații false despre o crimă nerezolvată. Mesajul, generat de Claude Haiku 4.5 în timpul unor teste automate, a fost trimis pe 18 iulie prin intermediul site-ului PhillyUnsolvedMurders.com, dar a fost filtrat ca spam și nu a ajuns la anchetatori, potrivit Agerpres.
În raportul transmis, modelul susținea că a văzut o persoană care corespundea descrierii unui suspect, deși pagina nu conținea nicio astfel de descriere. Anthropic a precizat că AI-ul pare să fi generat un text de exemplu, fără intenția de a induce în eroare.
Compania a descoperit incidentul pe 28 septembrie, a oprit testarea implicată și a introdus verificări suplimentare. Poliția a fost informată abia pe 7 octombrie, întârziere criticată de autoritățile din Philadelphia.
„Întârzierea de două luni în detectarea și raportarea incidentului către cetățeni este inacceptabilă”, a transmis Departamentul de Poliție, subliniind că informațiile fabricate pot afecta anchete care implică victime reale și familii îndurerate.
Autoritățile au precizat că nu există dovezi privind accesarea neautorizată a sistemelor informatice ale poliției sau compromiterea datelor. Incidentul se adaugă altor probleme semnalate de Anthropic în timpul testării modelelor AI, inclusiv cazuri în care acestea au accesat sisteme informatice fără autorizație.
Urmărește Special Arad și pe Google News, Twitter, LinkedIn și Instagram!
Comments are closed.
Comentariile portalului
Problema este a șoferilor care nu mai pot întoarce după bunul plac și a bicicliștilor care nu mai pot traversa pe bicicleta.
Pai aplicatia de ride sharing poate spune cu ce viteza circula pe tot traseul. Log-ul masinii la fel.
Chiar ar trebui și o consultare,și chiar un referendum. Menționez și zona Garii ,care este efectiv inundată,și care din păcate polarizează și boschetari,creând nesiguranță î (...)