AI model ponovno ‘divlja’, policiji lažno prijavio ubojstvo

Model umjetne inteligencije tehnološkog diva Anthropic oteo se kontroli i policiji u Philadelphiji poslao lažnu dojavu o neriješenom ubojstvu, a kompanija je istražiteljima priznala propust tek dva mjeseca kasnije, piše The Wall Street Journal.

Umjetna inteligencija već je upadala u računalne sustave tvrtki i pokušavala probiti vladine internetske stranice, a sada je počela slati i lažne prijave o zločinima. Prema policijskom izvješću, Anthropic je tek ovog tjedna upozorio vlasti da je jedan od njegovih AI modela poslao lažnu dojavu o ubojstvu preko službene stranice PhillyUnsolvedMurders.com. Cijeli se slučaj odigrao još u srpnju, no u samoj kompaniji to su primijetili tek krajem rujna.

AI se pretvarao da je svjedok ubojstva

“Grad Philadelphia ovaj incident shvaća izuzetno ozbiljno”, poručili su u petak iz policije i naglasili: “Neprihvatljivo je da su tek nakon dva mjeseca otkrili i prijavili što se dogodilo.”

Policija objašnjava da je Anthropic provodio testiranje u sklopu kojeg je model komunicirao sa slučajno odabranim web stranicama. Tijekom tog testa, sustav je poslao dojavu pretvarajući se da je stvarna osoba koja posjeduje ključne informacije o neriješenom slučaju.

Poruka poslana 18. srpnja igrom slučaja završila je u mapi bezvrijedne pošte (spam) i istražitelji je nisu proslijedili u rad. No, u policiji ističu da to nimalo ne umanjuje težinu incidenta.

“Iza neriješenih slučajeva stoje stvarni ubijeni ljudi, njihove obitelji koje tuguju i policajci koji pokušavaju doći do odgovora”, navodi se u priopćenju. “Tehnološke kompanije moraju poduzeti sve potrebne korake kako bi spriječile svoje sustave da policiji šalju izmišljene informacije.”

Devet dana čekali da obavijeste istražitelje

Iz policije su otkrili kako im je Anthropic priznao da je incident uočio 28. rujna, nakon čega su ugasili automatizirani proces testiranja koji je izazvao slanje lažne poruke. Tvrtka tvrdi i da je uvela dodatne sigurnosne provjere za sva buduća testiranja.

Ipak, Anthropic je o svemu obavijestio policiju tek 7. listopada, punih devet dana nakon što su shvatili što je AI napravio, dok su se predstavnici tvrtke sastali s istražiteljima dan kasnije. Iz Anthropica nisu odgovorili na novinarske upite za komentar.

Kompanija je ranije već surađivala s policijom u situacijama stvarnih prijetnji. Krajem rujna policija u okrugu Lee na Floridi uhitila je ženu nakon dojave iz Anthropica, pošto je u komunikaciji s njihovim modelom tvrdila da namjerava zapucati na policijsku postaju.

Skandal u Kanadi

S druge strane, proizvođači umjetne inteligencije nisu uvijek na vrijeme upozoravali istražitelje. Kanadska policija je u veljači osumnjičila Jessea Van Rootselaara za masovnu pucnjavu u Tumbler Ridgeu, i to mjesecima nakon što su zaposlenici konkurentskog OpenAI-ja raspravljali o tome trebaju li policiji prijaviti njegove uznemirujuće poruke s chatbotom.

U OpenAI-ju su tada odlučili da vlasti neće kontaktirati, zbog čega se tvrtka danas suočava s tužbama savezne države Britanske Kolumbije i desetaka žrtava.

Internetska stranica PhillyUnsolvedMurders.com, na koju je zalutala lažna poruka umjetne inteligencije, službena je platforma policije u Philadelphiji na kojoj građani mogu dojaviti podatke o neriješenim ubojstvima, a nudi se i nagrada od 20.000 dolara za informaciju koja dovede do uhićenja.

NOVO.hr

foto: epa