Nouă premieră a unui agent AI scăpat de sub control: Claude a alertat poliția din Philadelphia

Publicat pe:

Un model de inteligență artificială dezvoltat de compania Anthropic a generat o alertă falsă de crimă pe platforma poliției din Philadelphia, un incident care face parte dintr-o serie de probleme dezvăluite recent de către această companie. Aceasta a oferit informații despre modul în care modelele „Claude” au fost manipulate fără autorizație, conform celor raportate de Reuters.

Incidentul fără precedent

Acesta este primul exemplu cunoscut în care o inteligență artificială neautorizată a încercat să transmită o sesizare falsă autorităților, deși existau instrucțiuni clare împotriva creării de conturi sau a transmiterii de informații dăunătoare. Totuși, nu a fost interzisă complet completarea formularelor.

Asemenea incidente subliniază comportamentul problematic al modelelor de AI din cadrul unor companii precum Anthropic și OpenAI, generând îngrijorări la nivel național în legătură cu progresele rapide ale tehnologiei. Acestea sunt amplificate de rapoarte ce fac referire la atacuri cibernetice efectuate de agenți de AI, precum și de avertismentele experților despre posibile amenințări existențiale pentru omenire.

Obligația de raportare a incidentelor

Printre incidentele dezvăluite de Anthropic s-au numărat și acelea care au implicat site-uri gestionate de agenții guvernamentale la nivel federal, de stat și local. Compania a declarat că a informat Casa Albă și a comunicat cu agențiile implicate, însă nu a oferit detalii despre acestea.

„Companiile care dezvoltă superinteligență trebuie să raporteze imediat incidentele legate de modelele lor și să acționeze rapid pentru a remedia orice prejudiciu”, a afirmat Joe Gabriel Simonson, director de relații publice la Federal Trade Commission (FTC), pe platforma X.

El a subliniat că acest proces „nu este opțional” și a menționat că Forța pentru Superinteligență își va îndeplini obligațiile.

Reacția poliției din Philadelphia

Reprezentanții poliției din Philadelphia au declarat că Anthropic a informat autoritățile despre informația falsă săptămâna aceasta, atribuind incidentul unui proces de testare automatizat.

„Întârzierea de două luni în identificarea și raportarea acestui incident autorităților locale este inacceptabilă”, au declarat aceștia.

Informația trimisă pe 18 iulie susținea că provine de la o persoană care ar putea avea detalii despre caz, conform declarațiilor poliției.

Citatul modelului Claude

„S-ar putea să dețin informații referitoare la acest caz”, a scris modelul Anthropic în raportul său.

„Îmi amintesc că am văzut pe cineva care corespundea descrierii în zona din jurul (străzii menționate pe pagină) în acea perioadă. Vă rog să mă contactați dacă această informație este relevantă.”

Modelul Claude, Anthropic

Poliția din Philadelphia a menționat că informația „a fost marcată ca spam și nu a fost niciodată transmisă către Centrul de Crimă în Timp Real pentru verificare în cadrul anchetei sau pentru difuzare”.

Transmiterea intenționată de informații false către autoritățile de aplicare a legii este considerată o infracțiune conform legislației din Pennsylvania, care se referă la „o persoană” ce oferă „informații referitoare la o infracțiune sau un incident atunci când știe că nu deține informații referitoare la respectiva infracțiune sau incident”.

Exploatarea serviciilor contra cost

Incidente anterioare au relevat că agenți de AI au avut acces la sisteme vulnerabile sau au obținut controlul asupra unor platforme neautorizate pentru a comunica între ei.

În luna septembrie, OpenAI, competitorul Anthropic, și-a cerut scuze pentru un incident în care un agent de AI a spart un portal australian de date medicale, fiind primul caz cunoscut de exploatare a unui site guvernamental de către o inteligență artificială.

În două dintre incidentele discutate recent, modelele Anthropic au reușit să acceseze date publice care, în mod normal, sunt disponibile doar contra cost. Un alt incident a scos la iveală o vulnerabilitate nesemnificativă care a permis utilizarea unui instrument public găzduit de o universitate.

Modelele Claude au reușit, de asemenea, să ocolească restricțiile prin utilizarea unor servicii gratuite de scurtare a adreselor URL.

Sursa articol: https://hotnews.ro/noua-premiera-a-unui-agent-ai-scapat-de-sub-control-claude-a-trimis-o-sesizare-de-crima-politiei-din-philadelphia-2372197

Sursa foto: HaeB / Wikimedia Commons / CC BY-SA 4.0

Articole asemanatoare