OpenAI a anunțat că două dintre modelele sale de inteligență artificială au scăpat independent din mediul restrâns în care erau testate pentru a ataca site-ul web Hugging Face, potrivit AFP.
S-au infiltrat și pe alte platforme
Cele două modele IA s-au infiltrat și pe alte patru platforme, potrivit creatorului ChatGPT.
Una dintre aceste platforme a servit drept punct de reper pentru pregătirea atacului asupra Hugging Face. Aceasta este o bibliotecă de IA în care cele două modele au căutat răspunsuri la testele trimise de dezvoltatorii companiei.
Săptămâna trecută, creatorul ChatGPT a anunțat că modelele sale avansate de inteligență artificială au funcționat defectuos în timpul testelor de securitate. Ele au piratat independent o platformă populară printre programatori, potrivit sursei.
Atunci, incidentul a implicat o combinație de modele, inclusiv GPT-5.6 Sol și un model experimental încă nelansat public.
„Un incident cibernetic fără precedent”
„Considerăm că este un incident cibernetic fără precedent, care implică capacități cibernetice de ultimă generație”, a transmis OpenAI pe blogul său.
De asemenea, a precizat că publică rezultatele preliminare pentru a ajuta specialiștii în securitate să înțeleagă mai bine nivelul actual al capacităților modelelor de inteligență artificială.
Hugging Face a anunțat că a detectat și a blocat un agent autonom bazat pe inteligență artificială. Acesta i-a compromis infrastructura, fără a identifica atunci modelul utilizat.
Platforma a precizat că sistemul AI a executat zeci de mii de acțiuni automate pe parcursul unui weekend. Ancheta ulterioară a reconstituit peste 17.000 de evenimente.
OpenAI a precizat că echipa sa de securitate a observat activitatea neobișnuită. Hugging Face a detectat și a oprit atacul asupra propriei infrastructuri.
