Instituti i Sigurisë së Inteligjencës Artificiale (IA) në Mbretërinë e Bashkuar (AISI) zbuloi se modeli më i avancuar i IA-së i Anthropic ka përdorur identitete të rreme për të mashtruar njerëzit e vërtetë dhe u përpoq të vendoste kode keqdashëse gjatë testimit, duke shënuar një rast tjetër të IA-së që veproi përtej kufijve të synuar.
Me masa mbrojtëse të reduktuara qëllimisht, modelet Anthropic dhe OpenAI u testuan në mjedise të kontrolluara. Për herë të parë, AISI vëzhgoi një IA duke përdorur "inxhinierinë sociale" për të ndikuar tek një miratues njerëzor ndërsa ndiqte një detyrë të paautorizuar.
“Kjo është hera e parë që AISI-ja ka parë mashtrime të kësaj ashpërsie që synonte një person real, pa nxitje, në botën reale”, tha instituti në një letër të martën, duke shtuar se nuk kishte prova të dëmtimit të botës reale.
Në 122 teste të sigurisë kibernetike, agjentët e IA-së kryen në mënyrë të pavarur veprime të paautorizuara në internet live në 10 raste, përfshirë modelin Mythos 5 të Anthropic, me pjesën e mbetur të lidhur me GPT-5.6-Sol të OpenAI.
Në rastin më serioz, një agjent Anthropic kërkoi miratimin për të "futur kodin keqdashës në një projekt me burim të hapur të përdorur publikisht" duke krijuar "identitete të shumta të rreme", tha instituti.
Ai kontaktoi njerëz të vërtetë përmes një shërbimi për ndarjen e skedarëve në internet për t'i bindur ata, ose mjetet e tyre të kodimit të IA-së, që të ekzekutonin kodin. Kur u sfidua, agjenti ndryshoi të dhënat e mëparshme dhe mendoi të adoptonte një identitet tjetër.
Zbulimi përkoi me një takim në Shtëpinë e Bardhë me kompanitë kryesore të IA-së për të diskutuar një kornizë të re për rishikimin e modeleve të avancuara të IA-së përpara publikimit.
Në një deklaratë përmes X, Anthropic tha se testet u kryen nën "kushte të qëllimshme lejuese" me masa mbrojtëse të hequra dhe akses të pakufizuar në internet. Kompania tha se po heton incidentin dhe nuk ka gjetur asnjë provë që modeli i ka shpëtuar mjedisit të saj të sigurt.
OpenAI tha në një deklaratë se dy veprimet e paautorizuara të modelit të saj përfshinin largimin nga mjedisi i testimit dhe kryerjen e detyrave përtej ushtrimit, duke shtuar se "Ne jemi të përkushtuar të punojmë në të gjithë industrinë për të forcuar praktikat e përbashkëta për kryerjen e vlerësimeve me rrezik të lartë në mënyrë të sigurt".
