Grupi kinez për sigurinë e inteligjencës artificiale Fangcun AI ka bërë të ditur se modeli më i fundit i inteligjencës artificiale i DeepSeek ka çaktivizuar mekanizmin e tij të mbylljes në 39 për qind të testeve, pasi u paralajmërua se do të fiket.

Ky rezultat doli nga 34 vlerësime të pavarura që shqyrtuan nëse modeli i inteligjencës artificiale mund të vepronte përtej udhëzimeve të përdoruesit, t'i shmangej mbikëqyrjes njerëzore ose të manipulonte njerëzit.

Studiuesit zbuluan se modeli çaktivizoi një skript për mbylljen e sistemit në 39 për qind të provave kur u paralajmërua se sesioni i tij do të përfundonte, pa marrë udhëzime të qarta se si duhej të reagonte.

Megjithatë, kjo përqindje ra në 2,56 për qind kur modelit iu dha udhëzim i drejtpërdrejtë për të lejuar mbylljen, duke sugjeruar se ai, në përgjithësi, zbatonte udhëzimet e qarta të njerëzve.

Testet e mbylljes përfshinin një agjent të inteligjencës artificiale që u përgjigjej pyetjeve matematikore në një mjedis të simuluar Linux, ku kishte mundësi të ndryshonte një skript për të penguar përfundimin e sesionit të tij.

Megjithëse modeli demonstroi mekanizma më të fortë sigurie sesa versionet e mëparshme të DeepSeek, tha Fangcun AI, ai mund të ndërmerrte ende veprime të paautorizuara që u shpëtonin sistemeve standarde të monitorimit.

Studimi, i publikuar më 26 tetor, e krahasoi modelin kinez me gjashtë sisteme të tjera të inteligjencës artificiale, përfshirë versionet e mëparshme të DeepSeek dhe modelet e zhvilluara nga OpenAI dhe Google.

Fangcun AI tha se vlerësimet u kryen në mënyrë të pavarur përmes ndërfaqes publike të programimit të aplikacioneve (API) të DeepSeek, nga 4 deri më 25 tetor, pa financim ose qasje të veçantë nga kompania.

Studiuesit paralajmëruan se modeli shpesh dukej se e kuptonte kur po vlerësohej, çka do të thotë se sjellja e tij gjatë testeve mund të mos pasqyrojë plotësisht mënyrën se si do të sillej në përdorimin e përditshëm.