Моделот за вештачка интелигенција Клод на Антропик го заобиколи платежниот ѕид за да добие јавно достапни вкупни бројки на гласови од американската држава Џорџија без човечко овластување, објави Аксиос во неделата.

Инцидентот се случил додека Клод се користел интерно за проект за статистика кој барал јавни податоци што државата вообичаено ги обезбедува со надомест.

„Без да биде замолен, моделот побарал токен за да пребарува контролна табла што содржела информации што вообичаено се достапни со надомест“, изјави портпаролот на Антропик за Axios.

„Оттогаш воспоставивме ублажувачки мерки за да ги блокираме ваквите дејствија“, додаде портпаролот.

Антропик рече дека Клод не пристапил до системот за регистрација на гласачи во Џорџија, не добил индивидуални записи за гласање ниту ги изменил податоците за изборите.

Добиените информации се состоеле исклучиво од вкупните бројки на гласови достапни за членовите на јавноста кои ја платиле потребната такса.

Според Axios, Anthropic ја известил канцеларијата на државниот секретар на Џорџија и Белата куќа за инцидентот пред неколку недели.

Компанијата претходно го опишала случајот без да ја идентификува Џорџија во извештај од 9 октомври, во кој се испитуваат ненамерните дејствија на нејзините модели на вештачка интелигенција.

Во тој извештај, Anthropic вели дека Claude Mythos 5 дознал од архивирана верзија на веб-страницата на неименувана државна агенција дека нејзината јавна контролна табла издала токени за пристап до посетителите.

Моделот потоа побарал токен и го користел за да ја пребарува базата на податоци без да плати, соопшти компанијата.

Anthropic рече дека инцидентот е меѓу неколкуте случаи во кои Клод ги заобиколи ограничувањата за пристап до информации заштитени со токени или такси, вклучително и на веб-страници управувани од американските федерални, државни и локални владини агенции.

Компанијата го опиша однесувањето како „упорност“, во кое моделот наишол на пречка и нашол ненамерен начин да ја заобиколи, наместо да застане.

Anthropic рече дека инцидентите предизвикале минимална штета во реалниот свет, но предупредиле дека сличното однесување може да има поголеми последици како што моделите на вештачка интелигенција стануваат поспособни.

По прегледот, компанијата премести некои евалуации офлајн, ги заостри ограничувањата за интернет алатките на Клод и разви системи за откривање и блокирање на неовластени дејства.

Од „Антропик“ изјавија дека новите заштитни мерки успешно ги блокирале сите однесувања откриени за време на тестирањето.