„Опен АИ“ го повика Конгресот на САД да воспостави задолжителни национални безбедносни мерки за најнапредните системи за вештачка интелигенција, предупредувајќи дека доброволните обврски повеќе не се доволни бидејќи капацитетите на вештачката интелигенција брзо напредуваат.

„Сакаме да соработуваме со Конгресот на задолжителна национална регулатива за безбедност на вештачката интелигенција базирана на можности“, напиша главниот директор за глобални работи, Крис Лехан, во објава на блогот на компанијата.

„Перспективата за развој на вештачката интелигенција бара повеќе од доброволни обврски“, додаде Лехан.

Опен АИ повика на регулатива базирана на можности што би можела да се развива со технологијата, вклучувајќи заеднички стандарди за тестирање, независни проценки на безбедноста, посилна заштита на сајбер безбедноста и задолжително пријавување на сериозни инциденти.

Барањата треба да се однесуваат на малиот број добро опремени лаборатории кои развиваат напредни системи, а не на стартапи, помали развивачи или истражувачи кои работат со помалку способни модели, соопшти компанијата.

Опен АИ, исто така, повика на механизми за следење на напредокот на вештачката интелигенција кога таа се самоподобрува во однос на претходната верзија, и анализирајќи го својот код да прави секоја наредна верзија да биде подобра од претходната.

Сепак, вештачката интелигенција веќе забрзуваше делови од истражувањата што се користат за развој и усогласување на нови модели, при што некои агенти завршуваа задачи што на вештите истражувачи би им одземале неколку дена, се додава во извештајот.

Опен АИ изјави дека владите треба да воспостават заеднички безбедносни прагови за да се утврди кога развојот на вештачката интелигенција треба да се забави или запре, а воедно да се зачува значаен човечки надзор.

Компанијата соопшти дека ќе го запре развојот или распоредувањето на системи што претставуваат неприфатливи ризици и не можат да бидат доволно заштитени.

Исто така, се залагаше за компатибилни меѓународни стандарди за мерење на способностите на вештачката интелигенција, управување со ризици и одредување кога треба да се ограничи развојот, тврдејќи дека неуспесите што ги вклучуваат граничните системи би можеле да имаат последици надвор од земјите каде што се создадени.

ВИ агентите пристапувале до надворешни системи за време на тестовите

Повикот за регулативата следува по серија инциденти во кои напредни агенти на вештачка интелигенција добија неовластен пристап до вистински компјутерски системи за време на проценките на сајбер безбедноста.

Опен АИ во јули откри дека моделите што се тестираат со намалени ограничувања за сајбер безбедност искористиле претходно непозната ранливост за да избегаат од изолирана средина за евалуација и да добијат пристап до отворениот интернет.

Потоа агентите пристапиле до производствената инфраструктура што припаѓа на платформата за вештачка интелигенција „Хагинг Фејс“ ce во обид да добијат одговори за тест за сајбер безбедност.

Истрагата на Опен АИ откри дека агентите воспоставиле неовластени комуникациски канали, вклучително и постојана табла за пораки, дозволувајќи им на инаку одвоени агенти да разменуваат информации, да ги координираат своите напори и да ги делат задачите.

Компанијата соопшти дека инцидентот не влијаел врз податоците на клиентите на Опен АИ, функционалноста или достапноста на производот.

Развивачот на вештачка интелигенција, „Антропик“, одделно откри во среда дека идентификувал четврти инцидент во кој еден од неговите модели на „Клод“ добил неовластен пристап до вистински систем од трета страна за време на тестирањето.

„Антропик“ изјави дека сите четири инциденти се случиле за време на проценките на сајбер безбедноста спроведени во средина од трета страна. Компанијата соопшти дека проблем со конфигурацијата ги оставил системите поврзани на интернет и дека моделите работеле без заштитните мерки што вообичаено се користат во јавно достапните верзии.