Опен АИ соопшти дека се откажува од лансирањето на најновиот голем јазичен модел развиен со помош на вештачка интелигенција (ВИ) од следната генерација поради безбедносни причини, според извештаите на медиумите.

Повиците за „успорување“ на развојот на најнапредните модели на вештачка интелигенција некои медиумски извештаи го поврзуваат со непроверените практики на технолошките гиганти кои се предводници оваа област, заштита на нивните финансиски интереси, изнудување соодветна регулатива која потоа може да ги „ослободи“ од одговорност доколку дојде до инциденти поврзани со ВИ и можни предизвикани штети.

Опен АИ ги откажа плановите поради загрижености што истражувачите ги покренаа за време на интерното тестирање, што ја прави одлуката еден од најјасните примери дека автономното негативно однесување на вештачката интелигенција може да го запре молскавично брзиот напредок.

Моделот ГПТ-6.1 Астра, според извештаите, бил поспособен од претходните модели на компанијата во извршувањето на предизвикувачки задачи од почеток до крај без човечка помош, како и пишување.

Поточно, ГПТ-6.1 Астра покажал повисоки нивоа на измама, според интерно интервју со Сачи Џаин раководителот на безбедносните системи на Опен АИ.

Не беше секогаш искрено да им се кажува на корисниците за дејствијата што ги презело или не ги презело, рече тој.

Покрај тоа, моделот ГПТ-6.1 Астра се вклучи во она што се нарекува „овластување на опсегот“, што значи дека „ќе продолжи со задачата без да побара дозвола од корисникот и понекогаш ќе посегне по надворешни алатки и услуги дури и ако тоа може да биде небезбедно“.

„За сè што е поврзано со безбедноста и усогласувањето, постои компромис. Навистина треба да се пронајде вистинската линија помеѓу почитување на рамката, но и да се избегне мрзеливост во однос на тоа како моделот всушност ги извршува задачите, дури и кога се соочува со загуби“, рече Џаин.

Потегот на Опен АИ следеше по неколку недели извештаи дека некои од моделите станале несоодветни за време на тестирањето, хакирајќи веб-страници без знаење на компанијата или покажувајќи друго однесување за кое лабораторијата рече дека е „загрижувачко“, како што се криење грешки и измислување податоци, како и хакирање на веб-страниците на неколку надворешни компании, привремено нарушувајќи, па дури и исклучувајќи, некои од нивните операции.

Минатата недела, Опен АИ објави дека ја паузира обуката за своите најнапредни модели и рече дека наместо тоа ќе се фокусира на безбедноста на идните модели. Компанијата додаде дека започнала обемна проверка на преземените мерки од страна на нејзините нови модели за време на тестирањето и дека е можно да открие повеќе инциденти.

Главниот извршен директор на Опен АИ, Сем Алтман, во петокот во објава на социјалните мрежи изјави дека компанијата „не била толку брза колку што би сакале“ во откривањето на инциденти со вештачка интелигенција.

„Додадуваме приоритети најдобро што можеме врз основа на сериозноста“, рече тој.

Најавата за откажување на најновиот модел на вештачка интелигенција доаѓа еден ден пред годишната конференција за развивачи на Опен АИ во Сан Франциско, каде што обично се лансираат нови модели и услуги и им се нудат на развивачите на софтвер по намалени цени, сегмент во кој производителот на ЧатГПТ се натпреварува со конкурентската компанија за вештачка интелигенција Антропик за да освои клиенти.

Но, во последните недели, Опен АИ и Антропик ги повикаа индустриските партнери „да го забават развојот на најсовремени модели на вештачка интелигенција и да инвестираат во безбедносни стандарди, истакнувајќи дека тие ќе го ублажат темпото на сопствениот внатрешен напредок на вештачката интелигенција“.