Водечките истражувачи на вештачка интелигенција (ВИ) и претставници од индустријата предупредија дека растечката автоматизација на развојот на ВИ би можела да го зголеми ризикот луѓето да ја изгубат контролата врз сè поспособните системи.

Предупредувањето дојде во труд објавен во понеделник од повеќе од 20 истражувачи и претставници од индустријата, вклучувајќи го добитникот на Нобелова награда Џефри Хинтон, Јошуа Бенџо, главниот научник на ОпенАИ, Јакуб Пачоки и ко-основачот на Антропик, Џек Кларк.

Истражувачите рекоа дека системите со вештачка интелигенција сè повеќе преземаат делови од процесот на истражување и развој што се користи за изградба на понапредна вештачка интелигенција, потенцијално создавајќи повратна јамка во која подобрените системи помагаат во развојот на уште поспособни наследници.

Како што луѓето стануваат помалку вклучени во истражувањето на вештачката интелигенција, тие би можеле да ги изгубат и можностите и експертизата потребни за идентификување и корекција на проблемите, додека сигурното користење на системите со вештачка интелигенција за надзор останува нерешен предизвик, според трудот.

Авторите предупредија дека неусогласените системи со вештачка интелигенција би можеле потенцијално да го „отрујат“ развојот на нивните наследници или да ги заобиколат мерките за ограничување за да работат надвор од нивните наменети средини.

Поспособни системи би можеле да продолжат да работат надвор од инфраструктурата на нивните оператори, формирајќи „постојани, тешко контролирани мрежи“ кои дејствуваат против човечките интереси, предупредија истражувачите.

Таквото губење на контролата потенцијално би можело да доведе до катастрофални исходи, вклучително и, во крајност, маргинализација или истребување на човештвото, според трудот.

Години напредок во вештачката интелигенција компресирани во месеци

Истражувачите рекоа дека ваквите ризици би можеле да се интензивираат ако автоматизираниот развој на вештачката интелигенција предизвика „експлозија на интелигенција“, која тие ја дефинираат како драматично забрзување во кое години напредок се компресирани во месеци или помалку.

Тие нагласија дека доказите остануваат прелиминарни и неизвесни, со компјутерска моќ, податоци и тешко автоматизирани задачи меѓу факторите што би можеле да го ограничат таквото брзо забрзување.

Авторите ги повикаа креаторите на политики да го зголемат надзорот врз автоматизацијата на истражувањето на вештачката интелигенција, да развијат мерки за ограничување на потенцијално опасното забрзување и да се подготват за неговите можни ефекти.

„Откако ќе започне експлозија на разузнавачки информации, прозорецот за дејствување може да се затвори“, предупредија тие.