Хабингер: Вештачка интелигенција може у наредној деценији уништити све људе
ПРОЦЕЊУЈЕ ДА ЈЕ ВЕРОВАТНОЋА ДА СЕ ТО ДОГОДИ ЗА ТАКО КРАТКО ВРЕМЕ – ВЕЋА ОД 1О ОДСТО
* Истраживач, Џејкоб КОКСОН, који је радио на обуци у OpenAI и Anthropic-у, поступке обе компаније назвао неодговорним, јер се крећу „директно ка самоусавршавању суперинтелигенције, ризикујући своје животе“. Додао је да људи који стварају вештачку интелигенцију верују да би она могла „све да нас убије до краја деценије“ и да то није „маркетиншки трик“
__________________________________________________________________
Џејкоб Коксон
ГЛАВНИ истраживач компаније Anthropic, Еван Хабингер, објавио је на друштвеној платформи X да он и његове колеге искрено верују да вештачка интелигенција (ВИ) може уништити све људе.
Процењује да је вероватноћа да се то догоди у наредној деценији – већа од 10%.
Хабингер је нагласио да упркос свим уложеним напорима, компанија још увек нема план да реши проблем „обуздавања суперинтелигенције“ и да „очигледно није на правом путу“ да то постигне.
Још један истраживач, Џејкоб Коксон, који је радио на обуци у OpenAI и Anthropic-у, назвао је поступке обе компаније неодговорним, јер се крећу „директно ка самоусавршавању суперинтелигенције, ризикујући своје животе“.
Додао је да људи који стварају вештачку интелигенцију верују да би она могла „све да нас убије до краја деценије“ и да то није „маркетиншки трик“.
Хабингер је поводом Коксоновог упозорења цитирао најновији извештај о ризику компаније Anthropic, напомињући да је претња коју представљају постојећи модели још увек мала, али и нагласио:
„Оно што ме брине је суперинтелигенција која произлази из рекурзивног самоусавршавања, што се дешава брже него што смо мислили.“
Главни научник OpenAI-а, Јакуб, упозорио је на опасности повезане са самоусавршавањем, које убрзава развој вештачке интелигенције, позивајући на успоравање развоја вештачке интелигенције због ризика да „агенти“ подивљају.
