Директор Anthropic Дарио Амодеи: Развој AI треба успорити; Маск и Алтман – за, Трамп - против

ПРЕДСЕДНИК САД НИЈЕ ЗАБРИНУТ ДА ЋЕ ВЕШТАЧКА ИНТЕЛИГЕНЦИЈА ДОВЕСТИ ДО ИЗУМИРАЊА ЉУДИ

* АМОДЕИ: С обзиром на убрзани темпо развоја могућности AI, бојим се да би у року од 6-12 месеци њихов рој могао да преузме цео интернет, потенцијално узрокујући стотине милијарди долара штете

* Илон МАСК: Дарио је у праву. Брзи развој AI могао да надмаши способност људи да разумеју и контролишу такве системе

* Амерички медији су почели активно да извештавају о ризицима развоја вештачке интелигенције након што је Џејкоб Коксон, бивши запослени у OpenAI и Anthropic, најавио свој одлазак из те „индустрије“, наводећи да трка међу технолошким корпорацијама приближава свет „тачки без повратка“ и да би до апокалиптичног сценарија могло доћи већ 2027. године

________________________________________________________________

             ГЕНЕРАЛНИ директор компаније Anthropic, Дарио Амодеи, изјавио је да је потребно успорити темпо развоја вештачке интелигенције (AI) како би се осигурала контрола над том технологијом.

             Амодеи је навео инциденте у којима су се агенти AI конкурента OpenAI отели контроли и хаковали платформу за машинско учење Hugging Face.

             У августу је сам Anthropic забележио три случаја „бекства“ модела Claude из тест-фазе. Навео је да је економска штета од таквих „случајева“ до сада била мала, али да сами инциденти упозоравају на озбиљну будућу опасност.

             „С обзиром на убрзани темпо развоја могућности AI, бојим се да би у року од 6-12 месеци њихов рој могао да преузме цео интернет путем сталног ботнета, потенцијално узрокујући стотине милијарди долара штете) и да ће размере штете наставити да расту ако AI постане моћнија без потребних заштитних мера“, нагласио је Амодеи.

Дарио Амодеи

             И предложио да се проблем реши у три фазе „стратегије за уравнотежени темпо развоја вештачке интелигенције који ће одржавати безбедност, а истовремено доносити геополитичке и економске предности“.

             Према његовој стратегији, свака велика компанија била би обавезна да обезбеди стручњацима треће стране континуирани приступ како би проверили своје безбедносне праксе и проценили своје процесе обуке модела.

             Амодеи је навео да је његов Anthropic спреман да једнострано преузме такве обавезе и позвао владе да захтевају од других учесника на тржишту да учине исто.

             Други корак је назвао „демократском координацијом“. Објаснио је да то подразумева да програмери у демократским земљама треба да успоставе заједничке безбедносне стандарде и ограничења темпа неконтролисаног напретка вештачке интелигенције.

             Његова трећа фаза подразумева глобалну координацију:

             „САД и друге демократске земље треба да теже координацији акција са ауторитарним земљама, посебно Кином, уз строго спровођење прописа. Морамо успорити темпо побољшања могућности модела вештачке интелигенције. Напредак ће и даље бити брз, али време које добијемо морамо мудро искористити“.

             Америчка новинска агенција Bloomberg објавила је 10. септембра, позивајући се на извршног директора OpenAI Сема Алтмана, да би та компанија могла успорити развој напредних система вештачке интелигенције (AI) због растуће забринутости поводом ризика везаних са њиховим стварањем и употребом.

             Власник комапнија Tesla и SpaceX, амерички милијардер Илон Маск, подржао је иницијативу Амодеија да се успори развојавештачке интелигенције:

Џејкоб Коксон

             „Дарио је у праву“, написао је на својој страници на интернет-платформи X.

             И Маск сматра да Амодеи с разлогом упозорава да би брзи развој AI могао да надмаши способност људи да разумеју и контролишу такве системе.

             Међутим, председник САД Доналд Трамп изјавио је да није забринут да ће вештачка интелигенција довести до изумирања човечанства.

             Амерички медији су почели активно да извештавају о ризицима развоја вештачке интелигенције након што је Џејкоб Коксон, бивши запослени у OpenAI и Anthropic, најавио свој одлазак из те „индустрије“, наводећи да трка међу технолошким корпорацијама приближава свет „тачки без повратка“ и да би до апокалиптичног сценарија могло доћи већ 2027. године.

             „Не, немам такве страхове. Имам бригу - ако не успемо на плану вештачке интелигенције – да ћемо се наћи на веома лошем месту“, рекао је Трамп у Белој кући упитан да ли се плаши да би развој вештачке интелигенције могао довести до изумирања човечанства.

             Према Трамповим речима, за америчке компаније сада нема важнијег задатка од одржавања водећих позиција и у тој области и спречавања Кине да их претекне у развоју.

             Амерички лидер је више пута изјављивао да се не плаши да ће модели вештачке интелигенције измакнути контроли.

             Истовремено је изразио жељу да о развоју технологија заснованих на вештачкој интелигенцији разговара са кинеским председником Си Ђинпингом током његове посете Сједињеним Државама у септембру.

             Раније је амерички бизнисмен Бил Гејтс изјавио да се вештачка интелигенција развија брже него што владе и друштва могу да се припреме за последице.