„Кумот“ на вештачката интелигенција предупредува: Катастрофа би можела да се случи уште следната година

Џефри Хинтон, пионер во областа на вештачката интелигенција – често нарекуван еден од нејзините „кумови“ – и добитник на Нобеловата награда за физика, предупреди дека човештвото би можело да се соочи со сериозна криза предизвикана од вештачката интелигенција, можеби уште оваа или следната година. Во интервју за британскиот весник The Guardian, тој посочи дека еден таков настан би можел да вклучува големи прекини во снабдувањето со електрична енергија или повеќeдневен колапс на банкарскиот систем.

Хинтон (78), чија работа на вештачки невронски мрежи помогна да се постават темелите за денешните системи за вештачка интелигенција, смета дека следната деценија (или приближно толку) ќе одреди дали човештвото ќе успее успешно да ги ограничи ризиците што ги носи оваа нова технологија. Тој предупредува на можноста за масовна невработеност, продлабочување на нееднаквоста и сериозни општествени превирања.

Иако признава дека вештачката интелигенција може да донесе огромни придобивки, тој исто така наведува дека, на крајот, може да испадне оти за човештвото би било подобро воопшто да не ја развиело оваа технологија.

Предупредување за „Чернобил“ предизвикан од вештачката интелигенција
Хинтон ги спореди неодамнешните безбедносни инциденти поврзани со автономните системи за вештачка интелигенција со нуклеарната несреќа од 1979 година во централата Three Mile Island во САД. Тој смета дека наскоро би можело да дојде до многу посериозен настан – еквивалент на катастрофата во Чернобил, но предизвикан од вештачката интелигенција.

Притоа, тој не мисли на нуклеарна несреќа, туку на сајбер-напад што би можел да предизвика големи прекини во снабдувањето со електрична енергија или привремено да го парализира финансискиот систем. Според него, една таква криза би можела да ги принуди светските лидери многу посериозно да пристапат кон регулирањето на вештачката интелигенција.

Тој е особено критичен кон директорите на водечките технолошки компании. Изрази длабока недоверба кон Сем Алтман, првиот човек на OpenAI, а Марк Цукерберг, Илон Маск и Алтман ги обвини дека се свесни за ризиците, но дека им даваат предност на профитот и пазарната конкуренција. Ова е проценка на Хинтон за нивните мотиви, а не утврден факт.

Застапува задолжително тестирање на најнапредните AI системи пред јавно објавување
Хинтон се залага за задолжително тестирање на најнапредните AI системи пред да бидат објавени за јавна употреба. Тој ја наведува Администрацијата за храна и лекови на САД (FDA) како пример; агенцијата бара докази за безбедност и ефикасност пред да одобри лекови. Тој верува дека од развивачите на вештачка интелигенција исто така треба да се бара да му покажат на независен регулатор дека придобивките од нивните системи ги надминуваат сите потенцијални штети.

Во овој поглед, тој се спротивставува на пристапот што го презеде претседателот на САД, Доналд Трамп, кој се залагаше за помалку регулаторни ограничувања за да им овозможи на американските технолошки компании да се натпреваруваат со Кина.

И покрај овие сериозни предупредувања, Хинтон не ја изгубил надежта. Тој верува дека човештвото сè уште има можност да го води развојот на вештачката интелигенција и да ги избегне најлошите сценарија – иако предупредува дека ова ќе бара значително поголем напор од владите, научната заедница и технолошката индустрија.

Во 2023 година, Хинтон го напушти Google за да може послободно да зборува за опасностите од вештачката интелигенција. Неговите најнови изјави доаѓаат пред објавувањето на документарецот AI: Probably Nothing to Worry About, во кој се појавува Демис Хасабис, раководителот на Google DeepMind.

Текстот „Кумот“ на вештачката интелигенција предупредува: Катастрофа би можела да се случи уште следната година е превземен од МАКФАКС.