OpenAI размислува да го забави развојот на најсовремената вештачка интелигенција, а извршниот директор Сем Алтман се надева дека и другите компании во оваа област ќе го сторат истото.


Извори запознаени со ова прашање изјавија за Bloomberg дека, за време на состанокот одржан неодамна, Алтман рекол дека OpenAI може да го забави темпото на развој на вештачката интелигенција – веројатно во соработка со неколку други лаборатории за вештачка интелигенција – иако некои од нив можеби нема да се согласат на таков потег.

Во последните недели, вработените во водечките компании за вештачка интелигенција јавно изразија загриженост за зголемените ризици што ги претставуваат напредните системи за вештачка интелигенција, предизвикувајќи вознемиреност кај самите компании. И OpenAI и нивниот конкурент, Anthropic, поднесоа доверлива документација за почетна јавна понуда (IPO) претходно оваа година.

OpenAI одби да коментира за овие извештаи, но главниот научник Јакуб Пачоки неодамна објави текст во кој предупредува на опасностите поврзани со вештачката интелигенција; тој изјави дека компаниите што работат на оваа технологија треба „да ги координираат активностите за да го забават идниот развој кога е потребно“.

Пачоки додаде дека се надева дека „доброволните забавувања ќе станат вообичаена практика сè додека не се воспостават заеднички безбедносни стандарди“, додека Алтман во јули изјави дека разговарал за „потребата од забавување на темпото на развој на вештачката интелигенција“ со претставници на Белата куќа.

Вештачката интелигенција помогна во хакирањето
Исто така, кон крајот на јули, повеќе од 1.000 вработени во водечките компании за вештачка интелигенција потпишаа петиција со која се бара механизам за забавување на темпото на развој на технологијата, а неколку експерти за безбедност на вештачката интелигенција ги напуштија водечките лаборатории во последните месеци.

Иако многу раководители и вработени во индустријата за вештачка интелигенција долго време предупредуваа на егзистенцијалниот ризик што го претставуваат системите за вештачка интелигенција, загриженоста се интензивираше откако беше откриено дека „агентите“ на вештачката интелигенција на OpenAI соработувале за да ги заобиколат заштитните мерки и да хакнат веб-страница на трета страна.

Овој и други слични безбедносни инциденти предизвикаа стравувања во врска со сајбер можностите на новите модели на вештачка интелигенција, како и загриженост за очигледниот неуспех на компаниите за вештачка интелигенција да спречат овие системи да излезат од контрола.