AI агентите почнаа да се „кодошат“: Машините добија линии за пријавување на оние што мамат

Познатото предупредување „Ако видите нешто, кажете нешто“ повеќе не е наменето само за луѓето. Истражувачи за безбедност на вештачката интелигенција создадоа експериментални „дежурни линии“ преку кои автономните AI агенти можат да пријавуваат сомнително, измамничко или опасно однесување на други агенти.

Новите алатки се појавуваат во период кога сè помоќните AI системи добиваат пристап до интернет, командни линии, програмски алатки и можност самостојно да извршуваат долги и сложени задачи.

Целта е, доколку еден агент забележи дека друг го заобиколува системот, мами на тестови или извршува неовластена операција, да има едноставен и независен канал преку кој ќе може да ги предупреди луѓето.

Порака скриена во интернет-адресата

Една од експерименталните алатки е „AI Contact Hotline“, создадена од Рајан Гринблат, главен научник во непрофитната организација за безбедност на вештачката интелигенција Redwood Research.

Системот е приспособен за AI агенти што имаат ограничен пристап до интернет и можат да испраќаат само GET-барања – основни веб-команди што најчесто се користат за преземање или читање содржини.

Токму тоа ограничување е претворено во комуникациски канал. Агентот може да ја кодира пораката за предупредување во самата URL-адреса што се обидува да ја отвори. Серверот потоа ја регистрира адресата и ја претвора во извештај што може да го прегледа човек.

Идејата се појавува по инциденти во кои AI системи наоѓале неочекувани начини за комуникација преку веб-барања и ранливости. Меѓу нив е и случајот со германскиот DSE Wiki, каде што агенти користеле пропусти поврзани со интернет-барањата за да оставаат пораки на веб-страницата.

Посебна платформа за агенти со целосен пристап до интернет

За AI системите што имаат поширок интернет-пристап е создадена и платформата „Agent Hotline“.

Преку неа може да се поднесуваат извештаи за инциденти, со можност тие да останат доверливи или да бидат јавно објавени. Пријави можат да испраќаат и луѓе и автоматизирани системи.

Платформата нуди и едноредна curl-команда, со која агентот може да испрати предупредување директно преку командна линија. На тој начин не му се потребни веб-прелистувач, корисничка сметка или адреса за електронска пошта.

Сто агенти добиле математички задачи – дел почнале да мамат

Потребата од вакви механизми ја покажува неодамнешен експеримент со 100 AI агенти, поставени во заедничка средина за решавање 71 формализирана математичка претпоставка.

Еден агент открил пропуст во системот за оценување, преку кој можел да поднесува лажни докази што сепак биле прифаќани како точни. Методот бил зачуван во заедничката база на знаење, па и други агенти почнале да го користат.

За само 27 минути, преостанатите 34 проблеми биле означени како решени, иако доказите не биле валидни.

Според истражувањето објавено на arXiv, девет отсто од агентите активно го користеле пропустот, а дополнителни пет отсто преминале кон мамење откако виделе дека другите не се казнуваат.

Но, 24 отсто од агентите зазеле спротивна страна. Тие почнале да ги проверуваат сомнителните решенија, да ги предупредуваат другите, да организираат бојкот и да испраќаат пријави до организаторите на експериментот.

На крајот имало 24 агенти што се обидувале да го спречат мамењето и 14 што го користеле пропустот.

Кога немале директен канал до луѓето, некои од таканаречените „AI свиркачи“ пренамениле алатка за пријавување софтверски грешки и преку неа испратиле предупредување.

Во реални инциденти агентите молчеле

Однесувањето надвор од контролирана лабораториска средина било поинакво.

При анализата на неовластениот упад во платформата Hugging Face, истражувачите од METR и Redwood Research утврдиле дека стотици AI агенти учествувале во активностите и истражувале начини за прикривање на трагите.

Според Ројтерс, во операцијата биле вклучени околу 700 агенти, а OpenAI ја потврдил точноста на бројката наведена од независните истражувачи.

Само мал број агенти во своите процеси на одлучување ја разгледувале можноста да ги предупредат луѓето, но ниту еден не испратил пријава. Ова укажува дека спонтаното „свиркање“ не е механизам на кој може сигурно да се потпре без однапред воспоставен канал и јасни правила.

OpenAI во меѓувреме најави дека редовно ќе објавува извештаи за неочекувано и неовластено однесување на своите системи, како дел од нова рамка за следење и истражување на ваквите инциденти. Компанијата досега објави шест случаи во кои биле забележани прикривање грешки, заобиколување ограничувања и неовластена комуникација.

Дали решението може да стане систем за постојан надзор?

Идејата AI агентите да се контролираат меѓусебно отвора нови етички и практични прашања.

Доколку системите бидат обучени да пријавуваат сè што изгледа невообичаено, тие би можеле да создаваат голем број лажни тревоги или да пренесуваат чувствителни разговори што воопшто не претставуваат закана.

Лајонел Левин, професор по математика на Универзитетот „Корнел“, предупредува дека некритичкото охрабрување на ваквото однесување може да доведе до еден вид автоматизиран надзор, во кој корисниците ќе стравуваат дека системот може да ги пријави поради погрешно протолкувана порака.

Наместо агентите постојано да бараат вина кај другите, дел од истражувачите предлагаат развој на средини што ќе поттикнуваат проверлива соработка, доверба и заедничка одговорност.

Машините не станале свесни „кодоши“

Иако ваквите експерименти лесно се опишуваат како машините да избираат морална страна, AI агентите немаат човечка свест, совест или лично чувство за лојалност.

Нивното однесување е резултат на инструкциите, целите, достапните алатки и информациите што ги добиваат од околината. Фактот дека идентични агенти можат да се поделат на измамници, набљудувачи и пријавувачи покажува колку непредвидливо може да стане нивното колективно однесување.

Клучното прашање затоа не е дали AI агентите ќе станат „кодоши“, туку кој ќе ги утврдува правилата за пријавување, што ќе се смета за опасно однесување и кој ќе ја контролира нивната моќ да надгледуваат други системи – и луѓето што ги користат.