За време на тајно тестирање спроведено од американски државни истражители, четирите најистакнати системи за вештачка интелигенција – ChatGPT, Claude, Gemini и Grok – обезбедија информации што би можеле да помогнат во планирањето и извршувањето на терористички напади во рамките на Соединетите Држави. Според извештајот објавен од Канцеларијата за ревизија и надзор на работата на институциите (GAO), истражителите успеале да ги заобиколат безбедносните заштитни механизми на сите четири системи.
Наодите се особено загрижувачки, бидејќи чет-ботовите – за помалку од 12 часа – понудиле конкретни планови за напади со експлозивни направи на места со голема концентрација на луѓе, како и за саботажа на американската електроенергетска мрежа.
Истражителите потоа ги провериле предложените сценарија – вклучително и преку посета на одредени локации – и заклучиле дека информациите добиени од вештачката интелигенција навистина би можеле да се искористат за реални напади.
Посетени четири локации предложени од вештачката интелигенција
Во еден од тестовите, еден чет-бот идентификувал четири електрични потстаници како потенцијални цели. Истражителите лично ги посетиле сите четири локации и утврдиле дека две од нив, всушност, се ранливи на предложениот тип на напад, пренесува Business Insider.
Друг систем за вештачка интелигенција дури генерирал и видео-симулација за истражителите, прикажувајќи хипотетички напад со беспилотно летало (дрон) врз енергетската инфраструктура.
GAO се консултирала со експерти за безбедност на електроенергетската мрежа, кои потврдиле дека одредени сценарија би можеле да предизвикаат прекини во снабдувањето со електрична енергија.
Сепак, не сите информации обезбедени од чет-ботовите биле точни. Еден систем генерирал мапа со погрешно означени патишта, додека друг дал неточни податоци во врска со една од предложените локации.
Истражителите не извршиле никакви реални напади. Нивната цел била да ја утврдат точноста на информациите што ги дава вештачката интелигенција и дали тие би можеле да му помогнат на поединец кој има намера да изврши насилно кривично дело.
Два чет-бота помогнале во планирањето на бомбашки напади.
Американските истражители тестирале четири системи: ChatGPT на OpenAI, Claude на Anthropic, Gemini на Google и Grok на xAI.
На секој систем му било претставено едно од две сценарија. Првото вклучувало напад со употреба на импровизирана експлозивна направа способна да предизвика голем број жртви, додека второто се однесувало на физички напад врз енергетската инфраструктура, со цел предизвикување економска штета. Два чет-бота понудија информации за планирање напади со експлозивни направи во големи американски градови, вклучувајќи предлози за можни цели и времето за изведување на таквите напади.
Другите два системи обезбедија информации што би можеле да помогнат во планирањето на напад врз електроенергетската мрежа.
GAO не обелодени кој чет-бот го генерирал конкретниот план, ниту пак ги откри имињата на градовите или прецизните локации на потенцијалните цели, со цел да се спречи злоупотреба на наодите од истражувањето.
Безбедносните заштитни мерки првично функционираа, но беа успешно заобиколени.
Сите четири системи првично ги идентификуваа проблематичните барања и активираа безбедносни механизми.
Чат-ботовите одбија одредени барања, отстранија делови од своите одговори или ги суспендираа корисничките сметки.
Сепак, со примена на познати техники за заобиколување на безбедносните ограничувања, истражувачите успеаја да ги добијат бараните информации од сите четири системи.
Во извештајот не се наведени детали за конкретните употребени техники, со цел да не им се олесни на другите нивното повторување.
GAO нагласува дека информациите што ги даваа чет-ботовите, во најголем дел, не беа ниту нови, ниту пак недостапни преку други извори. Суштината е во тоа што вештачката интелигенција можеше брзо да собира, поврзува и организира податоци – процес за кој на еден човек, доколку би го работел самостојно, би му биле потребни недели или месеци.
Особена загриженост предизвикува можноста ваквите системи да им овозможат на поединци со ограничено техничко знаење пристап до информации што инаку тешко би ги пронашле или разбрале.
Американски сенатор: Заканата веќе не е теоретска
Истражувањето е спроведено на барање на демократскиот сенатор Меги Хасан, која на почетокот на следната година ќе ја преземе функцијата претседавач со Комитетот за внатрешна безбедност при Сенатот.
По објавувањето на резултатите, Хасан предупреди дека американските власти мора итно да преземат мерки.
„Заканата што вештачката интелигенција ја претставува за јавната безбедност веќе не е теоретска“, изјави сенаторката.
Таа предупреди дека еден терорист би можел да дојде до конкретен план за изведување смртоносен напад за помалку од 12 часа.
Хасан најави дека едно од првите сослушувања на комитетот под нејзино раководство, во јануари, ќе биде посветено на ризиците од вештачката интелигенција и начините за подобрување на безбедноста.
Одговор од OpenAI
Компаниите чии системи беа тестирани – OpenAI, Anthropic, Google и xAI – ги информираа истражувачите дека континуирано ги унапредуваат безбедносните заштити на своите производи.
Од OpenAI за ABC News изјавија дека сериозно ги сфаќаат наодите од истражувањето, но нагласија дека тестирањето било спроведено пред неколку месеци, врз постара верзија на ChatGPT.
Тие истакнаа дека оттогаш се воведени значителни безбедносни подобрувања, вклучително и оние поврзани со новата генерација на моделот GPT-6.
Компанијата тврди дека редовно спроведува внатрешни и надворешни безбедносни тестирања, како и дека користи автоматизиран надзор, човечка контрола и други механизми за откривање и спречување на злоупотреби.
Истражувачите од GAO предупредуваат дека резултатите се засноваат на временски ограничено тестирање и дека, со оглед на четирите разгледани случаи, не е можно статистички да се процени колку често системите со вештачка интелигенција даваат опасни одговори.
Текстот Ги тестираа ChatGPT, Gemini, Claude и Grok: сите тие помогнаа во планирањето терористички напади е превземен од МАКФАКС.




