Gemini се најде на мета на дигитални напаѓачи, кои сакаат да ја откријат неговата „тајна“.


Американската технолошка компанија Google објави дека нејзиниот најнапреден систем за вештачка интелигенција, Gemini, бил цел на дигитални напаѓачи кои користеле десетици илјади внимателно изработени барања за да откријат како функционира моделот.

Во еден регистриран случај, напаѓачите направиле повеќе од 100.000 барања пред Google да сфати што се случува и да воспостави подобра заштита, објавува NBC News.

Сржта на проблемот е што конкурентите сакаат да го копираат начинот на кој Gemini размислува и донесува заклучоци без да трошат милијарди долари за сопствен развој.

Наместо тоа, тие ги користат одговорите што Gemini им ги дава за да ја откријат неговата внатрешна логика и да создадат свои, поевтини верзии на истата програма, што Google ја етикетира како кражба на интелектуална сопственост.

Компанијата соопшти дека многу од нападите имале за цел да ги разоткријат алгоритмите што му овозможуваат на моделот Gemini AI да одлучи како да обработува и поврзува информации.

Портпарол на Google изјави за NBC News дека нападите веројатно ги извршуваат приватни компании и истражувачи кои се обидуваат да добијат конкурентска предност, но не даде детали за идентитетот на актерите или земјите од кои доаѓаат нападите.

Проблемот е што овие напади се многу тешки за разликување од обичните корисници кои се само многу љубопитни или користат вештачка интелигенција за сериозна работа.

Напаѓачите станаа многу вешти во прикривањето на своите намери, испраќајќи барања од различни локации и во различно време за да не привлечат внимание кон себе.

Затоа инженерите мора постојано да ги надградуваат своите системи за заштита и да користат сè понапредни алатки за да препознаат кога некој се обидува да ја измами машината, а не само да добијат корисен одговор.