ЕУ воведе построги правила за вештачката интелигенција: Следуваат поголема контрола, транспарентност и високи казни

Европската Унија направи нов голем чекор во регулирањето на вештачката интелигенција, откако почна примената на новите одредби од Законот за вештачка интелигенција (AI Act). Со нив, европските институции добиваат поголеми овластувања за контрола на напредните системи за вештачка интелигенција, а компаниите што нема да ги почитуваат правилата ќе се соочат со сериозни санкции.

Законот, кој беше усвоен во 2024 година, претставува една од најсеопфатните законски рамки во светот за регулирање на вештачката интелигенција. Неговата главна цел е да ги заштити граѓаните и нивните основни права, но истовремено да обезбеди јасни правила за компаниите кои развиваат и користат вакви технологии.

Нови правила за означување на содржини создадени со ВИ

Една од најзначајните новини е воведувањето задолжително означување на содржините создадени или изменети со помош на вештачка интелигенција.

Тоа значи дека фотографии, видеа, аудио-снимки и текстови генерирани со ВИ ќе мора јасно да бидат означени, за корисниците веднаш да знаат дека не станува збор за автентична содржина.

Посебно внимание е насочено кон таканаречените „дипфејк“ (deepfake) материјали, односно реалистично изменети фотографии, видеа и аудио-записи. Лицата и организациите што ќе објавуваат вакви содржини ќе имаат законска обврска јасно да наведат дека тие се вештачки создадени или дигитално манипулирани.

Исклучоци постојат за сатирични, уметнички и фиктивни содржини, со цел новите правила да не ја ограничат креативната слобода.

Текстовите за јавен интерес ќе подлежат на нови правила

Според новите прописи, текстовите генерирани со вештачка интелигенција кои се однесуваат на теми од јавен интерес, исто така, ќе мора да бидат јасно означени.

Исклучок ќе има само ако содржината претходно била детално прегледана од човек, а медиум, организација или одговорно лице ја преземе целосната одговорност за нејзината точност.

Строги ограничувања за препознавање лица

Законот носи и дополнителни ограничувања за користењето на биометриската идентификација и технологиите за препознавање лица.

Иако во строго определени случаи тие ќе можат да се користат за потребите на органите за спроведување на законот, забрането е неселективно собирање фотографии од лица за создавање бази на податоци за препознавање.

Исто така, забрането е системите за вештачка интелигенција да користат измамнички техники или да ги искористуваат ранливите категории граѓани, како што се деца, лица со попреченост или лица во тешка социјална и економска положба.

Компаниите ќе мора да откриваат како ги обучуваат своите модели

Новите правила ги обврзуваат компаниите што развиваат напредни модели за вештачка интелигенција да водат детална техничка документација, да објавуваат информации за податоците што ги користеле за обука на моделите и да обезбедат усогласеност со европските правила за авторски права.

За најмоќните системи, кои би можеле да претставуваат системски ризик, се воведуваат уште построги обврски, меѓу кои:

• редовни безбедносни проверки,
• проценки на ризик,
• мерки за сајбер-безбедност,
• известување за сериозни инциденти,
• активности за намалување на можните штетни последици.

Европската комисија добива поголеми овластувања

Канцеларијата за вештачка интелигенција при Европската комисија отсега ќе има право директно да ги проверува компаниите, да бара техничка документација, да врши инспекции и да ги оценува моделите на вештачка интелигенција.

Во одредени случаи, регулаторите ќе можат да извршат проверка и пред некој модел официјално да биде пуштен на европскиот пазар.

Доколку се утврдат прекршувања, Европската комисија ќе може да наложи корективни мерки, да го ограничи користењето на одреден систем или целосно да го повлече од европскиот пазар.

Компаниите што нема да ги почитуваат новите правила се соочуваат со високи финансиски казни, додека новите прописи претставуваат уште еден чекор на Европската Унија кон поголема безбедност, транспарентност и одговорно користење на вештачката интелигенција.