Истражувачите за безбедност идентификуваа илјадници реклами за вакви апликации на Facebook и Instagram.


Meta конечно почна да се бори против апликациите nudify, кои користат вештачка интелигенција за генерирање неовластени голи и експлицитни слики од познати личности, инфлуенсери и други.

Компанијата поднесе тужба против еден производител на апликации кој често ги рекламирал услугите на Facebook и Instagram и презема нови чекори за да спречи рекламирање на слични услуги.

Овој потег доаѓа неколку месеци откако истражувачите и новинарите изразија загриженост во врска со апликациите. Неодамнешна истрага на CBS News откри најмалку „неколку стотици“ реклами на платформите на Meta кои промовираат апликации што им овозможуваат на корисниците да „ја отстранат облеката“ од сликите на познати личности и други. Една таква апликација, наречена Crush AI, е особено активна во рекламирањето на Facebook и Instagram. Истражувачот Алексиос Манзарлис, директор на Иницијативата за безбедност, доверба и сигурност во Cornell Tech, во јануари објави дека Crush AI поставила повеќе од 8.000 реклами на платформите од минатата есен.

Сега, Meta вели дека поднела тужба против Joy Timeline HK Limited, компанијата со седиште во Хонг Конг која стои зад Crush AI и други слични апликации. „Ова следи по повеќекратни обиди на Joy Timeline HK Limited да го заобиколи процесот на преглед на рекламите на Meta и да продолжи да ги прикажува овие реклами, и покрај тоа што постојано се отстрануваат поради кршење на нашите политики“, соопшти компанијата во блог пост.

Meta, исто така, вели дека презема нови чекори за да спречи огласување на овие типови реклами на нејзината платформа. „Развивме нова технологија специјално дизајнирана да ги идентификува овие типови реклами – дури и кога самите реклами не содржат голотија – и користиме технологија за препознавање за побрзо пронаоѓање и отстранување копии од овие реклами“, рече Meta. „Со работа со надворешни експерти и наши специјализирани тимови, го проширивме списокот на термини, фрази и емотикони поврзани со безбедноста што нашите системи учат да ги препознаваат во овие реклами“. Компанијата, исто така, вели дека планира да соработува со други технолошки платформи, вклучително и сопственици на продавници за апликации, за да споделува релевантни информации за субјекти кои ја злоупотребуваат нејзината платформа.

Апликациите што прикажуваат други без облека не се единствените што ја злоупотребиле рекламната платформа на Meta користејќи длабока лажна содржина со познати личности. Meta, исто така, се бори со сомнителни огласувачи кои користат видеа од познати личности манипулирани со вештачка интелигенција за да промовираат измами. Независниот Надзорен одбор на компанијата, кој се занимава со проблеми со модерирање на содржини на Facebook и Instagram, неодамна ја критикуваше Meta за лошото спроведување на правилата што ги забрануваат ваквите реклами.