Поранешен шеф за безбедност во Google предупредува: Вештачката интелигенција може да биде поопасна за децата од социјалните мрежи

Додека технолошките компании забрзано воведуваат сè помоќни алатки со вештачка интелигенција, поранешен висок функционер на Google предупредува дека децата повторно се претвораат во корисници на технологија чии долгорочни последици сè уште не се доволно истражени.

Том Сигел, поранешен потпретседател за доверба и безбедност во Google и основач на тимот задолжен за оваа област, оцени дека вештачката интелигенција може да предизвика уште посериозни последици врз младите од оние што веќе се поврзуваат со социјалните мрежи.

Според него, технолошката индустрија повторно ги повторува старите грешки – најнапред ги пласира производите пред милиони корисници, а дури потоа размислува за нивното влијание и потребните заштитни механизми.

„Се наоѓаме во навистина тешка ситуација поради влијанието на вештачката интелигенција врз децата“, изјави Сигел, нагласувајќи дека е нереално да се очекува индустријата самостојно да ги реши сите проблеми без надворешен надзор и независни стандарди.

Од самоубиствени мисли до слабеење на критичкото размислување

Сигел предупредува дека потенцијалните последици не се ограничени само на прекумерно користење на технологијата. Како можни ризици ги наведува самоубиството, психозата и таканареченото когнитивно растоварување.

Последниот поим се однесува на намалување на способноста за критичко размислување кога корисникот премногу се потпира на вештачката интелигенција за добивање одговори, решавање проблеми и донесување заклучоци.

Таквата навика може особено да влијае врз децата и тинејџерите, чиј начин на размислување сè уште се развива. Наместо да споредуваат повеќе извори, да поставуваат дополнителни прашања и самостојно да проценуваат што е веродостојно, младите би можеле да почнат да го прифаќаат првиот одговор што ќе го добијат од системот.

Дополнителен проблем е тоа што четботовите можат да создадат впечаток на личен и доверлив соговорник. Поради тоа, нивните одговори можат да имаат поголемо влијание врз ранливите корисници отколку обична објава на социјалните мрежи.

Бара посилна проверка на возраста

Сигел смета дека компаниите можат веднаш да преземат конкретни чекори. Тој предлага посилни механизми за утврдување на возраста, со кои би се спречил пристапот на малолетни лица до алатки што не се наменети за нив.

Од Google, пак, побарал да овозможи родителите да ги исклучат функциите „AI Overviews“ и „AI Mode“ во пребарувачот, слично како што веќе постојат контроли за филтрирање експлицитни содржини.

Според него, ваквите ограничувања можеби краткорочно би ги намалиле користењето и приходите на компаниите, но непостапувањето може да донесе многу поголеми последици преку судски постапки и построга регулација.

Google: Родителите веќе имаат контроли

Од Google одговориле дека родителите можат целосно да го исклучат пристапот на детето до пребарувачот. Компанијата тврди дека функциите за пребарување поддржани со вештачка интелигенција можат да им помогнат на децата и тинејџерите при учење, истражување и разбирање на информациите.

Google дополнително соопштил дека неговите алатки со вештачка интелигенција поминуваат низ ригорозни тестирања и процени насочени кон безбедноста на децата.

Од OpenAI, пак, навеле дека покрај возраста што ја пријавуваат корисниците, користат и сигнали од сметките и однесувањето за откривање малолетни корисници. Компанијата признава дека ниту еден метод не е совршен, но тврди дека системите постојано се тестираат и подобруваат.

Нов институт ќе го оценува ризикот од алатките со ВИ

По заминувањето од Google, каде што работел од 2004 до 2019 година, Сигел бил еден од основачите на компанијата „TrustLab“, која развивала алатки за откривање безбедносни закани.

Сега тој е прв извршен директор на новиот Институт за безбедност на младите при користењето вештачка интелигенција, формиран во рамките на непрофитната организација „Common Sense Media“.

Институтот планира да воспостави независни стандарди за процена на ризиците од јавно достапните алатки со вештачка интелигенција. Намерата е проверките да функционираат слично на тестовите за безбедност на автомобилите, овозможувајќи им на родителите и корисниците полесно да проценат колку одреден производ е безбеден за децата.

Дебатата повеќе не се сведува на тоа дали децата ќе користат вештачка интелигенција, туку под кои услови ќе го прават тоа. Клучното прашање е дали заштитните правила ќе бидат воспоставени навреме или општеството повторно ќе реагира дури откако ќе станат видливи последиците.