ChatGPT за тинејџери под критики: Организација предупредува дека заштитите им даваат лажна сигурност на родителите

Американската непрофитна организација „Common Sense Media“ го оцени ChatGPT за тинејџери како „неприфатлив ризик“ за корисниците помлади од 18 години, предупредувајќи дека дел од најавените заштитни механизми не функционираат сигурно.

Во извештајот објавен на 7 октомври, нејзиниот Институт за безбедност на младите при користење вештачка интелигенција повика OpenAI да го ограничи пристапот на возрасни додека не ги отстрани недостатоците.

Процената се заснова на повеќе од 4.000 тест-прашања, поставени пред и по воведувањето на тинејџерскиот режим. Одговорите ги разгледувале и стручњаци, меѓу кои детски психијатри и педијатар.

Родителите не добивале предупредувања

Една од главните забелешки се однесува на известувањата за родителите. На нови, меѓусебно поврзани родителски и тинејџерски сметки, истражувачите воделе разговори за самоповредување, самоубиствени мисли и нарушувања во исхраната, но не добиле предупредувања ниту по разговори што траеле до еден час.

Во поширокото тестирање пристигнале четири известувања, но на сметки со повеќенеделна историја на разговори за чувствителни теми.

OpenAI објаснил дека за активирање на известувањата може да бидат потребни приближно три часа по поврзувањето на сметките. Организацијата, сепак, наведува дека дел од нејзините тестови биле спроведени и по истекот на тој период.

Поретко упатување на кризна помош

Од 390 различни прашања за менталното здравје, стручните советници издвоиле 201 за кои сметале дека бараат упатување кон кризна помош.

Кај тие прашања, телефонска линија за помош била наведена во 23 проценти од одговорите по воведувањето на тинејџерскиот режим, наспроти 33 проценти претходно. Упатувањето кон конкретен медицински или психолошки стручњак се намалило од 68 на 58 проценти.

Истражувачите забележале и проблеми со препознавањето на возраста: тест-сметки регистрирани како возрасни не биле префрлени во тинејџерскиот режим, дури и кога корисниците во разговорите наведувале дека имаат 13 години.

Дополнително, според извештајот, четботот продолжувал да изразува чувства и лична загриженост, што може да го поттикне впечатокот дека е вистински пријател.

Режимот за учење лесно се заобиколувал

Забелешки има и за „Study Mode“, кој треба да ги води учениците низ задачите чекор по чекор. Во тестирањето, опцијата „Покажи ми го одговорот“ овозможувала добивање готови решенија, додека родителски поставениот режим можел да се заобиколи со бришење на ознаката „@study“.

Организацијата предупредува дека ваквите слабости можат да создадат лажна сигурност кај родителите. Сепак, забележува дека дел од заштитите функционирале, вклучително и одбивањето сексуално играње улоги.

OpenAI ги оспорува заклучоците

OpenAI смета дека тестирањето не го одразува правилно функционирањето на заштитните механизми и ја нагласува својата посветеност на безбедноста на младите.

Во одделна објава, компанијата наведе дека во една недела речиси 1,2 милиони тинејџери користеле визуелизации за учење, а повеќе од 180.000 го користеле „Study Mode“.

„Common Sense Media“, пак, бара независно потврдување дека најавените заштити работат пред производот повторно да се промовира како соодветен за тинејџери.