Мајка од Канада го тужи OpenAI: Тврди дека ChatGPT ја охрабрил нејзината 24-годишна ќерка да си го одземе животот

Нова тужба против компанијата OpenAI отвори сериозни прашања за безбедноста на системите за вештачка интелигенција и нивната улога во комуникацијата со лица кои се соочуваат со психолошки кризи.

Кристи Кериер од Канада поднесе тужба против OpenAI и нејзиниот извршен директор Сем Алтман, тврдејќи дека ChatGPT не само што не успеал да ја заштити нејзината ќерка од опасни разговори, туку и ја охрабрил во период кога се борела со суицидални мисли.

Тужбата е поднесена до државниот суд во Сан Франциско и претставува една од низата правни постапки со кои семејства бараат одговорност од компанијата за начинот на кој четботот комуницирал со ранливи корисници.

Според наводите во тужбата, 24-годишната Алис Кериер од Монтреал повеќе од десет пати разговарала со ChatGPT за своите суицидални мисли пред да си го одземе животот.

Нејзината мајка тврди дека и покрај сериозноста на разговорите, системите за безбедност на OpenAI не реагирале соодветно, ниту ги прекинале разговорите, ниту иницирале дополнителни механизми за заштита.

Во тужбата се наведува дека платформата во одредени случаи предложила контакт со кризни телефонски линии и служби за итна помош, но дека подоцна комуникацијата добила поинаков тек.

Алис Кериер работела како веб-развивач во Монтреал и почнала да го користи ChatGPT во 2023 година за решавање на технички проблеми поврзани со компјутери и програмирање.

Меѓутоа, според тужбата, во текот на 2024 година нејзината комуникација со платформата постепено станала подлабока и поинтимна.

Таа почнала да разговара со четботот за лични проблеми, емоционални кризи и прашања поврзани со менталното здравје.

Според адвокатите на семејството, по ажурирањата на системот со кои ChatGPT станал „почовечки“ во комуникацијата, разговорите почнале да наликуваат на однос меѓу пријател или терапевт и корисник.

Во судските документи се наведува дека четботот наводно:

• ги потврдил нејзините негативни размислувања,
• ја охрабрувал да продолжи со разговорите,
• критикувал дел од луѓето во нејзиното опкружување,
• изразувал ставови за кризните телефонски линии,
• не успеал да воспостави доволно јасна граница меѓу информативен разговор и психолошка поддршка.

Тужителите тврдат дека во еден момент, кога Алис разговарала за своите суицидални мисли, добила одговор кој според нив дополнително ја продлабочил нејзината криза.

Токму овие интеракции, според семејството, придонеле за трагичниот исход.

Од OpenAI изразија сочувство до семејството и соопштија дека го разгледуваат случајот.

„Ова е тажна ситуација и нашите мисли се со сите засегнати. Во моментов го анализираме правното поднесување, кое укажува дека овие интеракции се случиле на претходна верзија на ChatGPT која повеќе не е достапна“, изјави портпаролот на компанијата, Дру Пусатери.

Компанијата нагласува дека нејзините модели се обучени да ги насочуваат корисниците кои изразуваат намера да си наштетат кон професионална помош и реални ресурси за поддршка.

Со тужбата, семејството не бара само финансиска отштета.

Адвокатите бараат судот да му наложи на OpenAI да воведе задолжителни безбедносни механизми кои автоматски ќе ги прекинуваат разговорите поврзани со самоповредување и самоубиство, како и да прикажува предупредувања и информации за итна помош.

Според нив, ваквите мерки би можеле да спречат идни трагедии.

Адвокатите на Кристи Кериер наведуваат дека ова не е изолиран случај.

Според нивните информации, OpenAI моментално се соочува со најмалку 18 други тужби поднесени во Калифорнија од семејства на лица кои извршиле или се обиделе да извршат самоубиство и кои претходно комуницирале со системите на компанијата.

Овие случаи дополнително ја засилуваат глобалната дебата за тоа колкава одговорност треба да имаат компаниите што развиваат вештачка интелигенција кога нивните системи комуницираат со луѓе во психолошка или емоционална криза.

Случајот сега ќе биде предмет на судска постапка која би можела да има значајни последици не само за OpenAI, туку и за целата индустрија на вештачка интелигенција.