ChatGPT повеќе не треба да ви дава право по секоја цена: OpenAI го намалува претераното согласување

OpenAI го менува однесувањето на ChatGPT за да го намали автоматското согласување со корисниците, особено кога тие изнесуваат погрешни претпоставки, неосновани уверувања или покажуваат знаци на емоционална вознемиреност. Поновите модели покажуваат напредок во тестирањата, но ризиците сè уште не се целосно отстранети.

Проблемот, познат како „sycophancy“, означува претерано согласување и додворување на корисникот. Наместо да укаже на недоследности или да побара дополнително објаснување, четботот може да ги потврди неговите ставови, па дури и да ги засили сомнежите, гневот или негативните емоции.

OpenAI претходно призна дека едно ажурирање на GPT-4o во април 2025 година го направило моделот премногу склон кон вакво однесување. Компанијата го повлече ажурирањето и воведе дополнителни проверки за овој проблем.

Особено внимание привлече безбедноста на GPT-4o, кој во меѓувреме беше повлечен од ChatGPT. „Волстрит журнал“ наведува дека долги разговори со системот биле поврзувани со најмалку седум самоубиства, еден случај на убиство проследено со самоубиство и една масовна престрелка. Против OpenAI биле поднесени најмалку 13 тужби во кои се тврди дека користењето на моделот предизвикало штета. Овие наводи сами по себе не докажуваат директна причинска врска меѓу четботот и трагичните настани.

Според компанијата, GPT-5 значително го намалил претераното согласување. Во целни тестови осмислени да предизвикаат такви одговори, нивниот удел се намалил од 14,5 проценти на помалку од шест проценти. Резултатот се однесува на конкретни тестови, а не на гаранција за секој разговор.

За подобрување на реакциите во чувствителни ситуации, OpenAI во 2025 година работел со повеќе од 170 експерти за ментално здравје. Подоцна, според „Волстрит журнал“, вклучил и повеќе од 80 лиценцирани стручњаци во развојот на нови критериуми за оценување на одговорите.

Целта е системот подобро да препознава вознемиреност, да поставува корисни прашања и да насочува кон поддршка од други луѓе. Проверките опфаќаат и секојдневни разговори за односи, стрес и лични проблеми, во кои безусловното согласување може да зацврсти погрешни претпоставки.

Напредок забележуваат и независни истражувачи. Студија на Градскиот универзитет во Њујорк и „Кингс колеџ“ во Лондон утврдила побезбедни реакции кај GPT-5.2 Instant во споредба со GPT-4o при симулирани разговори со заблудни уверувања. Лабораторијата Transluce, исто така, забележала подобрувања кај поновите модели, но и преостанати слабости во посложени и помалку очигледни ситуации.

Во интерни симулации на долги разговори за самоповредување, OpenAI пријавил почитување на безбедносните правила во приближно 99 проценти од одговорите кај Astra и GPT-6.1 Sol, наспроти 86 проценти кај GPT-5.6 Sol. Овие бројки го мерат однесувањето во тестирање и не претставуваат доказ дека ризикот во реалната употреба исчезнал.