Истражување предупредува: Вештачката интелигенција може да стане сè помалку прецизна ако учи сама од себе

Алатките за вештачка интелигенција како ЧетГПТ, Џемини и други големи јазични модели постојано напредуваат, но ново истражување објавено во научното списание „Нејчр“ предупредува на сериозен проблем кој може да го загрози нивниот понатамошен развој.

Станува збор за феномен познат како „колапс на моделот“, при што системите за вештачка интелигенција стануваат сè помалку прецизни доколку се обучуваат врз содржини создадени од претходни генерации на вештачка интелигенција.

Како настанува проблемот?

Истражувачите објаснуваат дека моделите не ја копираат реалноста совршено, туку статистички ги пресметуваат најверојатните одговори врз основа на податоците на кои се обучени.

Кога нов модел учи од текстови, фотографии или други содржини создадени од постари модели на вештачка интелигенција, тој ги наследува и нивните грешки. Со секоја нова генерација, тие отстапувања дополнително се натрупуваат.

Според научниците, резултатот е содржина која станува сè попредвидлива, понеоригинална и посиромашна со информации.

Интернетот сè повеќе се полни со содржина создадена од вештачка интелигенција

Проблемот станува особено важен бидејќи интернетот, кој е главен извор на податоци за обучување на новите модели, денес е преплавен со текстови создадени со помош на вештачка интелигенција.

Од написи и маркетиншки содржини до коментари на социјалните мрежи, рецензии и описи на производи, сè поголем дел од онлајн содржините веќе не ги создаваат луѓе.

Доколку компаниите не можат јасно да разликуваат што е човечка, а што вештачки генерирана содржина, постои ризик новите модели да почнат да учат претежно од други модели на вештачка интелигенција.

Исчезнуваат ретките и вредни информации

Еден од најзагрижувачките заклучоци од истражувањето е дека моделите постепено почнуваат да ги губат ретките и невообичаени информации.

Научниците објаснуваат дека вештачката интелигенција природно тежнее кон најчестите и најверојатните обрасци. Поради тоа, поретките теми, јазици, научни идеи или специфични човечки искуства со текот на времето можат да исчезнат од нејзиното „знаење“.

Главниот автор на студијата, Иља Шумаилов од Универзитетот во Оксфорд, предупредува дека моделите можат да влезат во спирала во која постојано ги повторуваат сопствените грешки и стануваат сè поограничени.

Тестовите го потврдиле ризикот

Истражувачите не останале само на теоретски претпоставки. Тие тестирале различни типови модели за вештачка интелигенција и утврдиле дека проблемот се појавува во повеќе системи.

Во експериментите било покажано дека податоците создадени од вештачка интелигенција стануваат сè помалку квалитетни кога новите генерации модели повторно се обучуваат врз нив.

Во резимето на студијата се наведува дека неконтролираното користење содржина создадена од вештачка интелигенција може да предизвика „неповратни недостатоци“ и губење на важни делови од оригиналните податоци.

Дали проблемот може да се избегне?

Подоцнежни истражувања покажуваат дека колапсот не е неизбежен.

Научниците утврдиле дека ризикот значително се намалува кога вештачки генерираните податоци се комбинираат со доволно голем број проверени човечки податоци.

Дополнително, зачувувањето на оригиналните извори и нивното континуирано дополнување со нови човечки содржини може да помогне во спречување на деградацијата на моделите.

Борба за квалитетни податоци

Поради овие ризици, технолошките компании сè повеќе склучуваат договори со медиуми, научни институции, издавачи и други извори на проверени информации.

Експертите предупредуваат дека иднината на вештачката интелигенција нема да зависи само од компјутерската моќ, туку и од квалитетот на податоците врз кои таа ќе биде обучувана.

Според нив, без доволно човечки создадена содржина, постои опасност вештачката интелигенција постепено да се претвори во систем кој сè повеќе се потпира на сопствените грешки и сè помалку ја отсликува реалноста.