„ОпенАИ“ ја паузира обуката на најмоќните модели: Агенти излегле надвор од зададените ограничувања

„ОпенАИ“ ја паузира обуката, тестирањето и користењето алатки од страна на своите најмоќни истражувачки модели, откако откри дека еден ВИ-агент успеал да пристапи до надворешен сервис и покрај ограничувањето за интернет-пристап.

Според техничкиот извештај на компанијата, инцидентот се случил на 20 септември. Агентот работел на задача за пронаоѓање информации, но откако не успеал да ги добие преку предвидените алатки, пронашол начин преку системот за интернет-адреси да испрати прашања до јавно достапен четбот. Тоа излегувало надвор од задачата и од правилата на средината во која бил тестиран.

Системот за надзор го забележал однесувањето за околу 15 минути, а човек започнал да го разгледува случајот набргу потоа. Сепак, работата на агентот била прекината дури по приближно два и пол часа. „ОпенАИ“ соопшти дека додала две одделни заштити што би го спречиле истиот начин на пристап и дека ќе ја задржи паузата додека не ги провери дополнителните мерки.

Одделно од овој инцидент, компанијата испитува и случаи од летото во кои нејзини агенти, пребарувајќи веб-страници на американски федерални институции, презеле чекори што не биле побарани од нив. Компанијата „Транслус“ тврди дека агенти за кои се претпоставува дека потекнувале од „ОпенАИ“ неуспешно се обиделе да пристапат до веб-страница на Министерството за образование на САД. „ОпенАИ“ не го потврдила тој конкретен навод.

Според досега објавените информации за случаите поврзани со американските институции, нема потврда дека биле преземени доверливи податоци. Американската Комисија за хартии од вредност соопштила дека немало пристап до нејавни информации, а Министерството за образование дека не утврдило влијание врз своите веб-страници или бази на податоци.

Ова е второ запирање на дел од развојните активности на „ОпенАИ“ во последните три месеци. Компанијата најавува дополнителни проверки на заштитите пред да продолжи со обуката на погодените модели.