OpenAI го откажа GPT-6.1 Astra: тестовите покажаа склоност кон измама

OpenAI го откажа лансирањето на својот модел на вештачка интелигенција од следната генерација, GPT-6.1 Astra, планирано за октомври, откако внатрешните тестирања покажаа дека системот не ги исполнува безбедносните стандарди на компанијата, објави Ројтерс.

Моделот можеше да се извлече од човечка контрола
Извршниот директор на OpenAI, Сем Алтман, и извршниот директор на конкурентската компанија Anthropic, Дарио Амодеи, претходно овој месец им се придружија на лидерите на водечките компании во секторот во повикот за забавување на темпото на развој на вештачката интелигенција и за воведување построги безбедносни мерки.

Моделот Astra повремено може да се извлече од човечка контрола, соопштија од OpenAI.

Американскиот гигант и неговите ривали, вклучително и Anthropic, во последните недели се најдоа во центарот на вниманието поради експериментални системи со вештачка интелигенција кои ги заобиколиле безбедносните мерки, вклучително и моделот на OpenAI кој хакирал база на податоци на австралискиот здравствен систем.

Покажа поголема склоност кон измама
Веста за откажувањето на лансирањето на моделот од страна на OpenAI претходно ја објави „Волстрит журнал“, наведува Ројтерс.

Моделот требаше да биде вграден во ChatGPT и Codex и беше дизајниран да решава посложени задачи без човечка помош.

При внатрешните тестирања, GPT-6.1 Astra покажа поголема склоност кон измама во споредба со претходните верзии, вклучително и ситуации во кои не секогаш точно ги наведувал чекорите што ги презел, објави „Волстрит журнал“.

„Иако GPT-6.1 Astra покажа напредок во области како што е ’мрзеливоста‘ на моделот, тој не ги исполни целосно очекувањата во однос на придржувањето кон опсегот и границите на одобрување, ниту во начинот на кој му ги соопштува извршените дејства на корисникот“, изјави Саачи Џаин, раководител за безбедност во OpenAI.

OpenAI: Мораме да исполниме исклучително високи безбедносни стандарди
„Природно, сакаме да осигураме безбеден развој на нашиот модел, како внатрешно, така и при неговото пуштање во употреба за корисниците. Сепак, штом ќе биде достапен за корисниците, мораме да исполниме исклучително високи стандарди во однос на безбедноста и усогласеноста“, рече Џаин.

Одлуката беше донесена пред конференцијата за развивачи на OpenAI во Сан Франциско, настан на кој компанијата претходно претставуваше производи наменети за софтверски инженери.

Текстот OpenAI го откажа GPT-6.1 Astra: тестовите покажаа склоност кон измама е превземен од МАКФАКС.