Тврдењата на компанијата Anthropic за заштита на приватноста сега се „многу потешки за прифаќање“.


Anthropic, компанија која се претставува како морален центар на AI индустријата, е фатена како ги шпионира своите корисници.

Според Ars Technica, истражувач за безбедност неодамна открил код сличен на шпионски софтвер (spyware) во нивниот AI модел, Claude Code. Кодот бил дизајниран тивко да собира податоци за корисниците во Кина.

Истражувачот, познат под псевдонимот „Theerallo“, открил дека овој код бил скриен во системско барање за вештачка интелигенција. Ова му овозможило да ја следи временската зона на системот на корисникот и употребата на прокси серверот за да утврди дали корисниците се поврзани со одредени кинески AI лаборатории.

Објаснувањето на Anthropic за ова масовно кршење на довербата остави многу простор. На платформата X, инженерот на Anthropic, Тарик Шихипа, напишал дека тракерот бил додаден како „експеримент“ во март „за да се спречи злоупотреба на сметката од страна на неовластени препродавачи и да се заштити од дестилација“ и дека требало да биде отстранет одамна.

„Всушност, веќе некое време планираме да го отстраниме ова“, понуди тој оправдување.

Дестилацијата е процес на обука на послаб модел („студентот“) врз основа на резултатите од понапреден модел („наставникот“). Тоа е вообичаена практика во индустријата, но водечките развивачи на вештачка интелигенција сè повеќе ја сметаат за злоупотреба од страна на нови компании кои сакаат да профитираат од напорите на некој друг.

Порано оваа година, Anthropic ги обвини кинеските компании за вештачка интелигенција DeepSeek, Moonshot и MiniMax за нелегално дестилирање на нивните модели. Ова е прилично ироничен испад, со оглед на тоа како Anthropic ја обучи својата технологија на прво место: со скенирање и „џвакање“ на милиони книги заштитени со авторски права, како и практично на целиот интернет, без никаква дозвола.

Неодамнешен извештај на The Washington Post, исто така, откри дека некои кинески препродавачи продаваат пристап до претплати на Claude Pro – кои чинат повеќе од 100 долари месечно во САД – за околу 12 долари месечно.

Во овој конкретен случај, собраните податоци не беа премногу инвазивни – но во принцип, границата беше премината.

„AI агентите за кодирање веќе живеат на погрешната страна од опасната линија“, напиша Тереало во својот пост за наодите. „Тие можат да прегледаат код, случајно да сумираат чувствителни податоци, да извршуваат команди, да инсталираат пакети, да менуваат датотеки и да вршат промени на вашата локална машина.“

Но, „криењето сигнали во системско барање го прави секое друго тврдење за приватност помалку веродостојно“, додаде истражувачот.

„Компаниите имаат право да ги заштитат своите модели“, јасно стави до знаење тој. „Но, кога алатка има пристап до системот датотеки и командната линија (shell) почнува да крие битови за класификација во невидлива интерпункција во барањата, вистинскиот одговор е темелна истрага.“