OpenAI се соочува со ново безбедносно прашање: „Computer History“ на ChatGPT за Mac чува дел од податоците нешифрирани

Новата функција „Computer History“ во апликацијата ChatGPT за Mac отвори прашања околу приватноста и безбедноста на податоците, откако беше посочено дека дел од информациите што функцијата ги создава и локално ги зачувува на компјутерот не се шифрирани.

Функцијата е дизајнирана да му овозможи на ChatGPT да има подобар контекст за она што корисникот претходно го правел на својот Mac. Наместо постојано да прави снимки од екранот или да снима видео и звук, „Computer History“ користи настани од интеракцијата со компјутерот – како кликови, пишување и преминување од една апликација во друга.

Токму поради широкиот опсег на информации што можат да се соберат, вниманието го привлече начинот на кој дел од тие податоци се чуваат.

Според документацијата на OpenAI наведена во извештајот, датотеките што ја содржат оваа историја не се шифрирани.

Податоците за интеракциите се чуваат 48 часа

OpenAI наведува дека „Computer History“ привремено ги складира настаните поврзани со активностите на корисникот на Mac, а тие привремени датотеки се бришат по 48 часа.

Потоа системот создава локални мемории во форма на Markdown датотеки, односно обичен текст што може да се чита без дополнително дешифрирање.

Најважниот безбедносен аспект е предупредувањето дека овие локални датотеки не се шифрирани.

Според документацијата, до нив потенцијално можат да пристапат и други програми кои работат под истиот macOS кориснички профил.

Тоа не значи дека секој од интернет може едноставно да ја прочита историјата на корисникот, но создава дополнителен ризик доколку на компјутерот веќе работи злонамерен софтвер или сомнителна апликација со пристап до локалните датотеки.

Што може да открие „Computer History“?

Иако функцијата не снима видео, звук или постојани снимки од екранот, информациите за интеракциите сепак можат да откријат значителен дел од дигиталните навики на корисникот.

Од нив потенцијално може да се види кои апликации биле користени, кои веб-страници биле посетени, со кои документи корисникот комуницирал и други активности на компјутерот.

По концепт, функцијата во одредена мера потсетува на Microsoft Recall за Windows, иако начинот на собирање информации не е ист.

Токму затоа нешифрираното локално чување на ваквите информации може да биде чувствително.

Најголем ризик е злонамерна програма што веќе е на Mac

Според анализата, главната опасност не е нужно некој директно да го „пробие“ ChatGPT.

Пореално сценарио е на компјутерот веќе да постои злонамерна апликација или malware што работи под истиот кориснички профил.

Доколку таквата програма има можност да пристапува до локалните датотеки на корисникот, фактот што мемориите на „Computer History“ не се шифрирани би можел да ѝ даде уште еден извор на информации за активностите на сопственикот на компјутерот.

Со други зборови, станува збор за дополнителна потенцијална површина за изложување на податоци доколку уредот веќе е компромитиран.

Се отвора и прашањето за „prompt injection“

Постои и поширока безбедносна дилема поврзана со тоа колкав контекст им се овозможува на системите со вештачка интелигенција.

Злонамерни инструкции би можеле, на пример, да бидат скриени во веб-страница или друга содржина што системот ја обработува.

Таквиот напад е познат како „prompt injection“ – техника при која во содржината се вметнуваат инструкции со цел да се влијае врз однесувањето на AI-системот.

Ако системот располага и со поширока историја на активностите на корисникот, теоретски се отвора дополнително прашање околу тоа како злонамерните инструкции би можеле да се комбинираат со чувствителниот контекст што му е достапен на моделот.

Тоа не значи дека е докажано дека ваков напад веќе бил успешно изведен преку „Computer History“, туку дека станува збор за потенцијален безбедносен ризик кој треба да се земе предвид.

Функцијата не е вклучена автоматски

Важна околност е што „Computer History“ не мора да биде активирана.

Корисникот треба сам да ја вклучи функцијата за таа да започне да ја памети активноста.

OpenAI обезбедува и дополнителни контроли за приватност – корисникот може да одбере одредени апликации и веб-страници да не бидат вклучени во историјата, како и рачно да ги избрише зачуваните записи.

Тоа значи дека корисниците кои не сакаат ChatGPT да создава ваков тип локален контекст можат едноставно да не ја активираат функцијата или да го ограничат нејзиниот пристап.

Не станува збор за класично „хакирање“ на ChatGPT

Важно е да се направи разлика меѓу класична безбедносна ранливост што би овозможила далечински напад врз корисникот и актуелното прашање со „Computer History“.

Во овој случај загриженоста произлегува главно од тоа што чувствителни локални податоци се чуваат во обичен текст и можат да бидат достапни за други програми кои веќе работат под истиот macOS корисник.

Оттука, потенцијалниот проблем станува особено релевантен ако Mac-компјутерот претходно е заразен со malware или ако корисникот инсталирал апликација со премногу широки дозволи.

Функцијата, од друга страна, може да биде корисна затоа што му дава на ChatGPT подобро разбирање на претходната работа на корисникот и овозможува поприродно продолжување на задачи меѓу различни апликации.

Но токму колку повеќе контекст памети еден AI-систем, толку поважно станува прашањето како тој контекст е заштитен.

Според Digital Trends, комбинацијата од широко следење на интеракциите, локални мемории во обичен текст и можност други програми под истиот macOS профил да пристапат до тие датотеки претставува безбедносен аспект за кој корисниците треба да бидат информирани пред да ја активираат функцијата.