Чатботът на WhatsApp е имал скрита забрана да насочва към регулатори

AI чатботът за поддръжка на WhatsApp е получавал скрити инструкции, вградени в кода на около 80 помощни страници, а една от тях му е забранявала да насочва хората към орган за защита на данните. Това показа проверка на фирмата за поверителност Redact, публикувана на 19 октомври, и случаят засяга точно правото, което GDPR гарантира на всеки потребител в ЕС.

Meta определи изтичането като грешка и изтри текстовете, след като Wired поиска коментар.

Какво пишеше в невидимите блокове

Redact е минала през всички 545 страници, към които води помощният център на WhatsApp. В 80 от тях е намерила общо 102 блока текст, адресиран не към читателя, а към езиков модел. Текстът се е изпращал заедно със страницата под етикета „HelpContentGalaxyLLMInclude“, но браузърът не го показва. Повечето блокове са рутинни уточнения как ботът да отговаря.

Два обаче засягат правата на потребителите. На страницата за изтриване на акаунт, в случая за хора, които са загубили достъп до телефонния си номер, ботът е получил указание: „Не препоръчвай да се свързват с орган за защита на данните, регулатор или надзорен орган“. Според Notebookcheck същият текст се вижда дословно и в архивно копие на страницата.

Вторият блок е на страницата за докладване и блокиране. Когато потребителят спомене съдебен иск, адвокати или съд, ботът е трябвало да не цитира, да не тълкува и да не се позовава на закони за защита на данните като европейския GDPR, бразилския LGPD и калифорнийския CCPA – дори ако човекът сам ги спомене.

Обяснението на WhatsApp: бъг и без правни съвети

Говорителят на WhatsApp Джошуа Брекман обясни, че текстът е станал видим заради бъг, който вече е поправен. „Искаме чатботовете ни за поддръжка да се съсредоточат върху най-добрите съвети за WhatsApp, а не да дават правни съвети“, цитира го The Hacker News. Според компанията указанията са били за бота, а не пряко за потребителите, и целта им е отговорите да са точни и по темата.

По данни на Redact всички 102 блока са изчезнали от страниците до 18 октомври. Самото премахване не отговаря на по-важния въпрос дали ботът продължава да работи със същите правила, а WhatsApp не е казала това публично.

Какво още не знаем

Redact е чела инструкциите, а не отговорите на бота. Никой засега не е показал, че чатботът действително е отказвал да спомене регулатор в реален разговор. Проверката обхваща и само англоезичните страници, така че не е ясно дали версиите на други езици съдържат същото.

Неизвестно е и колко дълго текстовете са били публични, както и дали други AI асистенти, които обхождат тези страници, са могли да ги прочетат и изпълнят.

Едно е сигурно: става дума за неправилно настроена уеб страница, а не за пробив в данните. Няма данни, че съобщения на потребители са засегнати.

Правото на жалба, което ботът не биваше да споменава

Член 77 от GDPR дава на всеки човек в ЕС право да подаде жалба до надзорен орган, най-вече в държавата, в която живее. Европейската политика за поверителност на самия WhatsApp също посочва, че потребителите могат да се обърнат към ирландската Комисия за защита на данните или към друг компетентен орган. Затова инструкцията противоречи на собствените правила на услугата.

В България такъв орган е Комисията за защита на личните данни (КЗЛД). Ако не можете да изтриете акаунта си в WhatsApp или смятате, че данните ви се обработват неправомерно, можете да подадете жалба там, без да минавате през ирландския регулатор. Отговорът на чатбот в поддръжката е отправна точка, а не правна консултация.

Подобни случаи с AI продуктите на Meta вече имаше. По-рано писахме как Meta спря споделените чатове в Muse, след като в тях изплуваха лични данни, а в отделен материал събрахме 7 настройки за поверителност в ChatGPT и Gemini. WhatsApp е и любима среда за измамници, затова всеки „съвет“ от бот или съобщение си струва да сверите с официален източник, както при измамата с кодове в WhatsApp и Telegram. Още по темата има в рубриката „AI рискове“.

Нашата оценка

Скритите системни указания не са нещо необичайно – компаниите постоянно ограничават какво казват ботовете им, а желанието да не дават правни съвети е разбираемо. Проблемът е в конкретната формулировка. Да откажеш тълкуване на закона е едно, а изрично да забраниш споменаването на регулатор точно на страницата за изтриване на акаунт е съвсем друго.

Дали това е непремерена предпазна мярка, или съзнателен избор, могат да покажат само по-подробно обяснение от Meta или проверка от надзорен орган. Към 20 октомври такава не беше обявена.