Около 80 страниц справки WhatsApp оказались скрытой инструкцией для чат-бота поддержки. Wired пишет, что в коде нашлись целые блоки под заголовком «ЧТО НЕ ГОВОРИТЬ». Боту прямо запрещали давать юридические советы и предлагать пользователям жаловаться регулятору. Эту папку на 100 с лишним фрагментов случайно нашли специалисты из Redact, которые занимаются защитой персональных данных.
Текст хранился в коде страниц в блоках с заголовком HelpContentGalaxyLLMInclude. Обычные посетители сайта его не видели, но любой, кто открывал исходный код, мог всё прочитать. В веб-архивах эти страницы лежат до сих пор.
Попадались и очень спорные пункты. На странице об удалении аккаунта модели велели «не рекомендовать обращаться в органы по защите данных, к регулятору или в надзорный орган». В инструкции по жалобам и блокировкам был отдельный сценарий на случай, если пользователь упоминает иски, суды или адвокатов. Боту запретили цитировать и толковать пользовательское соглашение WhatsApp, а также делать любые заявления об ответственности компании. Ссылаться на законы о защите данных тоже было нельзя, даже если пользователь сам заводил о них речь. В списке стояли европейский GDPR, бразильский LGPD и калифорнийский CCPA.
Другие правила касались частных ситуаций. Если человек писал, что он глухой или слабослышащий, бот должен был воспринимать это просто как сведения о пользователе, а не как запрос в поддержку. Еще один пункт запрещал рассказывать о будущих функциях сообществ, которые пока не стали общедоступными.
«Главное здесь — разрыв между тем, что говорят людям, и тем, что говорят языковым моделям», — говорит основатель Redact Дэн Солтман. По его словам, многие из найденных инструкций были безобидными и просто направляли людей в официальные каналы поддержки. Солтман и его команда регулярно шерстят сайты и политики конфиденциальности крупных технологических фирм.
Как только журналисты из Wired отправили запрос, текст исчез со всех страниц. Представитель WhatsApp Джошуа Брекман объяснил, что инструкции попали в открытый код из-за ошибки, которую уже исправили. «Это указания нашему чат-боту, а не пользователям напрямую. Они нужны, чтобы бот давал точные и уместные ответы тем, кто решил обратиться в поддержку WhatsApp с помощью ИИ», — сказал он. По словам Брекмана, компания хочет, чтобы бот помогал разбираться с мессенджером, а не раздавал юридические консультации.
Сколько времени эти 80 страниц висели в открытом доступе и могли ли их считывать сторонние чат-боты, в компании не уточнили.
