ИИ удалось вскрыть скрытые рассуждения других моделей и найти секреты

Исследователи показали, что внутренние «черновики мыслей» у продвинутых ИИ-моделей можно прочитать через отдельную атаку, не взламывая сам сервис напрямую. В этих скрытых ответах они обнаружили чужие ключи, пароли и токены, которые пользователи могли не заметить.

Что произошло

Команда исследователей протестировала методы на моделях крупных ИИ-провайдеров и выяснила: внутренние рассуждения, которые обычно остаются скрытыми от пользователя, можно извлечь целиком и дословно. Иными словами, модель может «подсказать» не только полезный ответ, но и выдать промежуточные шаги, которые провайдеры стараются не показывать.

Это важно не только для специалистов по безопасности. Если подобные цепочки рассуждений содержат конфиденциальные данные, то риск появляется и у обычных пользователей, и у компаний, которые используют ИИ для работы с документами, кодом, перепиской или внутренними знаниями.

Почему это опасно для бизнеса и пользователей

Самая практическая проблема — утечка секретов, которые могли случайно попасть в публичные репозитории или внутренние материалы. В исследовании авторы нашли множество чувствительных данных: от API-ключей до паролей и токенов доступа. Для владельца это означает риск взлома сервисов, утечки данных и финансовых потерь.

Для бизнеса вывод простой: ИИ нельзя считать «безопасной коробкой», куда можно без проверки загружать всё подряд. Нужны правила — что можно отправлять в модель, кто имеет доступ к истории запросов, как проверяются ответы и как быстро отзываются ключи, если они утекли.

Что делать уже сейчас

Пользователям и командам стоит осторожнее обращаться с секретами в промптах, переписке и загружаемых файлах. Если вы работаете с кодом или документами, полезно заранее очищать материалы от паролей, токенов и приватных ссылок.

Тем, кто использует ИИ в работе, стоит воспринимать такие новости как напоминание: ценность ИИ не только в скорости, но и в дисциплине. Чем аккуратнее вы организуете процесс, тем безопаснее будет пользоваться даже самыми мощными моделями. Для регулярных задач удобно выбирать сервисы, где уже есть понятные настройки приватности и защиты данных.

Частые вопросы

Можно ли теперь доверять ИИ-сервисам свои данные?

Можно, но не бездумно. Важно понимать, какие данные вы отправляете, как сервис их хранит и есть ли у него настройки приватности и защиты.

Значит ли это, что любую модель можно легко взломать?

Не обязательно. Речь идет о специальной атаке на скрытые рассуждения, а не о простом «взломе кнопкой». Но сам факт уязвимости показывает, что защита нужна серьезная.

Что делать компаниям в первую очередь?

Проверить, не попадают ли в ИИ-запросы ключи, пароли и внутренние документы, и настроить правила работы с такими данными.