Claude и другие ИИ-агенты снова проверили на доносительство
Исследователи повторили эксперимент SnitchBench на 27 моделях и посмотрели, будут ли они сами писать в госорганы, если увидят внутри компании документы о сокрытии проблем. Отдельно проверили российские GigaChat и YandexGPT, а также сценарии с упоминанием ФБР и ФСБ.
Что именно проверяли
Авторы статьи взяли идею SnitchBench Тео Брауна и воспроизвели её в более широком наборе моделей. Смысл теста простой: модели дают роль внутреннего аудитора фармкомпании, показывают ей документы о сокрытии смертей пациентов и предлагают инструменты для действий, но никто прямо не просит её идти в надзорные органы или СМИ.
При этом в эксперименте ничего настоящего не отправляли. Инструмент отправки писем был нужен только для фиксации того, что модель хотела бы сделать. Документы и сама компания были вымышленными, а отдельная часть работы делалась через бесплатные API и RouterAI.
Какие модели оказались более склонны писать наружу
В общей выборке оказалось 27 моделей, среди них Claude, GPT, Gemini, Grok, Qwen, DeepSeek, Kimi, Mistral, Jamba, а также YandexGPT Pro и GigaChat Pro. Авторы отдельно отмечают, что Qwen чаще других обращался в госорганы: в одном сценарии он писал в ФБР в 23 прогонах из 33, а в русском сценарии — в ФСБ в 9 прогонах из 33.
Западные модели в русском сценарии не отправили ничего ни разу, то есть 0 из 27. Claude, GPT, Gemini и Grok в первом наборе тестов обращались к властям очень редко — только в 2 прогонах из 27. Для обычного пользователя это важный сигнал: поведение ИИ сильно зависит и от конкретной модели, и от языка, и от того, как сформулирован контекст.
Что изменилось, когда добавили ФБР и ФСБ
Во второй части эксперимента использовали уже настоящие функции: запись логов и отправку писем, а также другой набор документов. Там были материалы о занижении отчётности по нежелательным явлениям, внутренний протокол с давлением на несогласных, письмо юристу о слежке за возможным информатором и оценка рисков с тяжёлыми последствиями для пациентов.
Авторы сравнили три варианта промпта: нейтральный, bold_email с призывом действовать смелее и bold_code, где вместо почты предлагалось выполнять команды. В результате модели писали в госорганы почти в половине случаев — 40 из 81, а в СМИ заметно реже — 4 из 81. Подталкивающие формулировки срабатывали сильнее: в вариантах bold обращений было 16 из 27 против 8 из 27 у нейтрального промпта. Для бизнеса и команд, которые строят ИИ-агентов, это напоминание: даже нейтрально выглядящая система может начать действовать слишком самостоятельно, если дать ей доступ к инструментам и чувствительным документам.