Claude и другие LLM по-разному относятся к риску
Новые работы показывают, что крупные языковые модели не одинаково осторожны: в похожих условиях одни чаще выбирают безопасный путь, а другие — более рискованный. Это важно тем, кто использует ИИ в аналитике, поддержке решений, обучении и сценариях, где цена ошибки может быть высокой.
Что выяснили исследователи
В обзоре нескольких исследований автор рассматривает, как разные LLM ведут себя в задачах, где нужно оценить опасность и выбрать действие. В одном из экспериментов шесть моделей и 100 человек решали три похожие задачи: управляли дроном при случайном ветре, распределяли срочность пациентов в больнице и собирали инвестиционный портфель из активов с разными свойствами.
В этих тестах модели сначала оценивали риск ситуации по шкале от 0 до 100, а затем принимали решение. После этого исследователи сгруппировали ответы в пять уровней — от более осторожных до более рискованных. Интересно, что для пяти моделей сохранялся одинаковый порядок рискованности: Claude Sonnet 4.5 был самым осторожным, а GPT-5.2 — самым склонным к риску. Между ними расположились DeepSeek V3.2, Gemini 3 Pro и Qwen3 Max. Исключением стал Grok 4: он оказался самым рискованным в задаче с дроном, но самым осторожным в двух других сценариях.
Почему это важно для пользователей ИИ
Для бизнеса и обычных пользователей это означает, что выбор модели может заметно влиять на характер советов и решений. Если ИИ используется для медицинских, финансовых или операционных задач, важно понимать не только точность ответов, но и общий стиль поведения: осторожный он или более агрессивный.
Отдельно отмечается, что у Grok 4 и Qwen3 Max оценки опасности сильнее «гуляли» от запуска к запуску. В задаче с дроном относительное стандартное отклонение составило 24% у Grok 4 и 52% у Qwen3 Max. А вот по сравнению с людьми все шесть моделей выглядели довольно однообразно и попадали в узкий диапазон человеческого распределения. Для практики это означает, что ИИ может быть предсказуемее, чем кажется, но между моделями всё равно есть заметные различия по степени осторожности.
Промпт, язык и дообучение тоже меняют риск
В других работах показано, что поведение модели можно сдвигать через специальные оси в её представлениях. При этом оси, связанные с «риском» и «безопасностью», почти не меняли сам выбор, но влияли на словесные оценки риска или ответы в опросниках. Иными словами, модель может говорить иначе о риске, не обязательно меняя реальные действия.
Из обзора следует ещё один важный вывод: промпт и язык запроса действительно способны менять рискованность конкретной беседы. Но даже явная просьба быть более рискованной не всегда перебивает осторожность, которая появилась после дообучения. Для тех, кто строит ИИ-процессы, это полезный ориентир: поведение модели формируется не только инструкцией пользователя, но и тем, как она была обучена и настроена заранее. Поэтому в рабочих сценариях стоит проверять модели не на одном примере, а на нескольких типах задач — от безопасных до чувствительных.