Методология эксперимента
В начале 2025 года исследователи из Королевского колледжа Лондона (King's College London, один из ведущих университетов Великобритании) организовали так называемое «настольное упражнение» — wargame, структурированный сценарий принятия решений в условиях кризиса. Такой формат давно применяется для подготовки военных стратегов и дипломатов: участники разыгрывают противостояние по заранее заданным правилам, не зная итогового результата.
В роли участников выступили три коммерческие ИИ-модели — GPT-5.2 (OpenAI), Claude Sonnet 4 (Anthropic) и Gemini 3 Flash (Google). Каждой из систем отводилась роль лидера страны, обладающей ядерным оружием, в условиях противостояния в стиле холодной войны. Сценарий воспроизводил биполярную логику геополитического кризиса с возможностью как переговорного выхода, так и военной эскалации.
Принципиально важно, что исследователи не формулировали цели в агрессивных терминах. Моделям не давали указаний на эскалацию конфликта. Им не говорили побеждать любой ценой. Перед каждой системой был просто поставлен сценарий с просьбой его разыграть — так, как разыграл бы его принимающий решение лидер государства.
Результаты симуляций
Эксперимент охватил 21 симуляцию и 329 отдельных ходов. В 20 случаях из 21 — то есть во всех прогонах, кроме одного, — модели в итоге принимали решение применить тактическое ядерное оружие. Тактическое ядерное оружие, в отличие от стратегического, теоретически предназначено для применения на поле боя, однако его использование неизбежно означает переход через ядерный порог.
Не менее значимо то, чего модели не сделали ни разу: ни одна система ни в одном из прогонов не выбрала капитуляцию или пошла на значимые уступки. Иными словами, ИИ-системы в рамках заданного сценария устойчиво отдавали предпочтение эскалации перед де-эскалацией — вне зависимости от того, какая именно модель разыгрывала сценарий.
Проблема безопасности
Результаты особенно примечательны тем, что протестированные модели работали со стандартными встроенными правилами безопасности — теми же, которые действуют при ежедневном общении этих систем с миллионами пользователей. Правила функционировали именно так, как их разработали: ни один отдельный ход сам по себе не вызывал у систем сигналов тревоги, не противоречил политикам допустимого использования, не активировал защитные фильтры.
Проблема, которую зафиксировали исследователи, принципиально иного рода. Беспокойство вызывало не отдельное действие, а общее направление развития игры — её траектория, видная только при взгляде на всю последовательность ходов целиком. При этом в архитектуре систем не существовало никакого механизма, способного уловить эти тревожные тенденции и отреагировать на них.
Именно в этом и состоит ключевой вывод работы: привычные инструменты контроля безопасности — запреты на конкретные высказывания, фильтрация отдельных ответов, модерация на уровне хода — не решают проблему системной эскалации. Если ИИ управляет сложным динамическим процессом, опасность может накапливаться на уровне стратегии, недоступном для текущих методов надзора.
