Суть инициативы
OpenAI — американская исследовательская компания в области искусственного интеллекта, разработчик серии моделей GPT, — представила концепцию государственного регулирования передовых AI-систем в США.
Компания призывает к созданию федеральной регуляторной системы, которая устанавливала бы единые требования к наиболее мощным ИИ-системам на уровне всей страны — в противовес разрозненным инициативам отдельных штатов.
Три направления
Предложенная федеральная система охватывает три ключевых направления. Первое — безопасность (safety): снижение рисков, связанных с непредсказуемым или вредоносным поведением мощных моделей. Второе — устойчивость (resilience): способность AI-инфраструктуры сохранять работоспособность при сбоях, авариях и кибератаках. Третье — национальная безопасность: защита критических систем от враждебного использования технологий со стороны иностранных акторов.
Использование термина «демократическое» применительно к регулированию указывает на позицию OpenAI: нормы должны вырабатываться с участием гражданского общества и представительных институтов, а не диктоваться исключительно разработчиками или исполнительной властью.
Контекст
Инициатива появляется на фоне продолжающихся дискуссий в Конгрессе США о том, нужен ли единый федеральный закон об ИИ и каким ведомствам передать полномочия по надзору за отраслью. Отсутствие такого закона оставляет пространство для конкурирующих подходов: штаты принимают собственные нормы, а отраслевые игроки продвигают несовместимые между собой стандарты.
Выход с подобной концепцией от одного из ключевых разработчиков AI свидетельствует о готовности части индустрии принять федеральный надзор — при условии, что его архитектура будет формироваться совместно с самими компаниями. Для OpenAI, работающей в статусе исследовательской организации, участие в формировании регуляторной повестки позволяет влиять на правила прежде, чем они будут приняты в одностороннем порядке.
