Момент выхода стандарта
Стандарт выходит на финальное утверждение в тот момент, когда производители домашних гуманоидных роботов переходят от лабораторных прототипов к продуктам для реальных домов, реальных сиделок и реальных семей. По словам Ли, важность документа выходит далеко за рамки геометрических параметров и порогов ударных нагрузок — он определяет, что считается приемлемым поведением робота в неупорядоченном мире повседневной жизни.
Предлагаемая редакция ISO 13482 охватывает идентификацию рисков, оценку угроз и различные сценарии использования. Сопутствующие руководства признают бесконтактные опасности — такие как непредсказуемость поведения робота и ошибочные автономные решения. Однако в документе по-прежнему нет количественных ограничений, методов испытаний и механизмов принуждения к исполнению — тех инструментов, которые могли бы адекватно отразить сложность взаимодействия человека и робота.
Безопасность как отношение, а не свойство машины
Ключевая инженерная проблема, по мнению Ли, состоит не в том, способен ли робот избегать столкновений или распознавать людей на своём пути. Более сложная проблема — двунаправленность взаимодействия человека и робота: робот меняет поведение человека, а человек меняет то, что робот воспринимает и делает в следующий момент. Безопасность, таким образом, — не фиксированное свойство машины; она возникает из отношений.
Именно поэтому инженеры не могут просто точнее задать операционные границы для робота. Ценность домашнего гуманоида заключается именно в работе в неконтролируемой среде. Робот, безопасный только в стандартизированных помещениях, только для здоровых взрослых, только при чётко определённых условиях, — не является домашним гуманоидом в полном смысле слова.
В промышленной робототехнике конструкторы, как правило, могут ограничить задачу, рабочее пространство и круг пользователей. В доме робот должен адаптироваться к пожилым жильцам, детям, гостям, домашним животным, беспорядку, тесным пространствам и непредсказуемому поведению людей. Это не граничные случаи — это и есть базовый сценарий. Сужение области применения по образцу заводских роботов сделает домашних роботов менее полезными, уничтожив их практический смысл.
Обучающие данные и системная природа риска
Отдельный аргумент Ли касается данных, на которых обучаются гуманоиды. По имеющимся сведениям, компании, формирующие обучающие наборы для таких роботов, направляют платных подрядчиков по всему миру — записывать выполнение бытовых задач в обычных условиях. Это означает, что роботы будут обучены на реальной вариативности жизни, а не на подготовленных лабораторных демонстрациях.
Следствие этого — проблема безопасности находится в области всей системы «человек — робот», а не в каком-либо отдельном компоненте. Стандарт, описывающий только характеристики машины, принципиально не охватывает риски, которые возникают именно из взаимодействия.
Пробел в управлении: кто задаёт норму
Техническое сообщество понимает двунаправленную связь, а система стандартов признаёт соответствующие угрозы, однако ни один действующий стандарт не преобразует эти знания в обязательные правила для автономии в бытовых условиях, — формулирует Ли. — Отсутствует способ задать безопасное поведение для всего диапазона человеческих состояний, с которыми робот фактически будет сталкиваться.
Не менее острый вопрос — кто вправе определять, какое поведение считается нормой. Чья походка задаёт исходную точку отсчёта? Чей порог риска признаётся приемлемым? Чьё определение безопасного суждения будет зафиксировано в требованиях? По мнению Ли, это ценностные, а не сугубо инженерные решения. Комитет по стандартам не может избежать выбора нормативной точки отсчёта — он может лишь решить, будет ли этот выбор явным и инклюзивным.
Люди, которых домашние гуманоиды затрагивают в первую очередь, систематически не представлены в рабочих группах, формирующих стандарт. В особенности это касается пожилых людей — основной целевой аудитории роботов ухода, — чьи паттерны движения и когнитивные состояния не отражены напрямую в процессе стандартизации.
Что поставлено на карту
Нынешняя редакция признаёт наиболее сложные проблемы, но переносит нерешённые вопросы в рекомендательные формулировки, необязательные руководства или область будущих пересмотров. Это может быть полезно, однако откладывает ответ на главный вопрос: что считать безопасным реляционным поведением в доме?
Риск бездействия не исчерпывается физическими травмами, хотя это наиболее очевидная угроза. Более глубокий риск, по словам Ли, состоит в том, что предположения о безопасности будут встроены в продукты и стандарты прежде, чем рынок, регуляторы и пользователи получат возможность их оспорить. После того как паттерны развёртывания закрепятся, пересмотреть исходные допущения станет значительно сложнее.
Инженерам в составе органов по стандартизации, настаивает Ли, следует задавать не только вопрос «каковы выходные параметры робота и не превышают ли они допустимые пороги?», но и «с какими состояниями взаимодействует этот робот и остаётся ли это взаимодействие безопасным для всего их диапазона?» Этот сдвиг кажется незначительным, однако меняет саму постановку задачи — переносит безопасность от машиноцентричного измерения к системной реляционной гарантии. Безопасность домашнего гуманоида не может быть обеспечена только средствами машинной инженерии: необходима система, которая рассматривает человека не как фоновый шум, а как часть контура безопасности.
