В Институте робототехнических систем НИУ ВШЭ состоялась форсайт-сессия, посвящённая вопросам этики при создании и использовании гуманоидных роботов. В обсуждении приняли участие представители промышленности, государственных структур, научных организаций и университетов.
Главным итогом встречи стало начало подготовки проекта Этического стандарта для антропоморфных робототехнических комплексов, который разрабатывается совместно с бизнесом и экспертным сообществом.
Почему этика становится частью робототехники
По мнению участников сессии, развитие гуманоидных роботов требует не только технических решений, но и единых правил, определяющих их взаимодействие с человеком.
Исполнительный директор Группы «ЭФКО» Сергей Иванов отметил, что сегодня вопросы этики становятся важной частью стратегии высокотехнологичных компаний и всё чаще рассматриваются как фактор долгосрочной устойчивости бизнеса.
Какие вопросы обсуждали эксперты
Во время форсайт-сессии специалисты рассмотрели широкий круг тем, связанных с будущим антропоморфной робототехники.
В частности, обсуждались:
- допустимая степень внешнего сходства робота с человеком;
- распределение ответственности за действия автономных систем;
- методы проведения этического аудита;
- требования к безопасному взаимодействию человека и робота;
- возможные социальные последствия массового внедрения гуманоидных машин.
По мнению участников, этические принципы должны стать не абстрактной философской концепцией, а практическим инструментом для инженеров и разработчиков.
От философии — к инженерным требованиям
Одним из ключевых решений стало предложение рассматривать этику гуманоидных роботов через призму их практического применения.
Вместо дискуссий о наличии у машины сознания или личности эксперты предлагают сосредоточиться на её роли в обществе и правилах взаимодействия с человеком.
Такой подход позволит переводить этические требования в конкретные инженерные решения, технические стандарты и нормативные документы.
Безопасность человека — главный приоритет
Отдельное внимание участники уделили вопросам защиты пользователей.
В качестве наиболее уязвимых групп были выделены:
- дети;
- пожилые люди;
- люди с ментальными расстройствами.
Именно безопасность человека была названа базовым принципом проектирования антропоморфных робототехнических комплексов.
Для оценки возможных рисков эксперты рассмотрели несколько сценариев использования гуманоидных роботов и проанализировали потенциальные последствия каждого из них.
Где могут работать гуманоидные роботы
В ходе обсуждения специалисты рассмотрели четыре практических сценария применения таких систем:
- доставка товаров;
- помощь пожилым людям;
- обучение детей, включая детей с расстройствами аутистического спектра;
- работа роботов-ассистентов на производстве.
Для каждого сценария обсуждались требования к безопасности, функциональности и этическим ограничениям.
Кто будет отвечать за действия робота
Одной из центральных тем стала ответственность за возможный ущерб, причинённый роботизированной системой.
По словам технического директора компании «РобоПро» Александра Воронина, участникам удалось прийти к общей позиции.
Предполагается, что первоначальную ответственность будет нести владелец робота — организация или частное лицо. Если причиной происшествия станут ошибки разработки, производства или интеграции, возможен последующий переход ответственности к другим участникам создания системы.
Что будет дальше
По итогам форсайт-сессии НИУ ВШЭ подготовит проект Этического стандарта для антропоморфных робототехнических комплексов.
Предполагается, что документ станет основой для дальнейшей совместной работы государства, бизнеса и научного сообщества, а также поможет сформировать единые подходы к проектированию, внедрению и эксплуатации гуманоидных роботов.
Участники встречи подчеркнули, что этические требования не должны тормозить развитие технологий. Напротив, они могут стать инструментом, который позволит создавать безопасные, востребованные обществом и заслуживающие доверия робототехнические системы.