Публикации автора

Статья посвящена вопросу о том, что происходит со статусом человека в современный период распространения технологий искусственного интеллекта (далее — ИИ). Демонстрируется недостаточность ресурсов антропоцентризма для определения реального положения человека на том основании, что в качестве следствия он ведет к фиксации простой инструментальности за системами ИИ. Такое распределение ролей между человеком и технологией не соответствуют реальной сложности функционирования и взаимодействия человека и ИИ на современном этапе. ИИ в силу своего устройства обладает определенной степенью автономии, непрозрачности и непредсказуемости, что позволяет в целом говорить о нем как об агенте. Однако если допустить расширение поля морали в результате ее переориентации с субъекта действия на объект и его морально значимые изменения, то искусственные агенты могут расцениваться как моральные агенты (проект информационной этики Лучано Флориди). Однако эти агенты проектируются и обучаются людьми на основе данных, которые производятся, собираются, размечаются людьми. Реальность производства технологии в ее социальном аспекте настолько сложна, что в итоге не представляется возможным учесть отдельный вклад всех агентов (человеческих и нечеловеческих) в ее функционирование. Поэтому для фиксации этой ситуации используется понятие социотехнической мультиагентной системы. Она характеризуется различными уровнями агентности: каузальной, моральной и моральной с возможностью несения ответственности. Человеческое в социотехнической системе является источником моральной агентности и ответственности в силу того, что они являются его сущностными свойствами. Дальнейшее направление исследования социотехнической системы определяется необходимостью проработки проблемы пробела в ответственности

Основной целью статьи является обоснование оптимальности концепции распределенной морали Лучано Флориди для описания модели отношения ответственности в сложных системах «человек – искусственный интеллект» (ИИ). Достаточно высокий уровень автономии в функционировании ИИ ставит под вопрос классический инструментализм в отношении этой технологии, так как она оказывается способной на принципиально неконтролируемые со стороны человека действия в процессе выполнения поставленной перед ней задачи. По этой же причине классическое определение моральной ответственности постепенно перестает соответствовать действительному положению дел в области разработки ИИ, что зачастую приводит к проблемам, тормозящим ее развитие. Поэтому в статье осуществляется концептуализация нового, соответствующего типу технологии способа описания отношений ответственности в сфере этики ИИ. Для достижения этой цели ИИ рассматривается как обладающий агентностью участник различных взаимодействий (на основе критериев агентности Флориди), в том числе и социальных, но при этом ему не приписывается подлинная интенциональность, мотивация, осознанность и другие свойства, являющиеся необходимыми для атрибутирования агентности в классической модели отношения ответственности. Кроме обращения к описанию критериев агентности Флориди, обоснование такого рассмотрения ИИ в статье осуществляется с опорой на концепт текучести Аннамари Мол и Марианы де Лаэт, который разрабатывается ими в том числе и для обозначения способности технологий обладать агентностью без наличия у них свойств, считающихся необходимыми для атрибутирования агентности в классической модели описания роли технологий в социальных процессах. Технология ИИ представляется как сложная гетерогенная социотехническая система, конструируемая как человеческими, так и нечеловеческими агентами. Риск ниве - лирования значимости ответственности в такой системе преодолевается на концептуальном уровне посредством адаптации подхода объект-ориентированной морали Флориди. Смена акцента с субъекта действия на объект воздействия наделяет моральной значимостью всю ту сумму морально нейтральных действий, которые совершаются агентами в рамках социотехнической системы. Поскольку она производит морально значимые эффекты и воздействия, то выступает и носителем отношения ответственности, которое, как показано в статье, распространяется на каждого агента системы в равной мере, интенсифицируя тем самым моральную ответственность в сфере ИИ.