ISSN 2541-7517

· Язык: ru

Статья: Законы робототехники Азимова: мировоззренческие основы и когнитивные искажения (2024)

Читать

Статья Литература Выпуск Статистика Издательство

Читать онлайн

«Законы робототехники» Айзека Азимова пользуются исключительным авторитетом и являются своего рода заповедями для многих сторон этически-философского дискурса вокруг искусственного интеллекта. Практическое применение этих «законов», однако, сталкивается с принципиальными трудностями, причины которых исследованы в этой статье. В частности, первый «закон» о недопущении вреда человеку не уточняет, об ущербе кому идёт речь; второй «закон» о подчинении робота человеку не уточняет, кому из претендентов на управление роботом следует отдать предпочтение. На элементарных примерах показано, что при наличии конфликта интересов оба этих абстрактно-гуманистических «закона» теряют смысл и являются жизненно несостоятельными. Кроме того, даже в отсутствие такого конфликта «недопущение вреда» требует от робота предвидения последствий тех или иных действий в сколь угодно далёком будущем, однако возможность такого прогноза противоречит законам физики и биологии. Наконец, показано, что формулировки всех трёх «законов», очевидно абсурдные для неодушевлённых инструментов, предполагают наличие у роботов свободы действия, ошибочно наделяя их субъектностью. Этот ложный антропоморфизм, характерный для современных обсуждений искусственного интеллекта, закрепился в устойчивых языковых формах. Система выявленных искажений представляет собой чуждую традиционным культурам когнитивно-мировоззренческую матрицу, угрожающую безопасности общества на переходе к новым техноукладам.

Ключевые фразы: законы робототехники, искусственный интеллект, азимов, абстрактный гуманизм, антропоморфизм, ДЕТЕРМИНИЗМ, СУБЪЕКТНОСТЬ, когнитивные искажения, ЭТИКА, право

Автор (ы): Суров Илья Алексеевич (Surov I. A.)

Журнал: СИБИРСКИЙ ФИЛОСОФСКИЙ ЖУРНАЛ

Предпросмотр статьи

Идентификаторы и классификаторы

SCI: Философия
УДК: 174. Профессиональная этика

Для цитирования:

СУРОВ И. А. ЗАКОНЫ РОБОТОТЕХНИКИ АЗИМОВА: МИРОВОЗЗРЕНЧЕСКИЕ ОСНОВЫ И КОГНИТИВНЫЕ ИСКАЖЕНИЯ // СИБИРСКИЙ ФИЛОСОФСКИЙ ЖУРНАЛ. 2024. ТОМ 22, №4

Текстовый фрагмент статьи

Моя история просмотров (10)

01. Статья: ПРАВОВОЕ РЕГУЛИРОВАНИЕ РОБОТОВ-СОВЕТНИКОВ В РОССИЙСКОЙ ФЕДЕРАЦИИ

02. Статья: НЕГАТИВНОЕ ИНФОРМАЦИОННО-ПСИХОЛОГИЧЕСКОЕ ВОЗДЕЙСТВИЕ В МОШЕННИЧЕСКИХ СХЕМАХ

03. Статья: ЭФФЕКТИВНОСТЬ ПРИМЕНЕНИЯ КОМПОСТА И БИОПРЕПАРАТОВ BACILLUS ДЛЯ РЕГУЛИРОВАНИЯ КИСЛОТНОСТИ ПОЧВЫ

04. Книга: Избранные произведения по истории религий

05. Статья: Численное моделирование лазера на парах меди с индукционным разрядом и дополнительным подогревом

06. Книга: О. Браве. Избранные научные труды. Кристаллографические этюды

07. Статья: ХОРОТОПИЯ: ТЕОРИЯ, МЕТОД И ПРАКТИКА

08. Статья: Школа здорового образа жизни. Методические рекомендации

09. Статья: НАЦИОНАЛЬНЫЕ ТУРИСТСКИЕ МАРШРУТЫ КАК ИНСТРУМЕНТ РАЗВИТИЯ ВНУТРЕННЕГО ТУРИЗМА: РОССИЯ НА МИРОВОМ ФОНЕ

10. Статья: ЗАКОНОДАТЕЛЬНОЕ РЕГУЛИРОВАНИЕ УГОЛОВНОЙ ОТВЕТСТВЕННОСТИ ЗА ПРЕСТУПЛЕНИЯ ТЕРРОРИСТИЧЕСКОЙ И ЭКСТРЕМИСТСКОЙ НАПРАВЛЕННОСТИ

Будьте первым, кто начнет обсуждение

Если у вас возникли вопросы или появились предложения по содержанию статьи, пожалуйста, направляйте их в рамках данной темы.

Создать тему для обсуждения

Список литературы

1. Азимов А. Миры Айзека Азимова. Книга первая. Совершенный робот. М.: Полярис, 1994. 668 с.
2. Алексеева И. Ю. Этика искусственного интеллекта как прикладная этика // Философия и общество. 2024. № 3. С. 69-85.
3. Алексеев А. П., Алексеева И. Ю. Статус этических кодексов в этике искусственного интеллекта // Информационное общество. 2024. № 4. С. 43-49.
4. Алимова С. З., Каменская И. Б. Критическая рецепция цикла рассказов Айзека Азимова «Я, робот» // Формирование профессиональной компетентности филолога в поликультурной образовательной среде: Материалы II Международной научно-практической конференции / Под общ. ред. И. Б. Каменской. Евпатория: Индивидуальный предприниматель Корниенко Андрей Анатольевич, 2019. С. 23-26.
5. Батурин, Ю. М., Полубинская С. В. Искусственный интеллект: правовой статус или правовой режим? // Государство и право. 2022. № 10. С. 141-154.
6. Борзых С. В. Антропоморфизм ИИ // Журнал философских исследований. 2019. Т. 5. № 2. С. 2-9.
7. Введенская Е. В. Актуальные проблемы робоэтики // Науковедческие исследования. 2019. № 2019. С. 88-101.
8. Владимирова З. В. О возможных способах наделения искусственного интеллекта правосубъектностью // Вестник магистратуры. 2021. № 8. С. 50-55.
9. Водолазов Г. Г. Гуманизм абстрактный и гуманизм реальный // Гуманизм и современность: Материалы международной научно-образовательной конференции. Казань: Казанский (Приволжский) федеральный университет, 2013. С. 30-40.
10. Высочина Д. С. Повседневность прогнозируемого мира (Сборник рассказов Азимова «Я, робот») // Вестник Калужского университета. Серия 2. Исследования по филологии. 2023. № 3. С. 70-76.
11. Гребенщикова Е. Г. Этика как управление // Сибирский философский журнал. 2018. Т. 16. № 4. С. 135-146.
12. Дронова Е. А. Искусственный интеллект и социология морали // Свободная мысль. 2024. № 4. С. 55-62.
13. Еськов В. М. Конец определенности: хаос гомеостатических систем. Тула: ТППО, 2017. 595 с.
14. Еськов В. М. и др. Хаотический мозг // Сложность. Разум. Постнеклассика. 2022. № 2. С. 5-16.
15. Карпов В. Э., Готовцев П. М., Ройзензон Г. В. К вопросу об этике и системах искусственного интеллекта // Философия и общество. 2018. № 2. С. 84-105.
16. Кружалова Л. В. Проблемы взаимоотношений естественного и искусственного интеллектов (роботов) в произведениях научной фантастики (К. Чапек, И. Варшавский , А. Азимов и др.) // International journal of professional science. 2023. № 9. C. 5-13.
17. Латиева А. Р. Взаимодействие научно-фантастических концепций и социума // Проблемы современных социокультурных исследований / Под ред. Е.В. Хлыщевой, Р.Т. Алиева, В.Л. Тихоновой, О.И. Закутнова. Астрахань: Изд. дом «Астраханский университет», 2019. С. 77-81.
18. Маслова К. К. Трансформация образа «робот» от «механического подобия» к образу «робот-человек» в произведениях (К. Чапека, Е. И. Замятина, О. Хаксли и А. Азимова) // Вестник славянских культур. 2018. Т. 49. С. 161-170.
19. Нигоматуллина Р. М. Этика как онтология управления // Сибирский философский журнал. 2022. Т. 20. № 1. С. 15-25.
20. Панов А. Д. Технологическая сингулярность, теорема Пенроуза об искусственном интеллекте и квантовая природа сознания // Информационные технологии (Приложение к журналу). 2014. № 5. С. 1-32.
21. Попова А. В. Этические принципы взаимодействия с искусственным интеллектом как основа правового регулирования // Правовое государство: теория и практика. 2020. Т. 16. № 3. С. 34-43.
22. Попова Н. Н. Развитие технологий искусственного интеллекта в перспективах трансформации права: правосознание в проекции будущего // Вестник Московского государственного областного университета. Серия: Юриспруденция. 2021. № 3. С. 65-76.
23. Разин А. В. Этика искусственного интеллекта // Философия и общество. 2019. Т. 1. № 90. С. 57-93.
24. Суров И. А. Квантовая концепция свободы выбора // Ученые записки Института психологии РАН. 2023. Т. 3. № 4. С. 68-82.
25. Шибаева К. В., Холова Л. Н. Три закона робототехники Айзека Азимова: к вопросу о гуманности применения смертоносных автономных систем вооружения на войне // Теология, философия, право. 2018. Т. 8. № 4. С. 28-41. Asimov I. I, Robot. New York: Gnome Press, 1950.
26. Bueno C. C., Jankowski S. Judgement aft er Automation: Posthumanist Reflections on Asimov’s Laws of Robotics // Journal of science fiction and philosophy. 2024. Vol. 7. P. 1-19.
27. Caporael L. R. Anthropomorphism and mechanomorphism: Two faces of the human machine // Computers in human behavior. 1986. Vol. 2. No. 3. P. 215-234.
28. Clarke R. Asimov’s laws of robotics: implications for information technology. Part 1 // Computer. 1993. Vol. 26. No. 12. P. 53-61.
29. Clarke R. Asimov’s laws of robotics: Implications for information technology. Part 2 // Computer. 1994. Vol. 27. No. 1. P. 57-66.
30. Cleeremans A., Allakhverdov V. M., Kuvaldina M. (eds.) Implicit learning: 50 years on. Abingdon, Oxon: Routledge, 2019. 262 p.
31. Frensch P. A., Rünger D. Implicit Learning // Current Directions in Psychological Science. 2003. Vol. 12. No. 1. P. 13-18.
32. Guthrie S. E. Anthropomorphism: A defi nition and a theory // Anthropomorphism, anecdotes, and animals / Ed. R. W. Mitchell, N. S. Th omson, H. L. Miles. New York: State University of New York Press, 1997. P. 50-58.
33. Jedlicka P. Revisiting the quantum brain hypothesis: Toward quantum (neuro)biology? // Frontiers in Molecular Neuroscience. 2017. Vol. 10. P. 1-8.
34. Levin M. Technological Approach to Mind Everywhere: An Experimentally-Grounded Framework for Understanding Diverse Bodies and Minds // Frontiers in Systems Neuroscience. 2022. Vol. 16. P. 768201.
35. Lyon P. и др. Reframing cognition: getting down to biological basics // Philosophical Transactions of the Royal Society B: Biological Sciences. 2021. Vol. 376. No. 1820. P. 20190750.
36. McCauley L. AI Armageddon and the Th ree Laws of Robotics // Ethics and Information Technology. 2007. Vol. 9. No. 2. P. 153-164.
37. Melnikova E., Surov I. Legal Status of Artifi cial Intelligence from Quantum-Th eoretic Perspective // BRICS Law Journal. 2023. Vol. 10. No. 4. P. 5-34.
38. Persson E., Hedlund M. Th e Trolley problem and Isaac Asimov’s First law of robotics // Journal of science fi ction and philosophy. 2024. Vol. 7. P. 1-21.
39. Placani A. Anthropomorphism in AI: hype and fallacy // AI Ethics. 2024. Vol. 4. No. 3. P. 691-698.
40. Rubik B. Artifi cial intelligence and the human biofi eld: New opportunities and challenges // Cosmos and history: Th e Journal of natural and social philosophy. 2018. Vol. 14. No. 1. P. 153-162.
41. Surov I. A., Melnikova E. N. Subjectness of intelligence: quantum-theoretic analysis and ethical perspective // Foundations of science. 2024. https://doi.org/10.1007/s10699-024-09947-y
42. Toyoshima Y. и др. Ensemble dynamics and information fl ow deduction from wholebrain imaging data // PLOS computational biology. 2024. Vol. 20. No. 3. E1011848.

Выпуск

Том 22, №4 (2024)

Кол-во страниц: 109 страниц

Другие статьи выпуска

Контекст (2024)

Авторы: Прись И. Е.

Рассматривается понятие контекста, которое наряду с понятиями реальности и нормативности является центральным понятием контекстуального реализма. Устанавливаются связи между контекстуальностью, нормативностью, концептуальностью и непредопределённостью, между понятиями контекста и релевантного (имплицитного) знания. Приводятся примеры контекстуальности, в частности, в квантовой механике. Показано, что контекстуальность – антидот против релятивизма. С точки зрения контекстуального реализма предлагается критика эпистемологического корреляционизма. Рассматривается вопрос о критериях существования/реальности.

Сохранить в закладках

«Умный город» – урбанистическая метафора, тренд или отражение повседневности (2024)

Авторы: Немкова Е. Ю.

В статье рассматривается феномен «умного» города с точки зрения объективной необходимости современного процесса цифровой трансформации городской среды, а также как род урбанистической метафоры, определяющей наше отношение к этому процессу. В свою очередь понятие метафоры анализируется в рамках классического, философского и урбанистического дискурсов. В этом ключе рассматривается уместность применения к городу определения «умный», приводятся примеры успешно реализуемых проектов «умного города». Цифровизация городов – неизбежный процесс их развития. Города не смогут обеспечивать комфортное для населения проживание, а соответственно, и выдерживать конкуренцию друг с другом, если не начнут внедрять современные цифровые технологии. В нашей стране для улучшения жилищно-коммунальной, образовательной, градостроительной и других сфер был разработан федеральный проект «Умный город», который в буквальном смысле заставляет города развиваться. Тем не менее, возникает вопрос о самостоятельности процесса городской цифровизации: умный город – это метафора или реальность? Мы полагаем, что классическая метафора Кристофера Александера «город–дерево» все так же актуальна, потому что и противоречия человеческого, институционального и технологического измерений, кажущиеся особо актуальными в новых условиях, и предполагаемая логика их алгоритмического представления принадлежат одному архетипу.

Сохранить в закладках

Постколониализм: истоки и основные противоречия теории (2024)

Авторы: Постнов А. Г.

В статье представлен всесторонний анализ основной проблематики постколониального дискурса. Рассматриваются ключевые теории, такие как постколониализм, деколонизация мышления и ориентализм, а также другие концепции, связанные с этим направлением исследований. Анализируются основные противоречия постколониальной теории и определяется роль и место постколониализма в современном мире. Показано, что на данном историческом этапе постколониализм старается выйти за рамки ангажированного знания и предложить миру определенную модель поведения для преодоления различий между «центрами» и «периферией», но пока рассматриваемое в данной работе направление занимается скорее фиксацией несправедливости в обществах. Разрушить это устоявшееся отношение к постколониализму и дать практические методы борьбы с неравенством – основные задачи постколониальных исследователей.

Сохранить в закладках

Массовое общество как основа социального нарциссизма (2024)

Авторы: Бродников А. Ю.

В настоящее время все больше исследователей в области философии подчеркивают, что современный социум является нарциссическим. Принято считать, что подобная трансформация общества произошла после Второй мировой войны, когда среднестатистический человек разочаровался в идеалах модерна и закрылся в себе, не желая более активно участвовать в общественной жизни. Распространенность такой жизненной стратегии позволила назвать современную эпоху нарциссической. Однако, посмотрев на предыдущие времена, можно увидеть, что подобная трансформация человека началась еще до сороковых годов ХХ века, фундамент подобного общественного уклада был заложен еще в начале прошлого столетия. Ознакомившись с трудами философов тех времен, становится понятно, что основой подобного общества является массовость, о разрастании которой активно писали в ХХ веке. Данная статья ставит перед собой попытку продемонстрировать влияние массового общества на зарождения нарциссизма. В работе описываются характеристики массовости, демонстрируется, что именно такой общественный уклад мог стать той основой, на которой в дальнейшем и будет построено нарциссическое общество, описываемое в трудах современных философов.

Сохранить в закладках

Визуальный поворот в исторической методологии: в поисках философских оснований (2024)

Авторы: Корж В. Г.

В представленной статье исследуются философские основания визуального поворота в исторической науке. Рассматривается влияние данного феномена на трансформацию исторической методологии и исследовательских подходов через призму исследований культовой архитектуры. Визуальный поворот, как показано в статье, играет одну из ключевых ролей в формировании новых парадигм исторического знания, что выражается как в интеграции визуальных источников, так и в конструировании и адаптации новых методов и подходов в рамках современной историографии.

Сохранить в закладках

Статистика статьи

Статистика просмотров за 2026 год.

Издательство

Издательство: Новосибирский Государственный Университет
Регион: Россия, Новосибирск
Почтовый адрес: 630090, Новосибирская область, г. Новосибирск, ул. Пирогова, д. 1.
Юр. адрес: 630090, Новосибирская область, г. Новосибирск, ул. Пирогова, д. 1.
ФИО: Федорук Михаил Петрович (Руководитель)
E-mail адрес: rector@nsu.ru
Контактный телефон: +7 (383) 3634000
Сайт: https://www.nsu.ru/

Все права на тексты и товарные знаки принадлежат их законным владельцам. Подробнее...

Сайт https://scinetwork.ru (далее – сайт) работает по принципу агрегатора – собирает и структурирует информацию из публичных источников в сети Интернет, то есть передает полнотекстовую информацию о товарных знаках в том виде, в котором она содержится в открытом доступе.

Сайт и администрация сайта не используют отображаемые на сайте товарные знаки в коммерческих и рекламных целях, не декларируют своего участия в процессе их государственной регистрации, не заявляют о своих исключительных правах на товарные знаки, а также не гарантируют точность, полноту и достоверность информации.

Все права на товарные знаки принадлежат их законным владельцам!

Сайт носит исключительно информационный характер, и предоставляемые им сведения являются открытыми публичными данными.

Администрация сайта не несет ответственность за какие бы то ни было убытки, возникающие в результате доступа и использования сайта.

Спасибо, понятно.

Сказать «Спасибо»

Вы можете поблагодарить автора за публикацию. Ему (ей) будет приятно.

Наведите камеру на QR-код, чтобы открыть моб. версию страницы.