Биотехнологическое моральное улучшение поднимает вопросы о допустимости и безопасности подобных вмешательств, прежде всего связанных с сохранением свободы и практической реализуемостью. Для решения этих проблем исследователи обращаются к потенциалу искусственного интеллекта (ИИ) через создание специализированных моральных систем. Статья анализирует подходы к разработке морального ИИ на базе сильных и слабых систем, оценивая как их способность решать проблемы биотехнологического морального улучшения, так и новые риски, которые они создают. В современных исследованиях выделяются две формы морального ИИ: автономные искусственные моральные агенты на основе сильных систем, контролирующие человеческое поведение, и искусственные моральные помощники (ИМП) на базе слабых систем, выступающие как часть программ биотехнологического морального улучшения. Ключевыми проблемами подходов с использованием сильных систем ИИ являются претензии на агентность и риски ограничения свободы человека. Менее инвазивной альтернативой представляются слабые системы ИИ в роли персонализированных моральных экспертов. Исследование также затрагивает вопрос о реализуемости моральной экспертности через технологии ИИ и проблемы генеративных систем в контексте принятия моральных решений. Автор приходит к выводу о невозможности и этической недопустимости реализации существующих проектов ИМП и опасности их применения для морального развития человека.
Идентификаторы и классификаторы
- SCI
- Нанотехнология
Биотехнологическое моральное улучшение представляет собой совокупность реальных и потенциальных технологий вмешательства в биологическую природу человека для его морального совершенствования. Сюда относятся генная инженерия, нейротехнологии, фармацевтические средства («таблетки добра») и другие методы. С развитием искусственного интеллекта (ИИ) появляются идеи морального улучшения через подключение людей к системам ИИ или имплантацию цифровых устройств. Такие программы часто обосновываются необходимостью подготовки человека к рискам будущего с широким распространением киберфизических систем. Воплощая принципы трансгуманизма, биотехнологический конструктивизм предлагает самоопределение человека для преодоления природной моральной ограниченности
Если у вас возникли вопросы или появились предложения по содержанию статьи, пожалуйста, направляйте их в рамках данной темы.
Список литературы
1. Бостром Н. Искусственный интеллект. Этапы. Угрозы. Стратегии / Пер. с англ. С. Филина. М.: МИФ, 2016.
2. Глебова С. В., Перова Н. В. Условия моральной агентности: моральный агент, ограниченный моральный агент, квазиморальный агент // Дискурс. 2023. Т. 9. № 4. С. 29-40. EDN: TEGGNG
3. Нозик Р. Анархия, государство и утопия / Пер. с англ. Б. Пинскера, под ред. Ю. Кузнецова, А. Куряева. М.: ИРИСЭН, 2008. EDN: QQLXIP
4. Перов В. Ю. Искусственный Моральный Агент: парадокс беспристрастности // XV международная конференция “Теоретическая и прикладная этика: Традиции и перспективы - 2023. Разумность. Практичность. Человечность”, Санкт-Петербургский государственный университет, 16-18 ноября 2023 года. Материалы конференции. СПб.: Сборка, 2023. С. 143-144.
5. Сычев А. А. Экспертиза: моральная или этическая? // Прикладная этика: экспертный потенциал. Ведомости прикладной этики. № 41. 2012. С. 14-30.
6. Фролов И. Т. Человек будущего: идеал и реальность // Раздумья о будущем: диалоги в преддверии третьего тысячелетия. М.: Политиздат, 1987. С. 11-24.
7. Aligned Design: A Vision for Prioritizing Human Well-Being With Autonomous and Intelligent Systems. Ver. 2. Toronto, ON: IEEE, 2017. P. 193. URL: https://standards.ieee.org/wp-content/uploads/import/documents/other/ead_v2.pdf.
8. Ask Delphi // Allen Institute for AI. 2024. URL: https://web.archive.org/web/20240909014015/https://delphi.allenai.org/.
9. Davis K. Is ChatGPT Getting Worse Over Time? // We Are Developers. 29.11.2023. URL:https://www.wearedevelopers.com/magazine/chatgpt-getting-worse-over-time.
10. Dietrich E. Homo Sapiens 2.0: Why We Should Build the Better Robots of Our Nature // Journal of Experimental & Theoretical Artificial Intelligence. 2001. Vol. 13. № 4. P. 323-328.
11. Gips J. Towards the Ethical Robot // Android Epistemology / K. M. Ford, C. Glymour, P. Hayes (eds). Cambridge, MA: MIT Press, 1995. P. 243-252.
12. Is ChatGPT Biased? // Open AI. 2023. URL: https://help.openai.com/en/articles/8313359-is-chatgpt-biased.
13. Lara F., Deckers J. Artificial Intelligence as a Socratic Assistant for Moral Enhancement // Neuroethics. 2020. Vol. 13. P. 275-287. EDN: FPOYXI
14. McConnell T. C. Objectivity and Moral Expertise // Canadian Journal of Philosophy. 1984. Vol. 14. № 2. P. 193-216.
15. Our Approach to AI Safety // Open AI. 05.04.2023. URL: https://openai.com/index/our-approach-to-ai-safety.
16. Persson I., Savulescu J. Unfit for the Future. Oxford, UK: Oxford University Press, 2012.
17. Savulescu J., Maslen H. Moral Enhancement and Artificial Intelligence: Moral AI? // Beyond Artificial Intelligence. Topics in Intelligent Engineering and Informatics. Cham: Springer, 2015. Vol. 9. P. 79-95.
18. Savulescu J., Persson I. Moral Enhancement, Freedom and the God Machine // The Monist. 2012. Vol. 95. № 3. P. 399-421.
19. Van Wynsberghe A., Robbins S. Critiquing the Reasons for Making Artificial Moral Agents // Science and Engineering Ethics. 2019. Vol. 25. № 3. P. 719-735. EDN: HIWVJI
20. What Are AI hallucinations // IBM. 01.09.2023. URL: https://www.ibm.com/think/topics/ai-hallucinations.
21. Xiang C. People Are ‘Jailbreaking’ ChatGPT to Make It Endorse Racism, Conspiracies // Vice. 08.02.2023. URL: https://www.vice.com/en/article/people-are-jailbreaking-chatgpt-to-make-it-endorse-racism-conspiracies/.
Выпуск
Другие статьи выпуска
Настоящая статья посвящена исследованию парадигм репрезентации тела в визуальных искусствах: от миметической целостности, где тело выступало как завершенный объект, к его динамической пересборке в условиях цифровой эпохи. Опираясь на анализ языка изобразительного искусства, авторы показывают, что тело всегда было сложным конструктом, собираемым через доступные технологии и эпистемологические рамки той или иной эпохи. Важно отметить, что с течением времени возникали новые методы визуальной сборки тела: от сакрального канона в Древнем мире до методов монтажа в модернистской культуре и алгоритмов, структурирующих визуальное поле современных медиа. В каждую из исторических эпох технологии не просто меняли восприятие, но трансформировали онтологию тела. Можно проследить, как знание (религиозное, научное и бытовое) формирует представление, которое затем закрепляется в культуре как феноменологический паттерн. Авторы показывают, какие искажения в этом процессе были вызваны развитием медиа, в основе которых лежит перспектива как единственно возможная модель и техника репрезентации видимого мира (фотография и экранные искусства), а также выявляют потенциал аспективы как альтернативной оптики, которая кажется менее объективной, но дает более комплексный опыт визуального восприятия. Таким образом, история репрезентации тела предстает не линейным движением к реализму, а чередой трансформаций, каждая из которых переопределяет саму возможность быть телом. Авторы подчеркивают роль современного искусства как зоны эксперимента, в которой происходит анализ существующих в культурном пространстве паттернов и выработка альтернатив устоявшимся конструктам
В статье прослеживаются различные стратегии критики психоанализа на примере дискуссии о его роли в дисциплинарных процессах психической нормализации (приведения различных субъективных структур — невроза, психоза, истерии и т. д. — к единому знаменателю «здоровой личности»). Автор выдвигает гипотезу о том, что наиболее продуктивной стратегией является рассмотрение психоанализа не в качестве инструмента психической нормализации или борьбы с ней, а в качестве поля, в котором обнаруживаются одновременно оба этих процесса. Для обоснования этой гипотезы автор реконструирует и критикует позицию исследовательницы Гейл Рубин, видящей в психоанализе всего лишь инструментальный дискурс для описания существующего положения дел. По ее мнению, психоанализ не способен поставить под вопрос процессы нормализации, в которые включен. Демонстрируются слепые пятна такого подхода — в частности существующая в самом психоанализе критика механизмов стандартизирующей нормализации и различия между нормой и патологией. Выдвигается гипотеза о том, что борьба между поддержкой конвенциональных норм психического функционирования субъекта и их проблематизацией — это процесс, разворачивающийся внутри психоаналитического поля. Для обоснования этой гипотезы автор предлагает дополнительный шаг: воспользовавшись инструментарием Мишеля Фуко, рассмотреть психоанализ как поле противоречия между двумя генеалогиями психоанализа — с одной стороны, его непосредственной связью с дисциплинарными институтами и, с другой стороны, более сложной встроенностью в историю отношений субъекта и истины, форм заботы о себе и духовности. Исходя из этой двойной генеалогии, автор предлагает считать нормализующий характер психоанализа не чем иным, как эффектом его связи с дисциплинарными институтами XIX века — в отличие от его связи с историей духовности, актуализация которой, напротив, дает опору для дистанцирования психоанализа от дисциплинарных практик и процессов психической нормализации
В статье рассматривается вопрос о политической генеалогии иммунитета как исторически контингентной конфигурации здоровья. Автор отправляется от критического исследования иммунополитики Эда Коэна, вписывая его проект в концептуальную рамку гувернаментальных исследований Мишеля Фуко. В опоре на анализ Коэна автор показывает, что иммунитет возникает на исторической сцене в качестве инструмента либерального управления, позволяющего балансировать экономические и биополитические императивы. Согласно Коэну, биомедицинское понятие иммунитета представляет собой проекцию политики в тело, которая основана на двойном метафорическом сдвиге: от политико-религиозного Другого — к биологическому Чужому и от коллективной защиты социального тела — к защите индивидуального организма. Иммунное тело — идеологическая фикция, продукт и инструмент заражения природы политикой. Чтобы критически противостоять этому заражению, текст Коэна риторически и структурно воспроизводит логику иммунизации, которую он декларативно отвергает. Автор указывает на ряд ограничений коэновского подхода и предлагает сместить фокус анализа с «ложного сознания» на уровень исторически подвижных отношений сил, составляющих здоровье тела. Иммунитет как историчностная конфигурация здоровья возникает на пересечении двух линий детерриторизации (детерриторизации биополитических границ капитала и детерриторизации иммунных клеток) и является пределом в двойном смысле — биополитическим пределом капитала, реализованным в самом теле, и пределом как выражением способности здоровья, того, «на что способно тело». Совпадение этих двух смыслов иммунных границ является исторически контингентным, тогда как аутоиммунная болезнь выражает условие, при котором возможно их разъединение: тело использует свою иммунологическую конфигурацию, чтобы на собственном уровне развернуть критику своих границ, одновременно биологически и политически
Под этикетом понимается набор правил, регулирующих поведение представителей определенного общества в различных ситуациях социального взаимодействия. Важнейшую их часть составляет использование речевых формул, знание которых позволяет человеку эффективно поддерживать социальный контакт, освобождая его от необходимости самостоятельного поиска правильных слов и ограждая его от грубых коммуникативных ошибок. Этикет приобретает особую значимость в ситуациях, которые требуют деликатности. К ним относится общение с тяжело больными людьми, когда неверно сказанное слово может спровоцировать глубокий и длительный психологический кризис. К числу наиболее тяжелых заболеваний относится рак, который не только объективно плохо поддается излечению, но и ассоциируется в массовом сознании с экстремальной морбидностью, выступая в качестве общекультурного символа катастрофы. Онкозаболевание — это одно из самых тяжелых испытаний, с которым сталкивается в своей жизни человек. Оно калечит тело и терзает душу, требуя существенной ревизии смыслов, ранее казавшихся незыблемыми. Эта смыслосозидательная работа представляет собой весьма сложный и деликатный процесс, любое вмешательство в который грозит утратой с трудом достигаемого баланса. Корректная коммуникация с онкобольными должна строиться на принципах уважения к их психоэмоциональным и социальным потребностям. В связи с этим встает вопрос о создании и продвижении особого онкоэтикета, который регулировал бы взаимодействие между больными и их окружением. В статье представлено ви́ дение рака как физического, эмоционального и духовного кризиса, выявлены основные проблемы, препятствующие комфортной коммуникации о нем, описаны коммуникативные табу и предложены общие правила онкоэтикета, следование которым позволит избежать досадных оплошностей
В статье предпринимается попытка критически осмыслить глубинные проблемы медицинской этики, поставленные нидерландским философом и антропологом Аннмари Мол в работе «Множественное тело» (2002). Логические и математические понятия транзитивности и нетранзитивности, выбранные исследовательницей, под новым углом заставляют взглянуть на традиционные проблемы биоэтики: модели отношений врача и пациента (инженерную, коллегиальную, патерналистскую), статус человека и человеческого существа (в том числе эмбриона или трупа), вопросы редактирования генома (фетальную или соматическую генотерапию), трансплантацию органов (согласно принципам рутинного забора органов, презумпции согласия или информированного согласия), а также конфликт индивидуального и коллективного в условиях эпидемии. Последняя проблема особенно актуальна сегодня, поскольку пандемия коронавируса вернула человечество к обсуждению вопросов соотношения индивидуальных и коллективных ценностей: что важнее — личные свободы или коллективная биобезопасность? можно ли пожертвовать здоровьем или жизнями нескольких индивидов для блага всей популяции? как в условиях ограниченности ресурсов распределять медикаменты, СИЗы, вакцины? Эти вопросы приходится решать медикам, философам, биоэтикам и политикам в настоящее время. Ключевыми точками, на которые опирается Мол, служат понятия нетранзитивности пациента и его органов, собственно статуса тела, соотношения целого и частей, а также понятие инклюзии как отношения включения множественного тела. Анализируя эти понятия, автор статьи обращается к работам российских и зарубежных философов, таких как Иван Ильин, Николя де Кондорсе, Питер Саймонс, а также рассматривает современные проблемы биоэтики через призму вопросов, поставленных Мол с необычного ракурса мереологии — философского учения о целом, его частях и отношениях между ними, три главные аксиомы которого (нерефлексивность, асимметричность и транзитивность) и определяют отношения части и целого
Концепт задействования отсылает к идее контингентности границы тела/техники и в этом качестве выступает основанием для появления множественных онтологий тел в текстах Аннмари Мол. Однако задействование не означает бесконечной податливости тела. Для авторов, работающих в рамках исследований науки и технологий, тело обладает собственной несводимой материальностью. Исследуя опыт больных сахарным диабетом, Мол и Джон Ло показывают существующие в телах напряжения и проницаемости. Концепт проницаемости показывает, что тела способны составлять смеси друг с другом. В этом процессе тела артикулируются и становятся познаваемыми. Здесь уместно поставить вопрос о том, как тело и его способность к артикуляции позволяют формировать разные типы социального? В качестве исследуемого кейса рассматривается подраздел одного из крупнейших интернет-форумов, посвященный применению приборов транскраниальной микрополяризации мозга (transcranial direct current stimulation, tDCS). Показано, что центральной темой обсуждений его участников является боль и болезнь, которая избегает медикаментозного лечения и приобретает в их нарративах особую реальность. Способом работы с этой болью оказывается контроль над телом через присоединение к нему tDCS-приборов. В таких смесях тел, электричества и лекарственных препаратов появляются различные формы артикуляции. В процессе общения на форуме знания об артикулированных телах стандартизируются, возникает специфический язык и схемы визуализации. Унификация практик применения tDCS приводит к возможности переживания совместного аффекта. В результате формируется целостное тело, связанное общим аффектом в едином пространстве интернет-сетей. Текучий характер tDCS-приборов приводит к тому, что материальность общего тела размывается, а после разрушается множащимися практиками артикуляции.
Надежды и иллюзии, связанные с применением технологий редактирования генома эмбрионов для решения медицинских проблем, основаны на гипотезе о линейной зависимости клинических эффектов от молекулярных биотехнологических манипуляций. Поиск ответа на вопрос «Был ли я эмбрионом?» лежит через осмысление становления в бытии и бытия в становлении с опорой на такие концепты Жильбера Симондона, как «индивид», «индивидуация», «доиндивидуальное», «фазовый переход» и «транспарентность». В работе демонстрируется связь субстанциальной и процессуальной логики (по Андрею Смирнову) в интерпретации генетических и эпигенетических факторов эмбриональных преобразований. При этом причинная детерминация рассматривается вместе с идеей пространственной детерминации. Эмбрион в процессе индивидуации мыслится как сущность, которая одновременно предшествует самой себе и выходит за пределы фиксируемой технологической определенности настоящего момента. Он представляется условной индивидуальностью и множественностью (по Якову Свирскому)
В статье предлагается биоэтическое обсуждение антропологических вызовов возможной имплементации технологий редактирования генома эмбрионов человека. Локальное открытие, связанное с изучением иммунитета бактерий, на основе которого была разработана технология CRISPR/Cas9, приобрело глобальное значение, революционизировав практически все области современной биологии и медицины. В частности, появилась возможность изменять геномы не только современных людей для лечения разнообразных наследственных заболеваний, но и будущих поколений, редактируя геномы половых клеток человека и эмбрионов. Благодаря биотехнологическому прогрессу и биополитическим процессам последних десятилетий началось активное освоение уже давно визуализированного, но практически неосвоенного мира пренатального существования человека (prenatalhood). Технологическое и биополитическое освоение пренатального существования открывает парадоксальную реальность микроскопического мира человеческого зародыша, воздействия на который могут преобразовать не только жизнь отдельных («отредактированных») людей, но и вызвать глобальные эволюционные последствия. Биоэтика пытается проактивно участвовать в обустройстве этого нового будущего человеческого мира, различая и отслеживая первые признаки его присутствия в настоящем. В статье обсуждается статус будущего человека как постороннего, проблема равенства будущих поколений и биоэтические модели автономии будущих людей
Обращаясь к современным дискурсам о человеческом теле, мы вступаем на территорию, где тело предстает в сложной картографии множественных тел. Понимание тела как физического объекта, подчиняющегося законам биологии и других естественных наук (тела как плоти, корпуса, организма), противостоит многочисленным интерпретациям телесности как сложного феномена, сформированного социальными, культурными, технологическими и иными факторами. Эпистемологическое противоречие, связанное с человеческим телом, фиксирует разрыв между познанием телесности как внутренне переживаемой реальности, обнажающей ограниченность восприятия тела как объекта, и ее измеримостью
Издательство
- Издательство
- ВШЭ
- Регион
- Россия, Москва
- Почтовый адрес
- 101000, г. Москва, ул. Мясницкая, д. 20
- Юр. адрес
- 101000, г. Москва, ул. Мясницкая, д. 20
- ФИО
- Анисимов Никита Юрьевич (Ректор)
- E-mail адрес
- hse@hse.ru
- Контактный телефон
- +7 (___) _______
- Сайт
- https://www.hse.ru/