В статье рассматривается манипуляционная емкость искусственного интеллекта в сравнении с естественным. Проводится анализ формирования психики и человеческого сознания, искусственного и естественного мышления. Предполагается, что основное отличие ЕИ и ИИ состоит в природе их мотивации. ИИ лишен инстинкта самосохранения, следовательно, имманентной потребности действовать, с одной стороны, и ограничений активности - с другой. Отсутствие инстинкта самосохранения у ИИ повышает его манипуляционную емкость и как объекта, и как инструмента этого процесса.
В статье представлен анализ актуальных и потенциальных стратегий развития алгоритмов искусственного интеллекта (ИИ). Показаны неизбежные ограничения двух доминирующих парадигм в разработках ИИ - создания целерациональных агентов и имитации человеческого разума в машине. Особое внимание уделяется альтернативной стратегии создания совместимого с человеком ИИ (human compatible AI), предложенной Стюартом Расселом.
В статье анализируются современные исследования этических аспектов ИИ, результаты которых были опубликованы за последние 5 лет. Рассмотрены ключевые проблемы: прозрачность алгоритмов, распределение ответственности, дискриминация, защита данных. Выявлены противоречия между теорией и практикой, раскрыты причины доминирования технократического подхода. Особое внимание уделено военному применению ИИ и необходимости разработки практических механизмов реализации этических принципов.
Предпринята попытка рассмотрения идеализированной когнитивной модели понятия «искусственный интеллект». Методологической основой исследования выступают понятие и типология идеализированных когнитивных моделей, введенные Д. Лакофф. Для анализа понятия «искусственный интеллект» из предложенной им типологии выбраны метафорические и метонимические проекции. Показано, что термин «искусственный интеллект» носит зонтичный характер и применяется как метафора для обозначения систем, моделирующих интеллектуальную деятельность.