Научный архив: статьи

Целью настоящей работы является оценка потенциала ИИ-инструментов в разработке программного обеспечения, для чего были проанализированы результаты прикладных исследований, выполненных в Европе в 2023–2025 гг., и проведено сравнение экспертных прогнозов с реальным положением дел в ИТ-отрасли на середину 2025 г. В качестве исследовательской гипотезы выдвигается предположение о том, что ИИ-инструменты и практики их применения в ИТ-отрасли достигли достаточного уровня технологической зрелости, позволяющего им функционировать в качестве полноценных средств для автоматизации труда практически каждого участника команды разработки программного обеспечения. Научная задача включает определение возможностей практического применения ИИ-инструментов в разработке программного обеспечения к середине 2025 г. с учетом холистического анализа перспектив развития отрасли. Научная новизна заключается в том, что в данной работе, одной из первых в мире, сделанные ранее прогнозы отраслевых экспертов сопоставляются с текущим положением дел в европейской ИТ-отрасли. Кроме того, автор дает конкретные рекомендации по внедрению ИИ-инструментов в производственные процессы разработки программного обеспечения.

Контекст и актуальность. Разработка персонализированного программного обеспечения (ПО) для психиатрии, психотерапии и медицинской психологии осложняется междисциплинарным барьером между клиницистами и разработчиками. Широкое распространение больших языковых моделей (LLM) и интуитивных сред разработки открывает возможности для автоматизации создания специализированных решений, сокращающих время разработки с недель до дней. Теоретическая основа. Методология базируется на спиральной модели жизненного цикла ПО (ISO/IEC 12207:2008), обеспечивающей итеративную адаптацию к динамичным требованиям медицинских задач. Интеграция LLM в процесс генерации кода формализуется через универсальные технические задания (ТЗ). Цель: разработка методологии создания детерминированного ТЗ для генеративных ИИмоделей, обеспечивающей автоматизированную генерацию кода под узкоспециализированные задачи (оценка коморбидной патологии, рисков аддикций, утомления как предиктора невротизации). Материалы и методы. Свободноформатное ТЗ на русском языке с итеративной корректировкой экспертами. Генерация кода LLM Qwen2.5-Max (поддержка медицинской терминологии, 131 тысяча токенов контекста). Реализация прототипов на Python 3.13 с библиотекой Tkinter для GUI. Валидация модульной архитектуры для обработки гетерогенных данных (опросники, аудиовизуальные маркеры). Результаты. Создан функциональный прототип для прогнозирования медицинских рисков с многооконным интерфейсом и цветовой индикацией результатов. 98% сгенерированного кода соответствовало ТЗ после двух итераций уточнений. Реализована динамическая адаптация модулей (A/B/C) под задачи скрининга депрессии, тревоги и утомления. Выводы. Комбинация формализованных ТЗ и LLM ускоряет разработку медицинского ПО, но требует междисциплинарного взаимодействия на этапе верификации требований, строгого этического аудита (в соответствии с ГОСТ Р 71657-2024 и ФЗ-152), интеграции с IoT-устройствами (нейровизоры, биосенсоры) для мультимодального анализа данных. Рекомендовано использовать методологию для массовой разработки персонализированных инструментов в условиях дефицита специалистов. Ключевые ограничения: зависимость от качества ТЗ, неспособность ИИ предлагать инновационные архитектурные решения, необходимость ручной доработки под устаревшие технологические стеки.

Статья посвящена актуальной теме анализа когнитивных механизмов, реализованных в современных больших языковых моделях (БЯМ) на базе архитектуры трансформеров. Демонстрация ими высоких показателей производительности стимулирует обсуждение гипотетической возможности возникновения феноменов сознания в процессе их функционирования. Цель исследования — уточнить потенциал БЯМ в моделировании функций человеческого сознания с учётом новейших достижений в области взаимодействия с искусственным интеллектом (ИИ). Для достижения этой цели было необходимо решить следующие задачи: 1) оценить степень продвижения научного сообщества в обсуждении ключевых парадоксов философии сознания (тест Тьюринга, «Китайская комната»); 2) зафиксировать ключевые позиции в текущих спорах о пределах моделирования когнитивных процессов в системах искусственных нейронных сетей; 3) провести эксперимент по взаимодействию с чат-ботом GigaChat и проанализировать полученные данные для оценки текущего состояния когнитивных способностей системы. В качестве основных материалов исследования использовались результаты экспериментов с GigaChat, а также научные публикации и философские труды, посвящённые вопросам ИИ и сознания. Методологическая основа исследования включала категориальный и ценностный анализ; также были использованы дискурс-анализ и SWOT-анализ. Ключевым методом стало взаимодействие с чат-ботом GigaChat. В результате исследования было установлено, что GigaChat демонстрирует высокую способность к интерпретации информации, генерации текста и адаптации к контексту беседы, осознавая свои возможности и ограничения, а также различая категории субъектов («вы», «мы», «ты», «я»), однако современные системы ИИ всё ещё не способны воспроизводить ключевые черты человеческого сознания, такие как развитое самосознание и субъективный опыт. Выводы: научное сообщество продвинулось в обсуждении ключевых парадоксов философии сознания (теста Тьюринга и «Китайской комнаты»), учитывая новые достижения в области взаимодействия с ИИ, однако остаётся ряд нерешённых вопросов относительно критериев сознания; в текущих спорах о пределах моделирования когнитивных процессов в системах ИИ зафиксированы различные философские и методологические подходы, но создание сознательного ИИ продолжает оставаться предметом острых дискуссий и неопределённости; экспериментальное взаимодействие с GigaChat показало, что система обладает значительными когнитивными возможностями, такими как адаптация к контексту и распознавание категорий субъектов, но она ещё далека от воспроизведения полного спектра человеческого сознания, включая развитое самосознание и субъективный опыт.

Представлена система выявления неисправностей в распределенных программно-аппаратных комплексах, основанная на наборе интеллектуальных технологий. Подход объединяет динамическое тестирование (фаззинг), корректируемое большими языковыми моделями, а также анализ шаблонов уязвимостей известных баз знаний MITRE и OWASP для выявления программных ошибок, способствующих проведению потенциальных атак. Предложенная архитектура оперативно диагностирует отказы и сбои, локализует их причину и автоматически эскалирует инцидент системному администратору. Практическая значимость решения подтверждена экспериментально по таким параметрам, как среднее время обнаружения ошибок, охват кода, количество обнаруженных дефектов.

Проанализирована проблема обеспечения технологического суверенитета в странах Африки, расположенных южнее Сахары. На примере Нигерии, Кении и Ганы показано, что в последние годы в африканских государствах появляются национальные программы и стратегии, направленные на развитие передовых информационных технологий, формируются профессиональные исследовательские группы, создаются научные и образовательно-научные центры, занимающиеся разработкой приложений, использующих технологии искусственного интеллекта (ИИ), а в ряде стран идет строительство технологических парков. При этом ключевым направлением исследований на сегодняшний день является решение задач в сфере обработки естественного языка, поскольку именно при условии создания широкого спектра разносторонних ИИ-приложений, способных понимать разные африканские языки, станет возможным создание развитой ИИ-экосистемы в Африке, ориентированной на потребности местного населения. При проведении исследования использовались как общенаучные (анализ, синтез, аналогия), так и специальные методы (критический дискурс-анализ, сравнительный анализ). Выявлено, что в настоящее время в Африке стали появляться языковые модели, способные распознавать речь на некоторых африканских языках (суахили, йоруба, тви, луганда), и даже была разработана специализированная Python-библиотека для решения задач распознавания речи для наиболее распространенных на территории Ганы языков. С одной стороны, данное обстоятельство действительно означает существенный прорыв, который страны Африки сумели добиться в сфере высоких технологий, но в масштабах всего континента эти успехи носят все же локальный характер, поскольку дальнейшее развитие в этой сфере упирается в типичную для большинства стран Африки проблему - отсутствие средств. В результате многие исследовательские группы в Африке существуют на общественных началах, а сами исследования зачастую финансируются за счет спонсорской помощи со стороны западных корпораций и фондов, что представляет серьезную угрозу технологическому суверенитету стран Африки южнее Сахары, которые, несмотря на прилагаемые усилия, продолжают зависеть от импортных технологий и иностранных инвестиций. Для того чтобы снизить указанную зависимость, правительствам африканских стран необходимо продумать механизмы привлечения к соответствующим исследованиям и разработкам африканских инвесторов. Только в этом случае представляется возможным организовать поиск оптимальных решений с целью удовлетворения конкретных местных и региональных потребностей.

В работе представлен инновационный метод бизнес-планирования при помощи технологии искусственного интеллекта. В быстро меняющихся условиях возможность надежного прогнозирования и планирования высоко востребована. Внедрение технологии искусственного интеллекта и автоматизация процессов анализа и планирования позволяют создать совершенно новую динамичную мультиагентную модель финансового бизнес-планирования, быстро реагирующую на изменение внешних макроэкономических факторов и снижающую риск влияния человека, что и стало результатом исследования. Поставив целью разработать новый, актуальный, современный и высокоточный технологический подход к бизнес-планированию, авторы изучили ряд современных научных исследований по внедрению искусственного интеллекта в процессы финансового планирования и прогнозирования, систематизировали их и выделили интересные и практически реализуемые идеи. В результате предложен подход, позволяющий проводить довольно гибкое и быстро реализуемое бизнес-планирование, показывающее высоконадежный результат в коротком периоде и реализующий возможность оперативного изменения параметров деятельности компании. Однако его внедрение требует модификации процессов бизнес-планирования и внедрения автономной мультиагентной системы, которые также разработаны и предложены в исследовании. Статья будет интересна практикующим экономистам и представителям бизнеса, занимающимся бизнес-планированием, а также ученым и студентам, вовлеченным в проекты стимулирования предпринимательской деятельности.

Политические предубеждения больших языковых моделей нередко становились предметом научного рассмотрения. Большинство исследователей, однако, скорее конкурирует в изобретении оригинальных способов выявлять предубеждения, нежели стремится ставить новые вопросы, с ними связанные, кроме: «Предубеждена ли эта модель политически?» и «Каков характер этого предубеждения?». Для оценки возможного влияния моделей на политическую реальность и получения ответов на некоторые вопросы регулирования необходимо также обладать способами изучения связи между предубежденностью и ее причиной. По качеству ответа на вопрос о выявлении зависимости между открытой предубежденностью и ее возможным источником я разделил подходы на три кластера: подходы, задействующие анкеты по определению политической позиции, исследования, посвященные способу составления промптов и откликов модели и их взаимосвязи, а также междисциплинарные исследования, в которых проводятся манипуляции с возможными источниками политических предубеждений больших языковых моделей. Последнее исследовательское направление кжется наиболее перспективным, несмотря на свою непопулярность на данный момент. Тем не менее продвижение в нем невозможно без тесного сотрудничества другими подходами, подпадающими под первые два кластера. К исследованиям проблемы предубеждений LLM должны привлекаться не только специалисты по компьютерным наукам, но и философы, политологи и другие специалисты в области социальных наук. Отдельного изучения также требуют политические предубеждения на стыке LLM и других технологий генеративного ИИ, в частности, технологий генерации изображений на основе промптов, составленных на естественном языке, рекомендательных алгоритмов и т. д. С точки зрения регулирования дальнейшее продвижение в области ослабления, искоренения и контроля политических предубеждений в алгоритмических инструментах потребует предоставления большего доступа исследователей к существующим и активно использующимся технологиям. Кроме того, кажется необходимым создание специальных институтов, посвященных изучению ИИ на стыке компьютерных наук, этики, философии сознания, нейрокогнитивных и социальных наук.

Рассматривается возможность применения больших языковых моделей для анализа социометрических данных. Авторы обсуждают теоретические основы социометрии, ее связь с сетевым подходом и традиционными методами анализа, а также потенциал больших языковых моделей в обработке и интерпретации социометрических данных. Исследование включает в себя апробацию больших языковых моделей на примере небольшого набора данных, демонстрируя высокую точность и скорость обработки, улучшенную интерпретацию результатов и способность формулировать качественные гипотезы. Полученные результаты свидетельствуют о значительных преимуществах использования больших языковых моделей, таких как эффективная обработка данных, улучшенная интерпретация, комплексный анализ и адаптивность к различным форматам данных. Анализ социальных связей выявил наличие центральных и периферийных групп, а также важность «мостов» между ними. Большие языковые модели также способствуют более точному выявлению лидеров и аутсайдеров, улучшая понимание групповой динамики и взаимодействий. Авторы делают вывод о том, что внедрение больших языковых моделей значительно расширяет аналитические возможности социометрии, открывая новые перспективы для развития количественных методов анализа межличностных отношений в социологии. Кроме того, использование больших языковых моделей позволяет улучшить прогнозирование изменений в социальных сетях и выявление скрытых паттернов, что важно для понимания эволюции социальных групп. Тем не менее подчеркивается необходимость валидации результатов и учета этических соображений при использовании искусственного интеллекта в анализе социальных отношений. Приведены примеры успешного применения больших языковых моделей. Показаны перспективы дальнейших исследований в данной области, а также интеграция с другими методами анализа социальных сетей и данных.

На современные социально-политические коммуникации и электоральные процессы значительное влияние оказывает цифровизация. В фокусе внимания данной работы - вопросы влияния приложений для помощи в голосовании и больших языковых моделей на формирование политических предпочтений избирателей. Главным выводом работы является утверждение о существовании рисков по скрытому манипулированию общественным мнением и продвижению интересов создателей электронных помощников, связанных с распространением новых цифровых технологий в политической сфере жизни общества.

В статье рассматривается проблема обфускации промптов как способа обхода защитных механизмов в больших языковых моделях (LLM), предназначенных для обнаружения промпт-инъекций. Промпт-инъекции представляют собой метод атаки, при котором злоумышленники манипулируют входными данными, чтобы изменить поведение модели и заставить её выполнять нежелательные или вредоносные действия. Обфускация включает в себя различные методы изменения структуры и содержания текста, такие как замена слов синонимами, перемешивание букв в словах, вставка случайных символов и другие. Цель обфускации - затруднить анализ и классификацию текста, чтобы обойти фильтры и защитные механизмы, встроенные в языковые модели. В рамках исследования проводится анализ эффективности различных методов обфускации в обходе моделей, обученных на задачу классификации текста. Особое внимание уделяется оценке потенциальных последствий обфускации для безопасности и защиты данных. В исследовании используются различные методы обфускации текстов, которые применяются к промптам из датасета AdvBench. Эффективность методов оценивается на примере трёх моделей-классификаторов, обученных на задачу обнаружения промпт-инъекций. Научная новизна исследования заключается в анализе влияния обфускации промптов на эффективность языковых моделей в обнаружении промпт-инъекций. В ходе работы выявлено, что применение сложных методов обфускации увеличивает долю запросов, классифицируемых как инъекции, что подчёркивает необходимость тщательного подхода к тестированию безопасности больших языковых моделей. Выводы исследования указывают на важность баланса между сложностью метода обфускации и его эффективностью в контексте атак на модели. Чрезмерно сложные методы обфускации могут повысить вероятность обнаружения инъекций, что требует дальнейшего изучения для оптимизации подходов к обеспечению безопасности языковых моделей. Результаты работы подчёркивают необходимость постоянного совершенствования защитных механизмов и разработки новых методов обнаружения и предотвращения атак на большие языковые модели.

Предметом исследования является разработка комплексного фреймворка для стратегического внедрения генеративного искусственного интеллекта (далее ГИИ) в бизнес-процессы организаций различных масштабов и отраслей. Анализируются существующие подходы к внедрению технологий “традиционного” искусственного интеллекта, ГИИ и цифровой трансформации, выявляются их ограничения и недостатки в контексте специфических характеристик генеративных моделей, таких как способность к созданию нового контента и связанные с этим этические и правовые риски. Обосновывается необходимость создания специализированного фреймворка, который учитывает уникальные возможности и вызовы, связанные с ГИИ, а также потребность в адаптации к разнообразным бизнес-контекстам, включая малый и средний бизнес. Рассматривается проблема отсутствия структурированных методологий, позволяющих организациям эффективно интегрировать ГИИ в свою операционную деятельность, максимизируя отдачу от инвестиций и минимизируя потенциальные риски. Исследование базируется на систематическом и сравнительном анализе научной литературы и практических публикаций, а также синтезе концептуальной основы нового фреймворка. Применяется комбинированный подход, включающий методы качественного и количественного анализа данных. Научная новизна заключается в разработке девятиэтапного фреймворка, который, в отличие от существующих подходов, интегрирует большие языковые модели (LLM) уже на этапе диагностики бизнес-процессов для семантического анализа неструктурированных данных (интервью, анкеты, опросы). Это позволяет выявить скрытые взаимосвязи и неочевидные потребности в оптимизации, которые сложно обнаружить традиционными методами. Фреймворк охватывает стратегические, операционные и технологические аспекты внедрения, а также принципы управления изменениями и рисками. Разработанный фреймворк предлагает универсальный, адаптивный и практически ориентированный подход к стратегическому внедрению ГИИ, способствуя повышению эффективности бизнес-процессов, минимизации рисков и максимизации возврата на инвестиции в технологии ГИИ. Практическая значимость подтверждается апробацией в академии крупной консалтинговой компании и пилотного проекта в ПАО “МТС”.

Предметом исследования является использование синтетических фокус-групп (СФГ), создаваемых с помощью больших языковых моделей (LLM), в рамках цифровой трансформации социологического анализа. Объектом исследования выступают инновационные методы сбора и интерпретации качественных данных, ориентированные на моделирование групповой дискуссии без участия реальных респондентов. В статье рассматривается эвристический потенциал СФГ, возможности применения метода в условиях ограниченного доступа к респондентам, а также его релевантность для изучения отношения к искусственному интеллекту в сфере высшего образования. Особое внимание уделяется способам организации взаимодействия с языковыми моделями через систему промптов, формированию ролей участников и анализу полученных дискурсивных позиций. В статье также затрагиваются этические и методологические вызовы, возникающие при использовании синтетических участников в исследовательских целях. Методология сочетает теоретический анализ научных публикаций с практическим моделированием СФГ, реализованным с помощью последовательных промптов к языковым моделям и последующей интерпретацией генерируемых данных. Научная новизна работы заключается в апробации метода синтетических фокус-групп (СФГ) как инновационного инструмента сбора качественной информации с использованием генеративных языковых моделей (LLM), таких как Gemini, Qwen, Llama, Deepseek, и Mistral. В исследовании особое внимание уделено моделированию СФГ на основе пользовательских промптов, направленных на изучение отношения студентов и преподавателей к искусственному интеллекту в системе высшего образования. Все использованные модели подчеркивали методологические ограничения СФГ: возможность искажения данных, необходимость четко обозначать синтетическую природу участников и дополнять такие исследования традиционными методами. Подобные методы могут быть полезны в ситуациях, требующих быстрого генерирования гипотез, предварительного тестирования исследовательских сценариев, а также в образовательной и экспертной практике. Вместе с тем, подчеркивается необходимость критического подхода к использованию СФГ, особенно в контексте валидности и репрезентативности получаемых данных.