Публикации автора

Оптимизация является одним из важнейших инструментов управления системами различной природы. Наряду со ставшими классическими задачами оптимизации при принятии решений и управлении техническими системами, поиск экстремума функции представляет собой важный инструмент в машинном обучении. Особенно существенна роль эффективных алгоритмов оптимизации при решении динамических задач, когда решение должно быть найдено в режиме реального времени. При этом, проблема быстрой численной оптимизации пока что не получила универсального решения и требует дополнительной разработки и усовершенствованных подходов. В работе предложен новый метод оптимизации, основанный на модификации алгоритма гравитационного поиска. Он использует аналогию с гравитационным притяжением масс, зависящих от значения целевой функции. Недостатком обычного гравитационного поиска является проявление при его работе эффектов инерции, которые усложняют процесс оптимизации. Для улучшения работы алгоритма нами предложено использовать модель вязкого движения эффективных частиц. Обсуждаются основные уравнения, описывающие работу представленной модификации гравитационного поиска. Описан алгоритм вязкого гравитационного поиска и приведена его реализация в псевдокоде. Особенности работы алгоритма проанализированы на примерах эталонных целевых функций Растригина и Швефеля со многими локальными минимумами в сравнении с генетическим алгоритмом и стандартным алгоритмом гравитационного поиска с помощью программ, реализованных на языке Python. Нами исследована скорость работы и точность определения минимума функций с различным числом переменных вязким гравитационным алгоритмом. Полученные результаты позволяют сделать вывод о высокой эффективности вязкого гравитационного поиска и целесообразности его применения к решению задач многомерной оптимизации.

Графовые нейронные сети в настоящее время являются объектом все возрастающего интереса в области машинного обучения и анализа данных. Их специализированная архитектура позволяет эффективно моделировать и анализировать сложные структуры данных на графах, такие как социальные сети, биоинформационные сети, транспортные сети и другие. С возрастанием объема данных, представленных в виде графов, растет их значимость как инструмента для понимания и прогнозирования сложных взаимосвязей и паттернов. Данная работа направлена на оценку эффективности метода L2-регуляризации, применяемого при машинном обучении в контексте задачи кластеризации узлов графа. Под кластеризацией понимается объединение узлов в группы, выделяемые по степени их связности. При обучении используется специальный метод регуляризации и реализующий его алгоритм распространения меток LPA (Label Propagation Algorithm), а также расширение данного подхода на две популярные архитектуры графовых нейронных сетей: GraphSAGE (Graph Sample and Aggregation) и GAT (Graph Attention Networks). В рамках исследования проводится сравнительный анализ эффективности применения метода LPA на различных датасетах, широко применяемых в научных и практических задачах. Результаты исследования показывают заметное улучшение точности анализа графовых моделей данных при использовании анализируемого подхода. Проведенное исследование способствует более глубокому пониманию воздействия общего подхода L2-регуляризации в плане обучения графовых нейронных сетей.