Статья: ОПТИМИЗАЦИЯ ВРЕМЕНИ ОБУЧЕНИЯ НЕЙРОННЫХ СЕТЕЙ С АДАПТИВНЫМИ ПАРАМЕТРАМИ СКОРОСТИ ОБУЧЕНИЯ (2025)

Читать онлайн

В работе выполнен анализ классического метода градиентного спуска и предложен способ динамического изменения шага обучения на основе вычисляемых параметров τ и p. Основной акцент сделан на алгоритме, который позволяет вычислять оптимальные значения параметров τ и p для минимизации времени обучения. Эксперименты демонстрируют, как изменения этих параметров влияют на скорость обучения для различных топологий нейронных сетей и функций активации. Результаты моделирования показывают, что правильный выбор τ и p может значительно сократить временные затраты при обучении нейронных сетей с фиксированной структурой. Использование этих параметров позволяет улучшить процесс обучения, предотвращая застревание в локальных минимумах и обеспечивая баланс между скоростью обучения и точностью результата. Исследования продемонстрировали эффективность адаптивного подхода при различных топологиях нейронных сетей и функциях активации. Представленные графики и численные расчёты показывают зависимость средней скорости обучения от выбранных параметров.

Ключевые фразы: нейронная сеть, ГРАДИЕНТНЫЙ СПУСК, оптимизация, скорость обучения, адаптивные параметры, корректировка
Автор (ы): Сонина Светлана Дмитриевна
Журнал: ВЕСТНИК РОССИЙСКОГО НОВОГО УНИВЕРСИТЕТА. СЕРИЯ: СЛОЖНЫЕ СИСТЕМЫ: МОДЕЛИ, АНАЛИЗ И УПРАВЛЕНИЕ

Предпросмотр статьи

Идентификаторы и классификаторы

УДК
004.032.26. Нейронные сети
Для цитирования:
СОНИНА С. Д. ОПТИМИЗАЦИЯ ВРЕМЕНИ ОБУЧЕНИЯ НЕЙРОННЫХ СЕТЕЙ С АДАПТИВНЫМИ ПАРАМЕТРАМИ СКОРОСТИ ОБУЧЕНИЯ // ВЕСТНИК РОССИЙСКОГО НОВОГО УНИВЕРСИТЕТА. СЕРИЯ: СЛОЖНЫЕ СИСТЕМЫ: МОДЕЛИ, АНАЛИЗ И УПРАВЛЕНИЕ. 2025. № 2
Текстовый фрагмент статьи
Моя история просмотров (10)