ОБ ОДНОМ ИТЕРАЦИОННОМ МЕТОДЕ РЕШЕНИЯ ЗАДАЧ ЛИНЕЙНОГО ПРОГРАММИРОВАНИЯ НА КЛАСТЕРНЫХ ВЫЧИСЛИТЕЛЬНЫХ СИСТЕМАХ (2020)
Статья посвящена исследованию нового метода решения сверхбольших задач линейного программирования. Указанный метод получил название “апекс-метод”. Апекс-метод работает по схеме предиктор-корректор. На фазе предиктор находится точка, лежащая на границе n-мерного многогранника, задающего допустимую область задачи линейного программирования. На фазе корректор организуется итерационный процесс, в результате которого строится последовательность точек, сходящаяся к точному решению задачи линейного программирования. В статье дается формальное описание апекс-метода и приводятся сведения о его параллельной реализации на языке C++ с использованием библиотеки MPI. Приводятся результаты масштабных вычислительных экспериментов на кластерной вычислительной системе по исследованию масштабируемости апекс-метода.
Идентификаторы и классификаторы
- eLIBRARY ID
- 43989867
Быстрое развитие технологий накопления и обработки больших данных [1, 2] привело к появлению оптимизационных математических моделей в виде сверхбольших задач линейного программирования (ЛП) [3]. Такие задачи возникают в индустрии, экономике, логистике, статистике, квантовой физике и других областях [4–7]. Классическое программное обеспечение во многих случаях не позволяет решить подобные масштабные задачи линейного программирования за приемлемое время [8]. Вместе с тем в ближайшие 2–3 года появятся вычислительные системы экзафлопсного уровня производительности [9], потенциально способные решать подобные задачи. В соответствии с этим актуальной является задача разработки новых эффективных методов для решения сверхбольших задач линейного программирования с помощью экзамасштабных вычислительных систем.
До настоящего времени одним из самых распространенных способов решения задачи ЛП являлся класс алгоритмов, предложенных и разработанных Данцигом на основе симплекс-метода [10]. Симплексметод оказался эффективным для решения большого класса задач ЛП. Однако симплекс-метод имеет некоторые фундаментальные особенности, ограничивающие его применение для больших задач линейного программирования. Во-первых, в определенных случаях симплекс-методу приходится перебирать все вершины симплекса, что соответствует экспоненциальной временной сложности [11–13].
Список литературы
- Jagadish H.V., Gehrke J., Labrinidis A., et al. Big data and its technical challenges // Communications of the ACM. 2014. 57, N 7. 86-94.
- Hartung T. Making big sense from big data // Frontiers in Big Data. 2018. 1. DOI: 10.3389/fdata.2018.00005
- Соколинская И.М., Соколинский Л.Б. О решении задачи линейного программирования в эпоху больших данных // Параллельные вычислительные технологии - XI международная конференция, ПаВТ’2017, г. Казань, 3-7 апреля 2017 г. Челябинск: Издательский центр ЮУрГУ, 2017. 471-484. EDN: ZAPYPF
- Chung W. Applying large-scale linear programming in business analytics // Proc. 2015 IEEE International Conference on Industrial Engineering and Engineering Management (IEEM). New York: IEEE Press, 2016. 1860-1864.
- Gondzio J., Gruca J.A., Hall J.A. J., et al. Solving large-scale optimization problems related to Bell’s Theorem // Journal of Computational and Applied Mathematics. 2014. 263. 392-404.
- Sodhi M.S. LP modeling for asset-liability management: a survey of choices and simplifications // Operations Research. 2005. 53, N 2. 181-196.
- Brogaard J., Hendershott T., Riordan R. High-frequency trading and price discovery // Review of Financial Studies. 2014. 27, N 8. 2267-2306.
- Bixby R.E. Solving real-world linear programs: a decade and more of progress // Operations research. 2002. 50, N 1. 3-15. EDN: DWNAZJ
- Dongarra J., Gottlieb S., Kramer W.T. C. Race to exascale // Computing in Science Engineering. 2019. 21, N 1. 4-5.
-
Dantzig G.B. Linear programming and extensions. Princeton: Princeton Univ. Press, 1998.
-
Klee V., Minty G.J. How good is the simplex algorithm? // Inequalities-III. Vol. 3. New York: Academic Press, 1972. 159-175.
-
Jeroslow R.G. The simplex algorithm with the pivot rule of maximizing criterion improvement // Discrete Mathematics. 1973. 4, N 4. 367-377.
-
Zadeh N. A bad network problem for the simplex method and other minimum cost flow algorithms // Mathematical Programming. 1973. 5, N 1. 255-266.
-
Bartels R.H., Stoer J., Zenger Ch. A realization of the simplex method based on triangular decompositions // Handbook for Automatic Computation. Vol. II: Linear Algebra. Berlin: Springer, 1971. 152-190.
-
Tolla P. A survey of some linear programming methods // Concepts of Combinatorial Optimization. Hoboken: Wiley, 2014. 157-188.
-
Mamalis B., Pantziou G. Advances in the parallelization of the simplex method // Lecture Notes in Computer Science. Vol. 9295. Cham: Springer, 2015. 281-307.
-
Lubin M., Hall J.A. J., Petra C.G., Anitescu M. Parallel distributed-memory simplex for large-scale stochastic LP problems // Computational Optimization and Applications. 2013. 55, N 3. 571-596.
-
Хачиян Л.Г. Полиномиальный алгоритм в линейном программировании // Доклады АН СССР. 1979. 244, № 5. 1093-1096.
-
Шор Н.З. Метод отсечения с растяжением пространства для решения задач выпуклого программирования // Кибернетика. 1977. 13, № 1. 94-95.
-
Юдин Д.Б., Немировский А.С. Информационная сложность и эффективные методы решения выпуклых экстремальных задач // Экономика и математические методы. 1976. 12, № 2. 357-369. EDN: ITHFKV
-
Karmarkar N. A new polynomial-time algorithm for linear programming // Combinatorica. 1984. 4, N 4. 373-395.
-
Fathi-Hafshejani S., Mansouri H., Peyghami M.R., Chen S. Primal-dual interior-point method for linear optimization based on a kernel function with trigonometric growth term // Optimization. 2018. 67, N 10. 1605-1630.
-
Asadi S., Mansouri H. A Mehrotra type predictor-corrector interior-point algorithm for linear programming // Numerical Algebra, Control and Optimization. 2019. 9, N 2. 147-156.
-
Yuan Y. Implementation tricks of interior-point methods for large-scale linear programs // Proc. SPIE 8285. Graphic and Image Processing. 2011. DOI: 10.1117/12.913019
-
Kheirfam B., Haghighi M. A full-Newton step infeasible interior-point method for linear optimization based on a trigonometric kernel function // Optimization. 2016. 65, N 4. 841-857.
-
Xu Y., Zhang L., Zhang J. A full-modified-Newton step infeasible interior-point algorithm for linear optimization // Journal of Industrial and Management Optimization. 2016. 12, N 1. 103-116.
-
Roos C., Terlaky T., Vial J.-P. Interior point methods for linear optimization. New York: Springer, 2005. EDN: SSXGWR
-
Sokolinskaya I. Parallel method of pseudoprojection for linear inequalities // Parallel Computational Technologies. Vol. 910. Cham: Springer, 2018. 216-231. EDN: YBKIKD
-
Hafsteinsson H., Levkovitz R., Mitra G. Solving large scale linear programming problems using an interior point method on a massively parallel SIMD computer // Parallel Algorithms and Applications. 1994. 4, N 3-4. 301-316.
-
Karypis G., Gupta A., Kumar V. A parallel formulation of interior point algorithms // Proc. 1994 ACM/IEEE Conference on High Performance Computing, Networking, Storage, and Analysis. Los Alamitos: IEEE Press, 1994. 204-213.
-
Ершова А.В., Соколинская И.М. О сходимости масштабируемого алгоритма построения псевдопроекции на выпуклое замкнутое множество // Вестник ЮУрГУ. Серия: Математическое моделирование и программирование. 2011. № 37. 12-21. EDN: OITVAR
-
Соколинская И.М., Соколинский Л.Б. Модифицированный следящий алгоритм для решения нестационарных задач линейного программирования на кластерных вычислительных системах с многоядерными ускорителями // Суперкомпьютерные дни в России: Труды международной конференции (26-27 сентября 2016 г., г. Москва). Москва: Изд-во МГУ, 2016. 294-306. EDN: WXJHIP
-
Соколинская И.М., Соколинский Л.Б. Исследование масштабируемости модифицированного алгоритма Чиммино для линейных неравенств // Суперкомпьютерные дни в России: Труды международной конференции (24-25 сентября 2018 г., г. Москва). Москва: Изд-во МГУ, 2018. 673-683. EDN: VNWJEC
-
Ерёмин И.И. Фейеровские методы для задач выпуклой и линейной оптимизации. Челябинск: Издательский центр ЮУрГУ, 2009.
-
Соколинская И.М., Соколинский Л.Б. Масштабируемый алгоритм для решения нестационарных задач линейного программирования // Вычислительные методы и программирование: новые вычислительные технологии. 2018. 19(4). 540-550. EDN: KMVMTD
-
Press W.H., Teukolsky S.A., Vetterling W.T., Flannery B.P. Numerical recipes: the art of scientific computing. New York: Cambridge Univ. Press, 2007.
-
Censor Y., Elfving T., Herman G.T., Nikazad T. On diagonally relaxed orthogonal projection methods // SIAM Journal on Scientific Computing. 2008. 30, N 1. 473-504.
-
Соколинский Л.Б., Соколинская И.М. Параллельный алгоритм решения нестационарных систем линейных неравенств // Параллельные вычислительные технологии - XIV международная конференция (ПаВТ'2020), г. Пермь, 31 марта-2 апреля 2020 г. Челябинск: Издательский центр ЮУрГУ, 2020. 275-286. EDN: YAUFZF
-
Ежова Н.А., Соколинский Л.Б. BSF: модель параллельных вычислений для многопроцессорных систем с распределенной памятью // Параллельные вычислительные технологии - XII международная конференция, ПаВТ'2018, г. Ростов-на-Дону, 2-6 апреля 2018 г. Челябинск: Издательский центр ЮУрГУ, 2018. 253-265. EDN: XNIBPV
-
Ежова Н.А., Соколинский Л.Б. Модель параллельных вычислений для многопроцессорных систем с распределенной памятью // Вестник ЮУрГУ. Серия: Вычислительная математика и информатика. 2018. Т. 7, № 2. 32-49. EDN: XQCSHJ
-
Sokolinsky L.B. BSF-skeleton [Electronic resource]. 2019. https://github.com/leonid-sokolinsky/BSF-skeleton (accessed: 27.08.2020).
-
Ежова Н.А., Соколинский Л.Б. Модель параллельных вычислений BSF-MR // Системы управления и информационные технологии. 2019. № 3. 15-21. EDN: NPXCXM
-
Kostenetskiy P.S., Safonov A.Y. SUSU supercomputer resources // Proc. 10th Annual International Scientific Conference on Parallel Computing Technologies (PCT 2016). CEURWorkshop Proceedings. Vol. 1576. 2016. 561-573. EDN: WUHNYN
-
Gay D.M. Netlib-Lp [Electronic resource]. URL: http://www.netlib.org/lp/ (accessed: 27.08.2020).
-
Koch T. The final NETLIB-LP results // Operations Research Letters. 2004. 32, N 2. 138-142. EDN: ETCGSX
Выпуск
Методы и алгоритмы вычислительной математики и их приложения. Параллельные программные средства и технологии
Другие статьи выпуска
В работе предложен алгоритм редукции трехмерных цифровых изображений для ускорения вычисления персистентных диаграмм, характеризующих изменения в топологии порового пространства образцов горной породы. Воксели для удаления выбираются исходя из структуры своей окрестности, что позволяет редуцировать изображение за линейное время. Показано, что эффективность алгоритма существенно зависит от сложности устройства порового пространства и размеров шагов фильтрации.
В данной статье описан подход к созданию прототипа графового фреймворка VGL (Vector Graph Library), нацеленного на эффективную реализацию графовых алгоритмов для современной векторной архитектуры NEC SX–Aurora TSUBASA. Современные векторные системы позволяют значительно ускорять приложения, интенсивно использующие подсистему памяти, подклассом которых являются графовые алгоритмы. Однако подходы к эффективной реализации графовых алгоритмов для векторных систем на сегодняшний день исследованы крайне слабо: вследствие сильно нерегулярной структуры графов реального мира, эффективно задействовать векторные особенности целевых платформ затруднительно. В работе показано, что разработанные на основе предложенного фреймворка VGL реализации графовых алгоритмов не уступают в производительности оптимизированным “вручную” аналогам за счет инкапсуляции большого числа оптимизаций графовых алгоритмов, характерных для векторных систем. Вместе с этим предложенный фреймворк позволяет значительно упростить процесс разработки графовых алгоритмов для векторных систем, на порядок сокращая объем кода реализуемых алгоритмов и скрывая от пользователя особенности программирования систем данного класса.
Показано, что теорема Кенига о нулях аналитической функции, примененная к логарифмической производной целой функции конечного порядка, приводит к алгоритму отыскания нулей, для которого областями сходимости являются многоугольники Вороного искомых нулей. Так как диаграмма Вороного последовательности нулей составляет множество меры нуль, то алгоритм имеет глобальную сходимость. Дана оценка скорости сходимости. Для итераций высших порядков, которые строятся с помощью теоремы Кенига, рассмотрено влияние кратности корня на область сходимости и приводится оценка скорости сходимости.
Рассматривается приближенный метод решения задачи Коши для нелинейных обыкновенных дифференциальных уравнений первого порядка, основанный на применении смещенных рядов Чебышёва и квадратурной формулы Маркова. Приведены способы оценки погрешности приближенного решения, выраженного в виде частичной суммы ряда некоторого порядка. Погрешность оценивается с помощью второго приближенного решения, вычисленного специальным образом и представленного частичной суммой ряда более высокого порядка. На основе предложенных способов оценки погрешности построен алгоритм автоматического разбиения промежутка интегрирования на элементарные сегменты, делающие возможным вычисление приближенного решения с наперед заданной точностью. Работа метода проиллюстрирована примерами, в том числе примером из небесной механики.
Представлено численное исследование влияния шероховатости границраздела в слоистой среде на эффективные упругие свойства тонкослоистой среды. Предложен алгоритм построения статистически эквивалентных моделей слоистых сред двух различных типов. Первый тип включает в себя модели с постоянными упругими параметрами, но с шероховатой границей раздела. Второй тип состоит из моделей с плоскими границами раздела, но с параметрами, задаваемыми случайными величинами. При этом распределение упругих параметров в моделях второго типа (средние значения и ковариационная матрица) однозначно определяется шероховатостью границ раздела (длина корреляции и стандартное отклонение) в моделях первого типа.
В рамках статистического подхода, основанного на кинетическом уравнении для функции плотности вероятности распределения скорости и температуры частиц, построена континуальная модель, описывающая псевдотурбулентные течения дисперсной фазы. Введение функции плотности вероятности позволяет получить статистическое описание ансамбля частиц вместо динамического описания отдельных частиц на основе уравнений движения и теплопереноса типа Ланжевена. На основе уравнений для первых и вторых моментов дисперсной фазы проводится численное моделирование нестационарного течения газовзвеси, возникающего при взаимодействии ударной волны с облаком частиц. Основные уравнения имеют гиперболический тип, записываются в консервативной форме и решаются с использованием численного метода типа Годунова повышенного порядка точности. Обсуждается влияние двумерных эффектов на формирование ударно-волновой структуры течения и пространственно-временны´е зависимости концентрации частиц и других параметров потока.
Рассматривается проблема оптимального управления системой, состоящей из краевой задачи первого рода для квазилинейного параболического уравнения с неизвестным коэффициентом, а также из уравнения изменения по времени этого коэффициента. Обоснованы две постановки вариационных задач с финальным наблюдением, в которых управлением является граничный режим на одной из границ области. Доказаны свойства непрерывности и дифференцируемости соответствующих минимизируемых функционалов. Дано явное представление для дифференциалов через решение сопряженных задач. Установлен вид этих сопряженных задач, доказана их однозначная разрешимость в классе гладких функций. Проведенное исследование связано с моделированием и управлением физико-химическими процессами с изменяющимися внутренними свойствами материалов.
Сформулирована игровая модель противоборства в виде модели “нападение и защита”, указаны способы вычисления ресурсов сторон, анализированы эффективность их стратегий и установлены условия существования оптимального решения рассматриваемых задач.
Предложена нестационарная 2D-модель транспорта донных отложений в прибрежной зоне мелководных водоемов, дополненная уравнениями Навье–Стокса, неразрывности и состояния водной среды. Дискретная модель транспорта наносов получена в результате аппроксимации соответствующей линеаризованной непрерывной модели. Поскольку задачи прогнозирования транспорта наносов требуют решения в реальном или ускоренном масштабах времени, на сетках, включающих 106–109 узлов, необходима разработка параллельных алгоритмов задач гидродинамики на системах с массовым параллелизмом. Представлены результаты работы созданного эффективного программного обеспечения для выполнения гидродинамических вычислительных экспериментов, позволяющие проводить численное моделирование деформации дна в прибрежной зоне водоема. Приведены результаты численных экспериментов.
Издательство
- Издательство
- МГУ
- Регион
- Россия, Москва
- Почтовый адрес
- оссийская Федерация, 119991, Москва, Ленинские горы, д. 1
- Юр. адрес
- оссийская Федерация, 119991, Москва, Ленинские горы, д. 1
- ФИО
- Садовничий Виктор Антонович (РЕКТОР)
- E-mail адрес
- info@rector.msu.ru
- Контактный телефон
- +7 (495) 9391000
- Сайт
- https://msu.ru/