Плазменный релятивистский СВЧ-генератор (ПРГ) позволяет получать излучение в диапазоне частот от 2 до 25 ГГц с мощностью 50–100 МВт. Актуальной задачей исследования ПРГ является оптимизация характеристик выходного тракта. При выведении мощного излучения ПРГ в пространство необходимо преобразование волны ТЕМ01 в волну H11 или Н10. Для этого в выходном тракте ПРГ используется преобразователь мод. В данной работе предложена новая конструкция преобразователя волны типа ТЕМ01 в волну типа H11. Была построена модель предложенного преобразователя. По результатам численного моделирования получены значения коэффициента передачи S21 и коэффициента преобразования мод. Показано, что новая конструкция преобразователя имеет улучшенные коэффициенты передачи и преобразования мод в области частот 10–16 ГГц по сравнению с используемой в настоящее время.