Архив статей журнала
Рассматривается развитие теории робастного оценивания параметров статистических моделей с привлечением аппарата теории информации. Анализируется подход А. М. Шурыгина, основанный на модели серии выборок со случайным точечным засорением (модели байесовского точечного засорения). В первой части нашей работы описан непараметрический способ выбора распределения засоряющей точки - посредством максимизации энтропии Шеннона или перекрестной энтропии в окрестности модельного распределения, ограниченной величиной дивергенции Кульбака - Лейблера. Такой способ нахождения плотности распределения засоряющей точки позволяет рассматривать получаемые оценки как робастные, причем обладающие свойством оптимальности. Полученные оценки мы называем обобщенными радикальными, поскольку их частным случаем являются радикальные оценки А. М. Шурыгина. Во второй части работы получено другое оптимальное решение на основе формализма А. Реньи (или эквивалентного с точки зрения нашей задачи формализма К. Цаллиса), дающее новое семейство оценок, частными случаями которого также являются некоторые известные оценки. Для выбора одной оценки из семейства, определяемого разными ограничениями на дивергенцию, предложен оптимизационный подход. Основные теоретические результаты, полученные в работе, иллюстрируются на примере оценивания параметра сдвига косинусного распределения.
Развивается теория робастного оценивания параметров статистических моделей с привлечением аппарата теории информации. Рассмотрен подход А. М. Шурыгина, основанный на модели серии выборок со случайным точечным засорением (модели байесовского точечного засорения). Из предложенных А. М. Шурыгиным оценок, пожалуй, наиболее интересными свойствами обладают стойкие оценки. Хотя данный подход можно связать с подходом Ф. Хампеля к робастному оцениванию, необходимость при нахождении стойких оценок постулировать параметрический вид распределения засоряющей точки не позволяет считать это робастной процедурой. В первой части нашей работы предложен непараметрический способ выбора указанного распределения - посредством максимизации энтропии Шеннона в окрестности модельного распределения, ограниченной величиной дивергенции Кульбака - Лейблера. Такой способ нахождения плотности распределения засоряющей точки позволяет рассматривать получаемые оценки как робастные, причем обладающие свойством оптимальности. Полученные оценки мы называем обобщенными радикальными, поскольку их частным случаем являются радикальные оценки А. М. Шурыгина. Обобщенные радикальные оценки широко известны в зарубежных публикациях как оценки минимума логарифмической дивергенции степени плотности (гамма-дивергенции), при этом вопрос их оптимальности там не исследуется. К обобщенным радикальным относятся некоторые популярные оценки параметра сдвига: оценки Мешалкина (Уэлша), Эндрюса, Смита, Бернулли, бивес-оценка Тьюки, оценка Хьюбера типа урезанного среднего, обобщенные оценки Шарбонье. Также в первой части работы предложено использовать функционал перекрестной энтропии. Перекрестная энтропия, применяемая в качестве оптимизируемого функционала вместо энтропии Шеннона, позволяет получить семейство оценок с наиболее широким диапазоном значений параметра, задающего это семейство. К задаче максимизации перекрестной энтропии сводится задача максимизации математического ожидания функции потерь оценок максимального правдоподобия в модели байесовского точечного засорения. По этой причине обобщенные радикальные оценки могут интерпретироваться как защищенные от намеренного искажения оценок максимального правдоподобия. Во второй части работы получено другое оптимальное решение на основе формализма А. Реньи (или эквивалентного с точки зрения нашей задачи формализма К. Цаллиса), дающее новое семейство оценок, частными случаями которого также являются некоторые известные оценки. Для выбора одной оценки из семейства, определяемого разными ограничениями на дивергенцию, предложен оптимизационный подход, аналогичный таковому, приводящему к стойким оценкам, но, в отличие от последнего, остающийся непараметрическим. Основные теоретические результаты, полученные в работе, иллюстрируются во второй ее части на примере оценивания параметра сдвига косинусного распределения.