Байес

Много слов уже сказано о доверительных интервалах для оценки параметра в байесе и частотке. Существуют десятки объяснений, но ни одно из них не показывает "на пальцах", чем отличаются механизмы создания этих интервалов. Так вот давайте еще и я попробую объяснить вам так, чтобы вы больше никогда не конфузились при их упоминании.

В частотном анализе, о чем вы наверняка слышали, есть одна проблема: мало кто понимает, как правильно интерпретировать классические частотные доверительные интервалы (confidence intervals). В связи с чем часто их путают с байесовскими (credible intervals).
Информация ниже содержит the nuts and bolts построения обоих доверительных интервалов (которые почему-то не описываются в книгах и форумах), а также минусы использования этих методов.

Частотка

В учебниках по статистике пишут так: "У вас есть точечная оценка некоторого параметра. Теперь подставьте ее в формулу для доверительного интервала. Вот ваш интервал. Верьте ему с вероятностью 0.95, что бы это не значило." До обнаружения существования байесовского вывода вопросов и не возникало, да? А теперь, чтобы понять разницу в мышлении, приходится разбираться по-новой и в частотке.

Предлагаю рассмотреть пример оценки неизвестного параметра абстрактного распределения. Допустим, имеем какое-то произвольное распределение с некоторой дисперсией ²и матожиданием . У есть конкретное значение (обозначим его на рисунке), но представим, что мы не знаем, где оно находится. Перед нами стоит задача оценить, чему же равно .
Как полагается по центральной предельной теореме, берем из генеральной совокупности выборку размера n и рассчитываем ее среднее арифметическое X. Если проделывать эту операцию множество раз, значения X будут иметь нормальное распределение N(, ²/n). Изобразим это на графике.

Теперь будем рассуждать так. Если мы получаем много разных значений X, то положение мы можем определить (потому что получим нормальное распределение по ЦПТ). Но если у нас будет только одно значение, что делать? Тогда придется выбрать интервал вокруг полученного X, в пределах которого должно находится истинное значение . Другими словами, если мы построим интервал (-2; 3), то с какой-то вероятностью ожидаем, что Бог нам скажет "О да, настоящее = -1, ваш интервал содержит истинное значение". Но проблема в том, что если X равно уж очень екстремальному значению, тогда какой бы широкий интервал мы не выбрали, все равно может оказаться за его пределами. Так что делать?

Так как мы читерим и на самом деле видим, где находится наш параметр , давайте рассуждать с его позиции. хочет, чтобы как можно больше выборочных средних его включили в свой интервал. Поэтому будет требовать, чтобы хотя бы 95% X давали правильный интервал. А точнее так: пусть все значения X, которые больше 2.5% квантиля и меньше 97.5% квантиля, дают интервалы, в которых точно содержится . А те, которые дальше от , так и быть, дают неправильные интервалы. Такое вот требование выставляет параметр .

Теперь рассуждаем от лица X, которые мы получили эмпирически. X не знает, где находится , но очень хочет, чтобы его интервал содержал . Он знает, что ему нужно попасть в нужные квантили, чтобы показывать правильный интервал. Где же тогда может находиться ?

Начинаем перебирать все значения с их перцнтилями. Напомню, что 95% интервал вокруг равен 2 * std (в нашем примере std = /n^0.5, но не будем запутываться). Как видим, X не попадает в некоторые перцентили(красные на рисунке), а в некоторые попадает(зеленые) - вот для этих наша оценка должна выдавать правильный интервал. Отсюда, границы нашего интервала формируются самыми критичными значениями , при которых X еще содержится в 2 * std. Тогда и расстояние от X до границ интервала равны 2 * std.

Теперь мы готовы сказать: имея некоторое эмпирическое наблюдение, которое взято из нормального распределения, мы можем построить доверительный интервал X 2 * std.

Наконец, можем сделать вывод.
Доверительный интервал в частотной статистике строится индивидуально для каждого эксперимента. В 95% случаев эти интервалы содержат истинное значение оцениваемого параметра. Однако, к сожалению, в 5% случаев(в 5 из 100 экспериментов) мы указываем вовсе неправильный диапазон значений.
Собственно, этот факт и дизморалит. Обычно задача стоит провести только 1 эксперимент и дать какую-то оценку неизвестному параметру. Этот 1 опыт может оказаться в тех самых 5% и мы дадим просто безсмысленную оценку параметру.

Байес

Как ни странно, Байес оказывается более интуитивным в интерпретации доверительных интервалов.

Байесовский доверительный интервал - такой, который содежит значение неизвестного параметра с вероятностью 95%. То есть мы так же получаем разные выборочные данные X, но теперь по ним строим единственный интервал. Получая новые данные, мы можем апдейтить модель, тем самым сужая диапазон значений, в которых почти точно находится наш параметр. Таким образом, ключевое отличие credible interval от confident interval в том, что мы имеем дело не просто с фиксированным (хоть и неизвестным) значением параметра, а с целым распределением его предполагаемых значений.

Однако такой подход накладывает дополнительные условия. Нужно выбирать априорное распределение неизвестного параметра. Оно информативно, если мы заранее можем предположить, где находятся более вероятные значения, или же неинформативно(можем взять даже равномерное распределение, если не беремся ничего предполагать).
Переходим к конкретике. Допустим, мы думаем, что параметр ~ N(0, 6). Как видите на рисунке ниже, это довольно слабое априорное распределение. Далее мы получаем первое наблюдение X и для каждого возможного значения строим функцию правдоподобия. Функция правдоподобия определяет, насколько возможно получить именно такую оценку X, если бы она была взята из распределения с таким-то или таким-то параметром . У нас это распределение N(, ²/n) (по ЦГТ, как обсуждалось ранее).
Например, очень вероятно значение ₂ считается очень вероятным, однако если бы оно было истинным, то мы бы маловероятно получили X (потому что они находится достаточно далеко друг от друга). Чтобы уравновесить эти выводы для всех возможных значений , мы перемножаем по теореме Байеса likelihood и priors. Таким образом, получили апостериорную оценку вероятности, что = _2. Проделываем это с каждым вероятным значением .

Теперь, имея апостериорное распределение параметра , мы выделяем самый маленький интервал, в котором содержится 95% вероятностных значений параметра (HPDI) и называем его доверительным. Вуаля.

Сок байесовского подхода в том, что если мы получаем несколько значений X, мы можем апдейтить наш интервал, подкрепляя его эмпирическими данными. А проблема тут в том, что если истинное значение будет экстремальным, то мы нашим интервалом просто его не покроим, потому что оно маловероятно.

Итак, мы закрыли тему доверительных интервалов для непрерывных величих. Искренне надеюсь, что эти умозаключения безошибочны, однако открыта к любой критике.

Если вас интересуют также интервалы для дискретных значений, рекомендую внимательно прочитать пример с печеньем, описанный в ответе на форуме StackExchange.

В американском футболе атакующей команде дается 4 попытки, чтобы пройти 10 ярдов и тогда команда имеет право продолжить атаковать (владеть мячом). И очень часто, перед розыгрышем 4-ой попытки, тренерам приходится решать - попытаться добрать оставшееся до минимальных 10 ярдов с риском не дойти и отдать сопернику мяч в текущей точке поля, либо сразу пробить ногой по мячу, запнув мяч подальше, обезопасив так себя в защите. Чтобы облегчить принятие этого решения и повысить его эффективность в этой статье мы построим байесовскую модель.

Необходимаяподготовка:базовыезнаниятеоремыБайсаиуверенныезнанияправилитерминологииамериканскогофутбола.

Задача

Выбратьбитьпантилиигратьна4-ой попыткевситуации"4иjярдов"напозицииполявiярдовотсвоейзачетки.

События

Изпостановкизадачиследует,чтомыдолжнырассматриватьдвавладения(своеготекущегоиследующегозатекущим,котороеполучаетсоперник).Завремяэтихдвухвладенийможетпроизойти4события,полностьюописывающиезначимыеивозможныерасклады(можетпроизойтинесколькособытий):

• еслииграем4-уюпопытку:

  • A:нашакомандазанесеттачдаунпоитогамдвухвладений

  • B:нашакомандапропуститтачдаунпоитогамдвухвладений(включаяответныйтачдауннанашзанесенный)

• еслибьемпант:

  • C:нашакомандапропуститтачдаунпоитогамдвухвладений

  • D:нашакомандазанесеттачдаунпоитогамдвухвладений(пик-сикс)

Решение

Общаяидея

Такимобразом,задачасводитсяксравнениючетырехвероятностей:

• P(A):вероятностизанестипрямойтачдаунпривыборесыграть4-уюпопытку,

• P(B):вероятностипропуститьтачдаунпривыборесыграть4-уюпопытку,

• P(C):вероятностипропуститьтачдаунпривыборепанта,

• P(D):вероятностизанеститачдаунпривыборепанта.

Ивыбор,играть4-уюпопыткуилинетсводитсякрешениюнеравенства:

События,которыевлияютнавероятностивлевойчастинеравенства,являются:занесенныйипропущенныетачдауныпоитогамдвухвладений,атакженабранныйпервыйдаунпоитогамрозыгрыша4-ойпопытки.

Этисобытиястатистическизависимы,будемиспользоватьформулуБайеса.Задачаможетбытьописанаивтерминахобычнойтеориивероятности(идажесведетсякней),нодлятого,чтобыпоказатьполнотузависимостейвероятностей,будемиспользоватьтеоремуБайеса.

Событиямивправойчастинеравенстваявляютсяпропущенныйтачдаунизанесенныйтачдаунпоитогамдвухвладений,атакжеколичествоярдов,накотороенашакомандаотодвинетсоперникаприпанте.Последнеесобытие(ярды,накоторыебудетотодвинуталинияскриммиджапослепанта)мыпримемзаконстантуивозьмемсреднеезначениеизстатистики.Такимобразом,этисобытиястатистическинезависимы,поэтомубудемиспользоватьздесьобычныебезусловныевероятности.

Розыгрыш4-ойпопытки

Вероятностьзанеститачдаунприрешениииграть4-уюпопытку,илиP(A),зависитоттого,будетлиуспешной4-аяпопытка.Атакжезависитоттого,какуспешнонашакомандареализуетситуациюпервогодауна,наконкретномучасткеполя,втачдаун.Этивероятностиполностьюописываютвсевозможныеисходы,исамоеудобное,могутбытьвзятыизнакопленной(длясобственнойкоманды)статистики:

• P(X):статистическаявероятностьпройтиjярдовзаоднупопытку,

• P(A|X):статистическаявероятностьзанеститачдаунсi-тогоярдаполя(изситуации1-10).

Здесьмыпренебрегаемвозможныминабраннымиярдамина4-ойпопыткеидляпростотыпринимаемiкактекущуюотметкувторогомаркера.

ПереходяктерминамтеоремыБайесамыполагаемP(A|X)апостериорнойвероятностьюприусловиисобытияX,аP(A)полагаемискомуюаприорнуювероятность.

ТакимобразомбазоваяформулатеоремыБайеса:

гдеP(X|A)-этовероятностьреализовать4-уюпопыткуприусловии,чтонашакомандазанесеттачдаун,аэто,согласноздравомусмыслу,равноединице.Такимобразом,нашаискомаяаприорнаявероятность:

ВитогеP(A)мысчитаемпростымперемножениемвероятностипройтиjярдовнавероятностьзанестисi-тогоярдаизситуации1-10.Обевероятностиберемизстатистики.

Вероятностьпропуститьтачдаунприрешениииграть4-уюпопытку,илиP(B),-этосуммадвухаприорныхвероятностей:

• P(Y):вероятностипропуститьтачдаунпринеудачномрозыгрыше4-ойпопытки(сместаеёрозыгрыша,изситуации1-10дляатакисоперника).Причемвероятностьнеудачногорозыгрыша4-ойпопыткиравен1-X.

• P(Z):вероятностипропуститьтачдаунвслучаеудачногорозыгрыша4-ойпопытки,например,присменевладениянаследующихдрайвахидажепосленашеготачдаунавответномвладениисвозвратаначальногоудара.

Этидвевероятностиаприорные,тоестьмыдолжныучестьвероятностьудачногорозыгрыша4-ойпопытки.Тоестьвслучаенеудачногорозыгрыша4-ойпопытки:

ивслучаеудачногорозыгрыша4-ойпопытки:

Дляупрощения,примемзаP(Z|X)простуюстатистическуювероятностьпропуститьтачдаунпослепробитияначальногоудара.Ещенемногоупрощаямыможемсвестивероятностьпропуститьпосленачальногоудараквероятностипропуститьс30+kярдов,тоестьсместа,кудамывсреднемотдвигаемпантомсместапробитияначальногоудара.

Этивероятностиполностьюописываютвсевозможныеисходы,исамоеудобное,могутбытьвзятыизнакопленной(длясобственнойкоманды)статистики.

Такимобразом,опятьжеиспользуютеоремуБайеса:

Аобщийущерб(мыведьнаходимсяужевуязвимойситуацииприигре4-ойпопыткиисчитаем,вкакомслучаеущерббудетменьшим)отрешенияиграть4-уюпопытку:

Смыслвыражениясводитсякподсчетуразницывероятныхтачдауновзадвавладения.

Пант

Прирозыгрышепантамыфактическиотказываемсяотсвоейпопытки(издвухрассматриваемыхнами)иподсчетсводитсяквероятномуущербуприигренашейкомандывзащите.

Дляэтогонамнужнознатьоткудасоперникначнетсвоевладенияивероятностьпропуститьтачдаун.Дляупрощениявероятностьзанеститачдаунпривладениисоперника(пик-сикс)будемсчитатьравнонулю.ТакимобразомP(D)=0.

Альтернативноможновзятьэтозначениеизстатистики

Дляупрощениямыбудемсчитать,чтонашакомандаприпантеотодвигаетсоперниканаодноитоже,среднеерасстояние.Итак,изнакопленнойстатистикимыберем:

• k:среднееколичествоярдов,накотороенашакомандаотодвигаетсоперникапробитиемпантасучетомвозврата,

• P(С):статистическаявероятностьпропуститьтачдаунсi+kярдаполя(изситуации1-10).

Стоитобратитьвнимание,чтоP(С)беретсядляi+kярда,тоестьдлятекущейпозициинаполеплюссреднееколичествоярдовпослепанта.

Итог

Дляпринятиярешенияотом,стоитлииграть4-уюпопыткуилипробиватьпантнадосравнитьвозможныйущерб(сучетомивозможнойпользы)отпервогорешенияивозможныйущерботвторого.Причем,вседанныемыможемвзятьизнакопленнойстатистики.Ктомужевнимательныйчитательзаметит,чтоP(Y|(1-X)),P(Z|X)иP(C)сутьодноитоже,толькоберутсядляразныхiилипозицийнаполе.

Таким образом, имея статистику розыгрышей собственной команды и указав текущее положение команды на поле перед 4-ой попыткой (количество ярдов до первого дауна и положение линии скриммиджа) можно оценить шансы и выбрать наиболее эффективный исход.

Для демонстрации идеи я написал скрипт в jupiter notebook, где можно поиграться с показателями и положением на поле, плюс графики, показывающие распределение шансов в случае панта или игры 4-ой попытки.

Надеюсь, тема не настолько ультра узкая, чтобы вообще никому не была полезной. Но для себя было интересно поупражняться в практическом, до почвенного уровня, применении Байесовских моделей. Если где-то ошибся - пишите, внесу изменения или дополнения в статью.