Совместные распределения и замена переменных

Три распределения из одного

Для пары величин есть совместное $p(x, y)$, из него получаются маргинальные и условные:

$p(x) = \int p(x, y)\,dy, \qquad p(x \mid y) = \frac{p(x, y)}{p(y)}$

Маргинализация — «проинтегрировать ненужное», обусловливание — «зафиксировать известное и перенормировать». Оба уже встречались: первое в блоке 2 как повод для кратного интеграла, второе в уроке про условную вероятность.

Из этих двух формул следует правило произведения $p(x,y) = p(x \mid y)p(y)$, а из него — Байес. Ничего нового; полезно только привыкнуть, что все три объекта живут в одной картинке.

Сумма независимых величин — свёртка

Если $X$ и $Y$ независимы, то плотность $Z = X + Y$ есть

$p_Z(z) = \int p_X(x)\,p_Y(z - x)\,dx$

Это свёртка. Формула читается прямо: чтобы сумма оказалась равна $z$, нужно чтобы $X$ попал в $x$, а $Y$ — в оставшееся $z - x$; перебираем все способы и складываем.

Отсюда несколько известных фактов сразу: сумма гауссиан гауссовская, сумма пуассоновских пуассоновская, сумма равномерных — уже нет (получается треугольное распределение). А заодно и связь с ЦПТ: свёртка сглаживает, и многократное применение любой приличной плотности к себе даёт гауссиану.

Замена переменных

Пусть $Y = g(X)$ с обратимым $g$. Тогда

$$p_Y(y) = \htmlData{k=src}{p_X\bigl(g^{-1}(y)\bigr)}\,\htmlData{k=jac}{\left|\frac{d g^{-1}}{d y}\right|}$$

Ключевое различие, которое стоит проговорить: вероятность сохраняется, плотность нет. Событие «$X$ попал в интервал» и событие «$Y$ попал в его образ» — одно и то же событие, значит вероятности равны. Но если преобразование растянуло интервал вдвое, та же вероятность распределилась по вдвое большей длине, и плотность упала вдвое. Поправка — это в точности отношение длин.

Столбики ниже — куски вероятности. Смотрите, что происходит с их шириной и высотой:

y = 2xy = x²y = eˣy = σ(4(x−½))

X равномерна на [0, 1]

Y = g(X)

суммарная вероятность

1

пик плотности

0.5

Обратите внимание, что суммарная вероятность остаётся единицей при любом преобразовании, а пик плотности гуляет как угодно. Это и есть весь ответ на вопрос «почему плотность больше единицы».

Многомерный случай

$p_Y(\mathbf{y}) = p_X\bigl(g^{-1}(\mathbf{y})\bigr)\,\bigl|\det J_{g^{-1}}(\mathbf{y})\bigr|$

Производная заменилась на определитель якобиана — коэффициент изменения объёма из блока 1. Больше ничего не изменилось.

Это и есть normalizing flows целиком. Берём простое распределение, применяем цепочку обратимых преобразований, честно накапливаем $\log|\det J|$ на каждом шаге:

$\log p_X(\mathbf{x}) = \log p_Z(\mathbf{z}) + \sum_i \log\bigl|\det J_i\bigr|$

Логарифм здесь не косметика: определители перемножаются, логарифмы складываются, и цепочка из сотни слоёв не переполняется. Тот же приём, что в блоке 2 для правдоподобия.

Отсюда и архитектурные ограничения потоков. Общий определитель стоит $O(n^3)$, что неприемлемо, поэтому преобразования выбирают с треугольным якобианом — тогда определитель это произведение диагонали, $O(n)$. Так устроены coupling layers и autoregressive flows: они не «трюк», а следствие требования дешёвого определителя.

Репараметризация

Частный случай, который стоит отдельного упоминания:

$x = \mu + \sigma\varepsilon, \qquad \varepsilon \sim \mathcal{N}(0, 1) \ \Longrightarrow \ x \sim \mathcal{N}(\mu, \sigma^2)$

Зачем это нужно: случайность вынесена в $\varepsilon$, который не зависит от параметров. Значит по $\mu$ и $\sigma$ можно дифференцировать обычным образом, пропуская градиент сквозь сэмплирование. Без этого приёма VAE не обучался бы градиентным спуском вовсе.

Многомерная версия — $\mathbf{x} = \boldsymbol{\mu} + L\boldsymbol{\varepsilon}$ с $LL^\top = \Sigma$, где $L$ — разложение Холецкого.

Графические модели: что означает стрелка

Нотация, которую достаточно уметь читать. Узлы — случайные величины, стрелки — зависимости в факторизации совместного распределения:

$p(x_1, \ldots, x_n) = \prod_i p(x_i \mid \text{родители}(x_i))$

Стрелка $A \to B$ означает, что $B$ обусловлен на $A$. Отсутствие стрелки — это утверждение об условной независимости, и содержательная информация именно в нём.

Два узора из урока про независимость: общая причина $A \leftarrow C \to B$ делает $A$ и $B$ зависимыми, пока $C$ не наблюдён, а общее следствие $A \to C \leftarrow B$ — наоборот, независимыми, пока $C$ не наблюдён. Поэтому направление стрелок несёт смысл, а не только их наличие.