Образ и прообраз

Два понятия, которые выглядят симметрично, но ведут себя по-разному. Прообраз устроен сильно лучше, и именно поэтому вся теория меры построена на нём.

Определения

Образ подмножества $A \subseteq X$ — то, куда попадает $A$:

$f(A) = \{f(x) : x \in A\} \subseteq Y$

Прообраз подмножества $B \subseteq Y$ — всё, что попадает в $B$:

$f^{-1}(B) = \{x \in X : f(x) \in B\} \subseteq X$

В коде: образ — это {f(x) for x in A}, прообраз — {x for x in X if f(x) in B}.

Критично: $f^{-1}$ здесь не обратная функция. Прообраз определён для любой функции, даже необратимой. $f^{-1}(B)$ может быть пустым, может содержать один элемент, может содержать миллион. Это функция из $2^Y$ в $2^X$, а не из $Y$ в $X$.

Для $f(x) = x^2$ на $\R$: $f^{-1}(\{4\}) = \{-2, 2\}$, $f^{-1}(\{-1\}) = \emptyset$. Никакой обратной функции при этом не существует.

Почему прообраз ведёт себя лучше

Вот вся суть, в одной таблице:

	Прообраз	Образ
объединение	$f^{-1}(B \cup C) = f^{-1}(B) \cup f^{-1}(C)$	$f(A \cup B) = f(A) \cup f(B)$
пересечение	$f^{-1}(B \cap C) = f^{-1}(B) \cap f^{-1}(C)$	$f(A \cap B) \subseteq f(A) \cap f(B)$
дополнение	$f^{-1}(\bar{B}) = \overline{f^{-1}(B)}$	нет разумного аналога

Прообраз сохраняет все операции над множествами. Образ сохраняет только объединение, а на пересечении ломается — и вот почему.

Возьмём $f(x) = x^2$, $A = \{-1\}$, $B = \{1\}$. Тогда $A \cap B = \emptyset$, и значит $f(A \cap B) = \emptyset$. Но $f(A) = \{1\}$ и $f(B) = \{1\}$, так что $f(A) \cap f(B) = \{1\}$. Включение строгое.

Причина простая: разные точки могут склеиться в одну. Прообраз идёт в другую сторону и ничего не склеивает — каждый $x$ либо попадает в $B$, либо нет.

Где это окупается

Это не абстрактная эстетика. Функция называется измеримой, если прообраз любого измеримого множества измерим:

$\forall B \in \mathcal{B}(Y) : \quad f^{-1}(B) \in \mathcal{F}$

Определение работает именно потому, что прообраз коммутирует со всеми операциями: класс измеримых множеств замкнут относительно объединений, пересечений и дополнений, и прообраз это уважает. Через образ такое определение дать было бы нельзя.

Отсюда же — определение случайной величины. Запись $P(X \le t)$ на самом деле означает

$P(\{\omega \in \Omega : X(\omega) \le t\}) = P\big(X^{-1}((-\infty, t])\big)$

то есть «вероятность прообраза». Когда в блоке 3 встретится $P(X \in B)$, вы уже знаете, что за этим стоит.

Полезные тождества

$A \subseteq f^{-1}(f(A)), \qquad f(f^{-1}(B)) \subseteq B$

Оба включения в общем случае строгие. Равенство слева достигается ровно тогда, когда $f$ инъективна, справа — когда $f$ сюръективна. Это ещё один способ увидеть, что означают эти два свойства.

Проверка понимания

Если $f$ — обученная модель классификации, $f : \mathcal{X} \to \{0, 1\}$, то $f^{-1}(\{1\})$ — это множество всех объектов, которые модель относит к положительному классу. Область решения. А $f(\mathcal{X})$ — просто $\{0, 1\}$ и никакой информации не несёт.

Это типично: в приложениях интересен прообраз.