Как в учебнике
Если $g:A\to B$ и $f:B\to C$, композиция $f\circ g:A\to C$ определяется правилом $(f\circ g)(x):=f(g(x))$. Сначала применяется правая функция $g$, затем левая $f$. Выход первой операции должен входить в область определения второй.
Для $g(x)=x+1$ и $f(x)=x^2$ выполняется $(f\circ g)(2)=9$, но $(g\circ f)(2)=5$. Композиция в общем случае некоммутативна: смена порядка меняет правило. Запись $f(g(x))$ обозначает значение составленной функции, а не произведение значений $f$ и $g$.
Совместимость областей важнее внешнего вида формулы. Для $g:A\to B$ достаточно, чтобы все фактические значения $g(x)$ принадлежали области определения $f$; иначе композицию приходится ограничивать теми $x$, где следующий шаг определён. У трёх совместимых функций скобки группировки можно менять: обе записи дают $f(g(h(x)))$. Но это сохраняет порядок применения и не разрешает переставлять сами функции.
Определения и дальнейшее чтение: Mathematics for Computer Science.
На пальцах
Композиция похожа на порядок «носки, затем ботинки»: результат первого действия становится входом второго. Обмен местами сохраняет названия действий, но меняет итог и настроение окружающих. Вложенная запись читается изнутри наружу, поэтому внешний шаг работает уже с промежуточным результатом. Этот результат должен подходить следующей функции: два исправных станка ещё не гарантируют совместимость деталей.
Пример
Исходные учебные правила — $g(x)=x+1$, $f(x)=x^2$ и вход 2. Сначала показана композиция $f\circ g$, затем для сравнения — обратный порядок.
Композиция функций: результат становится входом
Внутренняя функция
Прибавление 1 к входу 2 даёт 3.
Шаг 1 из 3: Внутренняя функция
Все шаги текстом
Внутренняя функция
Прибавление 1 к входу 2 даёт 3.
- Состояние
- 2текущий3текущий
Внешняя функция
Квадрат промежуточного 3 даёт 9.
- Состояние
- 3текущий9текущий
Другой порядок
Сначала квадрат 2, затем прибавление 1: результат 5.
- Состояние
- 2текущий4текущий5текущий
Вычисление $f(g(2))$ имеет промежуточное значение 3, поэтому квадрат применяется к тройке. При обратном порядке промежуточное значение уже 4, и единица прибавляется к нему. Разница 9 и 5 показывает не ошибку арифметики, а две разные составленные функции. Полные правила имеют вид $(x+1)^2$ и $x^2+1$: скобки явно показывают, какой вход получает внешняя операция.
Дальше: Функция.