Распределение хорошо, распределение - то есть, как образцы распределяются; это может быть: равномерное, нормальное (гауссовское), биномиальное, бернулли, пуассон, бета, гамма. Это не имеет особого отношения к формуле, о которой вы читаете, это характеристика c случайного процесса (Бернулли / бином для бросков монет и тому подобное, Пуассон для количества чего-то в чем-то, нормальный / гауссовский для большинства других вещей) .
Функция правдоподобия - это функция от заданного тета х, тета - параметр модели. Тип (такой бином) предшествующего предпочтительно должен соответствовать типу функции правдоподобия, тогда он будет сопряженным предшествующим, значительно упрощая вычисления.