Как уже сказал другой OfType - это не метод интерфейса IEnumerable. Тем не менее, вам не нужно издеваться над ним, все, что вам нужно, это смоделировать метод IEnumerable.GetEnumerator, который довольно легко сделать:
var enumerable = new Mock<IEnumerable>();
var something = new List<SomeType>
{
new SomeType(),
new SomeType(),
new SomeType(),
};
enumerable.Setup(_ => _.GetEnumerator()).Returns(something.GetEnumerator());
Assert.That(enumerable.Object.OfType<SomeType>(), Is.EquivalentTo(something));
Вы просто перенаправляете метод GetEnumerator в одну из коллекций «что-то», и это все. Вы получите все методы расширения, работающие на макет автоматически.