Измените вызов на следующий
Assert.IsInstanceOfType(0, typeof(int));
Первый параметр - это проверяемый объект, а не тип проверяемого объекта. передавая 0.GetType (), вы говорили, что «RunTimeType» экземпляр System.int, который является ложным. Под прикрытием этот вызов просто разрешается до
if (typeof(int).IsInstanceOfType(0))