.NET 3.5 не имел новых версий mscorlib, System.dll и т. Д. - в нем были новые сборки, но те, которые вы могли использовать из .NET 2, были такими же.
.NET 4 представляет новые версии этих сборок ядра - и ваша встроенная DLL будет явно ссылаться на эти новые версии. Visual Studio 2008 не знает ни о тех версиях, ни о CLR, которые идут вместе с ними.
Если вы хотите использовать библиотеку в Visual Studio 2008, вы должны начать с .NET 3.5, чтобы начать с.