AFAIK, Linq to SQL зависит от поставщика MSSQL-сервера. Если честно, SQL Express довольно прост на современных машинах.
Кстати, не путайте LINQ с Linq to SQL. Linq - это базовая технология, обеспечивающая «запрос», например, поддержку .NET (среди прочего), где L2S фактически является технологией доступа к данным, построенной на основе Linq. Vanilla Linq будет работать с любым провайдером ADO.NET, который, конечно, является Access.
Entity Framework также будет работать с любым совместимым провайдером, но если SQLExpress слишком тяжел для вас, я бы не рекомендовал идти по этому пути ...