VS2010 поддерживает SQLite (я использую его сейчас).Если у вас есть полная версия, вы можете использовать графический интерфейс, иначе вам нужно настроить базу данных вручную с помощью SQL.
Я только начал использовать CoolStorage ORM с SQLite, это здороводля работы.
Вам может потребоваться следующий код в файле app.config
<?xml version="1.0" encoding="utf-8" ?>
<configuration>
<startup useLegacyV2RuntimeActivationPolicy="true">
<supportedRuntime version="v4.0" />
</startup>
</configuration>