Похоже, они решают одну и ту же проблему, но для немного разных ситуаций. Модель служб RIA используется для серверного кода, который не будет работать в SL, например, для прямого перехода на SQL с LINQ-to-SQL или EntityFramework. С другой стороны, ADO.NET Self-Tracking Entities более универсален и может использоваться для отслеживания вещей исключительно на стороне клиента, таких как контракты данных WCF.
Из того, что я вижу, они решают одну и ту же проблему, но имеют другую целевую ситуацию.