Документация, которую вы нашли для ROWS / RANGE, относится не к SQL Server 2008, а к будущей версии SQL Server.
Для выполнения вашего запроса в SQL 2008 один из подходов будет похож на:
SELECT a.TIC, a.datadate, a.effdate, x.s
FROM quarterResults a
CROSS APPLY ( SELECT ISNULL(SUM(v), 0)
FROM ( SELECT TOP(4) b.valuei
FROM quarterResults b
WHERE b.datadate < a.datadate
ORDER BY b.datadate DESC ) x(v)
) x(s)
ORDER BY a.TIC, a.datadate
Обратите внимание, что это потенциально дорогой запрос. Использование выражения OVER с ROWS, вероятно, будет более эффективным, но, опять же, оно недоступно в SQL Server 2008.