Нашел проблему, передал нулевой функции, и это взорвало ее.Помогло изменить способ, которым он был назван, например, вместо этого:
select ..
where fn_decrypt(Field) = @myfield
Я изменил его на:
declare @myfieldenc ..
set @myfieldenc = fn_encrypt(@myfield)
select ..
where Field = @myfieldenc