В результате вы должны вернуть наблюдаемую часть вашего GetStudiesFail, поэтому вы можете попытаться заменить закомментированный код следующим образом:
catchError(err => of(new StudyActions.GetStudiesFail(err)))
упрощенная версия этой
catchError((err) => {return of(new StudyActions.GetStudiesFail(err))})
в настоящее время в вашем стеке вы не вернули свое действие и не завернули его в наблюдаемое