У меня была такая же проблема.Я использовал
<fileset dir="${basedir}/build">
<include name="**/*.class"/>
</fileset>
внутри цели findbugs, и кажется, что слишком много .class файлов для передачи в findbug («через командную строку»), потому что когда я использовал
<fileset dir="${basedir}/build/com/domain/package">
<include name="**/*.class"/>
</fileset>
с низким числом классов ошибка исчезла.
Итак, я решил проблему, создав один jar-файл и передав его в цель findbugs с
<findbugs home="${findbugs.home}">
...
<class location="${basedir}/targets/classes-to-analyze.jar"/>
</findbugs>