Только что попробовал мой кластер CE. Работает отлично. Вы изменили какие-либо параметры в lsf.conf? Или есть какие-либо установленные esub, которые могут изменять параметры отправки?
$ lsid
IBM Spectrum LSF Community Edition 10.1.0.0, Jun 15 2016
Copyright IBM Corp. 1992, 2016. All rights reserved.
US Government Users Restricted Rights - Use, duplication or disclosure restricted by GSA ADP Schedule Contract with IBM Corp.
$ bsub -n 8 -R "rusage[mem=20000]" hostname
Job <101> is submitted to default queue <normal>.