В текущей версии API расширений модуль xul-app предоставляет свойство name, для которого установлено либо Firefox, либо Fennec. Кажется, это работает хорошо.
var xul_app = require('xul-app');
var isMobile = (xul_app.name.toLowerCase().indexOf('fennec') > -1);