Не зная точно, что вы делаете на стороне сервера, я думаю, вы можете найти GeoServer пригодным для использования. Недавно я прочитал о лицензировании GeoServer, и, насколько я понимаю, вы можете использовать его как сервис с неизданным программным обеспечением без каких-либо проблем, как это программное обеспечение предназначено. Если вы изменяете код GeoServer и распространяете его, вам придется внести свои изменения.
GeoServer, используемый в описываемом вами случае, отличается от сценария, подобного ExtJS, где он является частью приложения. Посмотрите еще раз на лицензирование и найдите сценарии, которые объясняют интерпретацию, чтобы успокоиться. Компания, в которой я работаю, довольно часто использует программное обеспечение ГИС с открытым исходным кодом, и именно так мы его интерпретируем. Кстати, я работаю с одним из авторов.