Если я правильно понимаю, вы пытаетесь вычислить SVD матрицы, которая не является квадратной, и у вас есть библиотека JAMA, которая работает только с квадратными матрицами?Если я вас правильно понял, то ответ на ваш вопрос очевиден: найдите библиотеку, которая вычисляет SVD для неквадратных матриц.Если я правильно помню, что Numeric Recipes содержит такой алгоритм, я думаю, вы можете найти много других источников в Google.