Я не уверен на 100%, к какому типу SVM вы обращаетесь, но я предполагаю, что вы заинтересованы в реализации SVM наименьших квадратов Suykens & Vanderwalle, NIPS 99. Если это так, я не верьте ни libsvm, ни liblinear; проверить http://www.esat.kuleuven.be/sista/lssvmlab/.
Если вас интересует нормальная квадратичная программная формулировка svm с квадратичными штрафами за слабость, libsvm и liblinear должны работать. Кроме того, более новые решатели на основе субградиентов, такие как pegasos, также могут быть полезны, но я не уверен, есть ли для вас хорошая библиотека matlab.