Эта книга, которую вы цитируете, - золото, чтобы правильно изучить WebGL! Рад, что и здесь мы можем помочь ( Кстати, пожалуйста, не забудьте принять лучший ответ здесь )
m3 - это экземпляр типа Matrix4, который вы можете найти в cuon-matrix. js , Каждый пример в книге использует этот файл для математической части.
matrix = m3.translate(matrix,translation[0],translation[1]);
Функция перевода фактически применяет перевод на 3 оси к экземпляру матрицы (в вашем случае m3)
Matrix4.prototype.translate = function(x, y, z)
Таким образом, запрашиваемая вами строка кода неверна. Вы не должны передавать матрицу в качестве первого параметра. Параметров всего 3: сумма перевода по осям x, y и z.