Eigen::Isometry3d M = Eigen::Isometry3d::Identity(); cout << M.rotation <<endl;
Когда я набрал '.' после M, 'rotation' выскочил в список, скомпилировал файл и запустился, пришел к ошибке:
'.'
M
'rotation'
invalid use of non-static member function...
Это функция-член, и поэтому вам нужно ее вызвать. Попробуйте
std::cout << M.rotation() << std::endl; // ^^
Это было определено в заголовке Transform.h ; перейдите к определению для более подробной информации.