"... Как я могу проверить, использует ли файл XML XML определение схемы (XSD)? ..."
(1) Вы не можете, если в файле XML нет встроенной ссылки по атрибуту xsi:schemaLocation
на схему XML.
(2) Несмотря на то, что какой бы API ни использовался, он все равно может проверять некоторые XSD-схемы, которые не упомянуты в реальном файле XML.