Краткий ответ: вы не можете.
Даже в UTF-8 спецификация является полностью дополнительной, и часто рекомендуется ее не использовать, поскольку многие приложения не обрабатывают ее должным образом, а просто отображают, как если бы это был печатный символ. Первоначальная цель маркеров порядка следования байтов состояла в том, чтобы определить порядок файлов UTF-16.
При этом большинство приложений, поддерживающих Unicode, реализуют какой-то алгоритм угадывания. Прочитайте начало файла и найдите определенные подписи.