Вы не можете определить, зашифрована ли строка, только самой строкой. Можно ввести данные, которые похожи на результат вашей хэш-функции SHA512, но без фактического хеширования.
Если вы знаете, что он хэширован и хотите знать, использовался ли SHA512, единственное, что вы можете проверить, это то, что длина строки составляет 512 бит, но это точно не скажет вам, является ли она SHA512.