Для этого вам придется использовать AJAX. По сути, есть две части:
1) Вам нужен PHP-скрипт, который будет принимать переменную post для пароля, будет хэшировать его в md5, а затем выводить его в качестве вывода. Давайте назовем это to_md5.php
2) На странице регистрации вам необходимо перехватить отправку формы, вызвать ajax-вызов, который отправит пароль на ваш to_md5.php
скрипт. Вам также необходимо настроить функцию обратного вызова, чтобы завершить отправку формы, когда вы получите хешированный пароль MD5. В функции обратного вызова вы можете изменить значение пароля и отправить форму.
Возможно, есть лучшие способы сделать это, но, надеюсь, это даст вам приблизительное представление.
[EDIT]
В этом проблема, мне посоветовали не использовать javascript для отправки простого текста пароля на страницу php.
Ах, понятно. К счастью, в Javascript реализовано множество криптоалгоритмов. На ум приходит CryptoJS , размещенный в Google Code.
Реализация MD5 выглядит примерно так:
<script type="text/javascript" src="http://crypto-js.googlecode.com/files/2.5.3-crypto-md5.js"></script>
<script type="text/javascript">
var digest = Crypto.MD5("MyP@ssw0rd");
// Two different ways of creating the MD5 hash...
var digestBytes = Crypto.MD5("MyP@ssw0rd", { asBytes: true });
var digestString = Crypto.MD5("MyP@ssw0rd", { asString: true });
</script>