В вашей логике с боксом пропущен шаг, если его еще нет в dom, вам нужно установить для переменной 'box' новый div:
if (box.length == 0) {
box = $j("<div class='floatymessage'></div>");
$j('body').append(box);
}
далее,
Вы можете использовать метод, который вы настроили, но при использовании тега привязки для запуска события javascript вам нужно добавить возвращаемое значение false, чтобы остановить его обработку как обычной ссылки.
<a id="mine" href="#" onclick="floatymessage('msg');return false;">run</a>
В этом случае лучше связывать события:
$j("#mine").click(function() { floatymessage('msg'); });
Вы можете добиться того же эффекта, используя тег span вместо тега привязки, к которому нужно перейтиURL.
<span id="mine" onclick="floatymessage('msg');">run</span>