Вы пытаетесь запустить внутреннюю процедуру 'testProc', а не файл процедуры 'testProc.p'. Они должны быть двумя отдельными файлами. Создайте файл 'testProc.p' на своем сервере приложений и поместите в него свою логику:
DEFINE OUTPUT PARAMETER o_tmp AS CHARACTER INITIAL "HELLO".
В отдельный файл поместите код, который вызывает testProc.p:
DEFINE VARIABLE hndle AS HANDLE NO-UNDO.
DEFINE VARIABLE tmp AS CHARACTER NO-UNDO.
CREATE SERVER hndle.
hndle:CONNECT ("-AppService AppServiceName -H localhost").
RUN testProc.p ON hndle(OUTPUT tmp).
hndle:DISCONNECT ().
DELETE OBJECT hndle.
MESSAGE tmp VIEW-AS ALERT-BOX INFORMATION.
Обратите внимание, что ваша вызывающая программа запускает testProc.p, а не testProc. Запустите этот код, и вы должны получить всплывающее сообщение «HELLO».