Для обратного вызова требуется функция в качестве параметра. Здесь вы фактически вызываете функцию.
Facebook фактически вызовет функцию, которую вы передаете, вместе с ответом.
Вместо того, чтобы передавать «обратный вызов (ответ)» в качестве параметра обратного вызова, просто передайте «обратный вызов» следующим образом:
function callback(response) {
alert('message was sent');
}
FB.ui({
method: 'send',
name: 'Dialog',
link: 'http://***.com',
redirect_uri: '****',
description: '***',
picture: '***',
to: userId
},
callback
);