Действительно, документация C тоже ничего не говорит. Вы должны сообщить об этом упущении как об ошибке на bugzilla.gnome.org.
Возможно, это то же самое, что и другие сигналы событий в GTK? То есть, верните TRUE, чтобы остановить вызов других обработчиков, FALSE, чтобы распространить событие дальше? Несмотря на то, что это не сигнал события, его предшественник в GTK 2 был, возможно, для обратной совместимости? Например, быстрый взгляд на исходный код GtkButton показывает, что он просто возвращает FALSE.