Отвечая на ваши вопросы один за другим
Во-первых,
у вас есть пустая функция с именем vowel, которая принимает параметр char. Когда вы объявляете тип функции, вы в основном сообщаете системе, какой тип возврата вы ожидаете от этой функции. Поскольку вы объявляете функцию void, вы не ожидаете никакого возвращаемого типа, следовательно, не имеет значения, что вы там возвращаете.
Во-вторых,
при объявлении функции гласного int
в вашей основной функции вы должны сохранить значение функции гласной в переменной.
В-третьих,
процесс, который вы видите, возвращает 0, в основном это выполнение вашей программы, сообщающее об отсутствии ошибок произошло.
То, что вы, вероятно, ищете, это что-то вроде этого, я думаю,
if (lowercase || uppercase)
printf("1");
else
printf("0");
Замечательно придумать собственные решения, я бы также предложил следовать приведенным выше решениям, так как они хорошая практика кодирования.