Вы объявили две переменные в двух разных блоках, но затем попытались использовать их вне этих блоков. Вместо этого вы хотите объявить одну переменную и присвоить ей значение в каждом из блоков:
int startWordLenRec(char s[]) {
int length;
if (isLetter(s) == false){
length = 0;
}
else {
length = 1 + startWordLenRec(s+1);
}
return length;
}
(Я удалил постороннее «если» после «еще».)
Однако условное выражение будет более понятным (IMO):
int startWordLenRec(char s[]) {
return isLetter(s) ? 1 + startWordLenRec(s+1) : 0;
}