Прежде всего, вам нужно знать, что если вы попытаетесь:
double x = 1/2;
printf("%f",x);
, вы получите результат 0.0000
Теперь для вашего уравнения:
#include <stdio.h>
#include <math.h>
int main()
{
double r,g,h;
printf("Please enter g: \n");
scanf("%lf", &g);
printf("Please enter h: \n");
scanf("%lf", &h);
r = -1 * (g/2.0) + pow(h,0.5);
printf("The result is %lf", r);
return 0;
}