Используйте CreateWindow()
или CreateWindowEx()
со стилем кнопки BS_RADIOBUTTON
или BS_AUTORADIOBUTTON
для его создания. E.g.:
HWND radioButtonHandle = CreateWindow(
TEXT("BUTTON"), TEXT("my radio button"),
WS_CHILD | WS_VISIBLE | BS_RADIOBUTTON,
/* ... */);