Вы можете установить его свойство выбора равным нулю
radioButtonGroup.selection = null
<?xml version="1.0" encoding="utf-8"?>
<mx:Application xmlns:mx="http://www.adobe.com/2006/mxml" layout="absolute">
<mx:RadioButtonGroup id="radioButtonGroup" />
<mx:VBox>
<mx:RadioButton id="a" label="A" groupName="radioButtonGroup"/>
<mx:RadioButton id="b" label="B" groupName="radioButtonGroup"/>
<mx:RadioButton id="c" label="C" groupName="radioButtonGroup"/>
<mx:Button id="btn" label="Unselect" click="{radioButtonGroup.selection = null}"/>
</mx:VBox>
</mx:Application>
надеется, что поможет