Я всегда использую FilterMode = "ValidChars" или FilterMode = "InvalidChars".Затем используйте ValidChars = "0123456789.," Или InvalidChars = "0123456789.,", Чтобы выполнить работу
<asp:FilteredTextBoxExtender
ID="FilteredTextBoxExtender1"
runat="server"
TargetControlID="TextBox1"
FilterMode="ValidChars"
ValidChars="0123456789.,">
</asp:FilteredTextBoxExtender>