Не используется регулярное выражение и не проверено, но что-то вроде этого должно работать
str = "<div style=""margin-top:10px;"">test</div>"
start = InStr(str, "style")
first = InStr(start, str, """")
second = InStr(first, str, """")
result = Mid(str, 1, start - 1) + Mid(str, second + 1)