Это невозможно с VBScript. Возможно, вам удастся добавить кнопку, но вы не сможете подключить что-либо, чтобы ответить на нажатие.
Вы могли бы, вероятно, взломать что-то вместе, используя родной Win32 API, но это гораздо сложнее, чем написать собственный простой редактор на любом другом языке и использовать его вместо Блокнота. (Блокнот - это просто тонкая оболочка для многострочного элемента управления, предоставляемого Windows API.)