Писать следующий код по клику Event вашей кнопки это довольно простая задача.
//Creating New Button
Button btn = new Button();
//Adding Some text to button
btn.Text = "New Button";
//Specifing Location of Button to be placed
btn.Location = new Point(200, 200);
//Adding button to form
this.Controls.Add(btn);
Попробуйте код выше.