Вы можете использовать один из значков класса SystemIcons .
В связанной статье MSDN есть пример.
Это не очень хороший пример, так как (а) он не удаляет растровое изображение, которое он создает, (б) он не использует try / finally, чтобы гарантировать, что созданный им графический объект будет расположен в случае исключения и (c) обработчик события нажатия кнопки не является правильным местом для рисования.
Я бы обработал событие Paint Form и нарисовал бы его следующим образом:
private void MyForm_Paint(object sender, System.Windows.Forms.PaintEventArgs e)
{
e.Graphics.DrawIcon(SystemIcons.Error, 16, 16);
}