Если бы вы использовали элемент Swing, вы бы использовали метод createRaisedBevelBorder () из BorderFactory и установили границу холста на результирующую границу. Canvas - это компонент AWT, поэтому вам нужно обернуть его компонентом Swing, для которого можно установить границу.