Используйте прямоугольный объект и откройте его свойства, чтобы установить его дочернюю прозрачность.
X = [0:0.1:10];
p = plot( X, 3 * sin(X) + X )
grid on
r = rectangle('position', [3, 1, 3, 3], 'curvature', 0.25, 'edgecolor','k', 'facecolor', 'y' )
set( get(r, 'children'), 'facealpha', 0.25 )