В самом деле, вам придется самостоятельно управлять. С положительной стороны ... Самостоятельно получить контроль не так уж и сложно. - хороший пример отрисовки собственного флажка (мы используем нечто похожее в нашем собственном коде).
Просто вместо того, чтобы переопределить его, чтобы он выглядел отключенным, вы хотите переопределить его, чтобы уменьшить размер окна ... Я не вижу способа вызвать CheckBoxRenderer.DrawCheckBox с размером, но ничего не должно останавливать Вы рисуете в свой собственный графический объект, уменьшаете его сами, затем рисуете изображение, которое вы только что сократили.