Трудно сказать наверняка по этому коду, но Toolkit
является методом Swing / AWT и не должен использоваться с SWT.Возможно, он дает неправильные значения.
Получите основной размер дисплея, используя что-то вроде:
Rectangle displayArea = shell.getDisplay().getPrimaryMonitor().getBounds();
, который говорит вам о главном (основном) мониторе или
Rectangle displayArea = shell.getMonitor().getBounds();
, который сообщает вам о мониторе, на котором появится оболочка (может отличаться, если имеется несколько мониторов).