ShapeBorderClipper - это особый тип CustomClipper, который согласно документации прикрепляется к внешнему пути ShapeBorder. И, как вы знаете, CustomClipper используется для настройки поведения отсечения виджетов клипов, таких как ClipRRect и ClipOval.
Что касается того, когда целесообразно использовать каждый из них, вы должны выбрать CustomClipper, если хотите изменить поведение виджета Clip. и используйте ShapeBorderClipper, если вы хотите создать новую фигуру, основанную на сочетании текущей границы виджета и ShapeBorder, предоставленной ShapeBorderClipper.