В качестве дополнения к ответу Фредрика он также указывает, какое поведение предполагается изменить.
Обычно вы можете переопределить метод (если метод не финальный, а класс не финальный), но на практике это может быть очень сложно, если класс специально не предназначен для изменений. Может случиться так, что существующие методы предполагают какое-то поведение метода, который вы переопределяете, который не указан (это бывает) и который вы не предоставляете.
Явно объявляя метод абстрактным, вы выражаете намерение, что метод будет реализован кем-то другим. Это также обычно означает, что документация абстрактного метода немного более полна в отношении ожидаемого поведения.