Разница в том, что фрагменты имеют собственный жизненный цикл (onPause, onCreate, onStart ...). Имея жизненный цикл, фрагменты могут независимо реагировать на события, сохранять свое состояние через onSaveInstanceState и возвращаться (например, при возобновлении после входящего вызова или когда пользователь нажимает кнопку возврата). Жизненный цикл обобщен во фрагментной документации:
https://developer.android.com/guide/components/fragments.html#Lifecycle
Вы всегда можете заключить фрагмент или действие в составное представление, поэтому просто представляйте фрагменты как контейнеры для составных представлений, которые дают им независимый жизненный цикл.