Маршаллинг и сериализация - это общие термины, которые описывают один и тот же базовый принцип. По определению любой процесс, способный кодировать объект и его зависимые подструктуры во что-то, что может быть сохранено таким образом, что в какой-то более поздний момент его можно восстановить, называется сериализацией или сортировкой.
В статье в Википедии есть некоторые пояснения о том, как эти термины могут отличаться, но обычно они совпадают: http://en.wikipedia.org/wiki/Marshalling_(computer_science)#Comparison_with_serialization
Конкретное различие с точки зрения Ruby заключается в том, что встроенный модуль Marshal доступен для любого приложения, тогда как поддержка сериализации ActiveRecord специфична для платформы Rails.
Поскольку ActiveRecord имеет собственный тесно интегрированный метод сериализации, обычно его рекомендуется использовать.