Oracle Express Edition - это то, что вам нужно. Свободен в использовании и хорош для обучения. В бета-версии есть версия 11gR2. Я ожидаю, что это выйдет на полную версию в следующем месяце. Если вы не можете ждать, тогда идите с 10gR2. Нет смысла шутить с бета-версией, когда вы новичок.
Руководство по установке для Linux (в настоящее время) здесь
В 64-битной Linux я бы выбрал бета-версию Express Edition (11g), которая доступна только в 64-битной версии (кроме версии Windows 32-битной).