Когда вы загружаете файл, локальные переменные выходят из области видимости после загрузки файла, поэтому a и b будут недоступны в консоли, которая его загружает.
Поскольку вы рассматриваете a и b как константы, как насчет того, чтобы просто использовать их как прописные?
A = 1
B = 2
puts A+B
Теперь в вашей консоли вы сможете сделать следующее
load 'myfile.rb'
A #=> 1
Вы также можете сделать переменные в myfile.rb глобальными ($ a, $ b)