Ну, маленький Гуглинг находит несколько электронных таблиц с открытым исходным кодом, написанных на Java, одна из которых может подойти для ваших целей. Один из вопросов, на которые вы, возможно, захотите ответить, возможно, отредактируйте свое сообщение, будет о том, какие вычисления вы хотите выполнить - полный набор функций, которые предоставляет Excel (или что-то близкое), или средства, которые предоставляет SQL, удовлетворяют вашим требованиям? Если это так, то, возможно, вы захотите внести в базу данных это.
Еще один вопрос, который вы могли бы уточнить: вы пытаетесь создать приложение, которое, например, Excel, может использоваться конечными пользователями для определения расчетов? Но, в отличие от Excel, основан на программном обеспечении с открытым исходным кодом и может справляться с миллионами строк. Я не знаю о его производительности на таких больших наборах данных, кто-то другой в SO, вероятно, может сказать нам, но R очень популярен (и это правильно) для того, что вы, вероятно, пытаетесь сделать. Я считаю, что R находится между средними языками программирования (скажем, Python) и средней таблицей (скажем, Excel) с точки зрения простоты использования для непрограммистов.
Ваш выбор решения может (и, безусловно, должен) зависеть от того, кто будет его использовать.