Легкая таблица Java - это JTable. Вы можете делать практически все, что вам нравится, если вы используете расширение AbstractTableModel и используете сортировщик и рендер. Так как модель предоставляет представление с данными, вам никогда не потребуется исчерпывать свою память при загрузке всей вашей информации.
Когда вы говорите, 10000x100, если 100 - это число столбцов, это, вероятно, слишком много для среднего монитора. Вам, вероятно, придется сделать там скидку или сделать горизонтальную прокрутку.
Если вы позволите модели получать данные из базы данных, вам никогда не потребуется загружать всю таблицу, поэтому, вероятно, не должно возникнуть проблем с шириной JTable 50-100 или даже больше.
Будьте осторожны: чтобы ваша JTable называлась jTable1, хорошо прокручивалась по горизонтали, установите
jTable1.setAutoResizeMode(JTable.AUTO_RESIZE_OFF);
Класс JTable имеет сортировщик и фильтр.
Прочтите учебник , чтобы узнать больше.