Вы не можете сосчитать по количеству записей, потому что ваша таблица может иметь очень короткие записи с несколькими полями типа int или ваши записи могут быть очень длинными с сотнями полей.
Таким образом, он должен измеряться размером файла таблиц.
Для MYSQL: ограничение размера таблицы зависит от файловой системы диска операционной системы, на которой установлен MySQL, в диапазоне от 2 ГБ до 2 ТБ.
См. Справочное руководство по MySQL для полного объяснения ограничений для каждой операционной системы.
Что касается InnoDb и MyIsam, я не знаю.