Я не знаю конкретно о Bullet, но при условии, что это достаточно хорошо написанная библиотека, это не будет проблемой.
Арифметика с плавающей точкой не является мистикой. Ошибка округления не возникает магическим образом, равно как и случайное округление, нечеткое или любое из многих других терминов, которые люди используют для описания явлений, которые они не понимают.
Арифметика с плавающей запятой является детерминированной, как и все остальное на компьютере (за исключением случайного отражения космических лучей битами). Вычисления с точными нулями, правильно сформулированные, дают результаты с нулевым результатом. Если верно, что все операции, которые влияют на ось Z, являются нулями, то результирующая координата Z будет точно нулевой . Если это не так, то используемый алгоритм не подходит, и я бы не стал доверять ему ни при каких расчетах.
Место, где вы могли бы столкнуться с неприятностями, было бы, если бы вы суммировали величины с ненулевыми компонентами Z, которые физически должны были бы суммироваться до нуля; в такой ситуации ошибка округления может накапливаться, приводя к небольшому, но ненулевому Z-компоненту. Однако это не похоже на ситуацию, в которой вы оказались. Похоже, что все задействованные величины должны иметь нулевые Z-компоненты, и это будет сохранено.