Не определено. Технически, нормаль столкновения должна быть нормалью на поверхности препятствия их конфигурации пространства (то есть совокупности всех преобразований, где эти два объекта пересекаются). Вот интерактивная демонстрация, которая может помочь:
http://www.pfirth.co.uk/minkowski.html
В результате, если объекты не являются гладкими, то четко определенная нормаль не будет существовать в точках недифференцируемости на их границе. Вместо этого вы получите конус возможных нормалей.
^
|
| normal cone
|
----------+---->
~~~~~~~~~~|
~obstacle~|
~~~~~~~~~~|
Таким образом, вы можете использовать любой нормаль в этом конусе как тот, который вы используете для разделения двух объектов, например:
^ ^
| /
| / possible normal
|/
----------+---->
~~~~~~~~~~|
~obstacle~|
~~~~~~~~~~|
Теперь принцип наименьшего действия гласит, что правильное решение здесь должно быть нормалью, которая выполняет минимальную работу, а экстремумы здесь - это только стенки конуса. Это означает, что в отсутствие каких-либо других взаимодействий мы могли бы просто предположить, что импульсная сила направлена в одну из граней. Чтобы решить, какой из них, опять же, принцип действия говорит, что вы должны выбрать нормальный, который работает меньше всего. Чтобы понять это, вы просто вычисляете реакцию столкновения для обеих граней, а затем выбираете грань, импульсная сила которой имеет наименьшую величину.