У меня два вопроса.
Существует уравнение для трехмерного случая с тремя точками в http://en.wikipedia.org/wiki/Trilateration; Я думаю, http://en.wikipedia.org/wiki/Multilateration отвечает на заданный вами обратный вопрос.