Я не уверен, какие именно у вас прямоугольники, но если они представляют собой какие-то прямоугольники, определенные с координатами верхнего левого угла (x, y) и (ширина, высота), то
if ((box1.x >= box2.x)&&(box1.y >= box2.y)&&(box1.width <= box2.width-(box1.x-box2.x)&&(box1.height <= box2.height-(box1.y-box2.y))) {
// box1 is inside box2
}
должен сделать работу.
Если ваши коробки 3D, то вам придется сделать то же самое с z и глубиной:
&&(box1.z >= box2.z)&&(box1.depth <= box2.depth-(box1.z-box2.z))