Я не уверен, что вы подразумеваете под "p.setProperty". Я предполагаю, что вы имеете в виду системное свойство "os.arch"?
Вы можете использовать
System.setProperty ("os.arch","x86");
Однако, если код, который вы используете, действительно полагается на архитектуру x86, а не x86_64, то обманывать его таким способом может быть не полезно. В этом случае вы можете использовать ключ -d32:
java -d32 ...