Вы не можете сделать это таким образом. Когда вы находитесь в процессе конструирования объекта (это то, что вы фактически делаете, используя фигурные скобки), нет способа получить доступ к его свойствам до того, как он будет построен.
var test = function () {
var o = {};
o['a'] = 1;
o['b'] = o['a'] + 1;
return o;
};