Измените эту строку:
addition.class.getDeclaredMethod("add(a,b)");
на эту:
Method method = addition.class.getDeclaredMethod("add", int.class, int.class);
getDeclaredMethod
принимает имя метода и тип его параметра в качестве аргумента.
Для вызоваметод:
method.invoke(new addition(), a, b);