Это вложенный класс, и вложенные классы могут быть определены таким образом.Для вашего экземпляра:
RelativeLayout.LayoutParams является вложенным классом RelativeLayout.
Пример вложенного класса:
class OuterClass {
...
class NestedClass {
...
}
}
Информация о вложенных классах: https://docs.oracle.com/javase/tutorial/java/javaOO/nested.html
RelativeLayout.LayoutParams, как и все другие классы, является классом из-за его объявления:
public static class RelativeLayout.LayoutParams extends ViewGroup.MarginLayoutParams
{
....
}
RelativeLayout.LayoutParams по-прежнему является классом, без метра, если вы создаете из него объект или нет.