Правильный синтаксис следующий (Array(...)
для массивов, new Nested(..)
для вложенных аннотаций):
import org.hibernate.validator.constraints.ScriptAssert
@ScriptAssert.List(Array(
new ScriptAssert(script = "...", lang = "javascript"),
new ScriptAssert(script = "...", lang = "javascript")))
class Test