Хорошо, правильное выражение:
<xsl:for-each select="Records[generate-id() = generate-id(key('groups', concat(GroupPolicyNumber, '|', ParticipantIdentifier))[1])]">
Однако вы не получите эту ошибку, если (1) вы не используете процессор XSLT 2.0 (или выше) и (2) ваша таблица стилей помечена как version="2.0"
(или выше). Так что возникает вопрос, почему вы пытаетесь использовать мюнхенскую группировку вместо встроенного метода xsl:for-each-group
.