Либо используйте ленивые квантификаторы, либо не позволяйте каждой совпадающей группе соответствовать самому /
. Как у вас сейчас, первая группа будет соответствовать столько, сколько может, что приведет к нежелательным результатам.
RewriteRule ^group/(.*?)/(.*?)/(.*?)$ /group.php?gid=$1 [QSA,NC,L]
RewriteRule ^group/([^\/]*)/([^\/]*)/([^\/]*)$ /group.php?gid=$1 [QSA,NC,L]
Еще лучший способ, позволяющий людям пропускать ненужные части (читай: не нужно оценивать результат на стороне сервера), вы могли бы даже сделать примерно так:
RewriteRule ^group/(\d+)(/.*)?$ /group.php?gid=$1 [QSA,NC,L]
(это основано на предположении, что идентификатором вашей группы является число)