Если на странице не так много флажков, создайте функцию javascript onlcick для этого флажка и просмотрите все флажки, чтобы проверить, установлено ли больше 10.
Если на вашей странице много флажков, то увеличивайте переменную, когда флажок установлен, и уменьшайте ее, когда флажок снят. У вас всегда будет счетчик, который вы можете проверить, чтобы отобразить предупреждение.