Ты в значительной степени там. Вам просто нужно вернуть фактический набор запросов:
{% if A in X.Y.all %}
Test
{% endif %}
ОБНОВЛЕНИЕ (на основе комментариев)
Это невозможно с кодом шаблона, вам нужно сделать фильтр, а язык шаблонов Django не позволяет передавать параметры в методы. На ваш взгляд, вы можете сделать:
X.objects.filter(Y=A).exists()
И передать результат в контекст, который будет использоваться в шаблоне, но я не уверен, насколько это соответствует вашим точным потребностям.