Вам не нужно in
здесь, Django обрабатывает это автоматически при поиске на ManyToMany.
Кроме того, вы должны понимать, что поля базы данных всегда должны быть в слева поиска, поскольку они фактически обрабатываются как параметры функции.
То, что вы на самом деле хотите, очень просто:
Team.objects.filter(team_members=request.user)
или
request.user.team_set.all()