Еще проще использовать запрос:
df.query("~column").count()
На самом деле, ниже приведены способы, не связанные с запросом, они на самом деле не такие красивые и могут быть медленнее (так как запрос иногда очень оптимизирован)
Хотя вы действительно должны использовать:
df[~df["column"]].count()
или, если хотите, (более читабельно, но не всегда возможно):
df[~df.column].count()