Я решил это, используя ".prop", вставив фактическое значение ".attr"
Несмотря на то, что на их странице показано, что "состояние" является атрибутом, с помощью свойства оно изменило кнопку.
ngAfterViewInit(): void {
$('#modalDisplay').on('hidden.bs.modal', function () {
$('#customSwitches').prop(':checked', false);
}.bind(this));
}