-lt -le и -gt являются операторами сравнения вместо <, <=,>. Введите " help about_Comparison_Operators " в командной строке powershell для получения подробной информации о каждом типе и причинах их использования вместо тех, с которыми вы знакомы по другим языкам.
Для удаления папок также необходимо удалить ! $. PsIsContainer AND часть фильтра where. Это удаляет все элементы из списков, которые являются каталогами.
Я не уверен, что вам нужно с вопросом «как насчет CreatedDate или LastAccessed time», но вы можете просто использовать эти свойства аналогично LastWriteTime, но вам нужно определиться с логикой, которую вы пытаетесь достичь.