Функция рекурсивного списка каталогов / анализа, похоже, не подходит - PullRequest
Новая
       47

Функция рекурсивного списка каталогов / анализа, похоже, не подходит

0 голосов
/ 16 октября 2010

Я написал то, что мне показалось простым скриптом Python для обхода заданного каталога и табулирования всех суффиксов файлов, которые он находит.Вывод выглядит так: 

OTUS-ASIO:face fish$ sufs

>>>         /Users/fish/Dropbox/ost2/face (total 194)
===                    1       1      -
===                  css      16      -----
===                  gif      14      -----
===                 html      12      ----
===                  icc      87      --------------------------
===                  jpg       3      -
===                   js      46      --------------
===                  png       3      -
===                  zip       2      -

... что было бы здорово, если бы эти значения были правильными.Они не.Вот что происходит, когда я запускаю его в подкаталоге каталога, который я перечислил выше: 

OTUS-ASIO:face fish$ cd images/
OTUS-ASIO:images fish$ sufs

>>>         /Users/fish/Dropbox/ost2/face/images (total 1016)
===                  JPG       3      -
===                  gif      17      -
===                  ico       1      -
===                 jpeg       1      -
===                  jpg     901      --------------------------
===                  png      87      ---

... Кажется, только один уровень каталога падает вниз.Запуск сценария на один уровень выше вообще не учитывал суффикс 'jpeg', и, похоже, он пропустил 898 хороших jpg-файлов.

Данный сценарий находится здесь: 

#!/usr/bin/env python
# encoding: utf-8
"""
getfilesuffixes.py

Created by FI$H 2000 on 2010-10-15.
Copyright (c) 2010 OST, LLC. All rights reserved.
"""

import sys, os, getopt

help_message = '''
Prints a list of all the file suffixes found in each DIR, with counts.
Defaults to the current directory wth no args.

$ %s DIR [DIR DIR etc ...]
''' % os.path.basename(__file__)

dirs = dict()
skips = ('DS_Store','hgignore')

class Usage(Exception):
    def __init__(self, msg):
        self.msg = msg

def getmesomesuffixes(rootdir, thisdir=None):
    if not thisdir:
        thisdir = rootdir

    for thing in [os.path.abspath(h) for h in os.listdir(thisdir)]:
        if os.path.isdir(thing):
            getmesomesuffixes(rootdir), thing)
        else:
            if thing.rfind('.') > -1:
                suf = thing.rsplit('.').pop()
                dirs[rootdir][suf] = dirs[rootdir].get(suf, 0) + 1
    return

def main(argv=None):
    if argv is None:
        argv = sys.argv
    try:
        try:
            opts, args = getopt.getopt(argv[1:], "h", ["help",])
        except getopt.error, msg:
            raise Usage(msg)
        for option, value in opts:
            if option == "-v":
                verbose = True
            if option in ("-h", "--help"):
                raise Usage(help_message)

        if len(args) == 0:
            args.append(os.getcwd())

        for durr in [os.path.abspath(arg) for arg in args]:
            if os.path.isdir(durr):
                dirs[durr] = dict()

        for k, v in dirs.items():
            getmesomesuffixes(k)

        print ""

        for k, v in dirs.items():
            sufs = v.items()
            sufs.sort()

            maxcount = reduce(lambda fs, ns: fs > ns and fs or ns, map(lambda t: t[1], sufs), 1)
            mincount = reduce(lambda fs, ns: fs < ns and fs or ns, map(lambda t: t[1], sufs), 1)
            total = reduce(lambda fs, ns: fs + ns, map(lambda t: t[1], sufs), 0)
            print ">>>\t\t\t%s (total %s)" % (k, total)

            for suf, sufcount in sufs:
                try:
                    skips.index(suf)
                except ValueError:
                    print "===\t\t\t%12s\t %3s\t  %s" % (suf, sufcount, "-" * (int(float(float(sufcount) / float(maxcount)) * 25) + 1))
            print ""


    except Usage, err:
        print >> sys.stderr, sys.argv[0].split("/")[-1] + ": " + str(err.msg)
        print >> sys.stderr, "\t for help use --help"
        return 2


if __name__ == "__main__":
    sys.exit(main())

Кажется, что getmesomesuffixes() тонко не делает то, что я хочу.Ненавижу задавать такой раздражающий вопрос, но если кто-нибудь сможет быстро заметить любую ошибку в любительском часе, которую я делаю, это избавит меня от серьезного разочарования.

Ответы [ 2 ]

3 голосов
/ 16 октября 2010

Да, разве вам не будет лучше, если вы использовали os.walk 

for root, dirs, files in os.walk(basedir):
    ... do you stuff ..

См. Пример на

Также обратите внимание на os.path.splitext (путь), более точный способ определить тип вашего файла. 

>>> os.path.splitext('/d/c/as.jpeg')
('/d/c/as', '.jpeg')
>>>

Оба эти параметра должны упростить ваш код.

1 голос
/ 16 октября 2010 
import os
import os.path
from collections import defaultdict

def foo(dir='.'):
    d = defaultdict(int)   
    for _, _, files in os.walk(dir):
        for f in files:
            d[os.path.splitext(f)[1]] += 1
    return d

if __name__ == '__main__':
    d = foo()
    for k, v in sorted(d.items()):
        print k, v
...