голова питона, хвост и назад читаются по строкам текстового файла - PullRequest
8 голосов
/ 05 мая 2011

Как реализовать что-то вроде команд 'head' и 'tail' в python и читать назад по строкам текстового файла?

Ответы [ 3 ]

24 голосов
/ 05 мая 2011

Это мой личный класс файлов; -)

class File(file):
    """ An helper class for file reading  """

    def __init__(self, *args, **kwargs):
        super(File, self).__init__(*args, **kwargs)
        self.BLOCKSIZE = 4096

    def head(self, lines_2find=1):
        self.seek(0)                            #Rewind file
        return [super(File, self).next() for x in xrange(lines_2find)]

    def tail(self, lines_2find=1):  
        self.seek(0, 2)                         #Go to end of file
        bytes_in_file = self.tell()
        lines_found, total_bytes_scanned = 0, 0
        while (lines_2find + 1 > lines_found and
               bytes_in_file > total_bytes_scanned): 
            byte_block = min(
                self.BLOCKSIZE,
                bytes_in_file - total_bytes_scanned)
            self.seek( -(byte_block + total_bytes_scanned), 2)
            total_bytes_scanned += byte_block
            lines_found += self.read(self.BLOCKSIZE).count('\n')
        self.seek(-total_bytes_scanned, 2)
        line_list = list(self.readlines())
        return line_list[-lines_2find:]

    def backward(self):
        self.seek(0, 2)                         #Go to end of file
        blocksize = self.BLOCKSIZE
        last_row = ''
        while self.tell() != 0:
            try:
                self.seek(-blocksize, 1)
            except IOError:
                blocksize = self.tell()
                self.seek(-blocksize, 1)
            block = self.read(blocksize)
            self.seek(-blocksize, 1)
            rows = block.split('\n')
            rows[-1] = rows[-1] + last_row
            while rows:
                last_row = rows.pop(-1)
                if rows and last_row:
                    yield last_row
        yield last_row

Пример использования:

with File('file.name') as f:
    print f.head(5)
    print f.tail(5)
    for row in f.backward():
        print row
4 голосов
/ 05 мая 2011

head легко:

from itertools import islice
with open("file") as f:
    for line in islice(f, n):
        print line

tail сложнее, если вы не хотите хранить весь файл в памяти.Если вход является файлом, вы можете начать чтение блоков, начиная с конца файла.Исходный tail также работает, если вход представляет собой конвейер, поэтому более общим решением является чтение и отбрасывание всего ввода, за исключением последних нескольких строк.Простой способ сделать это - collections.deque:

from collections import deque
with open("file") as f:
    for line in deque(f, maxlen=n):
        print line

В обоих этих фрагментах кода n - это количество строк для печати. ​​

0 голосов
/ 19 марта 2012

Хвост:

def tail(fname, lines):
    """Read last N lines from file fname."""
    f = open(fname, 'r')
    BUFSIZ = 1024
    f.seek(0, os.SEEK_END)
    fsize = f.tell()
    block = -1
    data = ""
    exit = False
    while not exit:
        step = (block * BUFSIZ)
        if abs(step) >= fsize:
            f.seek(0)
            exit = True
        else:
            f.seek(step, os.SEEK_END)
        data = f.read().strip()
        if data.count('\n') >= lines:
            break
        else:
            block -= 1
    return data.splitlines()[-lines:]
...