python - Pythonは最後からファイルを読み取ります。これは大きなファイルであり、メモリに読み取ることができません

Question

最後のDESCでファイルからファイルを読み取る方法は? 例えば

ファイル名:テスト

コンテンツ：

11111111
22222222
333333333

---

fp = open('test', 'r')
print fp.readline

---

333333333
22222222
11111111

それは大きなファイルです。すべてのコンテンツを読み上げたくありません。

Answer 1

ほんの数か月前に、 China Python User Groupで同じ問題について議論しました。回答の一部は、私たちの議論からコピーされています。

どのソリューションを選択しても、基本は同じです: ファイルの最後までシークし、データ ブロックを読み取り、最後の改行 (\r\n または \n) を見つけ、最後の行を取得し、逆方向にシークし、何度も同じことをする。

でファイルの前処理を試みることができますtail -n。これは効率的 (C で実装) であり、このジョブ用に設計されています。自分で実装したい場合は、ソースコードを確認してください。

または Python で同じコマンドを呼び出します。

from subprocess import Popen, PIPE
txt = Popen(['tail', '-n%d' % n, filename], stdout=PIPE).communitate()[0]
;)

または、純粋な python ソリューションを試してください。

def last_lines(filename, lines = 1):
    #print the last several line(s) of a text file
    """
    Argument filename is the name of the file to print.
    Argument lines is the number of lines to print from last. 
    """
    block_size = 1024
    block = ''
    nl_count = 0
    start = 0
    fsock = file(filename, 'rU')
    try:
        #seek to end
        fsock.seek(0, 2)
        #get seek position 
        curpos = fsock.tell()
        while(curpos > 0): #while not BOF
            #seek ahead block_size+the length of last read block
            curpos -= (block_size + len(block));
            if curpos < 0: curpos = 0 
            fsock.seek(curpos)
            #read to end
            block = fsock.read()
            nl_count = block.count('\n')
            #if read enough(more)
            if nl_count >= lines: break 
        #get the exact start position
        for n in range(nl_count-lines+1):
            start = block.find('\n', start)+1 
    finally:        
        fsock.close()
    #print it out  
    print block[start:] 

if __name__ == '__main__':
    import sys
    last_lines(sys.argv[0], 5) #print the last 5 lines of THIS file