クラスの宿題のために取り組んでいる小さなPythonスクリプトがあります。スクリプトはファイルを読み取り、最も頻度の高い10個の単語とその頻度を出力します。この割り当てでは、単語は2文字以上として定義されます。単語の頻度は問題なく機能していますが、割り当ての3番目の部分は、ドキュメント内の一意の単語の総数を印刷することです。一意の単語の意味は、ドキュメント内のすべての単語を1回だけカウントします。
現在のスクリプトをあまり変更せずに、ドキュメント内のすべての単語を1回だけカウントするにはどうすればよいですか?
ps私はPython2.6を使用しているので、collections.Counterの使用については言及しないでください。
from string import punctuation
from collections import defaultdict
import re
number = 10
words = {}
total_unique = 0
words_only = re.compile(r'^[a-z]{2,}$')
counter = defaultdict(int)
"""Define words as 2+ letters"""
def count_unique(s):
count = 0
if word in line:
if len(word) >= 2:
count += 1
return count
"""Open text document, read it, strip it, then filter it"""
txt_file = open('charactermask.txt', 'r')
for line in txt_file:
for word in line.strip().split():
word = word.strip(punctuation).lower()
if words_only.match(word):
counter[word] += 1
# Most Frequent Words
top_words = sorted(counter.iteritems(),
key=lambda(word, count): (-count, word))[:number]
print "Most Frequent Words: "
for word, frequency in top_words:
print "%s: %d" % (word, frequency)
# Least Frequent Words:
least_words = sorted(counter.iteritems(),
key=lambda (word, count): (count, word))[:number]
print " "
print "Least Frequent Words: "
for word, frequency in least_words:
print "%s: %d" % (word, frequency)
# Total Unique Words:
print " "
print "Total Number of Unique Words: %s " % total_unique