Python 文字列でstring.split()を使用すると、文字列のリストが返されます。分割されたこれらの部分文字列は、親文字列の一部のコピーです。
代わりに、分割されたビットへの参照、オフセット、および長さのみを保持する安価なスライス オブジェクトを取得することは可能ですか?
そして、バイトのコピーを作成せずに、これらの部分文字列を文字列であるかのように抽出して処理する「文字列ビュー」を持つことは可能ですか?
（スライスしたい非常に大きな文字列があり、時々メモリが不足しているのでお願いします。コピーを削除すると、安価なプロファイルガイドの勝利になります。）
buffer文字列の読み取り専用ビューを提供します。
>>> s = 'abcdefghijklmnopqrstuvwxyz'
>>> b = buffer(s, 2, 10)
>>> b
<read-only buffer for 0x7f935ee75d70, size 10, offset 2 at 0x7f935ee5a8f0>
>>> b[:]
'cdefghijkl'
Python では、文字列オブジェクトは常に NUL で終わるバッファを指すため、部分文字列をコピーする必要があります。Ignacio が指摘したようbuffer()に、文字列メモリの読み取り専用ビューを取得するために使用できます。ただし、組み込み関数は、Python 2.7 および 3.x で使用可能な、buffer()より用途の広いオブジェクトに取って代わられました( Python 3.x では廃止されました)。memoryviewbuffer()
s = "abcd" * 50
view = memoryview(s)
subview = view[10:20]
print subview.tobytes()
このコードは印刷します
cdabcdabcd
を呼び出すとすぐに、文字列のコピーが作成されますが、Ignacio の回答のようにtobytes()古いオブジェクトをスライスするときにも同じことが起こります。buffer
これが、私が思いついた簡単な文字列のようなバッファ ラッパーです。文字列を消費すると予想されるコードを変更することなく、従来の文字列の代わりにこれを使用することができました。
class StringView:
def __init__(self,s,start=0,size=sys.maxint):
self.s, self.start, self.stop = s, start, min(start+size,len(s))
self.size = self.stop - self.start
self._buf = buffer(s,start,self.size)
def find(self,sub,start=0,stop=None):
assert start >= 0, start
assert (stop is None) or (stop <= self.size), stop
ofs = self.s.find(sub,self.start+start,self.stop if (stop is None) else (self.start+stop))
if ofs != -1: ofs -= self.start
return ofs
def split(self,sep=None,maxsplit=sys.maxint):
assert maxsplit > 0, maxsplit
ret = []
if sep is None: #whitespace logic
pos = [self.start,self.start] # start and stop
def eat(whitespace=False):
while (pos[1] < self.stop) and (whitespace == (ord(self.s[pos[1]])<=32)):
pos[1] += 1
def eat_whitespace():
eat(True)
pos[0] = pos[1]
eat_whitespace()
while pos[1] < self.stop:
eat()
ret.append(self.__class__(self.s,pos[0],pos[1]-pos[0]))
eat_whitespace()
if len(ret) == maxsplit:
ret.append(self.__class__(self.s,pos[1]))
break
else:
start = stop = 0
while len(ret) < maxsplit:
stop = self.find(sep,start)
if -1 == stop:
break
ret.append(self.__class__(self.s,self.start+start,stop-start))
start = stop + len(sep)
ret.append(self.__class__(self.s,self.start+start,self.size-start))
return ret
def split_str(self,sep=None,maxsplit=sys.maxint):
"if you really want strings and not views"
return [str(sub) for sub in self.split(sep,maxsplit)]
def __cmp__(self,s):
if isinstance(s,self.__class__):
return cmp(self._buf,s._buf)
assert isinstance(s,str), type(s)
return cmp(self._buf,s)
def __len__(self):
return self.size
def __str__(self):
return str(self._buf)
def __repr__(self):
return "'%s'"%self._buf
if __name__=="__main__":
test_str = " this: is: a: te:st str:ing :"
test = Envelope.StringView(test_str)
print "find('is')"
print "\t",test_str.find("is")
print "\t",test.find("is")
print "find('is',4):"
print "\t",test_str.find("is",4)
print "\t",test.find("is",4)
print "find('is',4,7):"
print "\t",test_str.find("is",4,7)
print "\t",test.find("is",4,7)
print "split():"
print "\t",test_str.split()
print "\t",test.split()
print "split(None,2):"
print "\t",test_str.split(None,2)
print "\t",test.split(None,2)
print "split(':'):"
print "\t",test_str.split(":")
print "\t",test.split(":")
print "split('x'):"
print "\t",test_str.split("x")
print "\t",test.split("x")
print "''.split('x'):"
print "\t","".split("x")
print "\t",Envelope.StringView("").split("x")