python 生成器與裝飾器一篇就夠了!!!


主要總結一下列表生成式,生成器和迭代器的知識點

  列表生成器

  首先舉個例子

現在有個需求,看列表 [0,1,2,3,4,5,6,7,8,9],要求你把列表里面的每個值加1,你怎么實現呢?

方法一(簡單):

info = [0123456789]
= []
# for index,i in enumerate(info):
#     print(i+1)
#     b.append(i+1)
# print(b)
for index,i in enumerate(info):
    info[index] +=1
print(info)
 

方法二(一般):

info = [0123456789]
= map(lambda x:x+1,info)
print(a)
for in a:
    print(i)

方法三(高級):

info = [0123456789]
= [i+1 for in range(10)]
print(a)

  生成器

什么是生成器?

  通過列表生成式,我們可以直接創建一個列表,但是,受到內存限制,列表容量肯定是有限的,而且創建一個包含100萬個元素的列表,不僅占用很大的存儲空間,如果我們僅僅需要訪問前面幾個元素,那后面絕大多數元素占用的空間都白白浪費了。

  所以,如果列表元素可以按照某種算法推算出來,那我們是否可以在循環的過程中不斷推算出后續的元素呢?這樣就不必創建完整的list,從而節省大量的空間,在Python中,這種一邊循環一邊計算的機制,稱為生成器:generator

  生成器是一個特殊的程序,可以被用作控制循環的迭代行為,python中生成器是迭代器的一種,使用yield返回值函數,每次調用yield會暫停,而可以使用next()函數和send()函數恢復生成器。

  生成器類似於返回值為數組的一個函數,這個函數可以接受參數,可以被調用,但是,不同於一般的函數會一次性返回包括了所有數值的數組,生成器一次只能產生一個值,這樣消耗的內存數量將大大減小,而且允許調用函數可以很快的處理前幾個返回值,因此生成器看起來像是一個函數,但是表現得卻像是迭代器

python中的生成器

  要創建一個generator,有很多種方法,第一種方法很簡單,只有把一個列表生成式的[]中括號改為()小括號,就創建一個generator

  舉例如下:

#列表生成式
lis = [x*for in range(10)]
print(lis)
#生成器
generator_ex = (x*for in range(10))
print(generator_ex)
 
結果:
[0149162536496481]
<generator object <genexpr> at 0x000002A4CBF9EBA0

  那么創建list和generator_ex,的區別是什么呢?從表面看就是[  ]和(),但是結果卻不一樣,一個打印出來是列表(因為是列表生成式),而第二個打印出來卻是<generator object <genexpr> at 0x000002A4CBF9EBA0>,那么如何打印出來generator_ex的每一個元素呢?

  如果要一個個打印出來,可以通過next()函數獲得generator的下一個返回值:

#生成器
generator_ex = (x*for in range(10))
print(next(generator_ex))
print(next(generator_ex))
print(next(generator_ex))
print(next(generator_ex))
print(next(generator_ex))
print(next(generator_ex))
print(next(generator_ex))
print(next(generator_ex))
print(next(generator_ex))
print(next(generator_ex))
print(next(generator_ex))
結果:
0
1
4
9
16
25
36
49
64
81
Traceback (most recent call last):
 
  File "列表生成式.py", line 42in <module>
 
    print(next(generator_ex))
 
StopIteration
 
 

  大家可以看到,generator保存的是算法,每次調用next(generaotr_ex)就計算出他的下一個元素的值,直到計算出最后一個元素,沒有更多的元素時,拋出StopIteration的錯誤,而且上面這樣不斷調用是一個不好的習慣,正確的方法是使用for循環,因為generator也是可迭代對象:

生成器
generator_ex = (x*for in range(10))
for in generator_ex:
    print(i)
     
結果:
0
1
4
9
16
25
36
49
64
81

  所以我們創建一個generator后,基本上永遠不會調用next(),而是通過for循環來迭代,並且不需要關心StopIteration的錯誤,generator非常強大,如果推算的算法比較復雜,用類似列表生成式的for循環無法實現的時候,還可以用函數來實現。

比如著名的斐波那契數列,除第一個和第二個數外,任何一個數都可以由前兩個相加得到:

1,1,2,3,5,8,12,21,34.....

斐波那契數列用列表生成式寫不出來,但是,用函數把它打印出來卻很容易:

#fibonacci數列
def fib(max):
    n,a,b =0,0,1
    while n < max:
        a,b =b,a+b
        n = n+1
        print(a)
    return 'done'
 
a = fib(10)
print(fib(10))

 

  a,b = b ,a+b  其實相當於 t =a+b ,a =b ,b =t  ,所以不必寫顯示寫出臨時變量t,就可以輸出斐波那契數列的前N個數字。

 

  仔細觀察,可以看出,fib函數實際上是定義了斐波拉契數列的推算規則,可以從第一個元素開始,推算出后續任意的元素,這種邏輯其實非常類似generator。

  也就是說上面的函數也可以用generator來實現,上面我們發現,print(b)每次函數運行都要打印,占內存,所以為了不占內存,我們也可以使用生成器,這里叫yield。如下:

def fib(max):
    n,a,b =0,0,1
    while n < max:
        yield b
        a,b =b,a+b
        = n+1
    return 'done'
 
= fib(10)
print(fib(10))

  但是返回的不再是一個值,而是一個生成器,和上面的例子一樣,大家可以看一下結果:

<generator object fib at 0x000001C03AC34FC0>

 

  那么這樣就不占內存了,這里說一下generator和函數的執行流程,函數是順序執行的,遇到return語句或者最后一行函數語句就返回。而變成generator的函數,在每次調用next()的時候執行,遇到yield語句返回,再次被next()調用時候從上次的返回yield語句處急需執行,也就是用多少,取多少,不占內存。

def fib(max):
    n,a,b =0,0,1
    while n < max:
        yield b
        a,b =b,a+b
        = n+1
    return 'done'
 
= fib(10)
print(fib(10))
print(a.__next__())
print(a.__next__())
print(a.__next__())
print("可以順便干其他事情")
print(a.__next__())
print(a.__next__())
 
結果:
<generator object fib at 0x0000023A21A34FC0>
1
1
2
可以順便干其他事情
3
5

  在上面fib的例子,我們在循環過程中不斷調用yield,就會不斷中斷。當然要給循環設置一個條件來退出循環,不然就會產生一個無限數列出來。同樣的,把函數改成generator后,我們基本上從來不會用next()來獲取下一個返回值,而是直接使用for循環來迭代:

def fib(max):
    n,a,b =0,0,1
    while n < max:
        yield b
        a,b =b,a+b
        = n+1
    return 'done'
for in fib(6):
    print(i)
     
結果:
1
1
2
3
5
8
 

  但是用for循環調用generator時,發現拿不到generator的return語句的返回值。如果拿不到返回值,那么就會報錯,所以為了不讓報錯,就要進行異常處理,拿到返回值,如果想要拿到返回值,必須捕獲StopIteration錯誤,返回值包含在StopIteration的value中:

def fib(max):
    n,a,b =0,0,1
    while n < max:
        yield b
        a,b =b,a+b
        = n+1
    return 'done'
= fib(6)
while True:
    try:
        = next(g)
        print('generator: ',x)
    except StopIteration as e:
        print("生成器返回值:",e.value)
        break
 
 
結果:
generator:  1
generator:  1
generator:  2
generator:  3
generator:  5
generator:  8
生成器返回值: done

還可以通過yield實現在單線程的情況下實現並發運算的效果

import time
def consumer(name):
    print("%s 准備學習啦!" %name)
    while True:
       lesson = yield
 
       print("開始[%s]了,[%s]老師來講課了!" %(lesson,name))
 
 
def producer(name):
    = consumer('A')
    c2 = consumer('B')
    c.__next__()
    c2.__next__()
    print("同學們開始上課 了!")
    for in range(10):
        time.sleep(1)
        print("到了兩個同學!")
        c.send(i)
        c2.send(i)
 
結果:
A 准備學習啦!
B 准備學習啦!
同學們開始上課 了!
到了兩個同學!
開始[ 0 ]了,[A]老師來講課了!
開始[ 0 ]了,[B]老師來講課了!
到了兩個同學!
開始[ 1 ]了,[A]老師來講課了!
開始[ 1 ]了,[B]老師來講課了!
到了兩個同學!
開始[ 2 ]了,[A]老師來講課了!
開始[ 2 ]了,[B]老師來講課了!
到了兩個同學!
開始[ 3 ]了,[A]老師來講課了!
開始[ 3 ]了,[B]老師來講課了!
到了兩個同學!
開始[ 4 ]了,[A]老師來講課了!
開始[ 4 ]了,[B]老師來講課了!
到了兩個同學!
開始[ 5 ]了,[A]老師來講課了!
開始[ 5 ]了,[B]老師來講課了!
到了兩個同學!
開始[ 6 ]了,[A]老師來講課了!
開始[ 6 ]了,[B]老師來講課了!
到了兩個同學!

 

  由上面的例子我么可以發現,python提供了兩種基本的方式

   生成器函數:也是用def定義的,利用關鍵字yield一次性返回一個結果,阻塞,重新開始

   生成器表達式:返回一個對象,這個對象只有在需要的時候才產生結果

——生成器函數

為什么叫生成器函數?因為它隨着時間的推移生成了一個數值隊列。一般的函數在執行完畢之后會返回一個值然后退出,但是生成器函數會自動掛起,然后重新拾起急需執行,他會利用yield關鍵字關起函數,給調用者返回一個值,同時保留了當前的足夠多的狀態,可以使函數繼續執行,生成器和迭代協議是密切相關的,迭代器都有一個__next__()__成員方法,這個方法要么返回迭代的下一項,要買引起異常結束迭代。

# 函數有了yield之后,函數名+()就變成了生成器
# return在生成器中代表生成器的中止,直接報錯
# next的作用是喚醒並繼續執行
# send的作用是喚醒並繼續執行,發送一個信息到生成器內部
'''生成器'''
 
def create_counter(n):
    print("create_counter")
    while True:
        yield n
        print("increment n")
        +=1
 
gen = create_counter(2)
print(gen)
print(next(gen))
print(next(gen))
 
結果:
<generator object create_counter at 0x0000023A1694A938>
create_counter
2
increment n
3
Process finished with exit code 0

  

——生成器表達式

生成器表達式來源於迭代和列表解析的組合,生成器和列表解析類似,但是它使用尖括號而不是方括號

>>>  # 列表解析生成列表
>>> [ x  * *  3  for  in  range ( 5 )]
[ 0 1 8 27 64 ]
>>>
>>>  # 生成器表達式
>>> (x  * *  3  for  in  range ( 5 ))
<generator  object  <genexpr> at  0x000000000315F678 >
>>>  # 兩者之間轉換
>>>  list (x  * *  3  for  in  range ( 5 ))
[ 0 1 8 27 64 ]

  一個迭代既可以被寫成生成器函數,也可以被協程生成器表達式,均支持自動和手動迭代。而且這些生成器只支持一個active迭代,也就是說生成器的迭代器就是生成器本身。

迭代器(迭代就是循環)

  迭代器包含有next方法的實現,在正確的范圍內返回期待的數據以及超出范圍后能夠拋出StopIteration的錯誤停止迭代。

  我們已經知道,可以直接作用於for循環的數據類型有以下幾種:

一類是集合數據類型,如list,tuple,dict,set,str等

一類是generator,包括生成器和帶yield的generator function

這些可以直接作用於for 循環的對象統稱為可迭代對象:Iterable

可以使用isinstance()判斷一個對象是否為可Iterable對象

>>>  from  collections  import  Iterable
>>>  isinstance ([], Iterable)
True
>>>  isinstance ({}, Iterable)
True
>>>  isinstance ( 'abc' , Iterable)
True
>>>  isinstance ((x  for  in  range ( 10 )), Iterable)
True
>>>  isinstance ( 100 , Iterable)
False

  而生成器不但可以作用於for循環,還可以被next()函數不斷調用並返回下一個值,直到最后拋出StopIteration錯誤表示無法繼續返回下一個值了。

所以這里講一下迭代器

一個實現了iter方法的對象時可迭代的,一個實現next方法的對象是迭代器

可以被next()函數調用並不斷返回下一個值的對象稱為迭代器:Iterator。

可以使用isinstance()判斷一個對象是否是Iterator對象:

>>>  from  collections  import  Iterator
>>>  isinstance ((x  for  in  range ( 10 )), Iterator)
True
>>>  isinstance ([], Iterator)
False
>>>  isinstance ({}, Iterator)
False
>>>  isinstance ( 'abc' , Iterator)
False

  

生成器都是Iterator對象,但listdictstr雖然是Iterable(可迭代對象),卻不是Iterator(迭代器)

listdictstrIterable變成Iterator可以使用iter()函數

>>>  isinstance ( iter ([]), Iterator)
True
>>>  isinstance ( iter ( 'abc' ), Iterator)
True

你可能會問,為什么listdictstr等數據類型不是Iterator

這是因為Python的Iterator對象表示的是一個數據流,Iterator對象可以被next()函數調用並不斷返回下一個數據,直到沒有數據時拋出StopIteration錯誤。可以把這個數據流看做是一個有序序列,但我們卻不能提前知道序列的長度,只能不斷通過next()函數實現按需計算下一個數據,所以Iterator的計算是惰性的,只有在需要返回下一個數據時它才會計算。

Iterator甚至可以表示一個無限大的數據流,例如全體自然數。而使用list是永遠不可能存儲全體自然數的。

  判斷下列數據類型是可迭代對象or迭代器

s = 'hello'
l = [ 1 , 2 , 3 , 4 ]
t = ( 1 , 2 , 3 )
d = { 'a' : 1 }
set = { 1 , 2 , 3 }
f = open ( 'a.txt')

 

s='hello'     #字符串是可迭代對象,但不是迭代器
l=[1,2,3,4]     #列表是可迭代對象,但不是迭代器
t=(1,2,3)       #元組是可迭代對象,但不是迭代器
d={'a':1}        #字典是可迭代對象,但不是迭代器
set={1,2,3}     #集合是可迭代對象,但不是迭代器
# *************************************
f=open('test.txt') #文件是可迭代對象,是迭代器
 
#如何判斷是可迭代對象,只有__iter__方法,執行該方法得到的迭代器對象。
# 及可迭代對象通過__iter__轉成迭代器對象
from collections import Iterator  #迭代器
from collections import Iterable  #可迭代對象
 
print(isinstance(s,Iterator))     #判斷是不是迭代器
print(isinstance(s,Iterable))       #判斷是不是可迭代對象
 
#把可迭代對象轉換為迭代器

print(isinstance(iter(s),Iterator))  

 

 

 注意:文件的判斷

f = open('housing.csv')
from collections import Iterator
from collections import Iterable
 
print(isinstance(f,Iterator))
print(isinstance(f,Iterable))
 
True
True

  結論:文件是可迭代對象,也是迭代器

 

小結:

  • 凡是可作用於for循環的對象都是Iterable類型;
  • 凡是可作用於next()函數的對象都是Iterator類型,它們表示一個惰性計算的序列;
  • 集合數據類型如listdictstr等是Iterable但不是Iterator,不過可以通過iter()函數獲得一個Iterator對象。

Python3的for循環本質上就是通過不斷調用next()函數實現的,例如:

for x in [1,2,3,4]:

 pass

 實際上完全等價於

# 首先獲得Iterator對象:
it = iter([12345])
# 循環:
while True:
    try:
        # 獲得下一個值:
        = next(it)
    except StopIteration:
        # 遇到StopIteration就退出循環
        break
 

  

對yield的總結

  (1)通常的for..in...循環中,in后面是一個數組,這個數組就是一個可迭代對象,類似的還有鏈表,字符串,文件。他可以是a = [1,2,3],也可以是a = [x*x for x in range(3)]。

它的缺點也很明顯,就是所有數據都在內存里面,如果有海量的數據,將會非常耗內存。

  (2)生成器是可以迭代的,但是只可以讀取它一次。因為用的時候才生成,比如a = (x*x for x in range(3))。!!!!注意這里是小括號而不是方括號。

  (3)生成器(generator)能夠迭代的關鍵是他有next()方法,工作原理就是通過重復調用next()方法,直到捕獲一個異常。

  (4)帶有yield的函數不再是一個普通的函數,而是一個生成器generator,可用於迭代

  (5)yield是一個類似return 的關鍵字,迭代一次遇到yield的時候就返回yield后面或者右面的值。而且下一次迭代的時候,從上一次迭代遇到的yield后面的代碼開始執行

  (6)yield就是return返回的一個值,並且記住這個返回的位置。下一次迭代就從這個位置開始。

  (7)帶有yield的函數不僅僅是只用於for循環,而且可用於某個函數的參數,只要這個函數的參數也允許迭代參數。

  (8)send()和next()的區別就在於send可傳遞參數給yield表達式,這時候傳遞的參數就會作為yield表達式的值,而yield的參數是返回給調用者的值,也就是說send可以強行修改上一個yield表達式值。

  (9)send()和next()都有返回值,他們的返回值是當前迭代遇到的yield的時候,yield后面表達式的值,其實就是當前迭代yield后面的參數。

  (10)第一次調用時候必須先next()或send(),否則會報錯,send后之所以為None是因為這時候沒有上一個yield,所以也可以認為next()等同於send(None)


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM