nn.ReLU(inplace=True)中inplace的作用


在文檔中解釋是:

參數: inplace-選擇是否進行覆蓋運算

意思是是否將得到的值計算得到的值覆蓋之前的值,比如:

x = x +1

即對原值進行操作,然后將得到的值又直接復制到該值中

而不是覆蓋運算的例子如:

y = x + 1
x = y

這樣就需要花費內存去多存儲一個變量y

 

所以

nn.Conv2d(3, 64, kernel_size=11, stride=4, padding=2),
nn.ReLU(inplace=True)

的意思就是對從上層網絡Conv2d中傳遞下來的tensor直接進行修改,這樣能夠節省運算內存,不用多存儲其他變量


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM