pytorch反向傳播兩次，梯度相加，retain_graph=True

pytorch是動態圖計算機制，也就是說，每次正向傳播時，pytorch會搭建一個計算圖，loss.backward()之后，這個計算圖的緩存會被釋放掉，下一次正向傳播時，pytorch會重新搭建一個 ...