進入更深的層次：模型構造、參數訪問、自定義層和使用 GPU。
模型構建
在多層感知機的實現中，我們首先構造 Sequential 實例，然后依次添加兩個全連接層。其中第一層的輸出大小為 256，即隱藏層單元個數是 256；第二層的輸出大小為 10，即輸出層單元個數是 10。
我們之前都是用了 Sequential 類來構造模型。這里我們另外一種基於 Block 類的模型構造方法，它讓構造模型更加靈活，也將讓你能更好的理解 Sequential 的運行機制。
繼承 Block 類來構造模型
Block 類是 gluon.nn 里提供的一個模型構造類，我們可以繼承它來定義我們想要的模型。例如，我們在這里構造一個同前提到的相同的多層感知機。這里定義的 MLP 類重載了 Block 類的兩個函數：init 和 forward.
from mxnet import nd
from mxnet.gluon import nn
class MLP(nn.Block):
# 聲明帶有模型參數的層，這里我們聲明了兩個全鏈接層。
def __init__(self, **kwargs):
# 調用 MLP 父類 Block 的構造函數來進行必要的初始化。這樣在構造實例時還可以指定其他函數參數，例如后面將介紹的模型參數 params。
super(MLP, self).__init__(**kwargs)
# 隱藏層。
self.hidden = nn.Dense(256, activation='relu')
# 輸出層。
self.output = nn.Dense(10)
# 定義模型的前向計算，即如何根據輸出計算輸出。
def forward(self, x):
return self.output(self.hidden(x))
我們可以實例化 MLP 類得到 net
x = nd.random.uniform(shape=(2,20))
net = MLP()
net.initialize()
net(x)
其中，net(x) 會調用了 MLP 繼承至 Block 的 call 函數，這個函數將調用 MLP 定義的 forward 函數來完成前向計算。
我們無需在這里定義反向傳播函數，系統將通過自動求導，來自動生成 backward 函數。
注意到我們不是將 Block 叫做層或者模型之類的名字，這是因為它是一個可以自由組建的部件。它的子類既可以一個層，例如 Gluon 提供的 Dense 類，也可以是一個模型，我們定義的 MLP 類，或者是模型的一個部分，例如我們會在之后介紹的 ResNet 的殘差塊。
Sequential 類繼承自 Block 類
當模型的前向計算就是簡單串行計算模型里面各個層的時候，我們可以將模型定義變得更加簡單，這個就是 Sequential 類的目的，它通過 add 函數來添加 Block 子類實例，前向計算時就是將添加的實例逐一運行。下面我們實現一個跟 Sequential 類有相同功能的類，這樣你可以看的更加清楚它的運行機制。
class MySequential(nn.Block):
def __init__(self, **kwargs):
super(MySequential, self).__init__(**kwargs)
def add(self, block):
# block 是一個 Block 子類實例，假設它有一個獨一無二的名字。我們將它保存在Block 類的成員變量 _children 里，其類型是 OrderedDict.
#當調用initialize 函數時，系統會自動對 _children 里面所有成員初始化。
self._children[block.name] = block
def forward(self, x):
# OrderedDict 保證會按照插入時的順序遍歷元素。
for block in self._children.values():
x = block(x)
return x
使用：
net = MySequential()
net.add(nn.Dense(256, activation='relu'))
net.add(nn.Dense(10))
net.initialize()
net(x)
構造復雜的模型
我們構造一個稍微復雜點的網絡。在這個網絡中，我們通過 get_constant 函數創建訓練中不被迭代的參數，即常數參數。在前向計算中，除了使用創建的常數參數外，我們還使用 NDArray 的函數和 Python 的控制流，並多次調用同一層。
class FancyMLP(nn.Block):
def __init__(self, **kwargs):
super(FancyMLP, self).__init__(**kwargs)
# 使用 get_constant 創建的隨機權重參數不會在訓練中被迭代（即常數參數）。
self.rand_weight = self.params.get_constant(
'rand_weight', nd.random.uniform(shape=(20, 20)))
self.dense = nn.Dense(20, activation='relu')
def forward(self, x):
x = self.dense(x)
# 使用創建的常數參數，以及 NDArray 的 relu 和 dot 函數。
x = nd.relu(nd.dot(x, self.rand_weight.data()) + 1)
# 重用全連接層。等價於兩個全連接層共享參數。
x = self.dense(x)
# 控制流，這里我們需要調用 asscalar 來返回標量進行比較。
while x.norm().asscalar() > 1:
x /= 2
if x.norm().asscalar() < 0.8:
x *= 10
return x.sum()
使用：
net = FancyMLP()
net.initialize()
net(x)
由於 FancyMLP 和 Sequential 都是 Block 的子類，我們可以嵌套調用他們。
class NestMLP(nn.Block):
def __init__(self, **kwargs):
super(NestMLP, self).__init__(**kwargs)
self.net = nn.Sequential()
self.net.add(nn.Dense(64, activation='relu'),
nn.Dense(32, activation='relu'))
self.dense = nn.Dense(16, activation='relu')
def forward(self, x):
return self.dense(self.net(x))
net = nn.Sequential()
net.add(NestMLP(), nn.Dense(20), FancyMLP())
net.initialize()
net(x)