tf.nn.bias_add 激活函數

tf.nn.bias_add(value,bias,data_format=None,name=None)

參數：
value：一個Tensor,類型為float,double,int64,int32,uint8,int16,int8,complex64,或complex128.
bias：一個 1-D Tensor,其大小與value的最后一個維度匹配；必須和value是相同的類型,除非value是量化類型,在這種情況下可以使用不同的量化類型.
data_format：一個字符串,支持'NHWC'和'NCHW'.
name：操作的名稱(可選).

返回：
與value具有相同類型的Tensor.

將bias添加到value.
這是tf.add的一種特殊情況,其中bias被限制為1-d.支持廣播,因此value可以有任意數量的維度.
與tf.add不同的是,在兩種類型都是量化的情況下,bias類型允許與value不同.

sample

import tensorflow as tf
 
a=tf.constant([[1,1],[2,2],[3,3]],dtype=tf.float32)
b=tf.constant([1,-1],dtype=tf.float32)
c=tf.constant([1],dtype=tf.float32)
 
with tf.Session() as sess:
    print('bias_add:')
    print(sess.run(tf.nn.bias_add(a, b)))
    #執行下面語句錯誤
    #print(sess.run(tf.nn.bias_add(a, c)))
 
    print('add:')
    print(sess.run(tf.add(a, c)))

output

bias_add:
[[ 2. 0.]
[ 3. 1.]
[ 4. 2.]]
add:
[[ 2. 2.]
[ 3. 3.]
[ 4. 4.]]