Tensorflow卷積的梯度反向傳播過程-創新互聯
一. valid卷積的梯度
我們分兩種不同的情況討論valid卷積的梯度:第一種情況,在已知卷積核的情況下,對未知張量求導(即對張量中每一個變量求導);第二種情況,在已知張量的情況下,對未知卷積核求導(即對卷積核中每一個變量求導)
1.已知卷積核,對未知張量求導
我們用一個簡單的例子理解valid卷積的梯度反向傳播。假設有一個3x3的未知張量x,以及已知的2x2的卷積核K
Tensorflow提供函數tf.nn.conv2d_backprop_input實現了valid卷積中對未知變量的求導,以上示例對應的代碼如下:
import tensorflow as tf # 卷積核 kernel=tf.constant( [ [[[3]],[[4]]], [[[5]],[[6]]] ] ,tf.float32 ) # 某一函數針對sigma的導數 out=tf.constant( [ [ [[-1],[1]], [[2],[-2]] ] ] ,tf.float32 ) # 針對未知變量的導數的方向計算 inputValue=tf.nn.conv2d_backprop_input((1,3,3,1),kernel,out,[1,1,1,1],'VALID') session=tf.Session() print(session.run(inputValue)) [[[[ -3.] [ -1.] [ 4.]] [[ 1.] [ 1.] [ -2.]] [[ 10.] [ 2.] [-12.]]]]
另外有需要云服務器可以了解下創新互聯scvps.cn,海內外云服務器15元起步,三天無理由+7*72小時售后在線,公司持有idc許可證,提供“云服務器、裸金屬服務器、高防服務器、香港服務器、美國服務器、虛擬主機、免備案服務器”等云主機租用服務以及企業上云的綜合解決方案,具有“安全穩定、簡單易用、服務可用性高、性價比高”等特點與優勢,專為企業上云打造定制,能夠滿足用戶豐富、多元化的應用場景需求。
網站名稱:Tensorflow卷積的梯度反向傳播過程-創新互聯
新聞來源:http://www.xueling.net.cn/article/jgchs.html