重慶分公司,新征程啟航
為企業(yè)提供網(wǎng)站建設(shè)、域名注冊、服務(wù)器等服務(wù)
為企業(yè)提供網(wǎng)站建設(shè)、域名注冊、服務(wù)器等服務(wù)
這篇文章主要介紹了python實現(xiàn)多元線性回歸的示例,具有一定借鑒價值,感興趣的朋友可以參考下,希望大家閱讀完這篇文章之后大有收獲,下面讓小編帶著大家一起了解一下。
總體思路與一元線性回歸思想一樣,現(xiàn)在將數(shù)據(jù)以矩陣形式進行運算,更加方便。
一元線性回歸實現(xiàn)代碼
下面是多元線性回歸用Python實現(xiàn)的代碼:
import numpy as np def linearRegression(data_X,data_Y,learningRate,loopNum): W = np.zeros(shape=[1, data_X.shape[1]]) # W的shape取決于特征個數(shù),而x的行是樣本個數(shù),x的列是特征值個數(shù) # 所需要的W的形式為 行=特征個數(shù),列=1 這樣的矩陣。但也可以用1行,再進行轉(zhuǎn)置:W.T # X.shape[0]取X的行數(shù),X.shape[1]取X的列數(shù) b = 0 #梯度下降 for i in range(loopNum): W_derivative = np.zeros(shape=[1, data_X.shape[1]]) b_derivative, cost = 0, 0 WXPlusb = np.dot(data_X, W.T) + b # W.T:W的轉(zhuǎn)置 W_derivative += np.dot((WXPlusb - data_Y).T, data_X) # np.dot:矩陣乘法 b_derivative += np.dot(np.ones(shape=[1, data_X.shape[0]]), WXPlusb - data_Y) cost += (WXPlusb - data_Y)*(WXPlusb - data_Y) W_derivative = W_derivative / data_X.shape[0] # data_X.shape[0]:data_X矩陣的行數(shù),即樣本個數(shù) b_derivative = b_derivative / data_X.shape[0] W = W - learningRate*W_derivative b = b - learningRate*b_derivative cost = cost/(2*data_X.shape[0]) if i % 100 == 0: print(cost) print(W) print(b) if __name__== "__main__": X = np.random.normal(0, 10, 100) noise = np.random.normal(0, 0.05, 20) W = np.array([[3, 5, 8, 2, 1]]) #設(shè)5個特征值 X = X.reshape(20, 5) #reshape成20行5列 noise = noise.reshape(20, 1) Y = np.dot(X, W.T)+6 + noise linearRegression(X, Y, 0.003, 5000)
特別需要注意的是要弄清:矩陣的形狀
在梯度下降的時候,計算兩個偏導值,這里面的矩陣形狀變化需要注意。
梯度下降數(shù)學式子:
以代碼中為例,來分析一下梯度下降中的矩陣形狀。
代碼中設(shè)了5個特征。
WXPlusb = np.dot(data_X, W.T) + b
W是一個1*5矩陣,data_X是一個20*5矩陣
WXPlusb矩陣形狀=20*5矩陣乘上5*1(W的轉(zhuǎn)置)的矩陣=20*1矩陣
W_derivative += np.dot((WXPlusb - data_Y).T, data_X)
W偏導矩陣形狀=1*20矩陣乘上 20*5矩陣=1*5矩陣
b_derivative += np.dot(np.ones(shape=[1, data_X.shape[0]]), WXPlusb - data_Y)
b是一個數(shù),用1*20的全1矩陣乘上20*1矩陣=一個數(shù)
感謝你能夠認真閱讀完這篇文章,希望小編分享的“python實現(xiàn)多元線性回歸的示例”這篇文章對大家有幫助,同時也希望大家多多支持創(chuàng)新互聯(lián)成都網(wǎng)站設(shè)計公司,關(guān)注創(chuàng)新互聯(lián)成都網(wǎng)站設(shè)計公司行業(yè)資訊頻道,更多相關(guān)知識等著你來學習!
另外有需要云服務(wù)器可以了解下創(chuàng)新互聯(lián)scvps.cn,海內(nèi)外云服務(wù)器15元起步,三天無理由+7*72小時售后在線,公司持有idc許可證,提供“云服務(wù)器、裸金屬服務(wù)器、網(wǎng)站設(shè)計器、香港服務(wù)器、美國服務(wù)器、虛擬主機、免備案服務(wù)器”等云主機租用服務(wù)以及企業(yè)上云的綜合解決方案,具有“安全穩(wěn)定、簡單易用、服務(wù)可用性高、性價比高”等特點與優(yōu)勢,專為企業(yè)上云打造定制,能夠滿足用戶豐富、多元化的應(yīng)用場景需求。