久久久999,亚洲无玛一区,欧美淫片网站

產(chǎn)品簡介

美林新聞/NEWS

首頁美林數(shù)據(jù) 行業(yè)資訊

【數(shù)據(jù)挖掘算法分享】機器學習平臺——回歸算法之邏輯回歸算法

2022-12-13 19:13:08 次

邏輯回歸算法可用于二元及多元分類問題，是分類算法的經(jīng)典算法。對于二分類問題，算法輸出一個二元Logistic回歸模型。對于K分類問題，算法會輸出一個多維Logistic回歸模型，包含K-1個二分類模型。
?算法思想
邏輯回歸在線性回歸的基礎上，套用了一個Sigmoid函數(shù)。邏輯回歸名為回歸，但實際上一般用于二分類。因為，其回歸預測范圍為[0,1]時，很符合概率特性。故對一個二分類問題，如果將正類定義為1，負類定義為0時，用邏輯回歸結果代表樣本屬于正類的的概率，則預測值接近于0時，表示樣本屬于正類的概率很小，樣本可被分到負類；反之，預測值接近于1時，樣本被分到正類。
分類問題中，分類邊界可以歸納為如下形式：

其對應的預測函數(shù)為：

二分類邏輯回歸算法整體步驟如下：
邏輯回歸二分類的步驟如下：
（1）構造單個樣本的概率預測函數(shù)

：

其中的

為系數(shù)向量θ的常數(shù)項；θ_i為第i個自變量x_i的系數(shù)。
（2）對函數(shù)h_θ (x)的值賦予以下含義：它表示分類變量y取1的概率。因此對于輸入的自變量向量x，分類結果為類別1和類別0的概率分別為：

（3）對于含有m個樣本的訓練集，構造其概率密度似然函數(shù)：

則其對數(shù)似然函數(shù)為：

（4）對于m個樣本，通過梯度下降法求出使對數(shù)似然函數(shù)

取得最大值的系數(shù)向量 θ 的估計值

。
（5）令

，使用概率計算公式，分別計算出每個樣本屬于類別1和類別0的概率。
（6）依據(jù)事先給定的概率閾值

（通常為0.5），對每個樣本屬于兩類的概率進行截取，進而得到樣本的所屬類別。
二元邏輯回歸可以一般化為多元邏輯回歸來訓練和預測多分類問題。對于多分類問題，算法將會訓練出一個多元邏輯回歸模型，它包含k-1個二元回歸模型。給定一個數(shù)據(jù)點，k-1個模型都會運行，概率最大的類別將會被選為預測類別。

?數(shù)據(jù)格式
• 必須設置類屬性（輸出），且類屬性（輸出）必須是離散型（名詞）；
• 非類屬性（輸入）可以是連續(xù)型（數(shù)值）也可以是離散型（名詞）；
?參數(shù)說明

參數(shù)	類型	描述
數(shù)據(jù)標準化	下拉框	設置數(shù)據(jù)標準化的方法，字符型，取值范圍：無處理，歸一化，標準化，默認值為無處理
取值區(qū)間下限	文本框	設置歸一化取值區(qū)間下限，浮點型，取值范圍：[0,∞)，默認值為0
取值區(qū)間上限	文本框	設置歸一化取值區(qū)間上限，浮點型，取值范圍：[0,∞)，默認值為1
正則化參數(shù)	文本框	正則化參數(shù)控制機器的復雜度，浮點型，取值范圍：[0,∞)，默認值為0.01
收斂容差	文本框	設置終止迭代的誤差界，浮點型，取值范圍：[0,∞)，默認值為0.000001
最大迭代次數(shù)	文本框	設置最大迭代次數(shù)，整型，取值范圍：[1,∞)，默認值為100
懲罰函數(shù)類型	下拉框	設置懲罰函數(shù)類型，0對應L2罰函數(shù)，1對應L1罰函數(shù)，(0,1)之間對應L1和L2的組合罰函數(shù)，浮點型，取值范圍：[0,1]，默認值為0
是否顯示變量重要性	復選框	用戶選擇是否分析每個變量對于分類結果的影響程度，如果選擇是，則在洞察中顯示參與建模的每個變量對于模型的貢獻程度情況