關(guān)于模糊決策樹生成過程中啟發(fā)式算法的研究.pdf

1、模糊決策樹由于結(jié)合了模糊集合理論和決策樹學(xué)習(xí)二者的優(yōu)勢于一身,現(xiàn)已成為一種非常有效、實(shí)用的學(xué)習(xí)方法.目前已被成功地應(yīng)用于醫(yī)療診斷、貸款申請中的信用風(fēng)險(xiǎn)評估等多領(lǐng)域的自動(dòng)知識獲取中.由于構(gòu)建最優(yōu)化的模糊決策樹已被證明是NP-hard問題,因此,一般采用啟發(fā)式方法來構(gòu)建模糊決策樹.在目前存在的幾種常見的啟發(fā)式算法中,較普遍的、效果較好的是FUZZY-ID3算法,它將模糊信息增益(即屬性與類之間的交互信息)作為啟發(fā)式,這使得模糊信息熵快速收斂

2、,從而通過較少的計(jì)算獲得一棵規(guī)模較小的樹.但現(xiàn)存的啟發(fā)式算法一般只考慮到屬性與類之間的相關(guān)性,所略了各屬性之間的相關(guān)性(屬性冗余)對結(jié)果的影響.因此,該文在詳細(xì)分析了屬性之間的相關(guān)性對構(gòu)建模糊決策樹的影響以及FUZZY-ID3算法在此方面的不足之后,提出了FUZZY-ID3算法的擴(kuò)展算法.擴(kuò)展算法中采用新的啟發(fā)式,其宗旨是在選擇測試屬性時(shí),要求該屬性不僅與類的交互信息(相關(guān)性)最大,而且與已經(jīng)使用過的屬性之間的交互信息(相關(guān)性)最小,從