前饋神經網絡結構設計研究及其復雜化工過程建模應用.pdf

1、流程工業(yè)的飛快發(fā)展使得該行業(yè)呈現(xiàn)出一些特點:生產過程高非線性、相關變量多維性、工藝高度復雜和流程高度綜合等，因此導致采用第一原理即機理分析的方法用于過程建模越來越棘手。近些年，先進的傳感技術使得過程數據越來越容易被采集和存儲，這些過程數據背后蘊含著重要的過程知識，所以基于數據驅動策略的方法在解決復雜流程工業(yè)過程建模的問題中發(fā)揮著越來越重要的作用。
　　眾多數據驅動的方法中，神經網絡技術由于其具有學習、并行計算以及強非線性映射的能力

2、已被廣泛成功地應用到建模、控制、優(yōu)化等諸多領域。前饋神經網絡因其結構簡單和算法易用等特點受到越來越多的關注。然而傳統(tǒng)前饋網絡模型并不能夠滿足復雜流程工業(yè)過程建模的要求，由此研究建立性能優(yōu)越的前饋網絡模型對豐富神經網絡模型和進一步推動神經網絡技術應用于復雜流程工業(yè)過程建模具有重大的意義。
　　本文主要從遞階結構設計和雙并行結構設計對遞階神經網絡和極限學習機兩種前饋網絡展開研究，最終將其應用于復雜化工過程建模。遞階神經網絡是一種善于處

3、理高維數據的網絡模型，然而其子網結構設計一直是個難點。極限學習機為近些年來機器學習領域的研究的熱點之一，該模型具有快速的學習速度和較好的泛化性能。然而面對帶有噪聲、共線性等特點的過程數據，極限學習機模型仍存在一些問題:1、噪聲處理性能低;2、傳統(tǒng)三層結構限制模型性能;3、共線性數據對性能影響大。本文逐一解決上述問題，旨在為復雜化工過程建模特定問題下提供可靠的網絡模型，最終取得一些研究成果總結如下:
　　(1)針對遞階神經網絡子網設

4、計困難的問題，提出一種基于輸入屬性空間劃分的子網設計方法，進而建立基于輸入屬性空間劃分的遞階神經網絡，為多參數輸入的復雜化工過程提供可靠的模型。該子網設計方法避免繁瑣的專家知識，首先采用先進的可拓聚類算法對輸入屬性的高維空間進行聚類;然后依據輸入屬性空間的聚類結果確定遞階神經網絡的子網個數;最后依據每個子屬性空間的輸入屬性確定子網的輸入。該設計方法能夠同時解決子網數目確定以及子網輸入屬性選取的兩個難題，從而提供一種簡單有效設計遞階神經網

5、絡子網的方法。
　　(2)針對極限學習機處理噪聲性能低的問題，提出一種具有遞階結構的極限學習機模型。所提出的遞階極限學習機模型中，原輸入變量沒有直接作為模型的輸入，而是先輸入到自聯(lián)想濾波子網，一方面去除噪聲，另一方面對多維輸入空間實現(xiàn)降維;隨后將自聯(lián)想濾波子網的隱含層輸出數據作為極限學習機的輸入，進而有效地避免噪聲對模型精度的影響。采用帶有噪聲的工業(yè)數據對模型進行測試，仿真結果驗證了該模型的有效性和可行性。
　　(3)針對極

6、限學習機三層網絡結構的限制問題，采用基于雙并行結構的設計方法增強網絡性能。雙并行結構能夠較好解決極限學習機中的結構限制問題，但會帶來另外兩個問題:1、增加極限學習機模型復雜性;2、增加共線性信息。為解決第一個問題，通過研究雙并行網絡結構以及皮爾遜相關系數，提出一種輸入輸出皮爾遜相關系數導向的雙并行極限學習機模型。該模型中利用輸入輸出屬性間的相關系數將輸入屬性分為正、負兩種屬性，隨后建立正、負屬性相互獨立的雙并行結構。工業(yè)數據仿真結果表明

7、與傳統(tǒng)的雙并行極限學習機以及極限學習機模型相比，所提出的改進雙并行極限學習機模型參數數目少、響應速度快等特點。
　　(4)針對極限學習機不能較好處理雙并行結構中共線性數據的問題，提出一種基于偏最小二乘學習的穩(wěn)健雙并行極限學習機模型。該模型采用偏最小二乘學習算法代替原來廣義逆的學習方法來求取輸出權值。偏最小二乘算法一方面能夠有效的剔除原輸入數據間以及隱含層節(jié)點輸出數據間的共線性信息，另一方面通過選取隱含變量數目有效避免了隱含層節(jié)點數