導語：如何才能寫好一篇神經(jīng)網(wǎng)絡算法，這就需要搜集整理更多的資料和文獻，歡迎閱讀由公文云整理的十篇范文，供你借鑒。

篇1

1、BP（Back Propagation）網(wǎng)絡是1986年由Rumelhart和McCelland為首的科學家小組提出，是一種按誤差逆?zhèn)鞑ニ惴ㄓ柧毜亩鄬忧梆伨W(wǎng)絡，是應用最廣泛的神經(jīng)網(wǎng)絡模型之一。BP網(wǎng)絡能學習和存貯大量的輸入-輸出模式映射關系，而無需事前揭示描述這種映射關系的數(shù)學方程。它的學習規(guī)則是使用最速下降法，通過反向傳播來不斷調整網(wǎng)絡的權值和閾值，使網(wǎng)絡的誤差平方和最小。BP神經(jīng)網(wǎng)絡模型拓撲結構包括輸入層（input）、隱層(hide layer)和輸出層(output layer)。

2、BP神經(jīng)網(wǎng)絡算法是在BP神經(jīng)網(wǎng)絡現(xiàn)有算法的基礎上提出的，是通過任意選定一組權值，將給定的目標輸出直接作為線性方程的代數(shù)和來建立線性方程組，解得待求權，不存在傳統(tǒng)方法的局部極小及收斂速度慢的問題，且更易理解。

（來源：文章屋網(wǎng) ）

篇2

計算機網(wǎng)絡拓撲結構主要是指計算機連接網(wǎng)絡之后，其自身設備與傳輸媒介所共同組成的一種物理構成模式，其網(wǎng)絡拓撲結構的形式主要是由通信子網(wǎng)來決定的，其結構的主要功能是實現(xiàn)數(shù)據(jù)信息的網(wǎng)絡共享、處理及交換，并要在一定程度上提升網(wǎng)絡數(shù)據(jù)信息運行的可靠性，站在網(wǎng)絡拓撲的結構來講，計算機網(wǎng)絡結構的主要部分是鏈路與結點，計算機網(wǎng)絡實質上是由一組結點以及多條鏈路所共同組成的一種模擬結構。計算機網(wǎng)絡通常表示為：G=<V，E>，其中V表示的是網(wǎng)絡結點集，E表示的是鏈路集，如果應用Va來表示結構中增加的結點集，Eb來表示增加的連接集，那么就能夠得到其拓撲擴展的計算機網(wǎng)絡結構為G’=<V’，E’>。

2基于計算機網(wǎng)絡連接優(yōu)化中的神經(jīng)網(wǎng)絡算法

本次研究中分析的均場神經(jīng)網(wǎng)絡算法實際上是一種神經(jīng)網(wǎng)絡算法與均場退火技術相結合的算法，應用這種方法能夠有效的增強計算機的網(wǎng)絡連接，并且達到更優(yōu)化、更快的連接效果，這其實是一種利潤最大化的網(wǎng)絡優(yōu)化算法，其能夠最大限度的提高計算機網(wǎng)絡的性價比。

2.1神經(jīng)網(wǎng)絡算法

人工神經(jīng)網(wǎng)絡屬于非線性動力學系統(tǒng)，其能夠對信息進行分布式的存儲及協(xié)同處理，其在人工神經(jīng)網(wǎng)絡之上的人工神經(jīng)網(wǎng)絡系統(tǒng)的基礎之上，應用網(wǎng)絡算法及網(wǎng)絡模型進行各種信號的處理，或者是對某種運行模式進行識別，從而建立其一個獨立的專家系統(tǒng)，或者是構成機器人，當前在多個領域中，人工神經(jīng)網(wǎng)絡系統(tǒng)都得到了廣泛的應用，在該基礎上所發(fā)展起來的人工神經(jīng)網(wǎng)絡算法是一種監(jiān)督性的學習算法，人們對于其重視程度逐漸增加，但是在實際的應用中，其存在收斂速度較慢的缺陷，難以保證將收斂程度壓制到全局的最小點，容易導致計算機網(wǎng)絡學習及記憶不穩(wěn)定性增強的問題，這會對計算機網(wǎng)絡的連接效果造成直接的影響，做好其網(wǎng)絡連接的優(yōu)化非常的必要。

2.2均場神經(jīng)網(wǎng)絡算法

在基于計算機網(wǎng)絡連接增強優(yōu)化下的均場神經(jīng)網(wǎng)絡算法的研究中，對其網(wǎng)絡效果進行判斷，需要建立起一個完整的場均神經(jīng)網(wǎng)絡模型，在模型的構建過程中，應該做好函數(shù)法構造過程中的目標函數(shù)的構建問題，具體的構建方式表現(xiàn)為：應用Si來表示Hopfield計算網(wǎng)絡中的一個神經(jīng)元狀態(tài)，并且規(guī)定當Si=1時，表示的含義是網(wǎng)絡選中了連接i，可以實現(xiàn)正常的連接，當Si=0時，表示的含義是：網(wǎng)絡中沒有選中連接i，網(wǎng)絡無法實現(xiàn)正常連接，再應用罰函數(shù)法就結構來進行網(wǎng)絡模型的創(chuàng)建。

2.3實例分析

根據(jù)上文中分析的計算方法，在得到計算結果之后，能夠對均場網(wǎng)絡算法的可行性及有效性進行判定，我們分別采用模擬退火算法、遺傳算法、均場神經(jīng)網(wǎng)絡算法進行比較，結果顯示模擬退火算法需要計算99次，這樣才能保證計算出規(guī)定的連接集，并從中獲取一定的利潤值，在遺傳算法中需要進行96次的計算，在均場神經(jīng)網(wǎng)絡算法中，需要實施88次的計算，均場神經(jīng)網(wǎng)絡算法在獲得網(wǎng)路連接效果等方面，更快、更加有效，更適宜應用于計算機網(wǎng)絡連接的增強優(yōu)化以及網(wǎng)絡結構拓撲的擴展工作中。

3結束語

篇3

關鍵詞：車牌定位；脈沖神經(jīng)網(wǎng)絡（SNN）；邊緣檢測；車牌定位；字符分割；字符識別 文獻標識碼：A

中圖分類號：TP391 文章編號：1009-2374（2016）32-0013-02 DOI：10.13535/ki.11-4406/n.2016.32.006

現(xiàn)在車牌定位已經(jīng)提出了很多方法，其中經(jīng)常用到的是基于黑白圖像定位、基于顏色特征算法和基于車牌邊緣檢測算法。大多數(shù)算法都是基于單一特征來進行車牌定位提取，這樣的定位方法在確定車牌區(qū)域上存在著明顯的局限性，受到特定條件的限制。車牌區(qū)域主要有以下特征：顏色特征、幾何特征、位置特征、紋理特征、灰度跳變特征、投影特征和頻譜特征等。車牌和字符的顏色共有五種組合分別為：藍底白字、黃底黑字、白底黑字、黑底白字以及白底紅字，其中一些小型和大型車輛的牌照底色會跟著省份的變化而略有不同。本文綜合分析車牌的特征，提出了基于脈沖神經(jīng)網(wǎng)絡顏色特征提取的車牌粗定位和基于脈沖神經(jīng)網(wǎng)絡的邊緣檢測的精確定位。

1 算法描述及流程

首先輸入拍攝的彩色車牌圖像，利用SNN對車牌圖像進行顏色特征提取，接著經(jīng)過一系列處理實現(xiàn)車牌的粗定位，然后運用灰度化、邊緣檢測、形態(tài)學處理和二值化等技術對粗定位車牌進行處理，再采用行列掃描投影法進行精確定位，最終提取出正確的車牌區(qū)域，其中的邊緣檢測也是基于SNN?；赟NN的車牌定位流程如圖1所示：

2 車牌的粗定位

以藍色為例，上述算法的具體步驟如下：（1）輸入彩色車牌圖像；（2）將三幅成分圖、和中的每個像素轉換為脈沖序列；（3）計算其脈沖序列的放電頻數(shù)，分別用維數(shù)為的數(shù)組、和來存儲；（4）將三個像素閾值、、轉換為脈沖序列，并計算其放電頻數(shù)，分別用、和來存儲；（5）判斷是否滿足、、，如果滿足的話，令，否則令。

如果，則在坐標處的像素為藍色。其他顏色原理相同。

3 車牌的精確定位

本文主要基于感受野和脈沖神經(jīng)元來檢測車牌圖像的邊緣，其網(wǎng)絡的結構如圖3所示。該網(wǎng)絡有三層：第一層為光感輸入層；第二層為中間層，四個并行神經(jīng)元矩陣、、、對應四種不同的感受野，為了簡化只畫出了每個矩陣中的一個神經(jīng)元。在突觸連接中的“X”代表興奮性突觸，“”代表抑制性突觸，中間層通過不同的權重矩陣連接光感輸入層，分別執(zhí)行上、下、左、右邊緣的檢測，這些權重矩陣能改變圖像中不同尺寸感受野的大小；第三層為輸出層，其中每一個神經(jīng)元累加來自第二層對應四個并行神經(jīng)元矩陣的輸出。通過繪制輸出層的脈沖頻率圖，能得到對應于輸入圖像的邊緣圖。本文主要介紹神經(jīng)元通過權重矩陣連接到光感輸入層的感受野，其響應了感受野的右邊緣。此脈沖神經(jīng)網(wǎng)絡檢測右邊緣的原理如下：

如果一個灰度均勻圖像位于該感受野中時，產(chǎn)生一個均勻的脈沖的輸出，膜電勢不會變化，不會有脈沖序列產(chǎn)生；如果一個邊緣明確的圖像位于感受野中，感受野的左半部分產(chǎn)生一個較強的信號，右半部分產(chǎn)生一個符號相反的較弱的信號，由于左半部分興奮信號沒有被右半部抑制信號抵消，因此膜電勢上升得很快，最終產(chǎn)生響應右邊緣的脈沖序列。突觸權重矩陣相當于在感受野內檢測邊緣的一個濾波器，其他三個邊緣原理相同。輸出層神經(jīng)元累積來自中間層的四個神經(jīng)元矩陣的輸出，然后響應位于感受野任意方向的邊緣。

如圖4所示，通過與canny邊緣檢測和sobel邊緣檢測對比，可知sobel邊緣檢測結果缺失了部分邊緣，canny邊緣檢測能力很強，但是提取了很多無用的邊緣，然而SNN邊緣檢測結果最好，彌補了兩者的缺點。

4 實驗結果及分析

使用Visual C++ 2012開發(fā)工具搭建此算法的軟件實驗平臺，共收集了樣本400張（全國各個省份的車牌），并且針對各種底色車牌逐一進行提取，有366張可以成功定位，定位率達到91.5%。從以上實驗結果可知該算法能達到很好的定位效果。

5 結語

本文主要介紹了基于脈沖神經(jīng)網(wǎng)絡的車牌定位算法，分別從車牌粗定位和精確定位兩方面進行了系統(tǒng)的分析，綜合運用了圖像處理中的灰度化處理、邊緣檢測、二值化等技術對車牌圖像進行分析和處理，充分利用車牌顏色和紋理等特征對車牌進行提取。由于客觀條件和時間的限制，本文的研究還存在很多不足，有很多方面需要進一步提高。

參考文獻

[1] 孫杰.車牌定位分割技術的研究與實現(xiàn)[D].東北電力大學，2007.

[2] 張燕，任安虎.多特征與BP神經(jīng)網(wǎng)絡車牌識別系統(tǒng)研究[J].科學技術與工程，2012，（22）.

[3] 陳麗娟.基于脈沖神經(jīng)網(wǎng)絡的車牌識別系統(tǒng)的設計與實現(xiàn)[D].福建師范大學，2015.

[4] QingXiang Wu，Martin McGinnity，Liam Maguire，Ammar Belatreche，Brendan Glackin.Edge Detection Based on Spiking Neural Network Model[J].Third International Conference on Intelligent Computing，ICIC 2007.

[5] 陳浩.基于脈沖神經(jīng)網(wǎng)絡模型的車輛車型識別研究[D].福建師范大學，2011.

篇4

關鍵詞： DFB激光器； 遺傳算法； 神經(jīng)網(wǎng)絡； 溫度控制

中圖分類號： TN249?34； TP273 文獻標識碼： A 文章編號： 1004?373X（2016）15?0164?03

Abstract： To solve the problems of nonlinearity and delay property existing in DFB laser temperature control system， the composite control structure based on genetic algorithm and neural network is proposed. In the system， the microprocessor as the system core processor is used to design the temperature control system， and the Pt resistance， TEC semiconductor refrigerator， temperature sensor and temperature control actuator are used as the control units. The neural network positive model was constructed to analyze the physical characteristics of the controlled object. The neural network control is used to map the control laws， and the fast searching ability of genetic algorithm is used to train the weight coefficient of neural network. The designed system was verified with the experiment. The results show that the temperature control accuracy of the system is ±0.002 ℃， the range of temperature control is 5～70 ℃， the overshoot is less than 8%， the designed system can realize the control effect of high precision and wide range， and has better engineering application value.

Keywords： DFB laser； genetic algorithm； neural network； temperature control

0 引 言

激光檢測技術已經(jīng)應用在許多工業(yè)領域，其中分布式（DFB）激光器的波長能夠有效匹配甲烷和一氧化碳等氣體的吸收峰，所以在很多領域利用它來檢測氣體的濃度。DFB激光器的波長主要與電流和溫度有關，當電流保持不變時，DFB的波長與溫度的變化關系[1?3]為0.2～0.3 nm/℃。因此，為了提高氣體的檢測精度，必須確保DFB激光器發(fā)光的波長準確且穩(wěn)定，需要對它的溫度進行精確控制[4?7]。

國內外有很多生產(chǎn)廠家和研究機構都在研究如何在較寬的溫度范圍內提高DFB激光器的溫度控制精度。目前，國外的產(chǎn)品一般能夠在-50～100 ℃的環(huán)境下正常工作，且控制精度不低于0.001 ℃。國內的產(chǎn)品一般只能在常溫下工作，控制精度[8]僅為0.05～0.1 ℃。本文針對DFB激光器溫度控制系統(tǒng)普遍存在的非線性和延遲性等問題，利用遺傳算法和神經(jīng)網(wǎng)絡構造復合控制結構，實現(xiàn)在較寬的范圍內對溫度進行高精度穩(wěn)定控制的效果。

1 硬件系統(tǒng)設計

1.1 系統(tǒng)總體方案

設計的基于遺傳算法和神經(jīng)網(wǎng)絡的DFB激光器溫度控制系統(tǒng)主要由鉑電阻、恒流源、信號調整、驅動電路、A/D和D/A轉換模塊、控制器、LED顯示和上位機等組成，總體框圖如圖1所示。

激光器的溫度變化由溫度傳感器鉑熱電阻轉變?yōu)殡娦盘枺?jīng)過信號調整和A/D轉換將數(shù)據(jù)送給微處理器，與上位機設定的標準值進行比較計算得到偏差，再將該偏差信號由數(shù)字控制器處理和調整之后，經(jīng)由D/A轉換和驅動電路進入執(zhí)行器件，對被控對象加熱或者制冷，從而將DFB激光器的溫度控制在特定值。

1.2 溫度測量和處理

采用鉑電阻Pt100作為系統(tǒng)的溫度傳感器，它具有工作溫度范圍大和穩(wěn)定性好的優(yōu)點。給鉑電阻加載恒定的微小電流（1 mA左右），再通過測量鉑電阻兩端的電壓來獲取溫度信號。對電壓信號進行模數(shù)轉換時，使用的芯片為ICL7109，分辨率高達244 ppm，能夠直連微處理器，轉換的速度為30次/s。在微處理器的控制下，電壓信號由多路開關經(jīng)ICL7109實現(xiàn)模數(shù)轉換。同時，參考溫度的信號由上位機和電位器分壓得到。

在微處理器上對實際溫度與參考溫度進行比較，它們的差值由微處理器上設定的控制算法進行處理，得到相應的控制信號，該信號經(jīng)數(shù)模轉換芯片DAC0832處理和放大后驅動執(zhí)行器件工作。這里的數(shù)模轉換芯片為雙極性輸出，可以提供正向和反向的電壓信號，從而實現(xiàn)加熱或者制冷。

1.3 TEC驅動

采用熱電制冷器（TEC）作為系統(tǒng)的溫度控制執(zhí)行器件。根據(jù)珀耳帖效應，當給TEC通過不同方向的電流時，即可實現(xiàn)TEC的制冷或加熱，而調節(jié)它的電流大小即可改變它的加熱或者制冷的輸出大小[9]。為了快速地控制TEC的電流，采用MAX1968型的控制芯片，它能夠直接控制電流，具有消除浪涌電流和減小噪聲干擾的優(yōu)點。它內置有基準電壓源，當電壓大于基準值時，實現(xiàn)加熱的效果；相反，實現(xiàn)制冷的目的。

2 神經(jīng)網(wǎng)絡學習控制

2.1 神經(jīng)網(wǎng)絡正模型

3 實驗結果與分析

由前述的分析來設計DFB激光器的溫度控制系統(tǒng)，并用實驗來驗證系統(tǒng)設計的合理性和可行性。選取初始種群為60個染色體，其中每個染色體均有25個權系數(shù)，它們的變化范圍為[[-2，4]]，進化代數(shù)的最大值為40代。實驗室溫度的初始值為20 ℃，設定期望的DFB激光器溫度值分別為5 ℃，15 ℃，40 ℃和70 ℃，從零時刻啟動溫度控制過程，得到不同目標溫度控制的實驗結果，如圖3～圖6所示。

從圖3～圖6中可以看出，基于遺傳算法和神經(jīng)網(wǎng)絡的控制算法可以使得DFB激光器的實際溫度達到預期設定的溫度值。對于低于室溫的溫度控制，超調量為8%，控制精度為±0.002 ℃；對于高于室溫的溫度控制，沒有超調量，控制精度為±0.001 7 ℃。因此，本文設計的控制系統(tǒng)能夠實現(xiàn)DFB激光器工作溫度的精確控制，穩(wěn)定度較高。

4 結 語

本文設計了基于遺傳算法和神經(jīng)網(wǎng)絡的DFB激光器溫度控制系統(tǒng)，系統(tǒng)使用微處理器、鉑電阻和TEC半導體制冷器分別作為處理器、溫度敏感器和溫控的執(zhí)行器件，通過構建復合控制結構，能夠使得系統(tǒng)的輸出達到期望值。實驗結果表明，該系統(tǒng)能夠實現(xiàn)DFB激光器溫度的高精度和穩(wěn)定控制，控制精度和控制范圍分別能夠達到±0.002 ℃和5～70 ℃，超調量低于8%，具有較好的推廣應用前景。

參考文獻

[1] 胡鵬程，時瑋澤，梅健挺.高精度鉑電阻測溫系統(tǒng)[J].光學精密工程，2014，22（4）：988?995.

[2] 單成玉.溫度對半導體激光器性能參數(shù)的影響[J].吉林師范大學學報（自然科學版），2003（4）：95?97.

[3] 李金義，杜振輝，齊汝賓，等.利用熱敏電阻精確測量DFB激光器動態(tài)結溫度[J].儀器儀表學報，2012，33（9）：2088?2093.

[4] 秦國華，謝文斌，王華敏.基于神經(jīng)網(wǎng)絡與遺傳算法的刀具磨損檢測與控制[J].光學精密工程，2015，23（5）：1314?1321.

[5] 玲，林勤花.基于遺傳神經(jīng)網(wǎng)絡的P2P流量識別系統(tǒng)[J].現(xiàn)代電子技術，2015，38（17）：117?120.

[6] 徐齊勝，羅勝琪，陶欣，等.基于神經(jīng)網(wǎng)絡遺傳算法的鍋爐燃燒優(yōu)化系統(tǒng)[J].自動化與儀表，2014，29（6）：30?32.

[7] 陳苗，陳福深，肖勇.溫度對半導體激光器特性的影響[J].中國科技信息，2011（3）：46?47.

[8] 李江瀾，石云波，趙鵬飛，等.TEC的高精度半導體激光器溫控設計[J].紅外與激光工程，2014，43（6）：1745?1749.

[9] 徐廣平，馮國旭，耿林.基于單片機控制的高精度TEC溫控[J].激光與紅外，2009，39（3）：254?256.

[10] 康偉.基于BP神經(jīng)網(wǎng)絡的DFB激光器恒溫控制系統(tǒng)建模與仿真[J].激光雜志，2015，36（4）：59?62.

篇5

關鍵詞：數(shù)據(jù)挖掘；數(shù)據(jù)庫；遺傳算法；神經(jīng)網(wǎng)絡

中圖分類號：TP392文獻標識碼：A文章編號文章編號：1672-7800（2013）012-0129-02

基金項目：佛山科學技術學院重點項目（2010）

作者簡介：劉曉莉（1961-），女，佛山科學技術學院副教授，研究方向為應用數(shù)學。

1遺傳算法基本特征

遺傳算法是模擬達爾文的遺傳選擇和自然淘汰的生物進化過程的計算模型，是一種具有廣泛適用性的通用優(yōu)化搜索方法。遺傳算法主要借用了生物遺傳學的觀點，通過自然選擇、遺傳和變異等作用機制來產(chǎn)生下一代種群，如此逐代進化，直至得到滿足要求的后代即問題的解，是一種公認的全局搜索能力較強的算法。

遺傳算法有良好智能性，易于并行，減少了陷于局部最優(yōu)解的風險。遺傳算法的處理對象不是參數(shù)本身，而是對參數(shù)集進行了編碼的個體，可以直接對集合、隊列、矩陣、圖表等結構進行操作。同時，在標準的遺傳算法中，基本上不用搜索空間的知識或其它輔助信息，而僅用適應度函數(shù)值來評估個體，并在此基礎上進行遺傳操作； 遺傳算法不是采用確定性規(guī)則，而是采用概率的變遷規(guī)則來指導它的搜尋方向。正是這些特征和優(yōu)點，使得遺傳算法在數(shù)據(jù)挖掘技術中占有很重要的地位，既可以用來挖掘分類模式、聚類模式、依賴模式、層次模式，也可用于評估其它算法的適合度。

2神經(jīng)網(wǎng)絡基本特征

神經(jīng)網(wǎng)絡是人腦或自然神經(jīng)網(wǎng)絡若干基本特征的抽象和模擬，是以大量的、同時也是很簡單的處理單元（神經(jīng)元）廣泛地互相連接形成的復雜非線性系統(tǒng)。人工神經(jīng)網(wǎng)絡本質上是一個分布式矩陣結構，它根據(jù)樣本的輸入輸出對加權法進行自我調整，從而近似模擬出輸入、輸出內在隱含的映射關系。建模時，不必考慮各個因素之間的相互作用及各個因素對輸出結果的影響機制，這恰好彌補了人們對各個因素及對輸出結果的機制不清楚的缺陷，從而解決眾多用以往方法很難解決的問題。

神經(jīng)網(wǎng)絡具有大規(guī)模的并行處理和分布式的信息存儲，有良好的自適應、自組織性，學習能力很強，有較強的聯(lián)想功能和容錯功能，在解決機理比較復雜、無法用數(shù)學模型來刻畫的問題，甚至對其機理一無所知的問題等，神經(jīng)網(wǎng)絡方法特別適用，是一種用于預測、評價、分類、模式識別、過程控制等各種數(shù)據(jù)處理場合的計算方法，其應用已經(jīng)滲透到多個領域，在計算機視覺、模式識別、智能控制、非線性優(yōu)化、信號處理、經(jīng)濟和機器人等方面取得了可喜的進展。

3遺傳算法與神經(jīng)網(wǎng)絡混合算法在數(shù)據(jù)挖掘中的應用

作為一種有效的優(yōu)化方法，遺傳算法可以應用于規(guī)則挖掘，可以單獨用于數(shù)據(jù)倉庫中關聯(lián)規(guī)則的挖掘，還可以和神經(jīng)網(wǎng)絡技術相結合，建立基于神經(jīng)網(wǎng)絡與遺傳算法的數(shù)據(jù)挖掘體系，用于數(shù)據(jù)挖掘中的分類問題。

學習能力是神經(jīng)網(wǎng)絡中最引人矚目的特征，學習算法的研究一直占據(jù)重要地位?？梢詫⑦z傳算法應用于神經(jīng)網(wǎng)絡的學習過程中，這樣可以避免傳統(tǒng)的神經(jīng)網(wǎng)絡算法容易陷入局部極小的問題。有研究者提出了一種基于遺傳算法的神經(jīng)網(wǎng)絡二次訓練方法，可以提高神經(jīng)網(wǎng)絡的模糊處理能力，有效解決神經(jīng)網(wǎng)絡陷入局部極小的缺點，加快收斂速率，提高學習效率。也有研究者探究了基于基因重組的遺傳算法優(yōu)化神經(jīng)網(wǎng)絡的方法，通過訓練權值來實現(xiàn)分類，可以提高神經(jīng)網(wǎng)絡數(shù)據(jù)分類的準確性。因此，采用遺傳算法與神經(jīng)網(wǎng)絡模型相結合方法，可以解決多維非線性系統(tǒng)及模型未知系統(tǒng)的預測、評價與優(yōu)化等問題，其成功案例有很多，下面是其中的幾例。

一些研究者針對當前專家系統(tǒng)知識獲取瓶頸的難題，提出了基于神經(jīng)網(wǎng)絡與遺傳算法的汽輪機組數(shù)據(jù)挖掘方法。該方法首先將汽輪機組歷史故障數(shù)據(jù)進行模糊化及離散化處理后，建立神經(jīng)網(wǎng)絡模型，然后再利用遺傳算法對神經(jīng)網(wǎng)絡進行優(yōu)化，實現(xiàn)了基于神經(jīng)網(wǎng)絡與遺傳算法相結合的汽輪機組數(shù)據(jù)挖掘和故障診斷仿真系統(tǒng)，其診斷正確率達到了84%。

綜合運用人工智能、計算智能（人工神經(jīng)網(wǎng)、遺傳算法） 、模式識別、數(shù)理統(tǒng)計等先進技術作為數(shù)據(jù)挖掘工具，可以建立可靠、高效的數(shù)據(jù)挖掘軟件平臺，已在很多工業(yè)控制和優(yōu)化中得到應用和實驗驗證，并取得了滿意的應用效果。例如，某鋁廠根據(jù)以往不同原料成分和原料的不同配比與產(chǎn)品質量關系記錄的數(shù)據(jù)庫，應用數(shù)據(jù)挖掘軟件平臺，可以挖掘出適應不同原料成分的最佳配比規(guī)律，從而提高產(chǎn)品質量的穩(wěn)定性。又如，以往在化工產(chǎn)品優(yōu)化配方、催化劑配方優(yōu)化或材料工藝優(yōu)化等研究中，基本上都是采用試驗改進的方式，需經(jīng)過多次試驗才能達到預期目的，但也有可能失敗。為降低消耗， 少做試驗就能達到預期目的，可采用神經(jīng)網(wǎng)絡對產(chǎn)品配方實驗數(shù)據(jù)建模，在此基礎上，再應用遺傳算法對配方模型進行優(yōu)化，得到優(yōu)化配方。

正是遺傳算法與神經(jīng)網(wǎng)絡等算法的支撐以及計算機技術的發(fā)展，目前，數(shù)據(jù)挖掘廣泛地應用于天文、地理、生物信息學、金融、保險、商業(yè)、電信、網(wǎng)絡、交通等眾多領域。例如，應用在地理數(shù)據(jù)庫上，主要挖掘地質、地貌特征，為尋找礦產(chǎn)或進行城市規(guī)劃等提供參考依據(jù)；在電信Web服務器方面，可以挖掘Web日志，根據(jù)用戶興趣動態(tài)鏈接Web頁面，統(tǒng)計頁面鏈接及權威主頁等，對檢索頁面進行聚類，方便用戶找到需要的信息；在生物醫(yī)學信息和DNA數(shù)據(jù)分析方面，進行遺傳、疾病等數(shù)據(jù)特征的挖掘，為疾病診斷、治療和預防研究提供科學依據(jù)；對金融數(shù)據(jù)進行挖掘，可以分析客戶信用度；在CRM（客戶關系模型）上使用數(shù)據(jù)挖掘，獲得客戶群體分類信息、交叉銷售安排及開發(fā)新客戶和保留老客戶的策略；在電信業(yè)中使用挖掘技術，以預防網(wǎng)絡欺詐等；應用在商業(yè)問題的研究包括：進行客戶群體劃分、背景分析、交叉銷售等市場行為分析，以及客戶流失性、信用度分析與欺詐發(fā)現(xiàn)；在電子商務方面，從服務器以及瀏覽器端的日志記錄中發(fā)現(xiàn)隱藏在數(shù)據(jù)中的模式信息，了解系統(tǒng)的訪問模式以及用戶的行為模式，作出預測性分析等等。

4結語

神經(jīng)網(wǎng)絡和遺傳算法作為數(shù)據(jù)挖掘技術，也有一些不足和缺陷。遺傳算法除了要進一步改進基本理論和方法外，還要采用和神經(jīng)網(wǎng)絡、模擬退火、最近臨規(guī)則等其它方法相結合的策略，提高遺傳算法的局部搜索能力，從而進一步改善其收斂速度和解的品質，提高數(shù)據(jù)挖掘技術。特別是對于單調函數(shù)或單峰函數(shù)，遺傳算法在初始時很快向最優(yōu)值逼近，但是在最優(yōu)值附近收斂較慢；而對于多峰函數(shù)的優(yōu)化問題，它往往會出現(xiàn)“早熟”，即收斂于局部極值。因此，研究如何改進遺傳算法，采用合適的算法加快尋優(yōu)速度和改善尋優(yōu)質量，無論在理論上還是在實踐上都有重要意義。神經(jīng)網(wǎng)絡的神經(jīng)計算基礎理論框架以及生理層面的研究仍需深入與加強，如何提高神經(jīng)網(wǎng)絡的可理解性問題，以及研究遺傳算法、神經(jīng)網(wǎng)絡技術與其它人工智能技術更好地結合，從而獲得比單一方法更好的效果等問題，值得進一步探索。

雖然數(shù)據(jù)挖掘技術已得到了廣泛應用，但現(xiàn)有的數(shù)據(jù)挖掘方法并不能完全適應所面臨的具有多樣性的海量數(shù)據(jù)分析的現(xiàn)實，急需解決的問題是：如何研究并行處理和抽樣的方法，來處理大規(guī)模的數(shù)據(jù)以獲得較高的計算效率；如何利用統(tǒng)計、模糊數(shù)學來確定隱含變量及依賴關系，開發(fā)容噪的挖掘方法，以解決異質數(shù)據(jù)集的數(shù)據(jù)挖掘問題；如何更好地進行文本數(shù)據(jù)挖掘、Web數(shù)據(jù)挖掘、分類系統(tǒng)、可視化系統(tǒng)、空間數(shù)據(jù)系統(tǒng)和分布式數(shù)據(jù)挖掘等新技術的應用。因此，未來數(shù)據(jù)挖掘的研究表現(xiàn)在數(shù)據(jù)挖掘功能、工具、方法（算法） 的拓展與理論創(chuàng)新，其應用的范圍和深度會進一步加強。

參考文獻參考文獻：

[1]孟曉明.淺談數(shù)據(jù)挖掘技術[J].計算機應用與軟件，2004 （8）.

[2]李慧芳，姚躍華，陳一棟.改進的遺傳算法對神經(jīng)網(wǎng)絡優(yōu)化的分類[J].微計算機信息，2008（15）.

[3]王東龍，李茂青.基于遺傳算法的數(shù)據(jù)挖掘技術應用[J].南昌大學學報， 2005（1）.

[4]宋仁國.鋁合金工藝優(yōu)化的遺傳算法[J].材料科學與工程，1998（1）.

[5]韓力群.催化劑配方的神經(jīng)網(wǎng)絡建模與遺傳算法優(yōu)化[J].化工學報，1999（4）.

[6]郭崇慧，陸玉昌.預測型數(shù)據(jù)挖掘中的優(yōu)化方法[J].工程數(shù)學學報，2005（1）.

[7]楊杰.用于建模、優(yōu)化、故障診斷的數(shù)據(jù)挖掘技術[J].計算機集成制造系統(tǒng)，2000（10）.

篇6

關鍵詞：計算機神經(jīng)網(wǎng)絡；粒子群優(yōu)化算法；應用

中圖分類號：TP183

粒子群優(yōu)化算法是一種相對簡單、有效的隨機全局優(yōu)化技術，通過對粒子群優(yōu)化算法進行相應的改進，以此確保其收斂性，然后再將粒子群優(yōu)化算法應用到神經(jīng)網(wǎng)絡的學習訓練中，能夠更有效的找出最優(yōu)化解。粒子群優(yōu)化算法和遺傳算法相比，粒子群優(yōu)化算法并沒有遺傳算法復雜的交叉、變異以及編碼，而是對粒子所在解空間的具置進行搜索，不需要對眾多的參數(shù)進行調整，其收斂速度相對較快。

1 粒子群優(yōu)化算法的基本原理以及優(yōu)化改進

1.1 粒子群吧優(yōu)化算法的基本原理

PSO中，每一個優(yōu)化問題的解都是搜集空間中的一個“粒子”的狀態(tài)，粒子群優(yōu)化算法是對群體的全局進行考慮，通過迭代搜尋選取最優(yōu)值，通過將系統(tǒng)轉化成一組隨機的例子，由于例子在解空間追隨最優(yōu)的例子進行湊所，所以粒子群優(yōu)化算法是一種具有全局尋優(yōu)能力的優(yōu)化工具。例子群優(yōu)化算法的基本原理表現(xiàn)為：假設在一個D維的目標搜集中間中，由N個不同的粒子組成了一個特定的群體，其中第i個粒子表示成其在這個D維空間中的向量（xi），也就是該粒子在D為空間中的位置，每一個粒子的位置都存在一個特定的解，通過將xi帶入到相應的目標函數(shù)中，通過適當?shù)暮瘮?shù)計算就能得到其適應度值，然后根據(jù)該xi適應度值的大小，以此衡量xi的優(yōu)劣程度。其中，第i個粒子飛行的速度表示D維中的另一個向量，表示為vi，將在D維空間中搜索到的第i個粒子的最有位置記錄為pi，則整個粒子群搜索到的最有位置pi的粒子群優(yōu)化算法表現(xiàn)為：公式一：vi=ci+c1r1（pi-xi）+c2r2（pg-xi）；公式二：vik+1=vik+c1×rand（）×（pbest-xik）+c2×rand（）×（gbest-xik）；公式三：xi=xi+vi，其中i=1，2，…N；r1和r2為學習因子，rand（）表示介于[0，1]之間的隨機常數(shù)，c1和c2表示為非負常數(shù)。其中迭代的終止條件是根據(jù)選擇的最大迭代次數(shù)決定的，表示的為第i個李在迄今為止搜索到的最優(yōu)化位置應該滿足的適應度的最小值。

從社會學角度方面來說，粒子群優(yōu)化算法公式中的表示的是粒子的記憶項以及自身認知項，能夠表示上次速度的方向以及大小對粒子造成的影響，還能夠將當前的指向粒子當作自身的最優(yōu)化矢量，以此表示粒子的動作來源于自身的經(jīng)驗，能夠反映粒子之間的協(xié)同作用以及知識共享，粒子能夠根據(jù)粒子群中相鄰粒子的最好經(jīng)驗，然后再結合自身的經(jīng)驗，以此來決定自身的下一步運動，從而形成PSO的標準形式。

1.2 粒子群優(yōu)化算法的改進

粒子群粒子群優(yōu)化算法需要用戶確定的參數(shù)相對較少，并且其操作相對簡單，因此該種方法使用起來非常方便，但是，由于粒子群優(yōu)化算法容易陷入局部極值點，導致搜索的收斂性相對較低，并且粒子群優(yōu)化算法的收斂性分析已經(jīng)收到眾多學者的重視，因此，為了增強粒子群優(yōu)化算法的收斂性，可以將抗體多樣性保持機制引入到粒子群優(yōu)化算法中，其步驟表現(xiàn)為：首先，確定參數(shù)值，記憶粒子個數(shù)M，即常數(shù)因子c1和c2粒子群的個數(shù)N，粒子的濃度概率選擇閥值Pi，其隨機產(chǎn)生的N個粒子xi的飛行速度表示為vi，以此計算粒子的適應度函數(shù)值；根據(jù)公式計算粒子的選擇概率，將粒子群體中前M個最大適應度的粒子當作記憶細胞進行儲存，將概率大于Pi的粒子根據(jù)相應的方法進行計算，從而把M個記憶細胞替換成適應度最差的M個粒子，以此形成全新的粒子群，最終判斷其能付滿足相應的選擇條件，如果滿足輸出適應度值最好的要求，則選定該粒子。由此可見，通過上述的方法對粒子群優(yōu)算法進行改進，能夠保證粒子群優(yōu)化算法的精確性，并且通過實踐證明，經(jīng)過改進后的粒子群優(yōu)化算法，其計算機的仿真結果顯示，該種粒子群優(yōu)化算法的收斂速度明顯優(yōu)于沒有改進的粒子群優(yōu)化算法的收斂速度。

2 粒子群優(yōu)化算法在計算機審計網(wǎng)絡中的應用

計算機神經(jīng)網(wǎng)絡能夠模擬大腦的思維能力，然后通過對各種數(shù)據(jù)進行分析，從而建立其相應的數(shù)學模型，計算機神經(jīng)網(wǎng)絡中除了包含許多處理器以外，還包含了許多與人腦神經(jīng)相似的節(jié)點，這些節(jié)點按照一定的規(guī)律進行連接。如果將計算機神經(jīng)網(wǎng)絡中的每一個過程都細分為若干個微程序，并且將所有的微程序都交付于處理器進行處理，那么處理器處理所有的微程序的過程，就是一條微程序的處理流水線，這樣計算機處理信息的速度也將會顯著的提高。粒子群優(yōu)化算法在計算機神經(jīng)網(wǎng)絡中的應用，包括的內容有組合優(yōu)化、參數(shù)優(yōu)化、神經(jīng)網(wǎng)絡訓練、學習算法、網(wǎng)絡拓撲結構和傳遞函數(shù)、鏈接權重等，通過把個體轉化成微粒，其中包括計算機神經(jīng)網(wǎng)絡中的所有能夠用到的參數(shù)，然后經(jīng)過一些列的復雜、重復的程序，最終達到最終的訓練目標。相對于傳統(tǒng)的神經(jīng)訓練法來說，由于BP算法需要可微的函數(shù)以及梯度信息等大量的數(shù)據(jù)，只有通過大量的計算才能得到相應的訓練結果，其運行難度較大、程序相對復雜，而采用離子群優(yōu)化算法，其處理信息的速度顯著的提升，能夠有效的克服其運行效率低的問題。粒子群優(yōu)化算法在計算機神經(jīng)系統(tǒng)網(wǎng)絡中的應用，主要表現(xiàn)在兩個方面：其一，粒子區(qū)優(yōu)化算法在參數(shù)優(yōu)化中的應用，能夠通過解決計算機神經(jīng)網(wǎng)絡中的各種離散型問題，從而進行參數(shù)優(yōu)化；其二，粒子群優(yōu)化算法在組合優(yōu)化中的應用，其中典型的應用表現(xiàn)為其在工程經(jīng)濟問題中的應用，其能夠通過將各種資源進行科學的組合，通過設置一定的約束條件對這些組合進行排序，通過不斷的嘗試最終能夠找到最有效的解決方案，然后合理的利用所有的組合實現(xiàn)經(jīng)濟效益的最大化。此外，粒子群優(yōu)化算法不僅能夠應用在計算機神經(jīng)網(wǎng)絡中，還能夠應用在更多的領域中，例如軟件編輯、游戲開發(fā)、電力系統(tǒng)等領域中。

3 結束語

文章對計算機神經(jīng)網(wǎng)絡中粒子群優(yōu)化算法的應用進行了研究，對粒子群優(yōu)化算法進行了相應的改進，有效的提高了粒子群優(yōu)化算法的收斂速度。將粒子群優(yōu)化算法應用在計算機神經(jīng)網(wǎng)絡中，其操作相對簡單，比較容易實現(xiàn)，并且其還能夠更快的收斂于最優(yōu)解，有效的克服了傳統(tǒng)遺傳算法缺點。因此，在計算機神經(jīng)網(wǎng)絡學習訓練中，廣泛的推廣和應用粒子群優(yōu)化算法具有很大的現(xiàn)實意義。

參考文獻：

[1]丁玲，范平，聞彬.粒子群優(yōu)化算法在計算機神經(jīng)網(wǎng)絡中的應用[J].理論與算法，2013（17）：39-41.

[2]曹大有.一種免疫粒子群優(yōu)化算法及在小波神經(jīng)網(wǎng)絡學習中的應用[J].計算機應用于軟件，2009（06）：189-192.

[3]劉愛軍，楊育，李斐.混沌模擬退火粒子群優(yōu)化算法研究及應用[J].浙江大學學報（工學版），2013（10）：1722-1729.

[4]虞斌能，焦斌，顧幸生.改進協(xié)同粒子群優(yōu)化算法及其在Flow Shop調度中的應用[J].華東理工大學學報（自然科學版），2009（03）：468-474.

[5]劉寶寧，章衛(wèi)國，李廣文.一種改進的多目標粒子群優(yōu)化算法[J].北京航空航天大學學報，2013（04）：458-473.

篇7

關鍵詞： BP神經(jīng)網(wǎng)絡； 非線性方程組； 迭代算法； 誤差收斂

中圖分類號： TN911?34； TP183 文獻標識碼： A 文章編號： 1004?373X（2013）08?0020?03

0 引 言

神經(jīng)網(wǎng)絡具有許多優(yōu)點，如大規(guī)模并行處理、分布式存儲以及網(wǎng)絡的計算時間復雜度幾乎為零等[1]，因此，神經(jīng)網(wǎng)絡的應用已越來越廣泛。BP（Back Propagation）神經(jīng)網(wǎng)絡是采用誤差反向傳播學習算法的多層前饋神經(jīng)網(wǎng)絡，它是當前獲得廣泛應用的模型之一。BP算法的基本思想[2?4]是： 網(wǎng)絡學習由輸入信號的正向傳播和誤差的逆向傳播兩個過程組成。正向傳播過程是指樣本信號由輸入層輸入，經(jīng)網(wǎng)絡的權重、閾值和神經(jīng)元的轉移函數(shù)作用后，從輸出層輸出。

如果輸出值與期望值之間的誤差大于預期，則轉入誤差反向傳播階段，進行修正，即誤差通過隱層向輸入層逐層返回。網(wǎng)絡的學習訓練過程實質就是根據(jù)輸出值與期望值之間的誤差不斷調整網(wǎng)絡權重和閾值的過程，直到網(wǎng)絡輸出誤差減小到允許值或到達設定的訓練次數(shù)為止。由于 BP神經(jīng)網(wǎng)絡模型具有較強的隨機性和不確定性，很多研究對BP算法進行改進，并取得了大量的成果，具體參看文獻[5?6]，這些算法提高了BP神經(jīng)網(wǎng)絡在實際應用中的可靠性，使得BP神經(jīng)網(wǎng)絡的應用范圍越來越廣泛。

神經(jīng)網(wǎng)絡求在求解非線性方程組中的應用也有了較好的研究。文獻[7?9]研究了人工神經(jīng)網(wǎng)絡逼近非線性多元函數(shù)的可能性，得到了相應于幾類特殊作用函數(shù)的神經(jīng)網(wǎng)絡逼近存在性定理， 這些定理保證了用單層神經(jīng)網(wǎng)絡逼近連續(xù)多元函數(shù)時，可達到任意的精確度。趙啟林等提出一種權值耦合的BP神經(jīng)網(wǎng)絡模型[10]，吳靈敏等提出了對形式為[x=f（x）]的多元非線方程組的神經(jīng)網(wǎng)絡求解方法[11]，趙華敏等利用能量函數(shù)降能的方法尋找方程組的根[12]。

這些方法對多變元非線性方程函數(shù)形式有一定的要求。孫銀慧等利用迭代BP神經(jīng)網(wǎng)絡的逼近非線性方程組的函數(shù)的反函數(shù)的方法，提出了一種通用性較強的求解方法[13]。

本文對文獻[13]中所提出的方法進行了分析研究，發(fā)現(xiàn)存在誤差收斂過早導致無窮跌代以及收斂值并非最小值的問題，并對算法進行了改進。

1 迭代的ANN算法

1.1 非線性方程組

研究如下非線性方程組的數(shù)值解問題[13]：

[y=f（x）] （1）

式中：[f：RnRn；x，y∈Rn]。

假設[x0=[x1，0，x2，0，...，xn，0]T]為它的一個解，[f（x）]的反函數(shù) [x=f-1（y）]存在，則有：

[f（x0）=0， x0=f-1（0）]（2） 盡管利用[f（x）=0]求解[x0]很不容易，但是若能求得[x=f-1（y）]，則可由式（2）方便求得式（1）的解[x0]。雖然[x=f-1（y）]的顯式表達式同樣不易求得，但如果能夠得到其映射數(shù)據(jù)，則可以利用各種擬合方法逼近[x=f-1（y）]，從而得到[x0]。這種映射數(shù)據(jù)可以由[y=f（x）]很方便的得到，因而非線性方程組（1）的求解問題轉化為尋求一種好的擬合方法，利用已有的映射數(shù)據(jù)來精確逼近[x=f-1（y）]，采用人工神經(jīng)網(wǎng)路（ANN）加以實現(xiàn)。

1.2 迭代的神經(jīng)網(wǎng)絡算法

1.2.1 算法簡介

文獻[13]中主要介紹了兩種方法，一種是簡單的ANN方法，另外一種是迭代的ANN方法，詳見文獻[13]。在求解算法中，給定方程組（1）的解的存在區(qū)域D，經(jīng)過其中的算法1和算法2得到的輸出 [x0′=[x1，0′，x2，0′，....，xn，0′]T]近似為方程組（1）的解[x0]。

對于誤差的衡量，由于實際計算中[x0]并不可知，無法計算解誤差[|x0-x0′|]，用[Δ=||Δy||∞=max（Δyi）]，其中[Δyi=|yi，0-yi，0′|，][i=1，2，...，n]來衡量，其中[y0′=f（x0′）]。此處文獻中的[Δ]和[Δyi]的描述有誤，本文進行了更正。在算法2的第2個步驟中，如果 [x0′∈D]，則縮小區(qū)域D，實際上根據(jù)文獻的實驗數(shù)據(jù)的表2，作者并沒有縮小區(qū)域D，而是改變了D，本文作者也認為在這種情況下沒有必要縮小D，只需要根據(jù)[x0′]改變D即可，這一點也體現(xiàn)在本文提出的改進算法里。

1.2.2 算法實驗分析

使用文獻[13]中的算例進行方程組的求解：

[y1=f1（x）=2x31-x22-1=0y2=f2（x）=x1x32-x2-4=0] （3）

式中[x=[x1，x2]T，]該方程組的解為[x0=[x1，0，x2，0]T=]

[[1.234 3，1.661 5]T]。

采用兩個輸入的（10?2）BP神經(jīng)網(wǎng)絡結構，利用Matlab的工具箱實現(xiàn)，第二層隱層神經(jīng)元節(jié)點個數(shù)為10，使用變換函數(shù)選正切S型函數(shù)（tansig）；第三層為輸出層，節(jié)點個數(shù)為2，輸出層神經(jīng)元傳遞函數(shù)為purelin函數(shù)，并且選Levenberg?Marquardt算法（trainlm）為BP網(wǎng)絡的學習算法，訓練次數(shù)100次，學習誤差為0.000 1。

按照文獻[13]所描述的迭代算法進行實驗，在不同初始化權重和閾值的情況下，在不同的區(qū)域D按照迭代的ANN算法進行迭代求解。

大量的實驗結果表明，在迭代求解的過程中[Δ]的并不是直線或者曲線下降的，而是按照波浪線下降并且最后穩(wěn)定于某一個值的，也就是[Δ]可能在達到[ε]之前就不再下降，并且最后的穩(wěn)定狀態(tài)的值并一定是[Δ]的最小值。

圖1是[Δ]隨著迭代次數(shù)n的變化曲線，橫坐標軸為n，豎坐標軸為[Δ]，在實驗過程中，D的取值為：[x1∈[1：0.01：1.5]，x2∈[1.5：0.01：2]]，固定網(wǎng)絡結構和初始化參數(shù)進行迭代，當n=20時[Δ]達到了最小值，當n=35以后[Δ]便不再開始變化。改變區(qū)域D的值也有相同的試驗結果。

圖2中D的取值為：

[x1∈[0：0.01：0.5]， x2∈[1.5：0.01：2]]

圖3中D的取值為：

[x1∈[0：0.01：0.5]， x2∈[2：0.01：2.5]]

圖4中D的取值：

[x1∈[1 000：0.01：1 000.5]， x2∈[2 000：0.01：2 000.5]時的][Δ]隨著迭代次數(shù)n的變化曲線。

2 迭代的方法的改進

根據(jù)試驗結果所標明的[Δ]隨著迭代次數(shù)n的變化趨勢和收斂分析，原來的迭代算法會出現(xiàn)無窮迭代，或者不能找到最小[Δ]。因此對原來迭代算法進行改進。

（1）對[Δ]達到平穩(wěn)狀態(tài)的判斷。隨著迭代次數(shù)的增加，當[Δ]的值不再發(fā)生變化時便中斷迭代過程以免進入無休止的迭代求解。

（2）對[Δ]最小值的求解。由于當[Δ]達到平穩(wěn)狀態(tài)時的值未必是最小值，因此在迭代過程中記錄[Δ]的最小值。當[Δ]達到最小值的對應的方程組的解被認為是方程組的近似解。

①設寄存器 min_delta用來記錄[Δ]的最小值，寄存器min_x記錄[Δ]取最小值時方程組的解，給定區(qū)域D和允許誤差ε ，利用算法1[13]求得初步解[x0′]，[Δ]，用[Δ]初始化寄存器min_delta；

②根據(jù)[[x0′]]改變區(qū)域D，使得D滿足[[x0′]∈D]得到新的求解區(qū)域D；

③以D為新的求解區(qū)域，利用算法 1 求得新的解賦值給[x0′]，并計算誤差 [Δ]，如果[Δ]

利用改進的算法對方程組進行了求解，表1 為區(qū)域D分別為三種情況時實驗的結果數(shù)據(jù)，[x1，0′]，[x2，0′]為[Δ]為最小時所求得近似解。結果表明在不知道[D0]的情況下，即使D偏離[D0]很遠時，也就是給一個任意的樣本初始點，迭代過程也能使[Δ]收斂到一個較小值。比如D的取值為：[x1∈[800，800.5]，x2∈[800，800.5]]時，經(jīng)過85次迭代[Δ]達到一個穩(wěn)定值，并在n=43時，[Δ]達到最小值0.052 1，[x1，0′]=1.234 2，[x2，0′]=1.667 2。

3 結 語

本文主要研究利用BP神經(jīng)網(wǎng)絡可以逼近多變元非線性方程組的函數(shù)的反函數(shù)，并利用迭代算法進行求解方程組的根，這是是一種通用的解多變元方程組的方法。

對文獻[13]所提出的利用迭代神經(jīng)網(wǎng)絡求解多變元非線性方程組的方法進行了研究和實驗分析，發(fā)現(xiàn)原算法可能由于誤差[Δ]過早收斂而出現(xiàn)無窮迭代，并且由于誤差并非一直隨迭代次數(shù)的增加直線或者曲線變小，因此收斂的誤差值并不一定是最小值。改進算法并根據(jù)誤差[Δ]隨迭代次數(shù)的變化曲線對迭代算法進行了改進，試驗結果表明給一個任意的樣本初始點，改進的迭代算都能能使[Δ]收斂到一個較小值，并找出[Δ]取最小值時方程組的近似解，具有較高的工程應用。由于網(wǎng)絡的初始化權重和閾值以及對網(wǎng)絡的迭代結果有重要的影響，神經(jīng)網(wǎng)絡結構與參數(shù)的選取和優(yōu)化是值得進一步研究的問題。

參考文獻

[1] 焦李成.神經(jīng)網(wǎng)絡系統(tǒng)理論[M].西安：西安電子科技大學出版社，1996：1? 25.

[2] 張立明.人工神經(jīng)網(wǎng)絡的模型及其應用[M].上海：復旦大學出版社，1992.

[3] ABIYEV Rahib Hidayat， ALTUNKAYA Koray. Neural network based biometric personal identification with fast iris segmentation [J]. International Journal of Control， Automation， and Systems， 2009， 7 （1）： 17?23.

[4] YANG Li， SONG Ma?lin. Research on BP neural network for nonlinear economic modeling and its realization based on Matlab [C]// International Symposium on Intelligent Information Technology Application. [S.l.]： [s.n.]， 2009 ： 505?508.

[5] 蔣蓉蓉.一種基于遺傳算法的BP網(wǎng)絡改進方法[J].微計算機信息，2007，23（11）：234?236.

[6] 王靜偉.BP神經(jīng)網(wǎng)絡改進算法的研究[J].中國水運，2008，8 （1）：157?158.

[7] CYBENKO G. Approximation by superpositions of a sigmidal function [J]. Math Contral Signals Systems， 1989， 2： 303?373.

[8] PALM G. On representation and approximation of nonlinear systems [J]. Discrete System Bid Cybernet， 1979， 34： 49?52.

[9] HECHT?NIELSEN R. Theory of the back propagation neural nerwork [C]// Proceedings of the International Joint Conference on Neural Nerworks. [S.l.]： IJCNN， 1989， 1： 593?608.

[10] 趙啟林，卓家壽.非線性方程組的耦合神經(jīng)網(wǎng)絡算法[J].河海大學學報，2000，28（5）：38?40.

[11] 吳靈敏，柳重堪.用神經(jīng)網(wǎng)絡解多元非線性方程組[J].北方交通大學學報，1997，21（2）：245?248.

篇8

關鍵詞：字符識別；BP神經(jīng)網(wǎng)絡；車牌識別

中圖分類號：TP391.41 文獻標識碼：A

1 引言（Introduction）

汽車牌照的識別是計算機視覺與模式識別應用于的重要研究課題，車牌識別的準確率和高效性是識別的關鍵。由于車牌圖像難免會受到光照、天氣等因素影響，車牌圖像質量會有所下降，為了對車牌字符的進行有效地識別，首先要對其進行去噪、增強等預處理，之后應用識別算法對其進行識別[1]。本文研究了用BP神經(jīng)網(wǎng)絡方法對汽車牌照字符的識別算法。首先對分割、歸一化后的字符特征進行提取，所提取的特征向量記錄的就是字符的特征。把這個特征向量送到BP網(wǎng)絡中進行訓練，就可以得到訓練好的權值，用這個權值對車牌字符進行識別。對于車牌圖像的識別率達90%以上，表明該方法是有效的。

2 字符識別的原理（The principle of character

recognition）

字符識別的基本原理即對字符進行匹配識別。提取代表未知字符基本特征、結構的樣本庫和提前在計算機中保存的標準字符的字典（字符基本特征和結構的集合），在一定的規(guī)則下逐個匹配比較。在計算機中保存的標準字符的字典中，尋找與輸入字符樣本最相似的表達項，然后找出對應的字符就是識別的結果[2]。字符識別的原理框圖如圖1所示。

3 BP神經(jīng)網(wǎng)絡字符識別算法（The BP neural network

character recognition algorithm）

BP算法基本原理是利用輸出后的誤差來估計輸出層的直接前導層的誤差，再用這個誤差估計更前一層的誤差，如此一層一層的反傳下去，就獲得了所有其他各層的誤差估計[3]。對BP網(wǎng)絡的設計要點是高效率的特征提取方法、具有代表性的大量訓練樣本和穩(wěn)定高效的學習方法。

3.1 BP神經(jīng)網(wǎng)絡學習算法

算法的基本流程就是：

（1）設置變量和參量，包括輸入向量（訓練樣本和樣本個數(shù)）、每次迭代中輸入層和隱含層之間、隱含層與隱含層之間、隱含層與輸出層之間的權值向量矩陣、迭代次數(shù)、每次迭代的實際輸出、期望輸出和學習效率。

（2）隨機初始化權值矩陣。給三類權值矩陣賦一個相對較小的隨機非零值。

（3）進行樣本輸入。采用隨機輸入的方法。

（4）前向傳播。按照公式一層一層的前向計算隱藏神經(jīng)元和輸出神經(jīng)元的輸入和輸出。

（5）誤差計算，判斷。根據(jù)每次迭代的期望值和實際輸出結果算出誤差，判斷誤差值滿足要求與否，如果滿足進行第8步，否則進行下一步。

（6）迭代次數(shù)判斷。如果已經(jīng)達到最大的迭代次數(shù)，則進行第8步，否則進行反響傳播，即反向按照公式一層層迭代計算每層神經(jīng)元的局部梯度。

（7）權值更新。依據(jù)反向傳播過程計算出的局部梯度值，計算出各矩陣的權值修正值，并進行修正。

（8）終止判斷。終止條件為：所有的樣本都學習完成。否則進行第3步。

3.2 實際使用BP神經(jīng)網(wǎng)絡過程中的一些問題

①樣本的處理。可適當放寬輸出條件，例如當輸出大于0.9時就當作是1，輸出小于0.1時當作0。對于輸入樣本，也應該進行歸一化處理。

②初始化權值的選擇。權值的不同對學習結果會產(chǎn)生影響，因此選擇一個相對比較合理的權值是非常重要的。實際使用時，應該用較小的隨機數(shù)來對權值進行初始化，隨機數(shù)的大小的分布也應該是均勻的。

③學習率的選擇。神經(jīng)網(wǎng)絡中有一個學習率的概念，為了保證系統(tǒng)的穩(wěn)定性，通常應該取較小的學習率，一般選取范圍在0.01―0.8。如果學習率過大，可能會導致系統(tǒng)不穩(wěn)定。如果學習率過小，會使得學習時間變長，收斂也會變慢。

3.3 BP神經(jīng)網(wǎng)絡應用過程

BP神經(jīng)網(wǎng)絡應用過程如圖2所示。

3.4 BP網(wǎng)絡三個層的神經(jīng)元數(shù)目的確定

目前還沒有什么成熟的定理能確定各層神經(jīng)元的神經(jīng)元個數(shù)和含有幾層網(wǎng)絡，大量經(jīng)驗表明，三層的網(wǎng)絡可以逼近任意一個非線性網(wǎng)絡。

首先，使用已知的樣本對BP網(wǎng)絡進行訓練。對于輸入層的結點，其數(shù)目是之前車牌圖像預處理后輸出特征的維數(shù)。

對于隱含層的結點數(shù)目，一般情況下，隱含層神經(jīng)元數(shù)目和BP網(wǎng)絡精確度成正比，數(shù)目越多，神經(jīng)網(wǎng)絡的訓練時間也會越長。但是，當隱含層神經(jīng)元數(shù)目過大時，識別的準確率就會受到影響，同時也會使得網(wǎng)絡的抗噪聲能力下降[4]。綜合考慮上述情況，根據(jù)以往經(jīng)驗，使用10個隱含層的神經(jīng)元。

對于輸出層結點數(shù)目，受輸入層結點數(shù)的約束。本文中，我們采用8421碼對數(shù)字0―9，字母A―Z，省名簡稱“京津滬冀魯豫鄂蘇皖晉湘桂閩川浙甘寧陜吉遼臺”依次進行編碼。例如，對于輸出“1”，表示為（0，0，0，0，0，1），對于輸出“A”，表示為（0，0，1，0，1，0），對于輸出“京”，表示為（1，0，0，1，0，0）。因此，采用6個輸出層神經(jīng)元。

然而，實驗中發(fā)現(xiàn)，當使用上述結構的標準輸出向量時，會出現(xiàn)BP神經(jīng)網(wǎng)絡無法收斂的問題。原因在于BP網(wǎng)絡學習中采用的激活函數(shù)的輸出只可能無限接近1或0，但不會是1或0。針對這個問題，對標準輸出向量的編碼方式進行如下調整：用0.1代替0，用0.9代替1。即對于輸出“0”，表示為（0.1，0.1，0.1，0.1，0.1，0.1），對于輸出“1”，表示為（0.1，0.1，0.1，0.1，0.1，0.9），對于輸出“A”，表示為（0.1，0.1，0.9，0.1，0.9，0.1），對于輸出“京”，表示為（0.9，0.1，0.1，0.9，0.1，0.1），以此類推。

3.5 BP神經(jīng)網(wǎng)絡識別字符的流程

使用BP神經(jīng)網(wǎng)絡進行字符識別，實際上可看作是訓練和識別兩個過程。其中，訓練就是提取訓練樣本的特征向量。第一步，將挑選好的圖像形式的已知數(shù)據(jù)作為訓練樣本，這些已知數(shù)據(jù)能夠很好的反應樣本的可分性。第二步，在訓練樣本圖像經(jīng)過進行特征提取操作后送入BP網(wǎng)絡中進行訓練。訓練之前，要提前輸入一系列訓練參數(shù)。

經(jīng)過BP網(wǎng)絡的訓練后，就可以用其對待識別數(shù)據(jù)進行識別。待識別數(shù)據(jù)在經(jīng)過灰度化、二值化、歸一化、分割等預處理操作后，再經(jīng)過特征向量提取，最后在BP網(wǎng)絡中進行識別，得出識別結果。

3.6 實驗結果

實驗中采用了在不同環(huán)境下拍攝到的100張車牌圖像，這些牌照的清晰程度、區(qū)域大小都不相同，按照前文所述BP神經(jīng)網(wǎng)絡算法進行模擬實驗。根據(jù)表1所示識別結果，由于個別字母與數(shù)字之間有相似之處，導致其識別率相對較低，分別為95.9%、96.2%。而車牌中漢子字符數(shù)量很少，且特征相對比較明顯，使得其識別率相對較高，實驗結果為98.0%。

4 結論（Conclusion）

基于BP神經(jīng)網(wǎng)絡的車牌字符識別方法，對于比較清晰的車牌圖像，本方法能有效識別其中的字符，但對于較低解析度和較為模糊的車牌還需要進行很多預處理的工作，因為必須將車牌中的字符獨立地被分割后，才能用該方法進行識別。而事實上，在那些圖像不夠清晰的車牌上分割出獨立的字符也是特別困難的。雖然，BP神經(jīng)網(wǎng)絡在識別效果上提高的余地較大，具有較強的容錯能力，還可進一步訓練學習，識別率較高，但其識別速度較慢，不能滿足實時性的要求。

參考文獻（References）

[1] 郭榮燕，胡雪惠.BP神經(jīng)網(wǎng)絡在車牌字符識別中的應用[J].計

算機仿真，2010（9）：299-301；350.

[2] 劉靜.幾種車牌字符識別算法的比較[J].電腦與電信，2008（8）：

72-73；78.

[3] 石云.BP神經(jīng)網(wǎng)絡的Matlab實現(xiàn)[J].湘南學院學報，2010（5）：86-

88；111.

[4] 尹念東.BP神經(jīng)網(wǎng)絡的應用設計[J].信息技術，2003（6）：18-20.

作者簡介：

篇9

[關鍵詞] 小生境遺傳算法 神經(jīng)網(wǎng)絡 股票 預測

一、引言

股票和股票市場對國家企業(yè)的經(jīng)濟發(fā)展起到了積極的作用，如可以為投資者開拓投資渠道，增強投資的流動性和靈活性等。但股票價格的形成機制是頗為復雜的，股票價格既受到多種因素，諸如:政治，經(jīng)濟，市場因素的影響，亦受技術和投資者行為因素的影響，個別因素的波動作用都可能會影響到股票價格的劇烈波動。因此，股票價格和各影響因素之間很難直接建立明確的函數(shù)關系表達式。針對這一情況，將可有效處理非線性問題的神經(jīng)網(wǎng)絡引入到股票價格的預測中來，但神經(jīng)網(wǎng)絡收斂慢,易陷入局部極小點，出現(xiàn)振蕩，魯棒性差。所以有的學者用遺傳算法(ga)來優(yōu)化神經(jīng)網(wǎng)絡，這種神經(jīng)網(wǎng)絡可能獲得個別的甚至局部的最優(yōu)解,即ga早熟現(xiàn)象。本文引進能較有效地保持種群多樣性的小生境遺傳算法(nga),采用nga優(yōu)化與用ga優(yōu)化的bp網(wǎng)絡權值進行對比,證實了nga的判別準確性和尋優(yōu)能力。

二、小生境遺傳算法優(yōu)化的神經(jīng)網(wǎng)絡

1.bp神經(jīng)網(wǎng)絡

反向傳播(bp)算法又稱為誤差逆?zhèn)鞑バＵ椒?，它?974年p.werbos(哈佛大學)提出的。133229.CoMbp算法用來訓練多層前饋神經(jīng)網(wǎng)絡,屬于監(jiān)督學習算法。bp網(wǎng)絡具有結構清晰，易實現(xiàn)，計算功能強大等特點。因而是目前最常見，使用最廣泛的一種神經(jīng)網(wǎng)絡。但是在實際應用中，傳統(tǒng)的bp算法存在以下問題:收斂速度慢;若加快收斂速度易產(chǎn)生振蕩；存在局部極小和平臺問題;泛化能力差;隱節(jié)點數(shù)和初始值的選取缺乏理論指導;未考慮樣本選擇對系統(tǒng)學習的影響等。所以很多學者提出許多改進的方法，用小生境遺傳算法優(yōu)化神經(jīng)網(wǎng)絡權值的神經(jīng)網(wǎng)絡來預測股票價格。

2.小生境遺傳算法

小生境遺傳算法(iche genetical gorihm)的基本思想是:首先比較任意兩個個體間的距離與給定值的大小，若該距離小于給定值，則比較其適應值大小。對適應值較小的個體施加一個較強的懲罰，極大地降低其適應值。也就是說，在距離l內將只有一個優(yōu)良個體，從而既維護了群體的多樣性，又使得各個體之間保持一定的距離，并使得個體能夠在整個約束空間中分散開來。

3.神經(jīng)網(wǎng)絡連接權的優(yōu)化

用小生境遺傳算法可以優(yōu)化神經(jīng)網(wǎng)絡連接權，神經(jīng)網(wǎng)絡結構，學習規(guī)則等，這里我們對神經(jīng)網(wǎng)絡的連接權進行優(yōu)化，具體步驟如下：

（1）隨機產(chǎn)生一組權值分布，采用某種編碼方案對該組中的每個權值(或閾值)進行編碼，進而構造出一個碼串(每個碼串代表網(wǎng)絡的一種權值分布)，在網(wǎng)絡結構和學習規(guī)則已確定的前提下,該碼串就對應一個權值和閾值取特定值的一個神經(jīng)網(wǎng)絡。

（2)對所產(chǎn)生的神經(jīng)網(wǎng)絡計算它的誤差函數(shù)，從而確定其適應度函數(shù)值，誤差越大,則適應度越小。

（3)選擇若干適應度函數(shù)值最大的個體,直接遺傳給下一代。

（4)利用交叉和變異等遺傳操作算子對當前一代群體進行處理，產(chǎn)生下一代群體。

（5)重復（2）（3）（4），使初始確定的一組權值分布得到不斷地進化,直到訓練目標得到滿足為止。

這種由小生境遺傳算法訓練神經(jīng)網(wǎng)絡的方法也可以稱做混和訓練法。將基于小生境遺傳算法的遺傳進化方法和基于梯度下降的反傳訓練相結合,這種訓練方法吸取兩種方法的各自特點，所以收斂速度快。

三、股票價格預測仿真

根據(jù)經(jīng)驗選取輸入預測日前四天開盤價、收盤價歸一化后做為作為輸入量，輸出為第五天收盤價歸一化數(shù)值。所以，本文采用神經(jīng)網(wǎng)絡結構為(8,5,1),即網(wǎng)絡的輸入層6個節(jié)點,隱含層9個節(jié)點,輸出層1個節(jié)點。本文選擇了“xdg 新梅（600732）”從2006年3月14日到2006年7月1日數(shù)據(jù)進行了仿真。利用matlab6.5編程，取70組訓練樣本和30組測試樣本。如圖（1）表示用遺傳算法和小生境遺傳算法對神經(jīng)網(wǎng)絡的權值進行優(yōu)化時，誤差曲線變化;從圖中可以看出，小生境遺傳算法收斂速度要快;圖（2）表示股票預測值和實際值比較，從圖中可以看出，遺傳算法和小生境遺傳算法對神經(jīng)網(wǎng)絡的權值的模型進行股票價格的預測，都能預測出股票走向趨勢，但是，后者的預測精度顯然要比前者高。

四、結束語

股票市場的不確定因素太多，股票的價格更是多種因素影響的集合體，是典型的非線性動力學問題。股票價格的中長期準確預測很難。本文建立了用小生境遺傳算來優(yōu)化神經(jīng)網(wǎng)絡模型來預測股票價格，結果表明，這種方法比單用遺傳算法優(yōu)化的神經(jīng)網(wǎng)絡收斂速度快，預測精度高。對于股票價格預測具有較好的應用價值。

參考文獻:

[1]龍建成李小平:基于神經(jīng)網(wǎng)絡的股票市場趨勢預測[j].西安電子科技大學學報(自然科學版.2005.3（32）:460-463

[2]王波張鳳玲:神經(jīng)網(wǎng)絡與時間序列模型在股票預測中的比較[j].第27卷第6期武漢理工大學學報·信息與管理工程版.2005.9（27）:69-72

篇10

關鍵詞：神經(jīng)網(wǎng)絡；Adaboost算法；強預測器；迭代算法；稅收預測

中圖分類號： TP183

文獻標志碼：A

Tax forecasting based on Adaboost algorithm and BP neural network

LI Xiang*， ZHU Quan-yin

Faculty of Computer Engineering， Huaiyin Institute of Technology， Huai’an Jiangsu 223003， China

Abstract：

In view of the lower accuracy of traditional tax forecasting models， the authors put forward a method of combining the Adaboost algorithm with BP neural network to forecast revenue. Firstly， the method performed the pretreatment for the historical tax data and initialized the distribution weights of test data； secondly， it initialized the weights and thresholds of BP neural network， and used BP neural network as a weak predictor to train the tax data repeatedly and adjust the weights； finally， it made more weak predictors of BP neural network to form new strong predictors by Adaboost algorithm and forecasted. The authors also carried out simulation experiment for the tax data of China from 1990 to 2010. The results show that this method has reduced the relative value of mean error from 0.50% to 0.18% compared to the traditional BP network， has effectively reduced the effect when single BP gets trapped in local minima， and has improved the prediction accuracy of network.

英文關鍵詞　Key words：

neural network； Adaboost algorithm；strong predictor；iterative algorithm； tax forecasting

0 引言

稅收是實施財政政策的重要工具，也是聯(lián)系宏微觀經(jīng)濟的一種紐帶。作為國家宏觀調控體系的重要組成部分，稅收也是國家駕馭市場經(jīng)濟最主要、最有效、最常用的手段之一[1]。因此，稅收預測的科學性和準確性具有重要的研究價值。

稅收數(shù)據(jù)是一種動態(tài)、非線性的時間序列數(shù)據(jù)，受到政治、經(jīng)濟、文化等因素影響，稅收數(shù)據(jù)的預測精度主要取決于預測算法。國內外學者當前對稅收預測的研究方法，主要集中于基于線性回歸方法、時間序列分析方法和神經(jīng)網(wǎng)絡預測方法。文獻[2]采用線性回歸方法對稅收進行預測，由于影響稅收預測的因素較多，且這些因素之間表現(xiàn)出較強的非線性特征，所以線性回歸模型預測的精度不高。文獻[3-4]中提出使用反向反饋傳播（Back Propagation，BP）神經(jīng)網(wǎng)絡進行稅收預測，但該方法沒有克服傳統(tǒng)BP神經(jīng)網(wǎng)絡存在的缺陷，容易陷入局部極小值，算法收斂速度較慢。文獻[5-6]中提出使用Elman神經(jīng)網(wǎng)絡進行稅收預測，取得了比傳統(tǒng)BP神經(jīng)網(wǎng)絡更高的預測精度。但由于Elman神經(jīng)網(wǎng)路的學習過程與前饋神經(jīng)網(wǎng)絡類似，也會出現(xiàn)收斂速度慢和易收斂到局部極小的缺陷，導致預測結果不穩(wěn)定[7]。

本文針對上述問題，提出基于Adaboost算法和BP神經(jīng)網(wǎng)絡的稅收預測方法，并將該方法應用于我國1990—2010年稅收數(shù)據(jù)仿真實驗，證明了本文方法的有效性。

1 BP神經(jīng)網(wǎng)絡與Adaboost算法

1.1 BP神經(jīng)網(wǎng)絡原理

BP網(wǎng)絡是典型的前饋神經(jīng)網(wǎng)絡，其權值訓練中采用誤差逆向傳播的方式，具有非線性連續(xù)有理函數(shù)的逼近功能[8]。在信號前向傳遞過程中，輸入信號從輸入層進入，經(jīng)過隱含層處理，到達輸出層。每一層的神經(jīng)元狀態(tài)只影響下一層的神經(jīng)元狀態(tài)。判斷輸出層的結果是否為期望輸出，如果不是，則轉入反向傳播，然后根據(jù)預測誤差調整網(wǎng)絡權值和閾值，從而使BP神經(jīng)網(wǎng)絡預測輸出不斷逼近期望輸出[9]。由于結構簡單，可調參數(shù)多，訓練算法多，操控性好，BP 神經(jīng)網(wǎng)絡獲得了廣泛的實際應用[10]。BP神經(jīng)網(wǎng)絡的拓撲結構如圖1所示。