前言:一篇好文章的誕生,需要你不斷地搜集資料、整理思路,本站小編為你收集了豐富的神經(jīng)網(wǎng)絡(luò)的本質(zhì)主題范文,僅供參考,歡迎閱讀并收藏。
Abstract: The technology of affecting the output accuracy of artificial neural network model has affected widespread ettention,and influence researches of sample quality to neural network output accuracy are very few,and the majority of these researcher about neural network structure. This paper analyses the influence of the sample to the output of artificial neural network,having important significance to improve accuracy of neural network output.
關(guān)鍵詞: 人工神經(jīng)網(wǎng)絡(luò);局部影響;BP神經(jīng)網(wǎng)絡(luò);算法
Key words: artificial neural networks;local influence;BP neural network;algorithm
中圖分類號:TP393.092 文獻標識碼:A文章編號:1006-4311(2010)07-0144-02
0引言
神經(jīng)網(wǎng)絡(luò)應用到預測有許多問題需要解決, 其中最為突出的問題就是沒有一個確定的最合適的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)的標準方法,由于影響神經(jīng)網(wǎng)絡(luò)預測能力的參數(shù)很多,本文針對最為常用的BP神經(jīng)網(wǎng)絡(luò),對影響神經(jīng)網(wǎng)絡(luò)預測精度的樣本質(zhì)量進行了詳細分析和研究, 并在此基礎(chǔ)上,給出優(yōu)化樣本后的具體例子。
1樣本質(zhì)量對網(wǎng)絡(luò)的影響
用于神經(jīng)網(wǎng)絡(luò)的樣本分為訓練樣本和測試樣本,訓練樣本的質(zhì)量在一定程度上決定著預測精度。首先,訓練樣本和待預測樣本的均值存在較大差異, 預測誤差會隨著長時間的訓練而增大。其次,訓練誤差會隨著訓練樣本和待預測樣本均值間差異的增大而增大。再次,訓練誤差會隨著訓練樣本和待預測樣本方差間差異的增大而增大[1]。下面是文獻[1]對樣本質(zhì)量分析的方法。
文獻[1]的人工神經(jīng)網(wǎng)絡(luò)預測誤差為e=em+et+er,其中,e為預測誤差;em為模型誤差,它由所建回歸模型與實際系統(tǒng)的差異引起的;et為最終的訓練誤差;er為人工神經(jīng)網(wǎng)絡(luò)訓練和預測過程中引入的隨機誤差。et和er的存在是不可避免的,而em為:em=ef+ed,式中ef為實際輸出值與預測輸出值之間的誤差,它反映了樣本質(zhì)量;為由不正確的嵌入維數(shù)引起的誤差, 它可通過選擇合適的輸入神經(jīng)元數(shù)來消除。
為了評價訓練樣本質(zhì)量,根據(jù)ef提出“一致度”的指標。文獻[1]定義了偽距離DCTP-D,但計算偽距離是相當復雜的,難于實現(xiàn)對樣本質(zhì)量的分析和應用。下面用協(xié)方差比統(tǒng)計量分析訓練樣本對預測精度的影響。
設(shè)訓練樣本為θ,是神經(jīng)網(wǎng)絡(luò)的輸出,i是從θ中剔除第i個數(shù)據(jù)點的神經(jīng)網(wǎng)絡(luò)輸出。則剔除第i個數(shù)據(jù)點的協(xié)方差比統(tǒng)計量CR=cv()cv()表明了剔除第個數(shù)據(jù)點對神經(jīng)網(wǎng)絡(luò)輸出精度的影響,從精度方面刻畫了第i個數(shù)據(jù)點的重要程度。CRi-1的值越大,對預測精度(神經(jīng)網(wǎng)絡(luò)輸出)的影響越大。在使用PB神經(jīng)網(wǎng)絡(luò)預測時先對訓練樣本進行篩選,剔除對網(wǎng)絡(luò)輸出結(jié)果影響小的樣本點。
樣本精簡:矩陣初等行變換能保持矩陣列向量之間的線性關(guān)系,利用這個結(jié)論我們可以用來進行樣本數(shù)據(jù)的精簡,這樣精簡后的樣本數(shù)據(jù)能夠保持各屬性字段之間的線性關(guān)系。神經(jīng)網(wǎng)絡(luò)的訓練實際上是一個通過給定樣本實時調(diào)整網(wǎng)絡(luò)連接權(quán)重的過程,樣本預處理的結(jié)果對于網(wǎng)絡(luò)訓練的收斂性起到關(guān)鍵的作用。
2實例分析
本文采用麻省理工大學林肯實驗室的測試數(shù)據(jù)KDDCUP99,它是專門用來進行入侵檢測評估的。我們采用數(shù)據(jù)集上的一個子集10%作為實驗數(shù)據(jù)源,它一共包含有494021條網(wǎng)絡(luò)連接,其中正常連接97277 條,異常連接396744條。
下面我們針對DOS攻擊類型數(shù)據(jù)(DOS攻擊類型編碼為“0 0 0 1”)進行分析。
設(shè)A為樣本數(shù)據(jù)矩陣,其中每一行向量表示一條樣本數(shù)據(jù),則該行向量含34個數(shù)據(jù),假設(shè)有a條樣本,則A為a行34列矩陣;由于每條樣本數(shù)據(jù)輸入網(wǎng)絡(luò)后都會有一條對應的輸出,加上本實例為DOS攻擊類型以編碼“0 0 0 1”表示,則期望輸出矩陣B為a行4列矩陣(暫時先不考慮閾值,只考慮權(quán)重問題)。本文BP神經(jīng)網(wǎng)絡(luò)的輸入節(jié)點數(shù)為34個,隱含層節(jié)點數(shù)為15個,輸出層節(jié)點數(shù)為4個雖然神經(jīng)網(wǎng)絡(luò)的連接權(quán)重可以用一個實數(shù)串進行表示,但在進行網(wǎng)絡(luò)的訓練時,還需要將實數(shù)串分為兩部分,設(shè)輸入層到隱含層的連接權(quán)重矩陣為W1,則W1為34行15列矩陣;同理,隱含層到輸出層的連接權(quán)重矩陣W2為15行4列矩陣。于是我們可以得到公式(1)。
AWW=B(1)
如式(2)所示,A和B是系數(shù)矩陣 ,C是增廣矩陣。經(jīng)過帶約束初等行變換后如式(3)所示。
C=[AB](2)
C=[AB]A′B′C D(3)
式(3)中,C、D為零矩陣,經(jīng)過處理以后,由原先的A對應輸出B變成了現(xiàn)在的A′對應輸出B′,通過這樣的處理,我們就可以將大樣本變?yōu)樾颖?從而使計算更加快速,樣本數(shù)據(jù)更加精簡。 為了能使樣本應用于本文提出的分類檢測器同步檢測模型,我們將樣本數(shù)據(jù)先進行歸類合并,分別構(gòu)造出DOS、PROBE、U2R、R2L四大類攻擊樣本數(shù)據(jù)集,這樣四個檢測器分別檢測四大類攻擊。為了降低可疑攻擊數(shù),即四大攻擊類型數(shù)據(jù)集之間的重疊記錄數(shù)要少。精度過大會增加計算量,從而會降低學習速度;精度過小,會使記錄重疊數(shù)增加,從而造成可疑攻擊數(shù)增加,影響訓練結(jié)果。
對訓練樣本用上述方法進行優(yōu)化后,利用矩陣初等行變換能保持矩陣列向量之間的線性關(guān)系這個結(jié)論,我們可以進一步對樣本數(shù)據(jù)的精簡,這樣精簡后的樣本數(shù)據(jù)能夠保持各屬性字段之間的線性關(guān)系。神經(jīng)網(wǎng)絡(luò)的訓練實際上是一個通過給定樣本實時調(diào)整網(wǎng)絡(luò)連接權(quán)重的過程,樣本預處理的結(jié)果對于網(wǎng)絡(luò)訓練的收斂性起到關(guān)鍵的作用。
3結(jié)論
(1)分析神經(jīng)網(wǎng)絡(luò)進行非線性預測多變量預測的優(yōu)越性以及神經(jīng)網(wǎng)絡(luò)用于預測的缺點所在。
(2)提出了影響網(wǎng)絡(luò)預測能力的五個重要參數(shù):樣本質(zhì)量、樣本歸一化、輸人層節(jié)點數(shù)、隱層節(jié)點數(shù)及網(wǎng)絡(luò)訓練允許誤差目標值。
(3)在一定允許訓練誤差的情況下,研究了無個參數(shù)對網(wǎng)絡(luò)預測精度的影響,發(fā)現(xiàn)存在一個最優(yōu)的樣本、輸入層節(jié)點數(shù)和隱層節(jié)點數(shù),這樣的網(wǎng)絡(luò)具有較強的預測能力。
(4)本文用遺傳算法構(gòu)造了同時優(yōu)化影響神經(jīng)網(wǎng)絡(luò)預測精度的參數(shù)(輸入層節(jié)點數(shù)、隱層節(jié)點數(shù)及樣本允許訓練誤差)的算法, 得到了較優(yōu)的網(wǎng)絡(luò)預測模型最后, 用算例驗證了本文分析結(jié)果的正確性。
參考文獻:
[1]陳果.神經(jīng)網(wǎng)絡(luò)模型的預測精度影響因素分析[J].北京: 模式識別與人工智能,2005,18(5):528-533.
[2]蔣林,陳濤,屈梁生.訓練樣本質(zhì)量對人工神經(jīng)網(wǎng)絡(luò)性能的影響[J].北京:中國機械工程,1979,8(2):50-53.
[3]李敏強,徐博藝,寇紀淞.遺傳算法與神經(jīng)網(wǎng)絡(luò)的結(jié)合[J].北京:系統(tǒng)工程理論與實踐,1999(2).
[4]吳懷宇,宋玉階.非線性回歸分析中的神經(jīng)網(wǎng)絡(luò)方法[J].武漢:武漢冶金科技大學學報,1998,21(1):90-93.
【關(guān)鍵詞】建筑經(jīng)濟管理;神經(jīng)網(wǎng)絡(luò)
中圖分類號:TU198文獻標識碼: A
一、前言
建筑經(jīng)濟管理在我國是一個非常重要的行業(yè),為社會的進步提供了夯實的基礎(chǔ),但是在神經(jīng)網(wǎng)絡(luò)的應用這方面還是存在一定的問題,所以,科學技術(shù)人員在這個方面還是很努力的研究,并且促使這個技術(shù)發(fā)展更為全面。
二、神經(jīng)網(wǎng)絡(luò)的特征及其信息處理特點
人工神經(jīng)網(wǎng)絡(luò)(Application of Neural Network,即:ANN)是一種對人腦中樞神經(jīng)系統(tǒng)的生物神經(jīng)結(jié)構(gòu)進行的功能性抽象,在模式識別和分類領(lǐng)域顯示了強大的能力,它們以“黑箱”模式工作,不需要先驗模型,具有自適應能力,可以從數(shù)據(jù)中捕捉和學習規(guī)律,其計算能力在預測和評估、模式識別和優(yōu)化等領(lǐng)域得到了廣泛驗證。神經(jīng)網(wǎng)絡(luò)尤其適合解決那些采用傳統(tǒng)的數(shù)學方法和手段建模困難的復雜問題,并已被證明是解決復雜非線性問題的一種有效工具。
1、神經(jīng)網(wǎng)絡(luò)的基本特征
(1)內(nèi)在并行性。神經(jīng)網(wǎng)絡(luò)是一個高度并行的非線性系統(tǒng),其并行性不僅體現(xiàn)在結(jié)構(gòu)上,它的處理運行過程也是并行的。神經(jīng)網(wǎng)絡(luò)從單個處理單元到整個系統(tǒng),在理論和實踐上都反映了并行性,計算是分布在多個處理單元上同時進行的。
(2)分布式存儲。與傳統(tǒng)計算機不同,神經(jīng)網(wǎng)絡(luò)中信息并非存儲在一個特定的存儲區(qū)域,而是分布存儲在整個系統(tǒng)中。神經(jīng)網(wǎng)絡(luò)的每一個神經(jīng)元都只是整體概念的一個部分,每一個單元都包含著對整體的貢獻,而每一個單元都無法決定整體的狀態(tài)。
(3)容錯性。因為信息是分布存儲在整個系統(tǒng)中,而不是駐留在某一個特定的存儲區(qū)域內(nèi),因此,網(wǎng)絡(luò)中部分神經(jīng)元的誤差不會在很大程度上影響改變整個系統(tǒng)的行為。
(4)學習與自適應性。神經(jīng)網(wǎng)絡(luò)的一個重要特點是具有很強的學習能力,它可以通過對數(shù)據(jù)的監(jiān)督或非監(jiān)督學習,實現(xiàn)任意復雜的函數(shù)關(guān)系,而且整個網(wǎng)絡(luò)具有自適應性,即進行自我調(diào)節(jié)的能力。
2、神經(jīng)網(wǎng)絡(luò)的信息處理特點
神經(jīng)網(wǎng)絡(luò)的基本特征使其在信息處理上具有與傳統(tǒng)信息處理技術(shù)不同的特點。
(1)數(shù)據(jù)驅(qū)動、“黑箱”建模方式。神經(jīng)網(wǎng)絡(luò)通過訓練能夠直接從數(shù)據(jù)中發(fā)現(xiàn)規(guī)則和特征,實現(xiàn)任意復雜的函數(shù)映射。這種學習能力使得神經(jīng)網(wǎng)絡(luò)分析和建模過程相當于一個“黑箱”,既無需模型結(jié)構(gòu)設(shè)計和參數(shù)估計過程,而且在沒有輸入模式先驗信息的情況下,通過數(shù)據(jù)驅(qū)動取得優(yōu)良的結(jié)果。
(2)非編程、自適應的工作方式。神經(jīng)網(wǎng)絡(luò)的學習是便利而且可塑的,在網(wǎng)絡(luò)整體結(jié)構(gòu)不變的情況下,只需調(diào)整權(quán)值即可完成任意關(guān)系的學習,通過遞進補充訓練樣本即可跟蹤和適應外界環(huán)境的不斷變化。因此,神經(jīng)網(wǎng)絡(luò)的工作方式可以是實時的和自適應的。
(3)信息處理與存儲合二為一。神經(jīng)網(wǎng)絡(luò)在運行時信息處理與存儲同時完成,信息的隱含特征和規(guī)則分布于神經(jīng)元狀態(tài)和權(quán)值之上,通常具有冗余性。這樣,當不完全信息或含噪信號輸入時,神經(jīng)網(wǎng)絡(luò)就可以根據(jù)這些分布記憶進行聯(lián)想以恢復全部信息。同時,這種合二為一的方式從本質(zhì)上消除了軟件和算法的“瓶頸效應,”提供了實現(xiàn)高速信息處理的手段。
(4)實時信息處理。神經(jīng)網(wǎng)絡(luò)是一個大規(guī)模非線性動力學系統(tǒng),具有高維、高密度的并行計算結(jié)構(gòu)。大量神經(jīng)元的微觀活動構(gòu)成了神經(jīng)網(wǎng)絡(luò)的整體宏觀效應。這種集體運算能力使得神經(jīng)網(wǎng)絡(luò)可以完成高維數(shù)據(jù)的在線實時處理。
三、建筑經(jīng)濟管理研究面臨的問題
1、對系統(tǒng)的非線性認識不足
(1)忽視了系統(tǒng)內(nèi)各變量之間復雜的非線性關(guān)系,過分強調(diào)先驗假設(shè)。建筑活動在理論和實踐中有明顯的非線性和復雜性。建筑經(jīng)濟管理問題的本質(zhì)上是因為現(xiàn)實的復雜性導致的非線性。建筑活動隨時代和環(huán)境的變遷表現(xiàn)出其非線性特征。一方面,建筑經(jīng)濟管理問題的線性假沒體現(xiàn)了系統(tǒng)特殊性。但另一方面,系統(tǒng)建模時所使用的理論總是落后于現(xiàn)實,這是因為其相關(guān)理論發(fā)展的滯后性,而這又是由于其非線性和復雜性引起的。
(2)忽視數(shù)據(jù)本身效用,過分依賴理論指導。模型的函數(shù)形式很難僅僅通過理論考慮獲得。在實踐中選擇理論框架既是十分重要又是十分困難的。
2、對系統(tǒng)變量自身特征的認識不足
(1)變量(數(shù)據(jù))的高噪聲。采集、編制建筑經(jīng)濟管理數(shù)據(jù)時會有很多誤差,再加上諸多外在因素的沖擊造成了波動強烈變形,所以數(shù)據(jù)是包含有許多“奇異點”而且是高噪聲。
(2)變量的高度不確定性。目前經(jīng)濟學界對不確定性沒有一個統(tǒng)一的定義,一般情況下有2種不確定性的定義。一種定義是變量的不確定性通過隨機變量的方差來定義,通常稱為概率型不確定性,也可稱為“風險”。另一種定義是一種沒有穩(wěn)定概率的隨機事件,稱為非概率型不確定性。
(3)變量不同程度的模糊性。一定的模糊性是大多數(shù)建筑管理問題變量的特點。現(xiàn)實中的不分明現(xiàn)象就是模糊性。而從一種狀態(tài)過度到另一種有差異的狀態(tài)的過程中,中間發(fā)生了量變到質(zhì)變的連續(xù)過程??傊?,常常需要解決建筑管理中的決策、優(yōu)化等非線性問題,由于它們的一次性、高度動態(tài)性和復雜性的特點,建筑管理的信息是隨機的,具有非線性和時變性,相應的變量也有不確定性、高噪聲和模糊性的特點,因此搜集數(shù)據(jù)、分析因素等方面有相當大的難度。
四、ANN在建筑工程項目管理中的應用研究
1、ANN在造價預測方面的應用
汪應洛,楊耀紅(2004年)總結(jié)了ANN在費用估計方面的應用。采用BP網(wǎng)絡(luò),用40個公路工程樣例訓練網(wǎng)絡(luò),并用工程實例進行驗證,發(fā)現(xiàn)效果比傳統(tǒng)方法好。Tarek Hegazy(1998年)等用MS-Excel表格進行ANN模擬,并在輸入層和隱含層加入了偏置神經(jīng)元來促進網(wǎng)絡(luò)學習。其缺點是由于網(wǎng)絡(luò)學習時的訓練樣本數(shù)據(jù)中有噪聲,會造成過度學習現(xiàn)象,運用規(guī)范化網(wǎng)絡(luò)可以解決這個問題。周麗萍,胡振鋒(2005年)在研究BP神經(jīng)網(wǎng)絡(luò)在建筑工程估價中的應用時指出,可以利用神經(jīng)網(wǎng)絡(luò)“特征提取器”的作用,從大量過去的工程資料中自動提取工程特征與預算資料的規(guī)律關(guān)系;由于神經(jīng)網(wǎng)絡(luò)具有高度的容錯性,因而對于過去的工程資料中由于人為的或其他因素造成的偏差有自動糾偏功能;此外由于神經(jīng)網(wǎng)絡(luò)是并行處理數(shù)據(jù)的,因而其處理速度相當快,這點滿足了快速估算要求,實踐證明是有效的。
2、ANN在工程項目管理績效評價中的應用
閆文周(2005年)等運用ANN中的BP網(wǎng)絡(luò)對工程項目管理績效評價問題進行研究,建立了一個綜合考慮項目工期、質(zhì)量、費用、安全四大控制指標的工程項目管理績效評價模型。實例分析表明,其評價結(jié)果更加全面、更加符合實際情況,從而有助于促進工程項目管理水平的提高。基于BP神經(jīng)網(wǎng)絡(luò)的工程項目管理績效評估模型,將影響工程項目管理績效的主要因素進行整合,通過神經(jīng)網(wǎng)絡(luò)反映了工程項目工期、質(zhì)量、成本、安全與項目績效之間復雜的非線性關(guān)系,從而使項目管理績效的評價更客觀。
3、Hop field網(wǎng)絡(luò)模型在建設(shè)工程評標中的應用
建設(shè)工程評標是一個多目標決策過程,評標過程中存在著大量的定性和模糊的因素,評標人很難快速做出準確客觀的評判。朱玉濤(2006年)等用ANN作為新型信息處理工具,在建設(shè)工程評標中可應用于優(yōu)選中標企業(yè)。介紹了Hop field網(wǎng)絡(luò)模型構(gòu)造及算法設(shè)計,包括進行方案優(yōu)劣排序、換位矩陣以及能量函數(shù)構(gòu)造、神經(jīng)元之間連接和輸出,并用實例說明了該方法的優(yōu)越性和實用性。應用Hop field網(wǎng)絡(luò)對非定量因素進行科學的分析,可以消除一些人為因素的影響,使評選結(jié)果更加合理。
4、BP網(wǎng)絡(luò)模型在建設(shè)工程招投標管理中的應用
BP網(wǎng)絡(luò)以其自學習、自聯(lián)想功能的優(yōu)點在建設(shè)工程招投標中得到廣泛應用。楊中宣(2006年)結(jié)合人工神經(jīng)網(wǎng)絡(luò)基本理論,介紹了它在工程招投標的招標價格、風險因素分析以及競標單位資格審查等方面的應用,指出利用人工神經(jīng)網(wǎng)絡(luò)具有的高度并行處理和可完成復雜輸入輸出的非線性映射能力,不僅可以保證高的中標率,且可避免招標過程中不確定性因素的影響。
五、人工神經(jīng)網(wǎng)絡(luò)的發(fā)展趨勢
人工神經(jīng)網(wǎng)絡(luò)在建筑管理中的應用與研究,解決了不少該領(lǐng)域中的難題,顯現(xiàn)出廣闊的應用前景。但是,神經(jīng)網(wǎng)絡(luò)作為新興學科,在理論和實踐中,還有很多不完善和不成熟的地方,又在一定程度上制約了它的實際應用。因此在利用人工神經(jīng)網(wǎng)絡(luò)解決問題時,需要選定合適的網(wǎng)絡(luò)模型及網(wǎng)絡(luò)算法,同時還要加深人工神經(jīng)網(wǎng)絡(luò)基礎(chǔ)理論方面的研究。
六、結(jié)束語
總而言之,就建筑經(jīng)濟管理中神經(jīng)網(wǎng)絡(luò)的應用這方面而言,這項技術(shù)的發(fā)展不僅使建筑經(jīng)濟管理體系更加的完善,更加使人們的生活帶來了許多的便利條件,通過科學技術(shù)人員的不斷努力,會使為社會發(fā)展做出巨大的貢獻。
參考文獻
[1]王其文,劉廣靈.人工神經(jīng)網(wǎng)絡(luò)與線性回歸的比較 決策與決策支持系統(tǒng),2008(4):22-26.
關(guān)鍵詞:BP神經(jīng)網(wǎng)絡(luò);計算機實驗室管理;評價指標分析
中圖分類號:TP183 文獻標識碼:A 文章編號:1674-7712 (2013) 04-0088-01
一、BP神經(jīng)網(wǎng)絡(luò)
從本質(zhì)上講,BP神經(jīng)網(wǎng)絡(luò)算法是以網(wǎng)絡(luò)誤差平方和為目標函數(shù),運用梯度法求目標函數(shù)達到最小值的算法。糾錯原則是BP算法最為基本的一個原理,將網(wǎng)絡(luò)輸出的誤差進行反向傳播,運用梯度下降法,對網(wǎng)絡(luò)的連接權(quán)值進行調(diào)整和修改,使其誤差最小。在學習過程中,BP算法可以劃分為兩個階段,一是前向計算,一是誤差反向傳播。在這里我們主要通過具體的來分析,假設(shè)一個兩層的 BP神經(jīng)網(wǎng)絡(luò),其輸入為p,輸入神經(jīng)元有r個,隱含層內(nèi)神經(jīng)元有s1個,激活函數(shù)為F1,輸出層內(nèi)有神經(jīng)元s2個,對應的激活函數(shù)為F2,輸出為A,目標矢量為T,那么信息在進行正向傳遞時,具體的情況如下:
二、模型設(shè)計
其次是模型設(shè)計。BP神經(jīng)網(wǎng)絡(luò)的建立,在確定了相關(guān)指標體系以后,就需要將確定相關(guān)的結(jié)點數(shù),如輸入結(jié)點數(shù)、隱含結(jié)點數(shù)、輸出結(jié)點數(shù)、每一層的結(jié)點數(shù)等,在起初建立時,需要根據(jù)初始網(wǎng)絡(luò)參數(shù),適當?shù)卣{(diào)整網(wǎng)絡(luò)結(jié)構(gòu),通過網(wǎng)絡(luò)訓練,使得整個學習過程更加穩(wěn)定,與此同時,對于指定的誤差進行調(diào)整,并且規(guī)定最大值,并且利用相關(guān)的測試數(shù)據(jù)來進行BP神經(jīng)網(wǎng)絡(luò)的優(yōu)化處理,確定其達到設(shè)計的準確性與規(guī)范性,那么一個BP神經(jīng)網(wǎng)絡(luò)模型就建立起來了。第三是模型確立。對于模型的確立主要體現(xiàn)在三個方面,這里作簡單分析,一是輸入輸出神經(jīng)元個數(shù)確立,通常情況下,實驗室管理指標主要有13個二級指標和4個一級指標,其中,這13個指標就是輸入神經(jīng)元的個數(shù),同時將輸出的神經(jīng)元作業(yè)評價的結(jié)果,由于評價的結(jié)果只有一個,那么輸出神經(jīng)元的個數(shù)也只有1個。二是隱含神經(jīng)元個數(shù)確立。
三、仿真分析
根據(jù)以上分析我們知道,BP神經(jīng)網(wǎng)絡(luò)算法是以網(wǎng)絡(luò)誤差平方和為目標函數(shù),運用梯度法求目標函數(shù)達到最小值的算法。為此,對于仿真分析,需要根據(jù)糾錯原則,確定網(wǎng)絡(luò)輸出的誤差的反向傳播,并且結(jié)合梯度下降法,優(yōu)化網(wǎng)絡(luò)的連接權(quán)值,調(diào)整和修改誤差值,通過Matlab軟件編程,構(gòu)造BP神經(jīng)網(wǎng)絡(luò),確定指標體系后,確定相關(guān)的結(jié)點數(shù),設(shè)置權(quán)值,nntool中input的value設(shè)置,根據(jù)初始網(wǎng)絡(luò)參數(shù),調(diào)整網(wǎng)絡(luò)結(jié)構(gòu),并指定的誤差進行調(diào)整,利用相關(guān)的測試數(shù)據(jù)來進行BP神經(jīng)網(wǎng)絡(luò)的優(yōu)化處理,確定其達到設(shè)計的準確性與規(guī)范性。
四、總結(jié)
總而言之,BP神經(jīng)網(wǎng)絡(luò)評價模型的建立,不僅可以促進實驗室管理的規(guī)范化,而且有利于提高實驗室日常管理水平,因此,要對其模型建立進行具體分析,優(yōu)化其結(jié)構(gòu)和和功能,最大限度發(fā)揮其價值和作用。
參考文獻:
[1]李俊青,陳鶴年,嚴麗麗,季文天.基于BP神經(jīng)網(wǎng)絡(luò)的計算機實驗室管理評價指標[J].實驗室研究與探索,2011(04):71-73.
人工神經(jīng)網(wǎng)絡(luò)是由大量的簡單基本元件-神經(jīng)元相互聯(lián)接而成的自適應非線性動態(tài)系統(tǒng)。每個神經(jīng)元的結(jié)構(gòu)和功能比較簡單,但大量神經(jīng)元組合產(chǎn)生的系統(tǒng)行為卻非常復雜。人工神經(jīng)網(wǎng)絡(luò)的基本結(jié)構(gòu)模仿人腦,反映了人腦功能的若干基本特性,能夠自身適應環(huán)境、總結(jié)規(guī)律、完成某種運算、識別或過程控制。人工神經(jīng)網(wǎng)絡(luò)具有并行處理特征,可以大大提高工作速度。
人工神經(jīng)網(wǎng)絡(luò)的特點和優(yōu)越性,主要表現(xiàn)在三個方面:
第一,具有自學習功能。
第二,具有聯(lián)想存儲功能。
第三,具有高速尋找優(yōu)化解的能力。
1 神經(jīng)網(wǎng)絡(luò)的學習方法
神經(jīng)網(wǎng)絡(luò)的學習也稱為訓練,指的是神經(jīng)網(wǎng)絡(luò)在外界環(huán)境的刺激作用下調(diào)整網(wǎng)絡(luò)自由參數(shù),并以新的方式來響應外部環(huán)境的過程。能夠從環(huán)境中學習并在學習中提高自身性能是神經(jīng)網(wǎng)絡(luò)最有意義的性質(zhì)。理想情況下,神經(jīng)網(wǎng)絡(luò)在每一次重復學習后,對它的環(huán)境有了更多的了解。
(1) 監(jiān)督學習(有教師學習)
在學習時需要由教師提供期望輸出,通常神經(jīng)網(wǎng)絡(luò)對于周圍的環(huán)境未知而教師具有周圍環(huán)境的知識,輸入學習樣本,教師可以根據(jù)自身的知識為訓練樣本提供最佳逼近結(jié)果,神經(jīng)網(wǎng)絡(luò)的自由參數(shù)在誤差信號的影響下進行調(diào)整,其最終目的是讓神經(jīng)網(wǎng)絡(luò)模擬教師。
(2) 非監(jiān)督學習(無教師學習)
它也稱為自組織學習,系統(tǒng)在學習過程中,沒有外部教師信號,而是提供給一個關(guān)于網(wǎng)絡(luò)學習性質(zhì)的度量,它獨立于學習任務(wù),以此尺度來逐步優(yōu)化網(wǎng)絡(luò),一旦網(wǎng)絡(luò)與輸入數(shù)據(jù)的統(tǒng)計規(guī)律達成一致,那么它將發(fā)展形成用于輸入數(shù)據(jù)編碼特征的內(nèi)部表示能力,從而自動創(chuàng)造新的類別。
(3)強化學習(激勵學習)
在強化學習系統(tǒng)中,對輸入輸出映射的學習是通過與外部環(huán)境的不斷交互作用來完成學習,目的是網(wǎng)絡(luò)標量函數(shù)值最小,即外部環(huán)境對系統(tǒng)輸出結(jié)果只給出評價信息(獎或罰)而不是給出正確答案,學習通過強化那些受獎的動作來改善自身性能。
神經(jīng)網(wǎng)絡(luò)針對學習問題修改網(wǎng)絡(luò)自由參數(shù)的過程稱為學習規(guī)則(學習算法),設(shè)計學習規(guī)則的目的是訓練網(wǎng)絡(luò)來完成某些任務(wù),沒有一個獨特的學習規(guī)則可以完成所有的學習任務(wù)。神經(jīng)網(wǎng)絡(luò)有5個基本的學習規(guī)則:誤差--修正學習,基于記憶的學習,Hebb學習,競爭學習,隨機學習。
2 神經(jīng)網(wǎng)絡(luò)的研究趨勢
(1) 利用神經(jīng)生理與認知科學研究大腦思維模式及智能機理過程
深入研究神經(jīng)網(wǎng)絡(luò)理論神經(jīng)網(wǎng)絡(luò)在一定程度上揭示人類智能和了解人腦的工作方式,由于人類對神經(jīng)系統(tǒng)的了解非常有限,而且對其自身腦結(jié)構(gòu)及其活動機理的認識不完善,故而神經(jīng)網(wǎng)絡(luò)只能是模仿人腦的局部功能,而對人腦作為一個整體的功能解釋,神經(jīng)網(wǎng)絡(luò)起不到任何作用。神經(jīng)科學,心理學和認識科學等方面提出的一些重大問題,是向神經(jīng)網(wǎng)絡(luò)理論研究提出的新挑戰(zhàn),這些問題的解決有助于完善和發(fā)展神經(jīng)網(wǎng)絡(luò)理論,因此利用神經(jīng)生理和認知科學研究大腦思維及智能機理,如有新的突破將會改變智能和機器關(guān)系的認識。
(2) 神經(jīng)網(wǎng)絡(luò)領(lǐng)域的數(shù)學研究趨于重要
隨著神經(jīng)科學基礎(chǔ)理論研究的深入,用數(shù)理方程探索智能水平更高網(wǎng)絡(luò)模型將是研究的趨勢所在,神經(jīng)元以電為主的生物過程在認識上一般采用非線性動力學模型,其動力演變過程往往是非常復雜的,神經(jīng)網(wǎng)絡(luò)這種強的生物學特征和數(shù)學性質(zhì),要求有更好的數(shù)學手段,而對于神經(jīng)網(wǎng)絡(luò)這樣非線性模型,需要用數(shù)學方法研究網(wǎng)絡(luò)新的算法和網(wǎng)絡(luò)性能,如穩(wěn)定性、收斂、容錯性、魯棒性等,開發(fā)新的網(wǎng)絡(luò)數(shù)理理論,如神經(jīng)動力學、非線性神經(jīng)場等。研究人員斷言一種更簡潔、更完善和更有效的非線性系統(tǒng)表達與分析的數(shù)學方法是這一領(lǐng)域主要目標之一。
(3) 神經(jīng)網(wǎng)絡(luò)軟件模擬、硬件實現(xiàn)的研究以及神經(jīng)網(wǎng)絡(luò)在各個科學技術(shù)領(lǐng)域應用的研究
目前,數(shù)字計算機在計算方面的能力已遠遠超出入的大腦,但在自然語言理解、圖像辨識、信息處理等方面都顯得笨拙,原因是基于馮?偌依曼思想的計算機結(jié)構(gòu)及其運算方式與人的大腦有本質(zhì)的區(qū)別,而神經(jīng)計算機(第六代計算機)以神經(jīng)網(wǎng)絡(luò)為理論基礎(chǔ),用于模擬神經(jīng)網(wǎng)絡(luò),具有自學習、自組織和自適應能力,能更有效地處理復雜問題,其實現(xiàn)過程用光學、生物芯片的方式,現(xiàn)在光學神經(jīng)計算機和分子計算機的研究是神經(jīng)網(wǎng)絡(luò)的前沿課題。
(4) 神經(jīng)網(wǎng)絡(luò)和其它算法結(jié)合的研究
神經(jīng)網(wǎng)絡(luò)和其它算法的結(jié)合和交叉,研究新型神經(jīng)網(wǎng)絡(luò)模型也是發(fā)展方向之一。如神經(jīng)網(wǎng)絡(luò)和模糊邏輯結(jié)合,建立模糊神經(jīng)網(wǎng)絡(luò);將混沌理論和神經(jīng)網(wǎng)絡(luò)結(jié)合建立混沌神經(jīng)網(wǎng)絡(luò);將遺傳算法和神經(jīng)網(wǎng)絡(luò)結(jié)合;利用遺傳算法優(yōu)化神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)或權(quán)值;將小波分析和神經(jīng)網(wǎng)絡(luò)結(jié)合建立小波神經(jīng)網(wǎng)絡(luò);專家系統(tǒng),貝葉斯學習以及粗糙集理論和神經(jīng)網(wǎng)絡(luò)結(jié)合等,這些都是神經(jīng)網(wǎng)絡(luò)研究的熱點。
3 結(jié)束語
神經(jīng)網(wǎng)絡(luò)雖已在許多領(lǐng)域應用中取得了廣泛的成功,但其發(fā)展還不十分成熟,還有一些問題需進一步研究。比如:神經(jīng)計算的基礎(chǔ)理論框架以及生理層面的研究仍需深入;新的模型和結(jié)構(gòu)的研究;神經(jīng)網(wǎng)絡(luò)的可理解性問題;神經(jīng)網(wǎng)絡(luò)技術(shù)與其他技術(shù)更好的結(jié)合等。
關(guān)鍵詞:宏觀經(jīng)濟;預測模型;BP神經(jīng)網(wǎng)絡(luò);非線性
中圖分類號:TP183;F015 文獻標識碼:A
文章編號:1006-4311(2009)11-0088-03
0引言
利用經(jīng)濟指標的準確預測是國家對宏觀經(jīng)濟正確調(diào)控的必要前提。但經(jīng)濟系統(tǒng),特別宏觀經(jīng)濟系統(tǒng)是非常復雜的系統(tǒng),廣泛存在著非線性、時變性和不確定作用關(guān)系;而在計量經(jīng)濟學理論基礎(chǔ)上建立的各種宏觀經(jīng)濟模型,大都是線性模型,很難把握宏觀經(jīng)濟系統(tǒng)中的非線性現(xiàn)象,必然導致經(jīng)濟預測的誤差加大。學者們因此對各種線性模型做了不少改進,如建立分段線性模型、參數(shù)時變線性模型等,但結(jié)果并不理想。于是人們尋求一些非線性工具進行宏觀經(jīng)濟建模。而神經(jīng)網(wǎng)絡(luò)具有并行計算、分布式信息存儲容錯能力強、自適應學習功能等優(yōu)點,在處理復雜的人工智能和非線性問題上顯示了優(yōu)越性。
1基于BP神經(jīng)網(wǎng)絡(luò)的預測模型
BP(Back-Propagation)神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)是前向的多層網(wǎng)絡(luò),含有輸入層節(jié)點、輸出層節(jié)點和一層或多層的隱層節(jié)點,同層的各神經(jīng)元之間互不連接,相鄰層的神經(jīng)元則通過權(quán)值連接。當有信息輸入BP神經(jīng)網(wǎng)絡(luò)時,信息首先由輸入層節(jié)點傳遞到第一層的隱層節(jié)點,經(jīng)過特征函數(shù)(人工神經(jīng)元)作用之后,再傳至下一隱層,這樣一層一層傳遞下去,直到最終傳至輸出層進行輸出。其間各層的激發(fā)函數(shù)要求是可微的,一般是選用S型函數(shù)。最基本的BP神經(jīng)網(wǎng)絡(luò)包括輸入層,隱層,輸出層這三層節(jié)點的前饋網(wǎng)絡(luò),其結(jié)構(gòu)如圖1所示。
BP神經(jīng)網(wǎng)絡(luò)使用一組樣例對網(wǎng)絡(luò)連接權(quán)值進行學習訓練,每個樣例都包括輸入及期望的輸出。在正向傳播過程中,首先將訓練樣例的信息輸入到網(wǎng)絡(luò)中,輸入信息從輸入層經(jīng)隱層節(jié)點逐層計算處理后,傳至輸出層。在計算處理過程中,每一層神經(jīng)元的狀態(tài)只影響下一層神經(jīng)元的狀態(tài),如果在輸出層得到的結(jié)果不是所期望的輸出,那么就轉(zhuǎn)為反向傳播。反向傳播把誤差信號沿原連接路徑返回,并按照一定原則對各層神經(jīng)元連接權(quán)值進行適當修改,直至第一個隱層;這時再開始進行正向傳播,利用剛才的輸入信息進行正向網(wǎng)絡(luò)計算。如果網(wǎng)絡(luò)輸出達到了誤差要求,則學習過程結(jié)束;如果達不到誤差要求,則再進行反向傳播的連接權(quán)值調(diào)整。這一過程不斷往復,直到網(wǎng)絡(luò)正向計算輸出結(jié)果達到誤差要求為止,學習就告結(jié)束。網(wǎng)絡(luò)訓練結(jié)束后,在用于求解實際問題時就只須使用正向傳播。
2具體應用
2.1 樣本獲取
神經(jīng)網(wǎng)絡(luò)建模關(guān)鍵之一是網(wǎng)絡(luò)訓練樣本的選取。在模式識別征抽取是一個重要環(huán)節(jié),抽取穩(wěn)定且有效的特征是識別系統(tǒng)成功的關(guān)鍵。神經(jīng)網(wǎng)絡(luò)建模也就是對系統(tǒng)進行模式識別,神經(jīng)網(wǎng)絡(luò)中的特征抽取也就是樣本的選取,包含原始數(shù)據(jù)收集、數(shù)據(jù)分析、變量選擇及數(shù)據(jù)預處理;只有經(jīng)過這些步驟后,才能對神經(jīng)網(wǎng)絡(luò)進行有效的學習訓練。訓練樣本質(zhì)量直接影響網(wǎng)絡(luò)應用效果,應根據(jù)實際情況選取合適的能表達對象全面特征的樣本,好的訓練樣本能提高網(wǎng)絡(luò)學習速度和效果,并提高網(wǎng)絡(luò)泛化能力。建立本預測模型時選取樣本,首先是建模必須建立在一個基本固定的環(huán)境下; 其次是樣本選取應涵蓋系統(tǒng)特征的信息,要能夠包含在控制中的輸入輸出特征,能給神經(jīng)網(wǎng)絡(luò)提供較為全面的邊界信息。本模型旨在對西安市14個指標2008年的數(shù)值進行預測:GDP、全社會固定資產(chǎn)投資、居民消費價格指數(shù)、零售總額、工業(yè)增加值、財政收入、財政預算、可支配收入、農(nóng)民人均純收入、城鎮(zhèn)新增就業(yè)人數(shù)、進出口總額、出口、外商直接投資、工業(yè)出廠價格指數(shù)。在排除各年可能發(fā)生異常情況下,用各指標前幾年數(shù)據(jù)預測緊接著下一年的各指標數(shù)據(jù)。
2.2 神經(jīng)網(wǎng)絡(luò)模型結(jié)構(gòu)
關(guān)鍵詞:汽車尾氣;自組織特征映射(SOM);競爭學習;聚類分析
中圖分類號:U467.5+21文獻標文獻標識碼:A文獻標DOI:10.3969/j.issn.2095-1469.2013.05.06
持續(xù)增長的汽車保有量給城市發(fā)展帶來各種形式的環(huán)境壓力,特別是其尾氣排放所引起的空氣污染問題[1]。大量文獻指出汽車尾氣會給人類健康造成許多負面影響,并且隨著暴露在這些污染物中的人群數(shù)量的增加,這些負面影響在城市中日益加劇[2-3],
于是針對汽車尾氣更嚴格的排放標準[4]得以實施。為滿足這一新標準,學術(shù)界和工程界的專家學者提出許多方法和技術(shù)以降低汽車尾氣中有害氣體的排放量[5-6]。然而,極少有研究從“大數(shù)據(jù)”的角度[7]關(guān)注汽車尾氣的污染評估模型。事實上,職能監(jiān)管部門更關(guān)心的是在真實行駛條件下對汽車尾氣排放的大數(shù)據(jù)進行分析,借此評估汽車尾氣對城市環(huán)境的影響程度,進而為新標準的有效執(zhí)行提供決策依據(jù)。
由于燃料在發(fā)動機中的物理化學反應極其復雜,加之車輛駕駛方式因人而異,以及車輛行駛環(huán)境的多樣性,導致汽車排放的尾氣具有復雜的非線性、時變性和隨機性等特征,從而使基于發(fā)動機中物化反應原理的汽車尾氣排放模型無法滿足對排放水平高可靠分析的需要。作為一種非線性數(shù)據(jù)分析工具,神經(jīng)網(wǎng)絡(luò)廣泛應用于數(shù)據(jù)分析的各個領(lǐng)域[8]。事實上,通過分析汽車尾氣數(shù)據(jù)以實現(xiàn)對排放水平的評估,本質(zhì)上可看成是一個數(shù)據(jù)聚類問題。眾所周知,自組織映射神經(jīng)網(wǎng)絡(luò)(Self-Organizing Map Network,SOM NN)在數(shù)據(jù)的聚類、分類問題中得到廣泛關(guān)注,并取得良好的應用效果[9-10]。然而,SOM網(wǎng)絡(luò)所采用的固定鄰域半徑的學習方式容易造成訓練“死區(qū)”,使某些神經(jīng)元無法得到合適的訓練,進而影響數(shù)據(jù)聚類、分類的準確性[11-12]。
針對上述問題,本文提出一種在自組織特征映射下的汽車尾氣排放水平評估方法。該方法將汽車尾氣按不同的城區(qū)行駛速度劃分為不同的排放種類,每種行駛速度對應著一種排放水平,通過SOM神經(jīng)網(wǎng)絡(luò)的拓撲有序映射將高維的排放數(shù)據(jù)映射到一個二維的特征空間,以描述汽車在真實條件下不同速度的排放水平。為提高數(shù)據(jù)聚類的準確性,在SOM神經(jīng)網(wǎng)絡(luò)采用的固定鄰域半徑的基礎(chǔ)上,通過引入權(quán)值與輸入向量之間的夾角來定義一種新的彈性鄰域半徑。該彈性鄰域半徑可自適應地縮放競爭層神經(jīng)元的學習區(qū)域,避免這些神經(jīng)元因權(quán)值在初始化過程中離輸入向量太遠而進入訓練死區(qū)。
1 具有彈性鄰域半徑的SOM神經(jīng)網(wǎng)絡(luò)
由于SOM神經(jīng)網(wǎng)絡(luò)中鄰域半徑的更新過程采用固定的縮放方式,使網(wǎng)絡(luò)訓練容易形成訓練死區(qū),為了提高對汽車排放數(shù)據(jù)聚類的準確性,本文提出一種具有彈性鄰域半徑的SOM神經(jīng)網(wǎng)絡(luò)。該網(wǎng)絡(luò)的拓撲結(jié)構(gòu)與Kohonen提出的SOM網(wǎng)絡(luò)相同,只是在競爭學習過程中采用彈性鄰域半徑來縮放學習區(qū)域。
1.1 SOM神經(jīng)網(wǎng)絡(luò)的拓撲結(jié)構(gòu)
荷蘭學者Kohonen提出的自組織特征映射,本質(zhì)上屬于一種無監(jiān)督競爭學習的動態(tài)映射方式[13-15]。由此產(chǎn)生的SOM神經(jīng)網(wǎng)絡(luò)中,一次僅有一個神經(jīng)元被“激活”。圖1給出了這種網(wǎng)絡(luò)常用的拓撲結(jié)構(gòu)(從一維的輸入到二維的映射輸出),其基本思想是:來源于原始事件空間中的輸入信號被由自適應單元所構(gòu)成的簡單網(wǎng)絡(luò)接受,輸入信號以某種表示方式被自動映射為一系列輸出響應,這種輸出響應保持了與原始事件相同的拓撲排序的方式。因此,SOM神經(jīng)網(wǎng)絡(luò)能自動形成對事件屬性的正確拓撲映射。換言之,SOM神經(jīng)網(wǎng)絡(luò)能以拓撲有序的方式,將任意維數(shù)的輸入模式變換成一維或二維的特征映射[16-17]。
值得指出的是,在圖1所示的結(jié)構(gòu)中,即使輸出神經(jīng)元之間沒有側(cè)向連接,但與輸入具有最佳匹配的神經(jīng)元(即獲勝神經(jīng)元)鄰域內(nèi)的其它神經(jīng)元被更新,使這個鄰域內(nèi)的神經(jīng)元與其以前所處的狀態(tài)相比,更像獲勝神經(jīng)元那樣響應。網(wǎng)絡(luò)中的神經(jīng)元并不是以相互獨立的方式,而是以拓撲相關(guān)的方式進行學習。這種學習方式對于形成有序映射來說是至關(guān)重要的。
1.2 改進的競爭學習算法
SOM神經(jīng)網(wǎng)絡(luò)的競爭學習算法可通過下述推導加以描述。圖1中的SOM神經(jīng)網(wǎng)絡(luò)的輸入可寫成向量形式。
。
二維陣列中的神經(jīng)元i的突觸權(quán)值向量由下式給出。
。
式中,m是二維陣列中的輸出神經(jīng)元總數(shù)。在Kohonen的競爭學習算法中,輸入向量x與突觸權(quán)值向量wi的最佳匹配由下式確定。
。
這里的q(x)表示輸出神經(jīng)元陣列的索引,特別指定為獲勝神經(jīng)元,是歐幾里德范數(shù),也是獲勝神經(jīng)元所在的鄰域半徑。然而,這種固定鄰域半徑容易形成訓練死區(qū),使某些神經(jīng)元因初始權(quán)值向量離輸入向量太遠以至于它從未在競爭中獲勝,即從未參與競爭學習而形成毫無用處的死神經(jīng)元。為此,本文提出一種彈性鄰域半徑ri(k),并將其定義為
。
式中,表示Kohonen的競爭學習中的固定半徑,而是輸
入向量與競爭層神經(jīng)元權(quán)值之間的相似系數(shù)。當輸入向量與權(quán)值相似較大時,會放大鄰域半徑,擴大競爭學習區(qū)域;當相似較小時,會縮小鄰域半徑,使競爭層神經(jīng)元盡快進入學習區(qū)域。
那么,輸入向量x與突觸權(quán)值向量wi的最佳匹配可以定義為
。
式中,。競爭學習算法的下一步是更新與獲勝神經(jīng)元相聯(lián)系的突觸權(quán)值向量和獲勝神經(jīng)元的確定鄰域內(nèi)的神經(jīng)元的突觸權(quán)值向量。相應的學習規(guī)則可表示為
式中,學習率參數(shù)0
2 數(shù)值試驗
為驗證本文所提方法的有效性,本節(jié)選取一種輕型車在真實行駛條件下的不同批次排放測試數(shù)據(jù)為對象開展數(shù)值試驗。通過SOM神經(jīng)網(wǎng)絡(luò)的拓撲有序映射,將排放數(shù)據(jù)按照不同速度的行駛模式聚類,每種行駛模式所得到的數(shù)據(jù)種類便代表了一種排放水平。
2.1 數(shù)據(jù)介紹
數(shù)值試驗所使用的排放數(shù)據(jù)來源于一種輕型車按國家標準GB 18352.3―2005進行的測試。根據(jù)該標準,從同種類型的輕型車抽樣出若干樣本,駕駛這些抽樣的輕型車分別在城市和郊區(qū)環(huán)境中按照指定速度行駛,最終獲取該類汽車在相同行駛條件下不同車次的排放數(shù)據(jù)。圖2給出了汽車尾氣排放數(shù)據(jù)采集過程。其中,城區(qū)環(huán)境分為4個循環(huán)單元,每個單元的速度設(shè)置相同,并都采集195個數(shù)據(jù)樣本;而郊區(qū)環(huán)境僅采集400個數(shù)據(jù)樣本,整個數(shù)據(jù)長度為1 180個樣本點。在同一輛車的1 180個數(shù)據(jù)樣本中,所測試的排放氣體包括以下幾種類型:COL(g/100 km)、NOx(g/100 km)、THC(g/100 km)和CO2(g/100 km)。
需要指出的是,上述指標的排放數(shù)據(jù)并未全部在本文中使用。事實上,通過分析數(shù)據(jù)的組合分布,最終選擇的排放指標為THC(g/100 km)和CO2(g/100 km)。此外,由于城區(qū)的污染較為嚴重,因此本文關(guān)注車輛在城區(qū)環(huán)境的排放情況,而車輛在郊區(qū)的排放數(shù)據(jù)不予考慮。圖3給出了數(shù)值試驗中所采用的THC和CO2數(shù)據(jù)樣本。
圖3中的所有數(shù)據(jù)均為同種輕型車的5輛車在相同的真實條件下進行1次測試得到的排放數(shù)據(jù)。這些數(shù)據(jù)在歸一化之后,將被提交給SOM神經(jīng)網(wǎng)絡(luò)以完成網(wǎng)絡(luò)的訓練。
2.2 網(wǎng)絡(luò)訓練
根據(jù)圖3所示的數(shù)據(jù)采樣過程,這類輕型車的排放情況按照市區(qū)運轉(zhuǎn)循環(huán)單元中的速度條件可分為12類。因此,SOM神經(jīng)網(wǎng)絡(luò)的神經(jīng)元個數(shù)設(shè)置為12,每個神經(jīng)元的輸出代表一種排放水平。訓練過程可按如下步驟完成。
(1)將輸入的排放數(shù)據(jù)樣本歸一化到[-1,1]之間,并隨機初始化網(wǎng)絡(luò)的權(quán)值,設(shè)置學習率參數(shù)為1,鄰域初值為1。
(2)指定500次的學習次數(shù)為停止條件,檢查停止條件,如果失敗,則繼續(xù),如果成功,則退出。
(3)對于每個訓練樣本,執(zhí)行(4)~(7)步。
(4)按照式(5)計算與輸入向量匹配最好的權(quán)值向量。
(5)按照式(6)更新計算權(quán)值向量。
(6)調(diào)整學習率參數(shù)。
(7)適當縮減拓撲鄰域Nq(k)。
(8)設(shè)置kk+1,然后轉(zhuǎn)到步驟(2)。
需要說明的是,為使本文的方法更具說服力,采用固定鄰域半徑的SOM神經(jīng)網(wǎng)絡(luò)在相同數(shù)據(jù)集的基礎(chǔ)上,除輸入向量最佳匹配按式(4)計算外,同樣按照上述步驟完成數(shù)值試驗?;诠潭ㄠ徲虬霃胶蛷椥脏徲虬霃降腟OM神經(jīng)網(wǎng)絡(luò)的訓練結(jié)果由圖4給出。
圖4中的數(shù)據(jù)類別與汽車尾氣排放水平一一對應,只要確定排放數(shù)據(jù)的種類便能確定其相應的排放水平。從圖4所示的訓練結(jié)果來看,采用固定鄰域半徑的SOM神經(jīng)網(wǎng)絡(luò)在排放數(shù)據(jù)的聚類中明顯出現(xiàn)數(shù)據(jù)類別(排放水平)的混疊現(xiàn)象。例如,圖4(b)中具有排放水平4~6的尾氣數(shù)據(jù)聚類中出現(xiàn)不同程度的混疊。其中,數(shù)據(jù)種類5與數(shù)據(jù)種類6的混疊較為嚴重,導致部分具有排放水平5和排放水平6的數(shù)據(jù)區(qū)分出現(xiàn)錯誤。因此,相比于圖4(a)所示的采用彈性鄰域半徑學習的聚類效果而言,圖4(b)中所示的采用固定鄰域半徑學習的SOM神經(jīng)網(wǎng)絡(luò)較差。
為進一步分析兩種學習方式的訓練結(jié)果,帶有距離分布的競爭層神經(jīng)元拓撲結(jié)構(gòu)由圖5給出。
圖5中的藍色六角形代表神經(jīng)元,紅線為各神經(jīng)元之間的連接線,而包含紅線的菱形表示各神經(jīng)元之間距離的遠近,從黃色到黑色,隨著顏色加深距離越近。圖中神經(jīng)元編號從左下角開始(0,0)為1號神經(jīng)元,右下角(0,3)為4號神經(jīng)元,第2行第4列(1,3.5)為5號神經(jīng)元,依次類推,左上角(0,1.75)為12號神經(jīng)元。從圖5(a)所示的拓撲結(jié)構(gòu)可看出,在采用彈性鄰域半徑的SOM神經(jīng)網(wǎng)絡(luò)中,競爭層的各個神經(jīng)元彼此隔離,距離較遠,各個數(shù)據(jù)類別能較好地分開。而圖5(b)所示的采用固定鄰域半徑的SOM神經(jīng)網(wǎng)絡(luò)中,4~5與5~6號神經(jīng)元的距離較近,導致排放數(shù)據(jù)所對應的類別相互糾纏。這也正是圖4中混疊現(xiàn)象出現(xiàn)的原因。
2.3 網(wǎng)絡(luò)測試
完成SOM神經(jīng)網(wǎng)絡(luò)的訓練后,選取第1輛車和第2輛車在相同條件下的另一次排放測試數(shù)據(jù)分別提交給采用彈性鄰域半徑和固定鄰域半徑的SOM神經(jīng)網(wǎng)絡(luò)。圖6給出了兩種學習方式下的聚類結(jié)果。
從圖6(a)與圖6(b)的對比結(jié)果來看,采用固定鄰域半徑的SOM神經(jīng)網(wǎng)絡(luò)聚類效果低于采用彈性鄰域半徑的SOM神經(jīng)網(wǎng)絡(luò)。圖6(b)清晰地顯示出排放水平5和排放水平6存在著混疊,也就是說原本屬于排放水平5的數(shù)據(jù)被錯誤地劃分到排放水平6中。類似的,具有排放水平4的數(shù)據(jù)也被錯誤地劃分到排放水平5中。這與網(wǎng)絡(luò)的訓練結(jié)果相吻合。值得注意的是,在測試中,排放水平2與排放水平3也出現(xiàn)了混疊,這是由于網(wǎng)絡(luò)的泛化性能不足造成的。解決該問題的一個有效途徑是增加訓練回合數(shù),但這會增加時間的消耗。從這一點來說,采用彈性鄰域半徑的SOM神經(jīng)網(wǎng)絡(luò)在與采用固定鄰域半徑的SOM神經(jīng)網(wǎng)絡(luò)保持相同聚類準確度的條件下,前者需要的訓練回合數(shù)更少。表1給出了在數(shù)值試驗中,兩種學習方式進行排放數(shù)據(jù)聚類的總體比較情形。
從表1看出,在網(wǎng)絡(luò)設(shè)置相同的前提下,采用彈性鄰域半徑學習的SOM神經(jīng)網(wǎng)絡(luò)在網(wǎng)絡(luò)訓練與測試的過程中,對排放數(shù)據(jù)的聚類效果都要優(yōu)于采用固定鄰域半徑學習的SOM神經(jīng)網(wǎng)絡(luò)網(wǎng)絡(luò)。在網(wǎng)絡(luò)測試過程中的數(shù)據(jù)樣本總數(shù)為3 900個,在網(wǎng)絡(luò)測試過程中的數(shù)據(jù)樣本為1 560個。其中,采用彈性鄰域半徑的學習方式下,網(wǎng)絡(luò)訓練過程中聚類正確的樣本個數(shù)為3 587,測試過程中聚類正確的樣本個數(shù)為1 410;采用固定鄰域半徑學習方式下,網(wǎng)絡(luò)訓練過程中聚類的樣本個數(shù)為3 452,測試過程中聚類正確的樣本個數(shù)為1 348。因此,在訓練過程中,采用彈性鄰域半徑和固定鄰域半徑的網(wǎng)絡(luò)訓練過程中的聚類正確率分別為91.97%和88.51%,而測試過程中的聚類正確率分別為90.38%和86.41%。
3 結(jié)論
本文提出了一種基于SOM神經(jīng)網(wǎng)絡(luò)的汽車尾氣排放水平的評估方法,其主要貢獻在于通過引入相關(guān)系數(shù)來設(shè)計彈性鄰域半徑,進而自適應地更新競爭層神經(jīng)元的學習鄰域,避免這些神經(jīng)元陷入訓練死區(qū),以提高對汽車排放數(shù)據(jù)聚類的準確性。在數(shù)值試驗中,根據(jù)汽車在城區(qū)行駛的不同速度將排放數(shù)據(jù)分為不同的類,每個數(shù)據(jù)類代表一種排放水平。通過與采用固定鄰域半徑的SOM神經(jīng)網(wǎng)絡(luò)的對比,以某輕型車排放數(shù)據(jù)為對象的數(shù)值試驗結(jié)果表明,采用彈性鄰域半徑的SOM神經(jīng)網(wǎng)絡(luò)對于汽車尾氣排放水平的評估具有較高的準確性。
參考文獻(References)
PANDIAN S,GOKHALE S,GHOSHAL A K. Evaluating Effects of Traffic and Vehicle Characteristics on Vehicular Emissions Near Traffic Intersections[J]. Transportation Research Part D,2009(14):180-196.
POPE C A,DOCKERY D W. Health Effects of Fine Par-ticulate Air Pollution:Lines That Connect[J]. Journal of Air and Waste Management Association,2006(56):709-742.
MEISTER K,JOHANSSON C,F(xiàn)ORSBERG B. Estimated Short-Term Effects of Coarse Particles on Daily Mortality in Stockholm,Sweden[J]. Environmental Health Perspectives,2011(120):431-436.
GB 18352.3―2005. 輕型汽車污染物排放限值及測量方法[S]. 北京:中國標準出版社,2005.
GB 18352.3―2005. Limits and Measurement Methods for Emissions from Light-Duty Vehicles(Ⅲ,Ⅳ)[S]. Beijing:
China Standard Press,2005. (in Chinese)
ZAMBONI G,CARRARO C,CAPOBIANCO M. On-road Instantaneous Speed Measurements on Powered Two-Wheelers for Exhaust Emissions and Fuel Consumption Evaluation[J]. Energy,2011(36):1039-1047.
WEILENMANN M F,SOLTIC P,HAUSBERGER S. The Cold Start Emissions of light-Duty-Vehicle Fleets: a Simplified Physics-Based Model for the Estimation of CO2 and Pollutants[J]. Science of the Total Environment, 2013(444):161-176.
VIKTOR M, KENNETH C.大數(shù)據(jù)時代:生活、工作與思維的大變革[M]. 盛楊燕,周濤,譯.杭州:浙江人民出版社,2012.
VIKTOR M,KENNETH C. A Revolution That Will Transform How We Live,Work,and Think[M]. Sheng Yangyan,Zhou Tao,Translate. Hnagzhou:Zhejiang People's Publishing House,2012.(in Chinese)
HYV?RINEN A,OJA E. Independent Component Analy-sis:Algorithms and Applications[J]. Neural Networks,2000,13 (4-5):411- 430.
GHASEMINEZHAD M H, KARAMI A. A Novel Self-Organizing Map(SOM) Neural Network for Discrete Groups of Data Clustering[J]. Applied Soft Computing, 2011,11(4):3771-3778.
HSU K C,LI S T. Clustering Spatial Temporal Precipi-tation Data Using Wavelet Transform and Self-Organizing Map Neural Network[J]. Advances in Water Resources,2010,33(2):190-200.
MAY R J,MAIER H R,DANDY G C. Data Splitting for Artificial Neural Networks Using SOM-Based Stratified Sampling[J]. Neural Networks,2010,23(2):283-294.
JIANG X,LIU K,YAN J,et al. Application of Improved SOM Neural Network in Anomaly Detection[J]. Physics Procedia,2012(33):1093-1099.
KOHONEN T. Self-Organized Formation of Topologically Correct Feature Maps[J]. Biological Cybernetics,1982, 43(1):59-69.
KOHONEN T. The Self-organized Map[J]. IEEE Procee-dings,1990(78):1464-1480.
KOHONEN T. Self-organization and Associative Memory
(3rd ed.)[M]. Berlin:Springer Verlag,1989.
華.量子計算在動態(tài)遞歸與自組織神經(jīng)網(wǎng)絡(luò)中的機理及應用研究[D].重慶:重慶大學,2012.
Li Penghua.Study on the Mechanism for Dynamic Recur-sive & Self-Organizing Neural Networks Using Quantum Computing and Its Application[D]. Chongqing:Chongqing University,2012. (in Chinese)
關(guān)鍵詞:小波分析;神經(jīng)網(wǎng)絡(luò);故障定位;配電網(wǎng)
作者簡介:李曉東(1975-),男,寧夏吳忠人,寧夏電力公司吳忠供電局,助理工程師。(寧夏 吳忠 751100)
中圖分類號:TM726 文獻標識碼:A 文章編號:1007-0079(2013)26-0201-03
配電網(wǎng)直接聯(lián)系用戶,其可靠供電能力和供電質(zhì)量既是電力企業(yè)經(jīng)濟效益的直接體現(xiàn),又對應著不可估量的社會效益。配電網(wǎng)故障自動定位作為配電自動化的一個重要內(nèi)容,對提高供電可靠性有很大影響,也得到了越來越多的重視。本文在分析研究小波神經(jīng)網(wǎng)絡(luò)特征的基礎(chǔ)上利用小波的時頻分析能力與神經(jīng)網(wǎng)絡(luò)的非線性擬合能力來建立故障特征與故障點的映射,確定故障點的位置。
一、配電網(wǎng)的故障特點
配電網(wǎng)絡(luò)拓撲結(jié)構(gòu)復雜,節(jié)點眾多且分布廣泛。負荷沿配電線路分布不均勻,而且負荷性質(zhì)也有很大差異,因此配網(wǎng)故障定位是一項十分艱巨的任務(wù)。配電網(wǎng)發(fā)生故障的幾率遠大于輸電網(wǎng),因為配電網(wǎng)的設(shè)備為分散分布,采集信號相對困難,而且信號傳輸?shù)木嚯x越遠越容易發(fā)生畸變。配電網(wǎng)直接面向廣大的用戶,最易受到用戶端多種多樣不確定因素的影響,所以配電網(wǎng)的故障頻率及操作頻率都較高,運行方式和對應的網(wǎng)絡(luò)拓撲經(jīng)常發(fā)生變化。[1]同時,配電網(wǎng)具有閉環(huán)設(shè)計開環(huán)運行的特點,有時會出現(xiàn)短暫的閉環(huán)運行,給故障定位帶來困難。
二、神經(jīng)網(wǎng)絡(luò)在配網(wǎng)故障診斷中的應用原理
人工神經(jīng)網(wǎng)絡(luò)(ANN)是一種連接機制模型,它是由大量人工神經(jīng)元廣泛互聯(lián)而成的網(wǎng)絡(luò),是在微觀結(jié)構(gòu)上模擬人的認識能力,其知識處理所模擬的是人的經(jīng)驗思維機制,決策時它依據(jù)的是經(jīng)驗,而不是一組規(guī)劃,特別是在缺乏清楚表達規(guī)則或精確數(shù)據(jù)時神經(jīng)網(wǎng)絡(luò)可產(chǎn)生合理的輸出結(jié)果。ANN的最大特點是依靠并行調(diào)節(jié)人工神經(jīng)元之間的連接權(quán)值來隱含地處理問題,具有很強的自適應和自學習能力、非線性映射能力、魯棒性和容錯能力。
應用神經(jīng)網(wǎng)絡(luò)進行電力系統(tǒng)報警處理和故障定位能在保護裝置誤動、數(shù)據(jù)丟失以及出現(xiàn)其他未考慮的報警類型時也能給出較精確的定位結(jié)果。[2,3]還可以結(jié)合小波分析比較精確地定位出故障位置進行隔離。
由于神經(jīng)網(wǎng)絡(luò)自身具有很多的優(yōu)點,應用現(xiàn)代數(shù)學工具通過準確地提取故障電氣量特征信息作為神經(jīng)網(wǎng)絡(luò)的輸入進行訓練來提高神經(jīng)網(wǎng)絡(luò)的定位性能將是一個很好的發(fā)展方向。
基于神經(jīng)網(wǎng)絡(luò)的診斷系統(tǒng)結(jié)構(gòu)圖如圖1所示。
三、小波變換
小波變換是繼Fourier變換之后又一有效的時頻分析方法,可以在一個時間和頻域的局域變換所以能有效地從信號中提取信息,可以對信號進行多尺度的細化分析。
小電流接地系統(tǒng)發(fā)生單相接地故障時,暫態(tài)接地電容電流幅值經(jīng)常大于穩(wěn)態(tài)時的幾倍到幾十倍,補償?shù)碾姼须娏饕矔龃蟆4]這種情況下小波變換可以將暫態(tài)信號映射到由小波伸縮而成的一組基函數(shù)上。該函數(shù)具有很好地頻帶分割性,再根據(jù)小電流接地系統(tǒng)發(fā)生故障時零序電流分量的特點,即故障線路上的電流幅值比非故障線路幅值大得多且極性相反這一特征來進行故障點的定位。
四、小波神經(jīng)網(wǎng)絡(luò)
1.小波神經(jīng)網(wǎng)絡(luò)的拓撲結(jié)構(gòu)
小波函數(shù)作為神經(jīng)網(wǎng)絡(luò)的激勵函數(shù)與普通神經(jīng)網(wǎng)絡(luò)的激勵函數(shù)在本質(zhì)上是一致的,但是小波神經(jīng)網(wǎng)絡(luò)只要尺度、位移以及權(quán)重的初始值設(shè)置得當,其函數(shù)逼近的效果更優(yōu)于簡單的神經(jīng)網(wǎng)絡(luò)。
在文獻[5]中對小電流接地系統(tǒng)單相接地故障暫態(tài)信號用prony方法進行分析時,已證實故障點位置不同時對應的故障暫態(tài)信號的特征分量也不同,它們之間存在著特定的對應關(guān)系。根據(jù)這個原理就可以利用小波分析來獲得故障暫態(tài)信號定時頻窗特征,將它映射到距離平面上實現(xiàn)故障定位。
小波神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)如圖2所示,共有四層,分別為輸入層、小波變換層、隱含層、輸出層。小波變換層選取的神經(jīng)元激勵函數(shù)為Morlet小波:
則在函數(shù)空間L2(R)中,一個信號f(t)的小波變換:
對網(wǎng)絡(luò)的輸出并不僅僅是簡單的加權(quán)求和,而是先對網(wǎng)絡(luò)隱含層小波節(jié)點的輸出值進行加權(quán)求和,再通過Sigmoid函數(shù)變換,最終得到的網(wǎng)絡(luò)輸出,有利于處理分類問題,[6,7]同時降低訓練過程中發(fā)散的可能性。
小電流單相接地故障檢測系統(tǒng)的小波神經(jīng)網(wǎng)絡(luò)模型如圖2所示,輸入層的每一節(jié)點對應故障暫態(tài)時序序列,輸出包含的單個神經(jīng)元,其值反映的是故障點的位置。
2.小波神經(jīng)網(wǎng)絡(luò)的學習算法
進行訓練時需要在權(quán)值和閾值的修正算法中加入動量項,利用前一步得到的修正值來平滑學習路徑,防止陷入局部極小值,加速學習速度。[8]當逐個對樣本進行訓練時會引起權(quán)值與閾值修正時發(fā)生振蕩,為避免這種情況的發(fā)生可以采用成批訓練方法。
在式(1)中,當a>0時,信號f(t)可離散化fN(i),式(1)變?yōu)椋?/p>
式子中,N為電流序列點總和,為信號的時間窗寬度。
前向運算:輸入采樣時間序列,小波變換層的輸出為:
按照上式的算法,分別計算出小波變換層的輸出量,其中j為小波變換層的總節(jié)點數(shù)。
隱層的輸入矢量,其中K表示隱層節(jié)點個數(shù)。;隱含層輸出矢量:;故障距離輸出。
給定P(P=1,2,3……p)組輸入輸出樣本,學習率為,動量因子是目標誤差函數(shù)為:
式中:——輸出層第n個節(jié)點的期望輸出;——網(wǎng)絡(luò)實際輸出。
算法要實現(xiàn)的目標就是不斷調(diào)整網(wǎng)絡(luò)的各項參數(shù),使最終的誤差函數(shù)獲得最小值。
隱含層與輸出層之間的權(quán)值調(diào)整式:
輸入層與隱層結(jié)點之間的權(quán)值調(diào)整式:
伸縮因子調(diào)整式:
平移因子調(diào)整式:
五、小波與神經(jīng)網(wǎng)絡(luò)在配網(wǎng)故障診斷中的應用
1.系統(tǒng)整體設(shè)計
本文采用EMTP/ATP軟件進行仿真。設(shè)計系統(tǒng)為中性點不接地系統(tǒng),母線電壓等級為35kV,仿真時間是0.1S,故障發(fā)生時間是0.05S,采樣頻率是4000Hz,可充分滿足暫態(tài)電容電流自由振動頻率的要求;線路參數(shù):正序阻抗;正序容納;零序阻抗;零序容納。圖3為小電流接地系統(tǒng)。
變化故障點位置和接地電阻形成的學習故障模式集為:在配電網(wǎng)全程線路上選擇故障點,是距離變化的步長,;故障過渡電阻。
2.故障定位效果分析
為了較好地檢測訓練后神經(jīng)網(wǎng)絡(luò)的真實定位效果,需要選取網(wǎng)絡(luò)的非學習樣本來檢驗。選取故障點故障過渡電阻。進行組合20×2=40個測試故障模式,按照與形成學習樣本相同的預處理方法形成輸入矢量集合,經(jīng)過網(wǎng)絡(luò)的前向運算得到故障的定位結(jié)果。
接地電阻時,故障定位結(jié)果,如表1所示。
接地電阻時,故障定位結(jié)果,如表2所示。
由表1和表2可得,經(jīng)過訓練后的小波神經(jīng)網(wǎng)絡(luò)可以很好地擬合輸入矢量和故障點的位置對應關(guān)系。對于神經(jīng)網(wǎng)絡(luò)測試的樣本,該誤差基本在1%以下,具有較滿意的定位結(jié)果。此故障定位方案之所以精確是因為兩方面的原因:一是小電流接地系統(tǒng)通常情況下是直接面向用戶的,為單電源系統(tǒng),雖然具有復雜多變的運行方式,但大多數(shù)運行參數(shù)可知,該方案在一定程度上降低了運行參數(shù)的模糊性;二是小波神經(jīng)網(wǎng)絡(luò)在故障之后暫態(tài)高頻信息的提取與應用是定位原理的關(guān)鍵所在。因此,經(jīng)過訓練后的小波神經(jīng)網(wǎng)絡(luò)故障定位精確可靠。
六、結(jié)論
本文利用小波神經(jīng)網(wǎng)絡(luò)的特點解決配電網(wǎng)故障定位中的問題,小波神經(jīng)網(wǎng)絡(luò)具備小波與神經(jīng)網(wǎng)絡(luò)共同的特點,既具有對非平穩(wěn)隨機信號所具有的優(yōu)越的時頻局部特性又具有非線性擬合能力,具有充分的理論依據(jù)。在對所建立的小電流接地系統(tǒng)進行仿真的結(jié)果分析可知,該定位方案精確度較高、方便可靠。
參考文獻:
[1]郭三中.基于小波神經(jīng)網(wǎng)絡(luò)的配電網(wǎng)故障定位研究J].電力系統(tǒng)自動化,2010,(12):27-30.
[2]季濤,孫同景,薛永端.配電網(wǎng)故障定位技術(shù)現(xiàn)狀與展望[J].繼電器,2005,33(24):32-37.
[3]張振飛,夏利民.基于神經(jīng)網(wǎng)絡(luò)的滾動軸承故障診斷智能方法[J].信息技術(shù),2008,(8):35-55.
[4]李振然.基于小波變換與BP神經(jīng)網(wǎng)絡(luò)相結(jié)合的配電網(wǎng)單相接地故障定位方法[J].繼電器,2004,32(9):24-26.
[5]郜洪亮,楊學昌.一種配電線路單相接地故障測距算法[J].清華大學學報(自然科學版),1999,39(9):33-36.
[6]李玉,潘亞平,魏海平.小波神經(jīng)網(wǎng)絡(luò)及其研究進展[J].科技信息,2006,(9):24-25.
隨著科技的不斷進步,國內(nèi)外各領(lǐng)域?qū)<覍W者相互努力共同打造了智能機器人。模糊神經(jīng)網(wǎng)絡(luò)理論通過自身所擁有的歸納等能力,有效地幫助了人們更好地控制機器人。使其具備自我學習和聯(lián)想能力,通過蟻群算法優(yōu)化的模糊神經(jīng)網(wǎng)絡(luò)理論能夠更好地控制特種機器人,有效地應對工作中隨機出現(xiàn)的變化問題。
關(guān)鍵詞:
特種機器人;蟻群算法;人工智能控制;模糊神經(jīng)網(wǎng)絡(luò)
1創(chuàng)建機器人的數(shù)學模型
任何機械物體的運動都需要理論與實踐的支持,而特種機器人的研究也是如此,對特種機器人進行操控就需要對它的各個運動構(gòu)件的方位、位置、速度等建立一個合理有序的關(guān)系。而機器人的空間坐標、運動等可以通過數(shù)學模型來呈現(xiàn)。
1.1特種機器人的空間坐標
首先,描述特種機器人的空間坐標,可以用X,Y,Z軸方向的向量表示。其次,對于機器人的運動和操作,方位的準確明了非常關(guān)鍵。而特種機器人的方位也可用坐標系來表示。設(shè)一直角坐標系{B}與此剛體固接,坐標系{B}的三個主軸方向的單位矢量XB、YB、ZB相對于坐標系{A}的方向余弦組成的3×3矩陣稱為ABR旋轉(zhuǎn)矩陣:ABR=[AxBAyBAzB]=r11r12r13r21r22r23r31r32r33333333333333333333(1)式中,R的上標A和下標B表示R是{B}相對于{A}的關(guān)系;r為矢量矩陣的單位向量。而剛體{A}的位姿可通過上述所說的坐標系{B}在坐標系{A}中的各個方位和位置來闡述,進而{B}的原點根據(jù)其在坐標系{B}、{A}中的方位,分別表示了剛體在其中的位置和方向,式(2)表示{B}的位置矢量,用ABR和APBORG來描述坐標系{B},其中APBORG是確定坐標系{B}的位置矢量,建立公式(2):{B}={ABR,APBORG}(2)
1.2機器人運動方程
連桿坐標系、動力學方程、運動學方程都是操控機器人運動所需要的。特種機器人中的機械臂系統(tǒng)是一種涉及各桿、各關(guān)節(jié)、機械臂末端相對于絕對坐標的位姿、運動等的多剛體系統(tǒng)。其中,連桿坐標系的建立則為更好地操控機器人,使其高效長久地運動、工作做出了巨大的貢獻,圖1則為連桿坐標圖。雖然建立了連桿坐標系,但是其中的桿與桿的關(guān)系則要建立一個齊次變換陣來連接。通過這個矩陣,機器人末端連桿在笛卡爾坐標系里的位置和位姿便可得出。
1.3機器人動力學方程
機械臂系統(tǒng)的運動學模型建立以后,還需建立動力學模型來控制。而動力學解決的問題是2種相對問題:若已知關(guān)節(jié)的施加力或力矩,求其速度、位移、加速度等;反之,則求力或矩陣。牛頓的歐拉方程等都是為了更好地操控特種機器人而建立的動力學。
2模糊神經(jīng)網(wǎng)絡(luò)理論研究
機器人系統(tǒng)功能多且復雜,對于各種生產(chǎn)運作過程中出現(xiàn)的一些問題很難控制。對此,模糊控制和神經(jīng)網(wǎng)絡(luò)相結(jié)合而成的模糊神經(jīng)網(wǎng)絡(luò)具備了解決一些問題的特別優(yōu)勢。模糊控制系統(tǒng)主要通過語言的描述控制機器人的運動,而語言描述能夠充分地將專家的經(jīng)驗、知識轉(zhuǎn)化為控制規(guī)則,模糊控制器由以下幾個高功能的部分構(gòu)成。
2.1神經(jīng)網(wǎng)絡(luò)理論
用于控制特種機器人的神經(jīng)網(wǎng)絡(luò)是根據(jù)人類大腦的思維模式和構(gòu)造而設(shè)計,其中,神經(jīng)元是大腦組織、信息處理的基本單位,而人工制作的神經(jīng)網(wǎng)絡(luò)則會根據(jù)企業(yè)、國家、個人的不同需求進行設(shè)計和分類,前饋網(wǎng)絡(luò)和遞歸神經(jīng)網(wǎng)絡(luò)是其中的兩大類。前饋網(wǎng)絡(luò)不但層次感強,其常用的感知器、BP網(wǎng)絡(luò)也能非常有針對性地解決一些問題;遞歸神經(jīng)網(wǎng)絡(luò)包含積分、反饋等功能,反饋機制是其在信息傳輸中的一大特點。
2.2模糊神經(jīng)網(wǎng)絡(luò)控制系統(tǒng)系統(tǒng)的輸入及各種運作
實驗證明:模糊系統(tǒng)與神經(jīng)網(wǎng)絡(luò)之間具有很多相似點,可以相互轉(zhuǎn)化。模糊神經(jīng)網(wǎng)絡(luò)系統(tǒng)使其對數(shù)據(jù)的計算等更快并且更加正確,通過模糊控制也使其自身的容錯力增強。模糊神經(jīng)網(wǎng)絡(luò)(FNN)模型的設(shè)計經(jīng)過專家利用各種經(jīng)驗和知識的打造,能夠更好地通過BP網(wǎng)絡(luò)、建立樣本等方式控制特種機器人的運作。
3蟻群算法優(yōu)化訓練的模糊神經(jīng)網(wǎng)絡(luò)
特種機器人控制螞蟻算法是模仿生物界中蟻群通過交流、協(xié)作、共同搜尋獲取實物活動的仿生優(yōu)化算法。在螞蟻工作的過程中,他們通過一種“信息素”交流。
3.1蟻群算法的本質(zhì)
螞蟻算法是通過分析、實踐、探索螞蟻群體活動得出的,是一種隨機算法。螞蟻算法分適應階段和調(diào)解階段,在這2個階段中他們不斷地優(yōu)化自身的機構(gòu)、積累需要的信息、尋求最佳解。螞蟻算法中的人工螞蟻不但有自組織性,還有協(xié)作、競爭的關(guān)系,在這過個程中,需要不斷地協(xié)作、改進、更新。
3.2蟻群算法優(yōu)化模糊神經(jīng)網(wǎng)絡(luò)
螞蟻算法具有全局優(yōu)化的特點,可以有效地訓練FNN,避免了BP的缺陷。它在模糊控制系統(tǒng)和神經(jīng)網(wǎng)絡(luò)系統(tǒng)結(jié)合后,不但提高了整體優(yōu)勢,也增加了一些功能和特點。這些優(yōu)化的改變,使某些工作的計算更加便捷。同時BP的缺陷及一些神經(jīng)網(wǎng)絡(luò)系統(tǒng)無法解決的問題,它也能很好地解決。而螞蟻算法通過螞蟻群體機智有效的協(xié)作,總結(jié)并融合了一些思想,通過這些思想,特種機器人能夠自我選擇方便、快捷、有效的工作路徑[1]。螞蟻算法為進一步控制特種機器人提供了更加合理有效的措施,也優(yōu)化了各種運作系統(tǒng)。
3.3蟻群算法優(yōu)化的結(jié)果
通過各種實驗結(jié)果表明,螞蟻算法優(yōu)化的模糊神經(jīng)網(wǎng)絡(luò)系統(tǒng)更加穩(wěn)定,也更加高效快速。通過實驗比較發(fā)現(xiàn):在普通的模糊神經(jīng)網(wǎng)絡(luò)中,把基本臂和期望主臂的軌跡長度比較后發(fā)現(xiàn),被螞蟻算法優(yōu)化的模糊神經(jīng)網(wǎng)絡(luò)控制系統(tǒng)運行的軌跡更短效果更好更明顯。
4結(jié)語
隨著人類文明的發(fā)展,機械的運用與不斷的創(chuàng)新隨處可見,這個時代對特種機器人的需求也在不斷增加。而國內(nèi)外對特種機器人的研發(fā)也在不斷地創(chuàng)新和投入,對此,涌現(xiàn)了大批的類型、功能不一的特種智能機器人。被螞蟻算法優(yōu)化過的系統(tǒng)很好地解決了一些問題,能夠全面地優(yōu)化各個方面,這種算法,為人類更好地發(fā)展特種機器人研究機器人做出了巨大的貢獻。
參考文獻:
為了解決語音信號中幀與幀之間的重疊,提高語音信號的自適應能力,本文提出基于隱馬爾可夫(HMM)與遺傳算法神經(jīng)網(wǎng)絡(luò)改進的語音識別系統(tǒng).該改進方法主要利用小波神經(jīng)網(wǎng)絡(luò)對Mel頻率倒譜系數(shù)(MFCC)進行訓練,然后利用HMM對語音信號進行時序建模,計算出語音對HMM的輸出概率的評分,結(jié)果作為遺傳神經(jīng)網(wǎng)絡(luò)的輸入,即得語音的分類識別信息.實驗結(jié)果表明,改進的語音識別系統(tǒng)比單純的HMM有更好的噪聲魯棒性,提高了語音識別系統(tǒng)的性能.
關(guān)鍵詞:
隱馬爾可夫模型;神經(jīng)網(wǎng)絡(luò);語音識別;遺傳算法
隨著語音識別技術(shù)的發(fā)展,人們對語音識別的技術(shù)要求越來越高,隱形馬可夫模型(HiddenMarkovModel,簡稱HMM),在語音識別中已經(jīng)廣泛得到應用.但是,其自適應能力差,抗噪性也不是十分理想,僅靠單一的HMM進行語音識別存在諸多困難[1,2].而現(xiàn)在廣泛應用的人工神經(jīng)網(wǎng)絡(luò)(ArtificalNeuralNet-work,簡稱ANN)[3,4],在自適應、抗噪性方面具有良好的特性,克服了HMM中存在的不足.反向傳播神經(jīng)網(wǎng)絡(luò)(BP)雖然已經(jīng)是神經(jīng)網(wǎng)絡(luò)中前向神經(jīng)網(wǎng)絡(luò)的核心部分,并且得到了廣泛的應用[5].然而,BP神經(jīng)網(wǎng)絡(luò)也存在諸多缺點,比如學習收斂速度太慢,使其只能解決小規(guī)模的問題,也不能保證收斂到全局最小點,使得訓練結(jié)果達不到全局最優(yōu)性.遺傳算法優(yōu)化后的反向傳播神經(jīng)網(wǎng)絡(luò)(GA-BP)[6-9]的混合模型語音識別方法,有效地保證訓練結(jié)果的全局最優(yōu)性,在語音識別的速度方面也有大幅度的提高,但在噪聲環(huán)境下,遺傳算法優(yōu)化后的反響傳播神經(jīng)網(wǎng)絡(luò)噪聲魯棒性并不是十分理想,因此也對語音識別系統(tǒng)的性能帶來了影響[10].本文運用小波神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)簡單、收斂速度快的優(yōu)點,對MFCC系數(shù)進行訓練,從而得到新的MFCC系數(shù),再進行特征提取后作為遺傳算法優(yōu)化后的輸入.然后利用優(yōu)化后的遺傳神經(jīng)網(wǎng)絡(luò)獲得語音的分類識別信息進行語音識別.實驗結(jié)果表明,基于HMM與遺傳神經(jīng)網(wǎng)絡(luò)改進的語音識別系統(tǒng)進一步提高了語音識別系統(tǒng)的自適應性和噪聲魯棒性.
1隱馬爾可夫模型語音識別原理
隱馬爾可夫模型是一種利用相關(guān)參數(shù)來表示,并用于描述隨機過程中統(tǒng)計特性的概率模型[11].它的本質(zhì)是一種基于統(tǒng)計分布一致性的聚類分析,每個隱含的狀態(tài)就是一個聚類,對HMM進行訓練的過程就是尋找每個聚類之間的相關(guān)聯(lián)的過程.它由兩部分組成:一個是隱含的馬爾可夫鏈,即為隱含層;另一個是實際的觀測量,即為觀測層.HMM基于參數(shù)統(tǒng)計理論,利用概率密度函數(shù)計算出語音參數(shù)對模型的輸出概率,找到最佳狀態(tài)序列以后,用最大后驗概率為準則進行識別.語音參數(shù)和隱馬爾可夫模型關(guān)系如下圖圖1所示.
2基于遺傳算法的神經(jīng)網(wǎng)絡(luò)優(yōu)化算法
BP神經(jīng)網(wǎng)絡(luò)是人工神經(jīng)網(wǎng)絡(luò)中應用最為廣泛的算法,但在廣泛運用的同時,也逐漸出現(xiàn)一些不足之處,比如收斂速度慢、不能保證收斂到全局最小點等等.另外,網(wǎng)絡(luò)結(jié)構(gòu),初始連接權(quán)值與閾值的選取對網(wǎng)絡(luò)訓練帶來的影響也非常大,但是又無法準確獲得.針對這些特點可以采用遺傳算法對神經(jīng)網(wǎng)絡(luò)進行優(yōu)化.
2.1傳統(tǒng)遺傳算法傳統(tǒng)遺傳算法實現(xiàn)步驟如下:1)隨機產(chǎn)生一定數(shù)量的初始個體,這些隨機產(chǎn)生的初始個體總體數(shù)目組成一個種群.2)用評價函數(shù)來評價每個個體的優(yōu)劣,每個個體的適應程度(稱為適應度)作為遺傳操作的依據(jù).3)從現(xiàn)有的種群中選取一定的個體作為新一代的個體,個體適應程度越高,被選擇的機會越大.4)對于新生成的種群進行交叉、交異操作.
2.2用遺傳算法優(yōu)化神經(jīng)網(wǎng)絡(luò)權(quán)值的學習過程遺傳算法(GeneticAlgorithm,GA)是模擬著名天文學家達爾文的遺傳選擇和生物進化的計算模型,具有很強的宏觀搜索能力和良好的全局優(yōu)化性能[12,13].因此采取遺傳算法與BP神經(jīng)網(wǎng)路相結(jié)合,訓練時先用遺傳算法對神經(jīng)網(wǎng)絡(luò)的權(quán)值進行尋找,將搜索范圍縮小后,再利用BP網(wǎng)絡(luò)來進行精確求解,可以達到全局尋找和快速高效的目的,并且避免局部最小問題.算法結(jié)束后,由群體中最優(yōu)個體解碼即可得到優(yōu)化后的網(wǎng)絡(luò)連接權(quán)值系數(shù).
3基于HMM與遺傳神經(jīng)網(wǎng)絡(luò)改進的語音識別系統(tǒng)設(shè)計
現(xiàn)有的語音識別系統(tǒng)只能處理平穩(wěn)信號,而人說話的語言頻率不一樣使得語音信號是一個準穩(wěn)態(tài)信號,這時就要把語音劃分成若干幀以達到信號穩(wěn)定的要求.但這存在的不足之處就是并沒有考慮到語音信號的動態(tài)特性,根據(jù)神經(jīng)網(wǎng)絡(luò)在非線性映射方面有比較好的效果,同時神經(jīng)網(wǎng)絡(luò)也具有小波多分辨分析的性能,從而可以從樣本中提取出來新的特征信息.本文采用基于HMM與遺傳神經(jīng)網(wǎng)絡(luò)改進的語音識別系統(tǒng),對輸入語音信號進行預處理后,利用小波神經(jīng)網(wǎng)絡(luò)訓練MFCC系數(shù),然后根據(jù)HMM參數(shù)庫進行Viterbi譯碼,歸一化處理以后作為優(yōu)化后遺傳神經(jīng)網(wǎng)絡(luò)的輸入,即將HMM中全部狀態(tài)累計概率作為優(yōu)化后的遺傳神經(jīng)網(wǎng)絡(luò)特征輸入,再根據(jù)神經(jīng)網(wǎng)絡(luò)的非線性映射能力對語音信號識別出所需要的結(jié)果.改進后的語音識別系統(tǒng)流程圖如圖3所示.
4仿真實驗及結(jié)果分析
實驗語音文件從十個人中采集,一個文件有中文數(shù)字1-9組成.每個人錄了四次,其中三個用于培訓和一個用于測試.記錄格式的采樣頻率8kHz,單通道16位采樣點,采取的幀長為256點.記錄后,點檢測去除無聲段,其次是預加重.然后,語音段劃分為20個幀,從每一幀中提取的特征參數(shù).一個幀有10個特征.因此,每一個數(shù)字都會有200特點.實驗訓練集采取100個不同人員的凈語音樣本;在不同的信噪比下取50個不同人員的語音信息;在不同的環(huán)境下,采用的語音數(shù)據(jù)的信噪比分別為40、35、30、25、20、15、5和0dB.實驗時,為了驗證改進的語音識別系統(tǒng)的有效性,在Matlab7.0上分別對HMM,HMM與優(yōu)化后的遺傳神經(jīng)網(wǎng)絡(luò)和本文改進后的混合語音識別模型算法做對比.實驗分為兩次實驗過程,第一次在加性高斯噪聲下;第二次在學校餐廳學生就餐時人聲為噪聲背景.實驗分別得出語音在加性高斯噪聲下識別率如表1和圖4;在學校餐廳時實驗結(jié)果如表2和圖5所示.由表1和表2中的實驗數(shù)據(jù)可以看出,改進以后的混合算法相比單一的HMM和優(yōu)化的遺傳神經(jīng)網(wǎng)絡(luò)相比具有更好的識別效果,尤其對那些容易混淆的詞語識別率也有所提高.對于識別系統(tǒng)的信噪魯棒性方面也有了明顯的改變,提高了語音識別系統(tǒng)的自適應能力.神經(jīng)網(wǎng)絡(luò)的收斂速度是衡量語音識別的一個重要標準,因此遺傳神經(jīng)優(yōu)化算法與BP算法收斂速度作了如圖6、圖7的比較,實驗結(jié)果表明,優(yōu)化算法收斂速度得到明顯改善.
5結(jié)論
本文提出了基于隱馬爾可夫HMM與遺傳算法的神經(jīng)網(wǎng)絡(luò)改進的語音識別系統(tǒng),在隱馬爾可夫模型與遺傳網(wǎng)絡(luò)算法優(yōu)化的基礎(chǔ)上,引入小波神經(jīng)網(wǎng)絡(luò)訓練MFCC系數(shù),充分利用了隱馬爾可夫模型強大的時間建模能力與遺傳算法優(yōu)化后的收斂速度快、分類識別能力強的優(yōu)點.小波神經(jīng)網(wǎng)絡(luò)訓練出的MFCC新系數(shù)應用到優(yōu)化后的神經(jīng)網(wǎng)絡(luò)具有更高的識別率,提高了識別系統(tǒng)的自適應能力.
參考文獻
1呂軍,曹效英,徐寶國.基于語音識別的漢語發(fā)音自動評分系統(tǒng)的設(shè)計與實現(xiàn).計算機工程與設(shè)計,2007,28(5):1232–1235.
2郭超,張雪英,劉曉峰.支持向量機在低信噪比語音識別中的應用.計算機工程與應用,2013,49(5):213–215.
3SemanN,BakarZA,BakarNA.TheoptimizationofArtificialNeuralNetworksconnectionweightsusinggeneticalgorithmsforisolatedspokenMalayparliamentaryspeeches.2010InternationalConferenceonComputerandInformationApplication(ICCIA).IEEE.2010.162–166.
4LanML,PanST,LaiCC.Usinggeneticalgorithmtoimprovetheperformanceofspeechrecognitionbasedonartificialneuralnetwork.FirstInternationalConferenceonInnovativeComputing,InformationandControl(ICICIC’06).IEEE.2006,2.527–530.
5王曉東,薛宏智,馬盈倉.基于自適應遺傳算法的神經(jīng)網(wǎng)絡(luò)字符識別.西安工程大學學報,2008,22(2):210–213.
6鐘林,劉潤生.新神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)及其在數(shù)碼語音識別中的應用.清華大學學報(自然科學版),2000,40(3):104–108.
7包亞萍,鄭駿,武曉光.基于HMM和遺傳神經(jīng)網(wǎng)絡(luò)的語音識別系統(tǒng).計算機工程與科學,2011,33(4):139–144.
8馮宏偉,薛蕾.基于HMM和新型前饋型神經(jīng)網(wǎng)絡(luò)的語音識別研究.計算機工程與設(shè)計,2010,(24):5324–5327.
9肖勇,覃愛娜.改進的HMM和小波神經(jīng)網(wǎng)絡(luò)的抗噪語音識別.計算機工程與應用,2010,(22):162–164.
10PanST,WuCH,LaiCC.Theapplicationofimprovedgeneticalgorithmonthetrainingofneuralnetworkforspeechrecognition.SecondInternationalConferenceonInnovativeComputing,InformationandControl(ICICIC’07).IEEE,2007.168–168.
11AggarwalRK,DaveM.ApplicationofgeneticallyoptimizedneuralnetworksforHindispeechrecognitionsystem.2011WorldCongressonInformationandCommunicationTechnologies(WICT).IEEE.2011.512–517.
12AnM,YuZ,GuoJ,etal.TheteachingexperimentofspeechrecognitionbasedonHMM.The26thChineseControlandDecisionConference(2014CCDC).IEEE.2014.2416–2420.