前言:一篇好文章的誕生,需要你不斷地搜集資料、整理思路,本站小編為你收集了豐富的人工神經(jīng)網(wǎng)絡(luò)的缺點(diǎn)主題范文,僅供參考,歡迎閱讀并收藏。
關(guān)鍵詞:人工神經(jīng)網(wǎng)絡(luò) 礦山 安全狀態(tài) 評(píng)判能力
中圖分類號(hào):TD77;TP181 文獻(xiàn)標(biāo)識(shí)碼:A 文章編號(hào):1007-9416(2015)04-0206-01
通過(guò)改變神經(jīng)網(wǎng)絡(luò)訓(xùn)練樣本等方式,對(duì)神經(jīng)網(wǎng)絡(luò)不同訓(xùn)練樣本的反應(yīng)能力進(jìn)行對(duì)比分析,從而探討人工神經(jīng)網(wǎng)絡(luò)對(duì)礦山安全程度評(píng)價(jià)的適應(yīng)性。為了有效的提高人工神經(jīng)網(wǎng)絡(luò)對(duì)礦山安全程度評(píng)價(jià)的能力,可以通過(guò)改變神經(jīng)網(wǎng)絡(luò)的神經(jīng)元數(shù)目以及初值賦值的方式來(lái)測(cè)試不同的結(jié)構(gòu),從而得出不同參數(shù)下神經(jīng)網(wǎng)絡(luò)對(duì)相同訓(xùn)練樣本的評(píng)價(jià)結(jié)論,以便提高其評(píng)價(jià)能力,在礦山安全狀態(tài)評(píng)判中充分發(fā)揮出人工神經(jīng)網(wǎng)絡(luò)的作用。
1 人工神經(jīng)網(wǎng)絡(luò)中的網(wǎng)絡(luò)結(jié)構(gòu)設(shè)計(jì)與原始數(shù)據(jù)的準(zhǔn)備
本文中主要采取如1所示的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu),根據(jù)測(cè)試目的的差異性,其測(cè)試過(guò)程中神經(jīng)網(wǎng)絡(luò)的部分性能也就不同,但是對(duì)整個(gè)網(wǎng)絡(luò)結(jié)構(gòu)的性能不會(huì)改變。
這種神經(jīng)網(wǎng)絡(luò)的主體結(jié)構(gòu)是單輸入、三層式BP的網(wǎng)絡(luò)結(jié)構(gòu),輸出連接、目標(biāo)連接、輸入權(quán)重連接、偏置連接以及層權(quán)連接等是其主要的連接方式。各層神經(jīng)元的分類包括:第一隱含層有8個(gè)正切S型神經(jīng)元,第二隱含層有8個(gè)對(duì)數(shù)S型的神經(jīng)元,輸入層有4個(gè)元素,輸出層有一個(gè)線性神經(jīng)元。其網(wǎng)絡(luò)函數(shù)主要包括訓(xùn)練函數(shù)、初始化函數(shù)、性能函數(shù)以及各網(wǎng)絡(luò)層的層初始化函數(shù)。其訓(xùn)練函數(shù)需要采取TRAINLM回轉(zhuǎn)方法來(lái)運(yùn)算;初始化函數(shù)需要采取逐層初始化的方法運(yùn)算;性能函數(shù)需要采取均方誤差法來(lái)計(jì)算;各網(wǎng)絡(luò)層的層初始化函數(shù)需要采取優(yōu)化規(guī)則的方式計(jì)算,有的時(shí)候還需要采取INITWB的方式進(jìn)行運(yùn)算。各個(gè)權(quán)閾值的初始化需要采用RANDS方法來(lái)計(jì)算。在人工神經(jīng)網(wǎng)絡(luò)訓(xùn)練的原始樣本數(shù)據(jù)以及期望值中,這些數(shù)據(jù)主要是用來(lái)評(píng)價(jià)地質(zhì)因素對(duì)礦山安全影響程度的原始數(shù)據(jù)。當(dāng)訓(xùn)練完成之后,需要對(duì)其各種數(shù)據(jù)進(jìn)行仿真測(cè)試,以便評(píng)斷這種人工神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)在礦山安全狀態(tài)中的應(yīng)用價(jià)值與能力,并對(duì)其不足之處以及缺陷問(wèn)題等進(jìn)行分析,以便尋找出更加優(yōu)化的方案,從而提高人工神經(jīng)網(wǎng)絡(luò)在礦山安全狀態(tài)中的評(píng)判作用與能力。
2 人工神經(jīng)網(wǎng)絡(luò)對(duì)礦山安全狀態(tài)評(píng)判能力的訓(xùn)練以及仿真測(cè)試
對(duì)礦山安全評(píng)價(jià)的方法較多,但是能夠較好的應(yīng)用于礦山安全評(píng)價(jià)的方法卻很少,例如事故樹分析法、概率風(fēng)險(xiǎn)評(píng)價(jià)法以及事件樹分析法等,這些方法均由于基本事件的發(fā)生概率的確定方面存在一定的困難,從而導(dǎo)致運(yùn)用于礦山過(guò)程中的安全評(píng)價(jià)效率不高。另外,在礦山安全狀態(tài)評(píng)價(jià)的過(guò)程中,其安全檢查表、專家評(píng)價(jià)方法等存在一定的缺點(diǎn)與不足,其在評(píng)價(jià)的過(guò)程中,主觀性較強(qiáng),受到個(gè)人意識(shí)的影響較大。綜合指標(biāo)評(píng)價(jià)法由于其指標(biāo)間的邏輯關(guān)系,指標(biāo)的權(quán)值與指標(biāo)的量化等問(wèn)題,從而導(dǎo)致該方法難以在礦山安全狀態(tài)中進(jìn)行準(zhǔn)確的評(píng)價(jià)。只有能夠更好的適應(yīng)這種復(fù)雜的動(dòng)態(tài)系統(tǒng)的安全評(píng)價(jià)方法,才能夠?qū)⑵涓玫膽?yīng)用在礦山安全狀態(tài)評(píng)價(jià)中[1]。
其中人工神經(jīng)網(wǎng)絡(luò)在處理無(wú)法使用簡(jiǎn)單規(guī)則或公式進(jìn)行描述的大量的原始數(shù)據(jù)的問(wèn)題時(shí),以及在處理規(guī)律不清楚的問(wèn)題時(shí),其具有較大的優(yōu)勢(shì)。也正是由于這種方法能夠?qū)?fù)雜的非線性動(dòng)力學(xué)系統(tǒng)的適應(yīng),才能夠使其在礦山安全狀態(tài)評(píng)價(jià)中得到引進(jìn)與推廣。將人工神經(jīng)網(wǎng)絡(luò)對(duì)礦山安全狀態(tài)評(píng)價(jià)能力的訓(xùn)練進(jìn)行仿真實(shí)驗(yàn),在每次實(shí)驗(yàn)檢測(cè)之前,都需要對(duì)同一神經(jīng)網(wǎng)絡(luò)進(jìn)行重新初始化,之后需要運(yùn)用相同的訓(xùn)練樣本數(shù)據(jù)對(duì)神經(jīng)網(wǎng)絡(luò)進(jìn)行訓(xùn)練,以便達(dá)到訓(xùn)練要求后對(duì)網(wǎng)絡(luò)進(jìn)行仿真測(cè)試,訓(xùn)練性能函數(shù)的誤差需要保持在10以內(nèi)。其神經(jīng)網(wǎng)絡(luò)的訓(xùn)練過(guò)程是網(wǎng)絡(luò)在初始權(quán)閾值的基礎(chǔ)上,對(duì)其權(quán)閾值進(jìn)行不斷的修改,以便尋找出它們之間的某種聯(lián)系,使得輸入的整個(gè)訓(xùn)練樣本集數(shù)據(jù)經(jīng)過(guò)網(wǎng)絡(luò)的運(yùn)算之后,其輸出與相應(yīng)的目標(biāo)數(shù)據(jù)差別能夠滿足性能函數(shù)的要求。因此,在人工網(wǎng)絡(luò)對(duì)礦山安全狀態(tài)進(jìn)行評(píng)判的時(shí)候,即使所有數(shù)據(jù)與性能均符合要求,但是由于在訓(xùn)練的時(shí)候就被賦予了不同的權(quán)閾值,訓(xùn)練之后得到的權(quán)閾值的最終組合也會(huì)存在較大的差異。通過(guò)神經(jīng)網(wǎng)絡(luò)對(duì)礦山進(jìn)行安全評(píng)判的目的在于運(yùn)用神經(jīng)網(wǎng)絡(luò)總結(jié)分析數(shù)據(jù),對(duì)礦井各個(gè)致災(zāi)的貢獻(xiàn)率進(jìn)行分析,進(jìn)而對(duì)礦山的安裝狀態(tài)進(jìn)行評(píng)判。從神經(jīng)網(wǎng)絡(luò)的角度來(lái)分析,通過(guò)運(yùn)用網(wǎng)絡(luò)的運(yùn)算功能對(duì)訓(xùn)練樣本的數(shù)據(jù)進(jìn)行統(tǒng)計(jì)分析,并從中找出滿足目標(biāo)值以及性能要求的權(quán)閾值組合形式,從而通過(guò)仿真方式來(lái)評(píng)價(jià)礦山的安全狀態(tài)。
3 結(jié)語(yǔ)
通過(guò)對(duì)人工神經(jīng)網(wǎng)絡(luò)在礦山安全狀態(tài)的評(píng)判能力進(jìn)行訓(xùn)練以及仿真測(cè)試后,發(fā)現(xiàn)人工神經(jīng)網(wǎng)絡(luò)與人類評(píng)判方法存在一定的差異性,在今后的發(fā)展過(guò)程中,還需要對(duì)人工神經(jīng)網(wǎng)絡(luò)在礦山安全狀態(tài)中的評(píng)判能力進(jìn)行不斷的優(yōu)化與改進(jìn),以便更好的適應(yīng)礦山安全狀態(tài)的評(píng)判,在礦山安全狀態(tài)的評(píng)判中充分發(fā)揮出人工神經(jīng)網(wǎng)絡(luò)的作用,從而更好的確保礦山生產(chǎn)與經(jīng)營(yíng)的安全性。
Abstract: The technology of affecting the output accuracy of artificial neural network model has affected widespread ettention,and influence researches of sample quality to neural network output accuracy are very few,and the majority of these researcher about neural network structure. This paper analyses the influence of the sample to the output of artificial neural network,having important significance to improve accuracy of neural network output.
關(guān)鍵詞: 人工神經(jīng)網(wǎng)絡(luò);局部影響;BP神經(jīng)網(wǎng)絡(luò);算法
Key words: artificial neural networks;local influence;BP neural network;algorithm
中圖分類號(hào):TP393.092 文獻(xiàn)標(biāo)識(shí)碼:A文章編號(hào):1006-4311(2010)07-0144-02
0引言
神經(jīng)網(wǎng)絡(luò)應(yīng)用到預(yù)測(cè)有許多問(wèn)題需要解決, 其中最為突出的問(wèn)題就是沒(méi)有一個(gè)確定的最合適的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)的標(biāo)準(zhǔn)方法,由于影響神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)能力的參數(shù)很多,本文針對(duì)最為常用的BP神經(jīng)網(wǎng)絡(luò),對(duì)影響神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)精度的樣本質(zhì)量進(jìn)行了詳細(xì)分析和研究, 并在此基礎(chǔ)上,給出優(yōu)化樣本后的具體例子。
1樣本質(zhì)量對(duì)網(wǎng)絡(luò)的影響
用于神經(jīng)網(wǎng)絡(luò)的樣本分為訓(xùn)練樣本和測(cè)試樣本,訓(xùn)練樣本的質(zhì)量在一定程度上決定著預(yù)測(cè)精度。首先,訓(xùn)練樣本和待預(yù)測(cè)樣本的均值存在較大差異, 預(yù)測(cè)誤差會(huì)隨著長(zhǎng)時(shí)間的訓(xùn)練而增大。其次,訓(xùn)練誤差會(huì)隨著訓(xùn)練樣本和待預(yù)測(cè)樣本均值間差異的增大而增大。再次,訓(xùn)練誤差會(huì)隨著訓(xùn)練樣本和待預(yù)測(cè)樣本方差間差異的增大而增大[1]。下面是文獻(xiàn)[1]對(duì)樣本質(zhì)量分析的方法。
文獻(xiàn)[1]的人工神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)誤差為e=em+et+er,其中,e為預(yù)測(cè)誤差;em為模型誤差,它由所建回歸模型與實(shí)際系統(tǒng)的差異引起的;et為最終的訓(xùn)練誤差;er為人工神經(jīng)網(wǎng)絡(luò)訓(xùn)練和預(yù)測(cè)過(guò)程中引入的隨機(jī)誤差。et和er的存在是不可避免的,而em為:em=ef+ed,式中ef為實(shí)際輸出值與預(yù)測(cè)輸出值之間的誤差,它反映了樣本質(zhì)量;為由不正確的嵌入維數(shù)引起的誤差, 它可通過(guò)選擇合適的輸入神經(jīng)元數(shù)來(lái)消除。
為了評(píng)價(jià)訓(xùn)練樣本質(zhì)量,根據(jù)ef提出“一致度”的指標(biāo)。文獻(xiàn)[1]定義了偽距離DCTP-D,但計(jì)算偽距離是相當(dāng)復(fù)雜的,難于實(shí)現(xiàn)對(duì)樣本質(zhì)量的分析和應(yīng)用。下面用協(xié)方差比統(tǒng)計(jì)量分析訓(xùn)練樣本對(duì)預(yù)測(cè)精度的影響。
設(shè)訓(xùn)練樣本為θ,是神經(jīng)網(wǎng)絡(luò)的輸出,i是從θ中剔除第i個(gè)數(shù)據(jù)點(diǎn)的神經(jīng)網(wǎng)絡(luò)輸出。則剔除第i個(gè)數(shù)據(jù)點(diǎn)的協(xié)方差比統(tǒng)計(jì)量CR=cv()cv()表明了剔除第個(gè)數(shù)據(jù)點(diǎn)對(duì)神經(jīng)網(wǎng)絡(luò)輸出精度的影響,從精度方面刻畫了第i個(gè)數(shù)據(jù)點(diǎn)的重要程度。CRi-1的值越大,對(duì)預(yù)測(cè)精度(神經(jīng)網(wǎng)絡(luò)輸出)的影響越大。在使用PB神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)時(shí)先對(duì)訓(xùn)練樣本進(jìn)行篩選,剔除對(duì)網(wǎng)絡(luò)輸出結(jié)果影響小的樣本點(diǎn)。
樣本精簡(jiǎn):矩陣初等行變換能保持矩陣列向量之間的線性關(guān)系,利用這個(gè)結(jié)論我們可以用來(lái)進(jìn)行樣本數(shù)據(jù)的精簡(jiǎn),這樣精簡(jiǎn)后的樣本數(shù)據(jù)能夠保持各屬性字段之間的線性關(guān)系。神經(jīng)網(wǎng)絡(luò)的訓(xùn)練實(shí)際上是一個(gè)通過(guò)給定樣本實(shí)時(shí)調(diào)整網(wǎng)絡(luò)連接權(quán)重的過(guò)程,樣本預(yù)處理的結(jié)果對(duì)于網(wǎng)絡(luò)訓(xùn)練的收斂性起到關(guān)鍵的作用。
2實(shí)例分析
本文采用麻省理工大學(xué)林肯實(shí)驗(yàn)室的測(cè)試數(shù)據(jù)KDDCUP99,它是專門用來(lái)進(jìn)行入侵檢測(cè)評(píng)估的。我們采用數(shù)據(jù)集上的一個(gè)子集10%作為實(shí)驗(yàn)數(shù)據(jù)源,它一共包含有494021條網(wǎng)絡(luò)連接,其中正常連接97277 條,異常連接396744條。
下面我們針對(duì)DOS攻擊類型數(shù)據(jù)(DOS攻擊類型編碼為“0 0 0 1”)進(jìn)行分析。
設(shè)A為樣本數(shù)據(jù)矩陣,其中每一行向量表示一條樣本數(shù)據(jù),則該行向量含34個(gè)數(shù)據(jù),假設(shè)有a條樣本,則A為a行34列矩陣;由于每條樣本數(shù)據(jù)輸入網(wǎng)絡(luò)后都會(huì)有一條對(duì)應(yīng)的輸出,加上本實(shí)例為DOS攻擊類型以編碼“0 0 0 1”表示,則期望輸出矩陣B為a行4列矩陣(暫時(shí)先不考慮閾值,只考慮權(quán)重問(wèn)題)。本文BP神經(jīng)網(wǎng)絡(luò)的輸入節(jié)點(diǎn)數(shù)為34個(gè),隱含層節(jié)點(diǎn)數(shù)為15個(gè),輸出層節(jié)點(diǎn)數(shù)為4個(gè)雖然神經(jīng)網(wǎng)絡(luò)的連接權(quán)重可以用一個(gè)實(shí)數(shù)串進(jìn)行表示,但在進(jìn)行網(wǎng)絡(luò)的訓(xùn)練時(shí),還需要將實(shí)數(shù)串分為兩部分,設(shè)輸入層到隱含層的連接權(quán)重矩陣為W1,則W1為34行15列矩陣;同理,隱含層到輸出層的連接權(quán)重矩陣W2為15行4列矩陣。于是我們可以得到公式(1)。
AWW=B(1)
如式(2)所示,A和B是系數(shù)矩陣 ,C是增廣矩陣。經(jīng)過(guò)帶約束初等行變換后如式(3)所示。
C=[AB](2)
C=[AB]A′B′C D(3)
式(3)中,C、D為零矩陣,經(jīng)過(guò)處理以后,由原先的A對(duì)應(yīng)輸出B變成了現(xiàn)在的A′對(duì)應(yīng)輸出B′,通過(guò)這樣的處理,我們就可以將大樣本變?yōu)樾颖?從而使計(jì)算更加快速,樣本數(shù)據(jù)更加精簡(jiǎn)。 為了能使樣本應(yīng)用于本文提出的分類檢測(cè)器同步檢測(cè)模型,我們將樣本數(shù)據(jù)先進(jìn)行歸類合并,分別構(gòu)造出DOS、PROBE、U2R、R2L四大類攻擊樣本數(shù)據(jù)集,這樣四個(gè)檢測(cè)器分別檢測(cè)四大類攻擊。為了降低可疑攻擊數(shù),即四大攻擊類型數(shù)據(jù)集之間的重疊記錄數(shù)要少。精度過(guò)大會(huì)增加計(jì)算量,從而會(huì)降低學(xué)習(xí)速度;精度過(guò)小,會(huì)使記錄重疊數(shù)增加,從而造成可疑攻擊數(shù)增加,影響訓(xùn)練結(jié)果。
對(duì)訓(xùn)練樣本用上述方法進(jìn)行優(yōu)化后,利用矩陣初等行變換能保持矩陣列向量之間的線性關(guān)系這個(gè)結(jié)論,我們可以進(jìn)一步對(duì)樣本數(shù)據(jù)的精簡(jiǎn),這樣精簡(jiǎn)后的樣本數(shù)據(jù)能夠保持各屬性字段之間的線性關(guān)系。神經(jīng)網(wǎng)絡(luò)的訓(xùn)練實(shí)際上是一個(gè)通過(guò)給定樣本實(shí)時(shí)調(diào)整網(wǎng)絡(luò)連接權(quán)重的過(guò)程,樣本預(yù)處理的結(jié)果對(duì)于網(wǎng)絡(luò)訓(xùn)練的收斂性起到關(guān)鍵的作用。
3結(jié)論
(1)分析神經(jīng)網(wǎng)絡(luò)進(jìn)行非線性預(yù)測(cè)多變量預(yù)測(cè)的優(yōu)越性以及神經(jīng)網(wǎng)絡(luò)用于預(yù)測(cè)的缺點(diǎn)所在。
(2)提出了影響網(wǎng)絡(luò)預(yù)測(cè)能力的五個(gè)重要參數(shù):樣本質(zhì)量、樣本歸一化、輸人層節(jié)點(diǎn)數(shù)、隱層節(jié)點(diǎn)數(shù)及網(wǎng)絡(luò)訓(xùn)練允許誤差目標(biāo)值。
(3)在一定允許訓(xùn)練誤差的情況下,研究了無(wú)個(gè)參數(shù)對(duì)網(wǎng)絡(luò)預(yù)測(cè)精度的影響,發(fā)現(xiàn)存在一個(gè)最優(yōu)的樣本、輸入層節(jié)點(diǎn)數(shù)和隱層節(jié)點(diǎn)數(shù),這樣的網(wǎng)絡(luò)具有較強(qiáng)的預(yù)測(cè)能力。
(4)本文用遺傳算法構(gòu)造了同時(shí)優(yōu)化影響神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)精度的參數(shù)(輸入層節(jié)點(diǎn)數(shù)、隱層節(jié)點(diǎn)數(shù)及樣本允許訓(xùn)練誤差)的算法, 得到了較優(yōu)的網(wǎng)絡(luò)預(yù)測(cè)模型最后, 用算例驗(yàn)證了本文分析結(jié)果的正確性。
參考文獻(xiàn):
[1]陳果.神經(jīng)網(wǎng)絡(luò)模型的預(yù)測(cè)精度影響因素分析[J].北京: 模式識(shí)別與人工智能,2005,18(5):528-533.
[2]蔣林,陳濤,屈梁生.訓(xùn)練樣本質(zhì)量對(duì)人工神經(jīng)網(wǎng)絡(luò)性能的影響[J].北京:中國(guó)機(jī)械工程,1979,8(2):50-53.
[3]李敏強(qiáng),徐博藝,寇紀(jì)淞.遺傳算法與神經(jīng)網(wǎng)絡(luò)的結(jié)合[J].北京:系統(tǒng)工程理論與實(shí)踐,1999(2).
[4]吳懷宇,宋玉階.非線性回歸分析中的神經(jīng)網(wǎng)絡(luò)方法[J].武漢:武漢冶金科技大學(xué)學(xué)報(bào),1998,21(1):90-93.
關(guān)鍵詞 礦井提升機(jī);模糊理論;神經(jīng)網(wǎng)絡(luò);小波變化;智能診斷
中圖分類號(hào):TD534 文獻(xiàn)標(biāo)識(shí)碼:A 文章編號(hào):1671—7597(2013)051-041-01
礦井提升機(jī)是集械、電、液于一體的大型設(shè)備。礦井提升機(jī)在煤礦生產(chǎn)過(guò)程中主要擔(dān)負(fù)著提升人員、生產(chǎn)設(shè)備、煤炭和矸石等任務(wù)。礦井提升機(jī)一旦發(fā)生故障,輕則導(dǎo)致礦山停產(chǎn)停工,嚴(yán)重時(shí)則有可能造成人員傷亡事件。為了確保礦井提升機(jī)能夠安全運(yùn)行避免礦山事故的發(fā)生,國(guó)內(nèi)外相關(guān)科技工作者也進(jìn)行了大量的探討和研究,其中礦井提升機(jī)的故障診斷技術(shù)是一個(gè)重要方面。礦井提升機(jī)故障診斷技術(shù)的成功應(yīng)用對(duì)煤礦的安全生產(chǎn)起到了積極的作用,為煤礦企業(yè)也會(huì)產(chǎn)生巨大的經(jīng)濟(jì)效益。
1 礦井提升機(jī)故障分類
礦井提升機(jī)的故障可分為機(jī)械故障與電氣故障兩類。機(jī)械故障是指礦井提升機(jī)設(shè)備上的某些參數(shù)超過(guò)了正常運(yùn)行時(shí)的額限,是一種提升機(jī)設(shè)備的外在表現(xiàn)形式,主要解決方法是給提升機(jī)設(shè)備增加一些保護(hù)裝置,防止機(jī)械故障發(fā)生。電氣故障需要測(cè)量和檢測(cè)提升機(jī)設(shè)備上的工況參數(shù)和數(shù)據(jù)信息,并將這些工礦參數(shù)和數(shù)據(jù)信息進(jìn)行數(shù)據(jù)處理和綜合分析才能診斷出提升機(jī)設(shè)備的故障位置、故障問(wèn)題和原因。由于礦井提升機(jī)的電氣故障往往與很多的設(shè)備變量和參數(shù)有關(guān)聯(lián),從而降低了提升機(jī)故障診斷的準(zhǔn)確率。如果電氣故障不能有效而快速的得到解決,也會(huì)導(dǎo)致提升機(jī)設(shè)備機(jī)械故障的發(fā)生。
2 礦井提升機(jī)故障診斷存在的問(wèn)題
目前關(guān)于提升機(jī)故障診斷研究還相對(duì)較少,現(xiàn)有的提升機(jī)故障診斷系統(tǒng)也存在一些不足和缺陷。比如,當(dāng)提升機(jī)控制系統(tǒng)中的傳感器或執(zhí)行器發(fā)生故障問(wèn)題, 將會(huì)嚴(yán)重影響提升機(jī)系統(tǒng)的安全可靠運(yùn)行;對(duì)礦井提升機(jī)系統(tǒng)中的工礦參數(shù)和數(shù)據(jù)信息處理準(zhǔn)確度不高,提升機(jī)設(shè)備智能化程度相對(duì)較低,也是目前礦井提升機(jī)故障診斷中存在的問(wèn)題;對(duì)于以開發(fā)的礦井提升機(jī)智能故障診斷系統(tǒng)還存在自適應(yīng)能力弱,實(shí)時(shí)性不強(qiáng)等缺點(diǎn)。
3 礦井提升機(jī)智能故障診斷技術(shù)及發(fā)展趨勢(shì)
提高礦井提升機(jī)的安全可靠性,通常有2種方法。一種是設(shè)計(jì)高可靠的礦井提升機(jī)制動(dòng)系統(tǒng),二是對(duì)礦井提升機(jī)的制動(dòng)系統(tǒng)進(jìn)行故障診斷。目前對(duì)于礦井提升機(jī)的智能故障診斷的研究成果很多,下面主要介紹幾種常見的智能故障診斷技術(shù)以及提升機(jī)故障診斷技術(shù)未來(lái)的發(fā)展趨勢(shì)。
3.1 基于模糊理論的礦井提升機(jī)故障診斷方法
礦井提升機(jī)的模糊診斷法是將數(shù)學(xué)集合論的概念應(yīng)用到提升機(jī)設(shè)備的故障診斷中,進(jìn)行模糊推理,實(shí)現(xiàn)礦井提升機(jī)的故障診斷,從而解決提升機(jī)設(shè)備征兆與故障間的不確定關(guān)系。該診斷方法模糊推理邏輯嚴(yán)謹(jǐn),但是由于較難確定礦井提升機(jī)故障的模糊關(guān)系,模糊診斷知識(shí)獲取困難等原因,因此礦井提升機(jī)的模糊診斷法還缺乏一定的準(zhǔn)確性。
3.2 基于神經(jīng)網(wǎng)絡(luò)的礦井提升機(jī)故障診斷方法
人工神經(jīng)網(wǎng)絡(luò)具有容錯(cuò)能力、自學(xué)習(xí)和自適應(yīng)能力以及并行處理信息能力強(qiáng)等特點(diǎn)。由于人工神經(jīng)網(wǎng)絡(luò)具有以上特點(diǎn),目前將人工神經(jīng)網(wǎng)絡(luò)應(yīng)用到礦井提升機(jī)故障診斷的研究也逐漸增多,主要研究有基于BP神經(jīng)網(wǎng)絡(luò)或基于Elman神經(jīng)網(wǎng)絡(luò)的礦井提升機(jī)故障診斷方法。該方法的主要思想是將礦井提升機(jī)的故障特征向量作為人工神經(jīng)網(wǎng)絡(luò)的輸入,將礦井提升機(jī)的故障分類模式向量作為人工神經(jīng)網(wǎng)絡(luò)的輸出。輸入特征信號(hào)的提取方法主要有:時(shí)域特征法、頻域特征法以及幅值域特征法;時(shí)間序列法;小波變換特征提取法等。
3.3 基于小波變換的礦井提升機(jī)故障診斷方法
小波變換是時(shí)間頻率的局部化分析,它通過(guò)平移伸縮運(yùn)算對(duì)信號(hào)進(jìn)行多尺度細(xì)化,從而達(dá)到在信號(hào)低頻處頻率細(xì)分,高頻處時(shí)間細(xì)分,進(jìn)而可以觀察到信號(hào)的任意特性細(xì)節(jié)。其最顯著的特點(diǎn)是能夠進(jìn)行信號(hào)的多分辨率分析,對(duì)于正常信號(hào)中夾帶的瞬態(tài)反?,F(xiàn)象,不僅能檢測(cè)出來(lái),還能夠展示該反常信號(hào)的成分,因此基于小波變換技術(shù)在礦井提升機(jī)的故障診斷中得到了廣泛應(yīng)用。利用小波變換對(duì)礦井提升機(jī)的動(dòng)態(tài)系統(tǒng)的故障檢測(cè)與診斷也具有很好的效果,為礦井提升機(jī)的智能故障診斷技術(shù)提供了一種強(qiáng)而有力的分析手段。
3.4 基于人工智能的礦井提升機(jī)故障診斷方法
基于免疫粒子群算法的礦井提升機(jī)故障診斷方法是將人工免疫模型和離散粒子群進(jìn)化算法相結(jié)合的一種礦井提升機(jī)故障診斷方法。該方法提高了礦井提升機(jī)故障診斷的執(zhí)行效率,并且能夠適應(yīng)提升機(jī)故障診斷過(guò)程中出現(xiàn)的不確定性,還可以實(shí)現(xiàn)多種提升機(jī)故障診斷。
基于遺傳神經(jīng)網(wǎng)絡(luò)算法的礦井提升機(jī)故障診斷方法是將遺傳算法和人工神經(jīng)網(wǎng)絡(luò)相結(jié)合的一種新的提升機(jī)故障診斷方法。該方法將遺傳算法的全局特性和神經(jīng)網(wǎng)絡(luò)的并行處理信息能力強(qiáng)等優(yōu)點(diǎn)相接合,能夠有效的克服人工神經(jīng)網(wǎng)絡(luò)收斂速度慢以及容易陷入局部極小等缺點(diǎn),從而更加準(zhǔn)確的建立礦井提升機(jī)故障診斷系統(tǒng),快速地判斷出礦井提升機(jī)的故障。
4 結(jié)束語(yǔ)
隨著現(xiàn)代科技的發(fā)展,越來(lái)越多的新型智能診斷理論開始應(yīng)用于礦井提升機(jī)的故障診斷,如小波分析、人工神經(jīng)網(wǎng)絡(luò)、免疫算法以及遺傳算法等。開展對(duì)礦井提升機(jī)的智能故障診斷的研究,將會(huì)極大地提高提升機(jī)運(yùn)行的安全可靠性,避免礦井事故的發(fā)生,減少不必要的損失, 為礦井提升機(jī)設(shè)備的經(jīng)濟(jì)、高效以及安全運(yùn)行提供強(qiáng)而有力的技術(shù)支持。
參考文獻(xiàn)
[1]張平.礦用機(jī)電設(shè)備常見故障及其解決策略[J].硅谷,2012(6):88.
[2]羅永仁,晏飛.故障智能診斷技術(shù)及其在礦井提升機(jī)上的應(yīng)用研究[J].2006(11):117-119.
[3]吳艦,吳楠.基于小波分析的煤礦機(jī)電設(shè)備故障檢測(cè)關(guān)鍵技術(shù)應(yīng)用研究[J].自動(dòng)化與儀器儀表,2011(5):85-86.
[4]汪楚嬌,夏士雄,牛強(qiáng).免疫粒子群算法及其在礦井提升機(jī)故障診斷中的應(yīng)用[J].電子學(xué)報(bào),2010:94-98.
作者簡(jiǎn)介
關(guān)鍵詞性能對(duì)比感知器BP網(wǎng)絡(luò)霍普菲爾德網(wǎng)絡(luò)字符識(shí)別
1引言
人工神經(jīng)網(wǎng)絡(luò)是在人類對(duì)其大腦神經(jīng)網(wǎng)絡(luò)認(rèn)識(shí)理解的基礎(chǔ)上人工構(gòu)造的能夠?qū)崿F(xiàn)某種功能的神經(jīng)網(wǎng)絡(luò)。 它是理論化的人腦神經(jīng)網(wǎng)絡(luò)的數(shù)學(xué)模型,是基于模仿大腦神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)和功能而建立的一種信息處理系統(tǒng)。因其自組織、自學(xué)習(xí)能力以及具有信息的分布式存儲(chǔ)和并行處理,信息存儲(chǔ)與處理的合一等特點(diǎn)得到了廣泛的關(guān)注,已經(jīng)發(fā)展了上百種人工神經(jīng)網(wǎng)絡(luò)。
一般來(lái)說(shuō),人工神經(jīng)網(wǎng)絡(luò)從結(jié)構(gòu)上可分為兩種:前向網(wǎng)絡(luò)和反饋網(wǎng)絡(luò)。典型的前向網(wǎng)絡(luò)有單層感知器、BP網(wǎng)絡(luò)等,反饋網(wǎng)絡(luò)有霍普菲爾德網(wǎng)絡(luò)等[1]。
人工神經(jīng)網(wǎng)絡(luò)已經(jīng)被廣泛應(yīng)用于模式識(shí)別、信號(hào)處理、專家系統(tǒng)、優(yōu)化組合、智能控制等各個(gè)方面,其中采用人工神經(jīng)網(wǎng)絡(luò)進(jìn)行模式識(shí)別具有一些傳統(tǒng)技術(shù)所沒(méi)有的優(yōu)點(diǎn):良好的容錯(cuò)能力[2j、分類能力、并行處理能力和自學(xué)習(xí)能力,并且其運(yùn)行速度快,自適應(yīng)性能好,具有較高的分辨率。單層感知器、BP網(wǎng)絡(luò)和霍普菲爾德網(wǎng)絡(luò)均可以用于字符識(shí)別。
本文通過(guò)具體采用感知器網(wǎng)絡(luò)、BP網(wǎng)絡(luò)和霍普菲爾德反饋網(wǎng)絡(luò)對(duì)26個(gè)英文字母進(jìn)行識(shí)別的應(yīng)用,通過(guò)實(shí)驗(yàn)給出各自的識(shí)別出錯(cuò)率,通過(guò)比較,可以看出這3種神經(jīng)網(wǎng)絡(luò)的識(shí)別能力以及各自的優(yōu)缺點(diǎn)。
2 字符識(shí)別問(wèn)題描述與網(wǎng)絡(luò)識(shí)別前的預(yù)處理
字符識(shí)別在現(xiàn)代日常生活的應(yīng)用越來(lái)越廣泛,比如車輛牌照自動(dòng)識(shí)別系統(tǒng)[3,4],手寫識(shí)別系統(tǒng)[5],辦公自動(dòng)化等等[6]。畢業(yè)論文 本文采用單層感知器、BP網(wǎng)絡(luò)和霍普菲爾德網(wǎng)絡(luò)對(duì)26個(gè)英文字母進(jìn)行識(shí)別。首先將待識(shí)別的26個(gè)字母中的每一個(gè)字母都通過(guò)長(zhǎng)和寬分別為7×5的方格進(jìn)行數(shù)字化處理,并用一個(gè)向量表示。其相應(yīng)有數(shù)據(jù)的位置置為1,其他位置置為O。圖1給出了字母A、B和C的數(shù)字化過(guò)程,其中最左邊的為字母A的數(shù)字化處理結(jié)果所得對(duì)應(yīng)的向量為:IetterA~「00100010100101010001111111000110001〕’,由此可得每個(gè)字母由35個(gè)元素組成一個(gè)向量。由26個(gè)標(biāo)準(zhǔn)字母組成的輸人向量被定義為一個(gè)輸人向量矩陣alphabet,即神經(jīng)網(wǎng)絡(luò)的樣本輸人為一個(gè)35×26的矩陣。其中alphabet=[letterA,letterB,lettere,……letterZj。網(wǎng)絡(luò)樣本輸出需要一個(gè)對(duì)26個(gè)輸人字母進(jìn)行區(qū)分輸出向量,對(duì)于任意一個(gè)輸人字母,網(wǎng)絡(luò)輸出在字母對(duì)應(yīng)的順序位置上的值為1,其余為O,即網(wǎng)絡(luò)輸出矩陣為對(duì)角線上為1的26×26的單位陣,定義target=eye(26)。
本文共有兩類這樣的數(shù)據(jù)作為輸人:一類是理想的標(biāo)準(zhǔn)輸人信號(hào);另一類是在標(biāo)準(zhǔn)輸人信號(hào)中加上用MATLAB工具箱里的噪聲信號(hào),即randn函數(shù)。
3 識(shí)別字符的網(wǎng)絡(luò)設(shè)計(jì)及其實(shí)驗(yàn)分析
3.1單層感知器的設(shè)計(jì)及其識(shí)別效果
選取網(wǎng)絡(luò)35個(gè)輸人節(jié)點(diǎn)和26個(gè)輸出節(jié)點(diǎn),設(shè)置目標(biāo)誤差為0.0001,最大訓(xùn)練次數(shù)為40。設(shè)計(jì)出的網(wǎng)絡(luò)使輸出矢量在正確的位置上輸出為1,在其他位置上輸出為O。醫(yī)學(xué)論文 首先用理想輸人信號(hào)訓(xùn)練網(wǎng)絡(luò),得到無(wú)噪聲訓(xùn)練結(jié)果,然后用兩組標(biāo)準(zhǔn)輸入矢量加上兩組帶有隨機(jī)噪聲的輸人矢量訓(xùn)練網(wǎng)絡(luò),這樣可以保證網(wǎng)絡(luò)同時(shí)具有對(duì)理想輸人和噪聲輸人分類的能力。網(wǎng)絡(luò)訓(xùn)練完后,為保證網(wǎng)絡(luò)能準(zhǔn)確無(wú)誤地識(shí)別出理想的字符,再用無(wú)噪聲的標(biāo)準(zhǔn)輸入訓(xùn)練網(wǎng)絡(luò),最終得到有能力識(shí)別帶有噪聲輸人的網(wǎng)絡(luò)。下一步是對(duì)所設(shè)計(jì)的網(wǎng)絡(luò)進(jìn)行性能測(cè)試:給網(wǎng)絡(luò)輸人任意字母,并在其上加人具有平均值從。~0.2的噪聲,隨機(jī)產(chǎn)生100個(gè)輸人矢量,分別對(duì)上述兩種網(wǎng)絡(luò)的字母識(shí)別出錯(cuò)率進(jìn)行實(shí)驗(yàn),結(jié)果如圖2所示。其中縱坐標(biāo)所表示的識(shí)別出錯(cuò)率是將實(shí)際輸出減去期望輸出所得的輸出矩陣中所有元素的絕對(duì)值和的一半再除以26得到的;虛線代表用無(wú)噪聲的標(biāo)準(zhǔn)輸人信號(hào)訓(xùn)練出網(wǎng)絡(luò)的出錯(cuò)率,實(shí)線代表用有噪聲訓(xùn)練出網(wǎng)絡(luò)的出錯(cuò)率。從圖中可以看出,無(wú)噪聲訓(xùn)練網(wǎng)絡(luò)對(duì)字符進(jìn)行識(shí)別時(shí),當(dāng)字符一出現(xiàn)噪聲時(shí),該網(wǎng)絡(luò)識(shí)別立刻出現(xiàn)錯(cuò)誤;當(dāng)噪聲均值超過(guò)0.02時(shí),識(shí)別出錯(cuò)率急劇上升,其最大出錯(cuò)率達(dá)到21.5%。由此可見,無(wú)噪聲訓(xùn)練網(wǎng)絡(luò)識(shí)別幾乎沒(méi)有抗干擾能力。而有噪聲訓(xùn)練出的網(wǎng)絡(luò)具有一定的抗干擾能力,它在均值為。~0.06之間的噪聲環(huán)境下,能夠準(zhǔn)確無(wú)誤地識(shí)別;其最大識(shí)別出錯(cuò)率約為6.6%,遠(yuǎn)遠(yuǎn)小于無(wú)噪聲訓(xùn)練出的網(wǎng)絡(luò)。
3.2BP網(wǎng)絡(luò)的設(shè)計(jì)及其識(shí)別效果
該網(wǎng)絡(luò)設(shè)計(jì)方法在文獻(xiàn)[lj中有詳細(xì)介紹。網(wǎng)絡(luò)具有35個(gè)輸人節(jié)點(diǎn)和26個(gè)輸出節(jié)點(diǎn)。目標(biāo)誤差為0.0001,采用輸人在(0,l)范圍內(nèi)對(duì)數(shù)S型激活函數(shù)兩層109519/109519網(wǎng)絡(luò),隱含層根據(jù)經(jīng)驗(yàn)選取10個(gè)神經(jīng)元。和單層感知器一樣,分別用理想輸人信號(hào)和帶有隨機(jī)噪聲的輸人訓(xùn)練網(wǎng)絡(luò),得到有噪聲訓(xùn)練網(wǎng)絡(luò)和無(wú)噪聲訓(xùn)練網(wǎng)絡(luò)。由于噪聲輸人矢量可能會(huì)導(dǎo)致網(wǎng)絡(luò)的1或o輸出不正確,或出現(xiàn)其他值,所以為了使網(wǎng)絡(luò)具有抗干擾能力,在網(wǎng)絡(luò)訓(xùn)練后,再將其輸出經(jīng)過(guò)一層競(jìng)爭(zhēng)網(wǎng)絡(luò)的處理,使網(wǎng)絡(luò)的輸出只在本列中的最大值的位t為1,保證在其他位置輸出為O,其中網(wǎng)絡(luò)的訓(xùn)練采用自適應(yīng)學(xué)習(xí)速率加附加動(dòng)量法,在MATLAB工具箱中直接調(diào)用traingdx。在與單層感知器相同的測(cè)試條件下對(duì)網(wǎng)絡(luò)進(jìn)行性能測(cè)試,結(jié)果如圖3所示。其中虛線代表用無(wú)噪聲訓(xùn)練網(wǎng)絡(luò)的出錯(cuò)率,實(shí)線代表用有噪聲訓(xùn)練網(wǎng)絡(luò)的出錯(cuò)率。從圖中可以看出,在均值為o一0.12之間的噪聲環(huán)境下,兩個(gè)網(wǎng)絡(luò)都能夠準(zhǔn)確地進(jìn)行識(shí)別。在0.12~0.15之間的噪聲環(huán)境下,由于噪聲幅度相對(duì)較小,待識(shí)別字符接近于理想字符,故無(wú)噪聲訓(xùn)練網(wǎng)絡(luò)的出錯(cuò)率較有噪聲訓(xùn)練網(wǎng)絡(luò)略低。當(dāng)所加的噪聲均值超過(guò)。.15時(shí),待識(shí)別字符在噪聲作用下不再接近于理想字符,無(wú)噪聲訓(xùn)練網(wǎng)絡(luò)的出錯(cuò)率急劇上升,此時(shí)有噪聲訓(xùn)練網(wǎng)絡(luò)的性能較優(yōu).
轉(zhuǎn)貼于 3.3離散型,霍普菲爾德網(wǎng)絡(luò)的設(shè)計(jì)及其識(shí)別效果
此時(shí)網(wǎng)絡(luò)輸人節(jié)點(diǎn)數(shù)目與輸出神經(jīng)元的數(shù)目是相等的,有r=s=35,采用正交化的權(quán)值設(shè)計(jì)方法。在MATLAB工具箱中可直接調(diào)用函數(shù)newh叩.m。要注意的是,由于調(diào)用函數(shù)newhoP.m,需要將輸人信號(hào)中所有的。英語(yǔ)論文 變換為一1。如letterA~[一1一11~1-1一11一11一l一11一11一11一1一1一11111111一l一l一111一1一1一11〕’。設(shè)計(jì)離散型霍普菲爾德網(wǎng)絡(luò)進(jìn)行字符識(shí)別,只需要讓網(wǎng)絡(luò)記憶所要求的穩(wěn)定平衡點(diǎn),即待識(shí)別的26個(gè)英文字母。故只需要用理想輸人信號(hào)來(lái)訓(xùn)練網(wǎng)絡(luò)。對(duì)于訓(xùn)練后的網(wǎng)絡(luò),我們進(jìn)行性能測(cè)試。給網(wǎng)絡(luò)輸入任意字母,并在其上加人具有平均值從。~0.5的噪聲,隨機(jī)產(chǎn)生100個(gè)輸人矢量,觀察字母識(shí)別出錯(cuò)率,結(jié)果如圖4所示。從圖中可以看出,在均值為0~0.33之間的噪聲環(huán)境下,網(wǎng)絡(luò)能夠準(zhǔn)確地進(jìn)行識(shí)別。在0.33~0.4之間的噪聲環(huán)境下,識(shí)別出錯(cuò)率不到1%,在0.4以上的噪聲環(huán)境下,網(wǎng)絡(luò)識(shí)別出錯(cuò)率急劇上升,最高達(dá)到大約10%。可以看出,該網(wǎng)絡(luò)穩(wěn)定點(diǎn)的吸引域大約在0.3~。.4之間。當(dāng)噪聲均值在吸引域內(nèi)時(shí),網(wǎng)絡(luò)進(jìn)行字符識(shí)別時(shí)幾乎不出錯(cuò),而當(dāng)噪聲均值超過(guò)吸引域時(shí),網(wǎng)絡(luò)出錯(cuò)率急劇上升。
4結(jié)論
本文設(shè)計(jì)了3種人工神經(jīng)網(wǎng)絡(luò)對(duì)26個(gè)英文字母進(jìn)行了識(shí)別。可以看出,這3種人工神經(jīng)網(wǎng)絡(luò)均能有效地進(jìn)行字符識(shí)別,并且識(shí)別速度快,自適應(yīng)性能好,分辨率較高。由圖2和圖3可以看出,單層感知器的有噪聲訓(xùn)練網(wǎng)絡(luò)在均值為O~0.06之間的噪聲環(huán)境下可以準(zhǔn)確無(wú)誤的識(shí)別,而有噪聲訓(xùn)練的BP網(wǎng)絡(luò)可以在o~0.12之間的噪聲環(huán)境下準(zhǔn)確無(wú)誤的識(shí)別,故BP絡(luò)網(wǎng)絡(luò)容錯(cuò)性比單層感知器的容錯(cuò)性好;此外,噪聲達(dá)到0.2時(shí),單層感知器的有噪聲訓(xùn)練網(wǎng)絡(luò)的識(shí)別出錯(cuò)率為6.6%,而有噪聲訓(xùn)練的BP網(wǎng)絡(luò)的識(shí)別出錯(cuò)率為2.1%,故BP網(wǎng)絡(luò)比單層感知器識(shí)別能力強(qiáng)。另外,由圖2、圖3和圖4可以看出,這3種網(wǎng)絡(luò)中霍普菲爾德網(wǎng)絡(luò)識(shí)別率最高,它在噪聲為0.33以前幾乎不會(huì)出錯(cuò),BP網(wǎng)絡(luò)次之,感知器最差。
通過(guò)設(shè)計(jì)、應(yīng)用與性能對(duì)比,我們可得單層感知器網(wǎng)絡(luò)結(jié)構(gòu)和算法都很簡(jiǎn)單,訓(xùn)練時(shí)間短,但識(shí)別出錯(cuò)率較高,容錯(cuò)性也較差。BP網(wǎng)絡(luò)結(jié)構(gòu)和算法比單層感知器結(jié)構(gòu)稍復(fù)雜,但其識(shí)別率和容錯(cuò)性都較好?;羝辗茽柕戮W(wǎng)絡(luò)具有設(shè)計(jì)簡(jiǎn)單且容錯(cuò)性最好的雙重優(yōu)點(diǎn)。因此,我們應(yīng)根據(jù)網(wǎng)絡(luò)的特點(diǎn)以及實(shí)際要求來(lái)選擇人工神經(jīng)網(wǎng)絡(luò)對(duì)字符進(jìn)行識(shí)別。 參考文獻(xiàn)
[1]叢爽.面向MATLAB工具箱的神經(jīng)網(wǎng)絡(luò)理論與應(yīng)用「M.合肥:中國(guó)科學(xué)技術(shù)大學(xué)出版社,2003.
[2]武強(qiáng),童學(xué)鋒,季雋.基于人工神經(jīng)網(wǎng)絡(luò)的數(shù)字字符識(shí)別[J].計(jì)算機(jī)工程,2003,29(14):112一113.
[3]廖翔云,許錦標(biāo),龔仕偉.車牌識(shí)別技術(shù)研究[J].徽機(jī)發(fā)展,2003,13:30一35.
[4]李中凱,王效岳,魏修亭.BP網(wǎng)絡(luò)在汽車牌照字符識(shí)別中的應(yīng)用[J].東理工大學(xué)學(xué)報(bào),2004,18(4):69一72.
關(guān)鍵詞:電力系統(tǒng)超短期負(fù)荷預(yù)測(cè)人工神經(jīng)網(wǎng)絡(luò)外推法
中圖分類號(hào):F407文獻(xiàn)標(biāo)識(shí)碼: A
1 負(fù)荷預(yù)測(cè)概述[1]
負(fù)荷的大小與特性對(duì)于電力系統(tǒng)設(shè)計(jì)和運(yùn)行都是極為重要的因素。對(duì)負(fù)荷的變化與特性有一個(gè)事先的估計(jì)是電力系統(tǒng)運(yùn)行、控制和規(guī)劃不可缺少的一部分。
指導(dǎo)調(diào)度員控制聯(lián)絡(luò)線交換功率在規(guī)定范圍,一般需5~15min 的負(fù)荷數(shù)據(jù)。預(yù)防性控制和緊急狀態(tài)處理需要10min至1h的預(yù)測(cè)值[2] 。這也是本文的主要研究方向。
2 電力系統(tǒng)負(fù)荷預(yù)測(cè)方法簡(jiǎn)介
長(zhǎng)期以來(lái),國(guó)內(nèi)外學(xué)者對(duì)負(fù)荷預(yù)測(cè)的理論和方法做了大量的研究,提出了各種各樣的預(yù)測(cè)方法,這些方法大致可分為兩大類:一類是以時(shí)間序列法為代表的傳統(tǒng)方法,另一類是以人工神經(jīng)網(wǎng)絡(luò)為代表的新型人工智能方法。傳統(tǒng)方法中主要有時(shí)間序列法、多元線性回歸法及傅立葉展開法等。人工智能方法中主要有專家系統(tǒng)法、模糊邏輯法、人工神經(jīng)網(wǎng)絡(luò)法及小波分析法等。由于電力負(fù)荷的變化有其不確定性,如氣候變化、意外事故的發(fā)生等對(duì)電力負(fù)荷造成隨機(jī)干擾,因此,每種方法均有一定的適應(yīng)場(chǎng)合,并需要不斷的完善。
2.1 回歸分析法
回歸分析法又稱統(tǒng)計(jì)分析法,回歸模型有一元線性回歸、多元線性回歸、非線性回歸等回歸預(yù)測(cè)模型;其中,線性回歸用于中期負(fù)荷預(yù)測(cè)。優(yōu)點(diǎn)是:預(yù)測(cè)精度較高,適用于在中、短期預(yù)測(cè)使用。缺點(diǎn)是:1.規(guī)劃水平年的工農(nóng)業(yè)總產(chǎn)值很難詳細(xì)統(tǒng)計(jì);2.用回歸分析法只能測(cè)算出綜合用電負(fù)荷的發(fā)展水平,無(wú)法測(cè)算出各供電區(qū)的負(fù)荷發(fā)展水平,也就無(wú)法進(jìn)行具體的電網(wǎng)建設(shè)規(guī)劃。
2.2 彈性系數(shù)法
彈性系數(shù)是電量平均增長(zhǎng)率與國(guó)內(nèi)生產(chǎn)總值之間的比值,根據(jù)國(guó)內(nèi)生產(chǎn)總值的增長(zhǎng)速度結(jié)合彈性系數(shù)得到規(guī)劃期末的總用電量。彈性系數(shù)法是從宏觀上確定電力發(fā)展同國(guó)民經(jīng)濟(jì)發(fā)展的相對(duì)速度,它是衡量國(guó)民經(jīng)濟(jì)發(fā)展和用電需求的重要參數(shù)。電力彈性系數(shù)可以用下面的公式來(lái)表示:
(2-1-1)
式中:為電力彈性系數(shù);為為電力消費(fèi)年平均增長(zhǎng)率;為國(guó)民經(jīng)濟(jì)年平均增長(zhǎng)率
在市場(chǎng)經(jīng)濟(jì)條件下,電力彈性系數(shù)已經(jīng)變得捉摸不定,并且隨著科學(xué)技術(shù)的迅猛發(fā)展,節(jié)電技術(shù)和電力需求側(cè)管理,電力與經(jīng)濟(jì)的關(guān)系急劇變化,電力需求與經(jīng)濟(jì)發(fā)展的變化步伐嚴(yán)重失調(diào),使得彈性系數(shù)難以捉摸,使用彈性系數(shù)法預(yù)測(cè)電力需求難以得到滿意的效果。2.3 時(shí)間序列法
時(shí)間序列法是短期負(fù)荷預(yù)測(cè)的經(jīng)典方法,是根據(jù)負(fù)荷的歷史資料,設(shè)法建立一個(gè)數(shù)學(xué)模型,用這個(gè)數(shù)學(xué)模型一方面來(lái)描述電力負(fù)荷這個(gè)隨機(jī)變量變化過(guò)程的統(tǒng)計(jì)規(guī)律,另一方面在該數(shù)學(xué)模型的基礎(chǔ)上再確立負(fù)荷預(yù)測(cè)的數(shù)學(xué)表達(dá)式,對(duì)未來(lái)的負(fù)荷進(jìn)行預(yù)報(bào)。就一般地時(shí)間序列預(yù)測(cè)方法而言,人們總是先去識(shí)別與實(shí)際預(yù)測(cè)目標(biāo)序列相符合的一個(gè)隨機(jī)模型,并估計(jì)出隨機(jī)模型中的未知參數(shù),再對(duì)隨機(jī)模型進(jìn)行考核,當(dāng)確認(rèn)該隨機(jī)模型具有適用價(jià)值后,再在此基礎(chǔ)上建立預(yù)測(cè)表達(dá)式進(jìn)行預(yù)報(bào)。它利用了電力負(fù)荷變動(dòng)的慣性特征和時(shí)間上的延續(xù)性,通過(guò)對(duì)歷史數(shù)據(jù)時(shí)間序列的分析處理,確定其基本特征和變化規(guī)律,預(yù)測(cè)未來(lái)負(fù)荷。
2.4 負(fù)荷求導(dǎo)法
每天的負(fù)荷大小(高低)有差別,但其負(fù)荷的變化率是有一定的規(guī)律。只要找出一個(gè)適當(dāng)函數(shù)來(lái)擬合每天的負(fù)荷曲線,對(duì)這個(gè)函數(shù)進(jìn)行一次求導(dǎo),即可得出一天的負(fù)荷變化率。雖然每天的負(fù)荷大小變化難以準(zhǔn)確預(yù)測(cè),但對(duì)負(fù)荷曲線求導(dǎo)后,得出的負(fù)荷變化率有一定的穩(wěn)定性。因此,利用負(fù)荷的變化率來(lái)進(jìn)行超短期負(fù)荷預(yù)測(cè)將會(huì)使精確度提高。負(fù)荷求導(dǎo)法預(yù)測(cè)的公式是:
(2-1-2)
式中對(duì)第i+1點(diǎn)的負(fù)荷預(yù)測(cè)值;
第i點(diǎn)的實(shí)際負(fù)荷值;
第i點(diǎn)的預(yù)測(cè)負(fù)荷變化率值。
2.5 專家系統(tǒng)法
專家系統(tǒng)預(yù)測(cè)法是對(duì)數(shù)據(jù)庫(kù)里存放的過(guò)去幾年甚至幾十年的,每小時(shí)的負(fù)荷和天氣數(shù)據(jù)進(jìn)行分析,從而匯集有經(jīng)驗(yàn)的負(fù)荷預(yù)測(cè)人員的知識(shí),提取有關(guān)規(guī)則,按照一定的規(guī)則進(jìn)行負(fù)荷預(yù)測(cè)。實(shí)踐證明,精確的負(fù)荷預(yù)測(cè)不僅需要高新技術(shù)的支撐,同時(shí)也需要融合人類自身的經(jīng)驗(yàn)和智慧。因此,就會(huì)需要專家系統(tǒng)這樣的技術(shù)。專家系統(tǒng)法,是對(duì)人類的不可量化的經(jīng)驗(yàn)進(jìn)行轉(zhuǎn)化的一種較好的方法。但專家系統(tǒng)分析本身就是一個(gè)耗時(shí)的過(guò)程,并且某些復(fù)雜的因素(如天氣因素),即使知道其對(duì)負(fù)荷的影響,但要準(zhǔn)確定量地確定他們對(duì)負(fù)荷地區(qū)的影響也是很難的。專家系統(tǒng)預(yù)測(cè)法適用于中、長(zhǎng)期負(fù)荷預(yù)測(cè)。此法的優(yōu)點(diǎn)是:1.能匯集多個(gè)專家的知識(shí)和經(jīng)驗(yàn),最大限度地利用專家的能力;2.占有的資料、信息多,考慮的因素也比較全面,有利于得出較為正確的結(jié)論。
2.6 外推法
根據(jù)負(fù)荷的變化趨勢(shì)對(duì)未來(lái)負(fù)荷情況作出預(yù)測(cè)。電力負(fù)荷雖然具有隨機(jī)性和不確定性,但在一定條件下,仍存在著明顯的變化趨勢(shì),例如農(nóng)業(yè)用電,在氣候條件變化較小的冬季,日用電量相對(duì)穩(wěn)定,表現(xiàn)為較平穩(wěn)的變化趨勢(shì)。
外推法有線性趨勢(shì)預(yù)測(cè)法、對(duì)數(shù)趨勢(shì)預(yù)測(cè)法、二次曲線趨勢(shì)預(yù)測(cè)法、指數(shù)曲線趨勢(shì)預(yù)測(cè)法。趨勢(shì)外推法的優(yōu)點(diǎn)是:只需要?dú)v史數(shù)據(jù)、所需的數(shù)據(jù)量較少。缺點(diǎn)是:如果負(fù)荷出現(xiàn)變動(dòng),會(huì)引起較大的誤差。
2.7 人工神經(jīng)網(wǎng)絡(luò)法
人工神經(jīng)網(wǎng)絡(luò)理論最早出現(xiàn)于20世紀(jì)40年代,經(jīng)過(guò)幾十年的發(fā)展,已廣泛的用于電力系統(tǒng)短期負(fù)荷預(yù)測(cè)。在現(xiàn)有的各種神經(jīng)網(wǎng)絡(luò)的計(jì)算方法中,由Ponelhert和Mcclelland提出的BP算法是應(yīng)用得最多的一種。BP算法的模型為前向多層網(wǎng)絡(luò),由輸入層、隱含層、輸出層組成,每層都包含若干節(jié)點(diǎn),同一層的節(jié)點(diǎn)間沒(méi)有相互的連接,而僅僅在前后不同層之間有節(jié)點(diǎn)的連接。BP算法的學(xué)習(xí)過(guò)程由正向傳播和反向傳播組成,正向傳播過(guò)程的輸入樣本從輸入層經(jīng)隱含層處理后傳向輸出層,每一層神經(jīng)元的狀態(tài)只影響下一層神經(jīng)元的狀態(tài)。如果在輸出層得不到期望值,則轉(zhuǎn)入反向傳播,將誤差信號(hào)沿原連接通路返回,通過(guò)修正各神經(jīng)元的權(quán)系數(shù),使誤差信號(hào)減小,達(dá)到給定的精度,從而完成了其學(xué)習(xí)過(guò)程。這樣,當(dāng)在網(wǎng)絡(luò)的輸入端加入一新的信號(hào)時(shí),就能從其輸出端得到相應(yīng)的結(jié)果。
3 預(yù)測(cè)算例
通過(guò)前述對(duì)各種預(yù)測(cè)方法的分析,采用神經(jīng)網(wǎng)絡(luò)法和外推法對(duì)山東某地區(qū)一個(gè)變電站的2005年8月8日負(fù)荷進(jìn)行預(yù)測(cè)。在實(shí)際應(yīng)用中,預(yù)測(cè)最小間隔為5min,預(yù)測(cè)長(zhǎng)度為1h。目前15min預(yù)測(cè)間隔為最常用。負(fù)荷采樣間隔為5分鐘,一天24個(gè)小時(shí)為288個(gè)數(shù)據(jù),預(yù)測(cè)為提前15分鐘的預(yù)測(cè),預(yù)測(cè)結(jié)果如下:
圖1 基于BP神經(jīng)網(wǎng)絡(luò)的負(fù)荷預(yù)測(cè)曲線
預(yù)測(cè)的平均相對(duì)誤差為2.3089%,本文在建立超短期負(fù)荷模型時(shí),未考慮天氣變化和突發(fā)事件對(duì)負(fù)荷的影響,這在一定程度上影響了預(yù)測(cè)的精度。當(dāng)天氣變化顯著或者有突發(fā)事件時(shí),這個(gè)預(yù)測(cè)模型的精度會(huì)變差。但總的來(lái)說(shuō),所得預(yù)測(cè)結(jié)果比較令人滿意。
圖2 外推法負(fù)荷預(yù)測(cè)曲線
預(yù)測(cè)的平均相對(duì)誤差為2.3059%,與神經(jīng)網(wǎng)絡(luò)法預(yù)測(cè)結(jié)果相差不大。
4 結(jié)論
本文對(duì)各種負(fù)荷預(yù)測(cè)方法進(jìn)行了分析,并且在短期及超短期負(fù)荷預(yù)測(cè)方面,針對(duì)于兩種目前比較常用的負(fù)荷預(yù)測(cè)方法――人工神經(jīng)網(wǎng)絡(luò)法和負(fù)荷外推法進(jìn)行了重點(diǎn)的仿真研究。得出:在超短期負(fù)荷預(yù)測(cè)方面兩種方法得出結(jié)果相差并不是很大。負(fù)荷外推法方法簡(jiǎn)單,要求的歷史數(shù)據(jù)較少,運(yùn)算速度較快,可滿足系統(tǒng)在線分析的實(shí)時(shí)要求,比較適合在工程中應(yīng)用。人工神經(jīng)網(wǎng)絡(luò)法算法比較復(fù)雜,而且存在訓(xùn)練時(shí)間較長(zhǎng)、收斂性等問(wèn)題。但是在短期負(fù)荷預(yù)測(cè)方面(例如提前24小時(shí)的預(yù)測(cè))神經(jīng)網(wǎng)絡(luò)法存在著比負(fù)荷外推法明顯的優(yōu)勢(shì)。因此,在工程應(yīng)用等方面線性外推法還是具有較強(qiáng)的實(shí)用性。
參考文獻(xiàn)
[1]劉晨暉.電力系統(tǒng)負(fù)荷預(yù)報(bào)理論與方法[M].中國(guó):哈爾濱工業(yè)大學(xué)出版社,1987年 .20-60.
[2]張峰 吳勁暉 張怡 胡若云.基于負(fù)荷趨勢(shì)的新型超短期負(fù)荷預(yù)測(cè)法[J]. 電網(wǎng)技術(shù),2005,vol.28 No.19
[3]吳熳紅 楊繼旺.幾種電力負(fù)荷預(yù)測(cè)方法及其比較[J].廣東電力,2001,vol.17 No.1
[4]陳霞 安伯義 陳廣林.電力負(fù)荷預(yù)測(cè)理論與方法[J].農(nóng)村電氣化,2004.7
[5]吳勁暉 王冬明 黃良寶 孫維真.一種超短期負(fù)荷預(yù)測(cè)的新方法-負(fù)荷求導(dǎo)法[J]. 浙江電力,2000,6
[6]張國(guó)忠 熊偉 向求新 黃曉明 劉亞. 應(yīng)用人工神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)電力負(fù)荷[J].電力自動(dòng)化設(shè)備,2002,22
[7]S.H.Ling Frank H.F.Leung H.K.Lam Peter K.S.Tam Short-Term Electric Load Forecasting Based on a Neural Fuzzy Networks[A]. IEEE Transactions on Industrial electronics vol.50 no.6
[8]閆承山 劉永奇.人工神經(jīng)網(wǎng)絡(luò)在華北電網(wǎng)負(fù)荷預(yù)測(cè)中的應(yīng)用[J].電網(wǎng)技術(shù),1998,22
[9] 馬文曉 白曉民 沐連順.基于人工神經(jīng)網(wǎng)絡(luò)和模糊推理的短期負(fù)荷預(yù)測(cè)方法[J].電網(wǎng)技術(shù),2003,27
[10]D.C.Park M.A.El-Sharkawi R.J.Marks II L.E.Atlas and M.J.Damborg. Electric Load Forecasting Using An Artificial Neural Network [A].IEEE Transcaction on Power Systems vol.6 no.2 May 1991
[11]Lee K.Y.,Cha Y.T. Park J.H.,Short-term load forecasting using an artificial neutral network[J]. Power Systems, IEEE Transactions on , Volume: 7 , Issue: 1 , Feb. 1992
[12]姜勇.電力系統(tǒng)短期負(fù)荷預(yù)測(cè)的模糊神經(jīng)網(wǎng)絡(luò)方法[J]. 繼電,2002,30(7)
[13]Shan Shao, Yaming Sun, Short-term load forecasting using fuzzy neural network. Advances in Power System Control, Operation and Management, 1997. Fourth International Conference on (Conf. Publ. No. 450) Vol. 1 Nov 1997
[14]楊洪明 白培林.基于遺傳算法的人工神經(jīng)網(wǎng)絡(luò)負(fù)荷預(yù)報(bào)模型[J].湖南電力,2000 20
作者簡(jiǎn)介
陳曉東 男 碩士 工程師電力系統(tǒng)穩(wěn)定 山東電機(jī)工程學(xué)會(huì)
關(guān)鍵詞:食品安全與衛(wèi)生管理 研究性學(xué)習(xí) 創(chuàng)新性實(shí)驗(yàn) 人工神經(jīng)網(wǎng)絡(luò)
在大學(xué)生研究性和創(chuàng)新性科研項(xiàng)目中,要改變由指導(dǎo)老師一步一步發(fā)指令由學(xué)生被動(dòng)完成任務(wù),還是科研小組同學(xué)主動(dòng)學(xué)習(xí)、主動(dòng)定方案(方向)、定任務(wù)后,再由指導(dǎo)老師和全組同學(xué)商討,小組同學(xué)分別完成相應(yīng)工作任務(wù),再學(xué)習(xí),再研討,再實(shí)驗(yàn)…,直到項(xiàng)目完成。這是研究性和創(chuàng)新性項(xiàng)目培養(yǎng)和提高同學(xué)自主管理能力和科技創(chuàng)新能力非常關(guān)鍵的環(huán)節(jié)。在這個(gè)環(huán)節(jié)上,老師不再是“司令員”,而是科研小組中的普通一員。下面以“水培蝦、南美白對(duì)蝦、斑節(jié)對(duì)蝦氨基酸紫外可見光譜人工神經(jīng)網(wǎng)絡(luò)定量測(cè)定及營(yíng)養(yǎng)學(xué)分析”大學(xué)生科技創(chuàng)新項(xiàng)目為例,說(shuō)明一些具體作法。
1.組織小組同學(xué)展開調(diào)研, 明確科研與生產(chǎn)實(shí)際相結(jié)合, 培養(yǎng)社會(huì)調(diào)查能力
“水培蝦、南美白對(duì)蝦、斑節(jié)對(duì)蝦氨基酸紫外可見光譜人工神經(jīng)網(wǎng)絡(luò)定量測(cè)定及營(yíng)養(yǎng)學(xué)分析”項(xiàng)目小組成員來(lái)自學(xué)校中三個(gè)專業(yè)不同年級(jí)的同學(xué),自愿組合而成。首先在老師的主持下由小組同學(xué)選出2名學(xué)習(xí)好、責(zé)任心強(qiáng)、實(shí)踐操作能力強(qiáng)的同學(xué)組成項(xiàng)目小組管理核心。然后小組負(fù)責(zé)同學(xué)則將同學(xué)分成二個(gè)調(diào)查組,分別到海產(chǎn)品養(yǎng)殖場(chǎng)和海產(chǎn)品銷售市場(chǎng)展開調(diào)研。二個(gè)小組調(diào)查完畢,通過(guò)匯總與討論,大家明確了目前舟山人工養(yǎng)殖蝦體主要有三大代表品種:水培蝦、斑節(jié)對(duì)蝦和南美白對(duì)蝦。這三種蝦適應(yīng)范圍廣,產(chǎn)量高,是目前我國(guó)東海養(yǎng)殖的主要特色品種。其營(yíng)養(yǎng)豐富,口感鮮美,市場(chǎng)需求量大,經(jīng)濟(jì)價(jià)值較高,具有良好的市場(chǎng)前景。因此,必須依靠通過(guò)對(duì)這三種蝦的優(yōu)良品種的選育、飼料配料的組合和篩選及其營(yíng)養(yǎng)價(jià)值的分析等工作進(jìn)一步提高其質(zhì)和量。而這些工作的開展必須進(jìn)行氨基酸的測(cè)定??梢?,蝦體肌肉中氨基酸含量的測(cè)定具有十分重要的意義。于是同學(xué)們經(jīng)充分討論后認(rèn)為:開展“蝦體氨基酸檢測(cè)”的創(chuàng)新性實(shí)驗(yàn),不但具有重要的實(shí)際意義,而且可行性強(qiáng)。不但可加深同學(xué)們的專業(yè)基礎(chǔ)知識(shí),還可拓展同學(xué)們知識(shí)視野,培養(yǎng)科技創(chuàng)新能力。
2.組織同學(xué)學(xué)習(xí)相關(guān)背景知識(shí), 提高自主學(xué)習(xí)能力, 加深對(duì)基礎(chǔ)課程知識(shí)的理解
項(xiàng)目小組管理核心下一步則是組織科研小組成員復(fù)習(xí)《生物化學(xué)》、《營(yíng)養(yǎng)學(xué)》、《食品分析與檢驗(yàn)》等基礎(chǔ)及專業(yè)課程,首先是進(jìn)一步加深同學(xué)對(duì)蝦體中氨基酸的認(rèn)識(shí)。氨基酸是人體必不可少的營(yíng)養(yǎng)成分之一,而有些氨基酸是不能在人體內(nèi)自行合成必需要從食物中獲取,如異亮氨酸、亮氨酸、甲硫氨酸(蛋氨酸)、賴氨酸、蘇氨酸、苯丙氨酸和纈氨酸,它們稱為必需氨基酸[1]。因此蝦體中氨基酸的檢測(cè)分析主要就是針對(duì)這些必需氨基酸。必需氨基酸的含量高,蝦的營(yíng)養(yǎng)價(jià)值就大,商業(yè)價(jià)值就高。而養(yǎng)殖對(duì)蝦蝦體中氨基酸含量的傳統(tǒng)檢測(cè)方法存在費(fèi)用高、樣品用量大、檢測(cè)方法費(fèi)時(shí)繁瑣等問(wèn)題,不適于養(yǎng)殖生產(chǎn)控制特別是蝦體氨基酸含量的快速分析。結(jié)合《現(xiàn)代儀器分析》課程中的知識(shí),同學(xué)們提出用最簡(jiǎn)單的紫外-可見光譜法結(jié)合人工神經(jīng)網(wǎng)絡(luò)用于三種對(duì)蝦主要氨基酸(必需氨基酸和鮮味氨基酸)的不經(jīng)分離定量測(cè)定。光譜數(shù)據(jù)在BP人工神經(jīng)網(wǎng)絡(luò)實(shí)現(xiàn)對(duì)蝦肌肉中氨基酸定量分析的基礎(chǔ)上[2], 進(jìn)一步試驗(yàn)采用較新的具有較強(qiáng)自適應(yīng)能力和較好預(yù)測(cè)效果的極限學(xué)習(xí)機(jī)(Extreme Learning Machine,ELM)神經(jīng)網(wǎng)絡(luò)模型完成定量分析和預(yù)測(cè),嘗試為對(duì)蝦蝦肉中氨基酸多組分分析提供一種不需貴重儀器的簡(jiǎn)易新方法。
3.組織同學(xué)自主檢索查閱文獻(xiàn),學(xué)習(xí)人工神經(jīng)網(wǎng)絡(luò)方法,拓展知識(shí)視野
方向任務(wù)明確以后,項(xiàng)目小組管理核心則組織小組同學(xué)自主檢索相關(guān)文獻(xiàn),自主學(xué)習(xí)相關(guān)知識(shí),開拓知識(shí)視野,重點(diǎn)組織小組同學(xué)學(xué)習(xí)人工神經(jīng)網(wǎng)絡(luò)方法。經(jīng)過(guò)項(xiàng)目小組全體成員的多次學(xué)習(xí)與探討,大家都清楚的知道了人工神經(jīng)網(wǎng)絡(luò)現(xiàn)在已經(jīng)是解決化學(xué)問(wèn)題的一種重要的化學(xué)計(jì)量學(xué)方法。是模擬人腦神經(jīng)元的工作原理來(lái)建立模型進(jìn)行分類與預(yù)測(cè)的一種化學(xué)計(jì)量學(xué)手段[3]。目前,人工湖神經(jīng)網(wǎng)絡(luò)應(yīng)用于氨基酸混合液測(cè)定中主要是誤差反向傳播 ( Back propagation,BP)人工神通網(wǎng)絡(luò)(BP是由輸入層, 輸出層以及若干隱含層節(jié)點(diǎn)間互連而成的一種多層網(wǎng)絡(luò))。但它存在一些無(wú)法克服的缺點(diǎn),如:訓(xùn)練速度慢;訓(xùn)練過(guò)程可能不穩(wěn)定;容易陷入局部極小點(diǎn),無(wú)法達(dá)到全局最??;而且可見-紫外光譜所含的波長(zhǎng)數(shù)據(jù)點(diǎn)多,具有多重共線性,會(huì)造成建模時(shí)間長(zhǎng)等問(wèn)題。經(jīng)過(guò)小組學(xué)習(xí)探討和老師的指導(dǎo),大家提出針對(duì)海產(chǎn)品對(duì)蝦氨基酸溶液光譜測(cè)定中波長(zhǎng)數(shù)據(jù)點(diǎn)多的問(wèn)題,我們可以試用極限學(xué)習(xí)機(jī)完成對(duì)蝦體肉中必需(主要)氨基酸含量測(cè)定并與BP神經(jīng)網(wǎng)絡(luò)等方法進(jìn)行分析對(duì)比。進(jìn)一步的學(xué)習(xí)與探討,小組同學(xué)明確了極限學(xué)習(xí)機(jī)(Extreme Learning Machine,ELM)神經(jīng)網(wǎng)絡(luò)是南洋理工大學(xué)G. B. Huang 等人在2006年提出的一種人工神經(jīng)網(wǎng)絡(luò)模型訓(xùn)練新算法,與傳統(tǒng)的誤差反向傳播 ( Back propagation,BP)人工神通網(wǎng)絡(luò)方法相比,極限學(xué)習(xí)機(jī)有泛化性能好、訓(xùn)練學(xué)習(xí)速度快等優(yōu)點(diǎn)[4]。
4.組織同學(xué)主動(dòng)聯(lián)系藥品試劑市場(chǎng), 鍛煉社會(huì)人際交往能力
在購(gòu)買所實(shí)驗(yàn)所需的試劑與材料方面,項(xiàng)目小組管理核心同學(xué)認(rèn)識(shí)到,本項(xiàng)目所需主要儀器為紫外可見分光光度計(jì)和氨基酸分析儀,但實(shí)驗(yàn)試劑則不同于以往的實(shí)驗(yàn)課,老師配好實(shí)驗(yàn)用試劑后供同學(xué)直接使用?,F(xiàn)在是需要通過(guò)小組同學(xué)自己去市場(chǎng)聯(lián)系,同學(xué)自己購(gòu)買,買來(lái)后還需同學(xué)自己配制,因此這是一個(gè)培養(yǎng)同學(xué)社會(huì)人際交往能力的好機(jī)會(huì)。項(xiàng)目小組管理核心則首先組織同學(xué)上網(wǎng)查找相關(guān)試劑的供應(yīng)商的信息,然后讓同學(xué)比較這幾家商家的報(bào)價(jià)及其產(chǎn)品的可靠性,從中挑選出合乎條件的2-3家商家,最后由項(xiàng)目小組管理核心負(fù)責(zé)聯(lián)系著2-3家商家,并與小組成員討論比較后進(jìn)行購(gòu)買。
5.組織與分配小組同學(xué)各自完成相應(yīng)的具體實(shí)驗(yàn)項(xiàng)目,培養(yǎng)實(shí)驗(yàn)實(shí)際操作能力
在儀器使用等方面老師則重點(diǎn)指導(dǎo)這幾個(gè)同學(xué),即他(她)們同時(shí)也就成為這個(gè)項(xiàng)目小組的“指導(dǎo)老師”。如由他(她)們負(fù)責(zé)實(shí)驗(yàn)試劑的配制或指導(dǎo)同學(xué)配制,負(fù)責(zé)指導(dǎo)同學(xué)進(jìn)行儀器操作,負(fù)責(zé)分配或指導(dǎo)同學(xué)完成相應(yīng)的具體實(shí)驗(yàn)項(xiàng)目,輔助或指導(dǎo)實(shí)驗(yàn)小組同學(xué)完成實(shí)驗(yàn)設(shè)備的具體配置等等。如以下取同齡期、同體長(zhǎng)、同體重的南美白對(duì)蝦、竹節(jié)蝦(日本對(duì)蝦)和水培蝦稱重,勻漿機(jī)勻漿10min,真空干燥箱在50℃下真空干燥,制成粉。分別稱取水培蝦粉、南美白對(duì)蝦粉,竹節(jié)蝦粉加鹽酸水解24h這些實(shí)驗(yàn)過(guò)程,均在項(xiàng)目小組管理核心同學(xué)的安排下有條不紊地完成。
在指導(dǎo)老師的輔導(dǎo)下,項(xiàng)目小組管理核心組織小組同學(xué)分別取三種蝦的水解液稀釋成9個(gè)濃度,用L-8800型氨基酸分析儀分別測(cè)定三種蝦體9個(gè)濃度水解液的氨基酸含量。用紫外-可見分光光度計(jì)分別對(duì)三種蝦體9個(gè)濃度的水解液進(jìn)行光譜掃描[5],獲取一系列光譜數(shù)據(jù)。再取未知氨基酸濃度的三種蝦體3個(gè)不同濃度的水解液同樣進(jìn)行光譜掃描獲取光譜數(shù)據(jù)。然后用已知氨基酸濃度的光譜數(shù)據(jù)訓(xùn)練神經(jīng)網(wǎng)絡(luò)并對(duì)未知濃度蝦水解液進(jìn)行氨基酸含量預(yù)測(cè)。結(jié)果見圖1和圖2。通過(guò)對(duì)測(cè)定結(jié)果的分析進(jìn)一步加深了小組同學(xué)對(duì)《現(xiàn)代儀器分析》課程中光譜掃描和吸收光譜曲線概念和幾種人工神經(jīng)網(wǎng)絡(luò)模型的理解和認(rèn)識(shí)。
6.老師和小組同學(xué)一起學(xué)習(xí)討論人工神經(jīng)網(wǎng)絡(luò)方法,分析測(cè)定結(jié)果,培養(yǎng)科學(xué)分析能力
在對(duì)測(cè)定結(jié)果的分析中,項(xiàng)目小組全體同學(xué)分成3個(gè)學(xué)習(xí)小組,每個(gè)小組對(duì)照參考資料,根據(jù)所得測(cè)定數(shù)據(jù)結(jié)果與數(shù)據(jù)可視化圖形(如圖1、圖2等),先進(jìn)行分析討論,有了初步的認(rèn)識(shí)后,指導(dǎo)老師和全體小組成員在一起再進(jìn)行充分的分析與探討。最后大家得出結(jié)論:紫外-可見光譜數(shù)據(jù)結(jié)合三種人工神經(jīng)網(wǎng)絡(luò)(①誤差反向傳輸神經(jīng)網(wǎng)絡(luò),BP。②徑向基函數(shù)神經(jīng)網(wǎng)絡(luò),RBF。③極限學(xué)習(xí)機(jī)神經(jīng)網(wǎng)絡(luò),EML)對(duì)氨基酸溶液中氨基酸濃度的測(cè)定,徑向基函數(shù)神經(jīng)網(wǎng)絡(luò)(RBF)的預(yù)測(cè)結(jié)果比誤差反向傳輸神經(jīng)網(wǎng)絡(luò)(BP)好,但極限學(xué)習(xí)機(jī)神經(jīng)網(wǎng)絡(luò)(EML)的預(yù)測(cè)效果要好于誤差反向傳輸神經(jīng)網(wǎng)絡(luò)(BP)和徑向基函數(shù)神經(jīng)網(wǎng)絡(luò)(RBF)。同時(shí)大家進(jìn)一步認(rèn)識(shí)到,氨基酸溶液(如蝦肉水解液)中氨基酸的定量分析, 一般都是用比較昂貴的分析儀器如高效液相色譜儀等儀器來(lái)完成,而且操作復(fù)雜、費(fèi)時(shí)、費(fèi)勁。所以,如果是使用普通的紫外-可見光譜儀結(jié)合計(jì)算機(jī)數(shù)值方法來(lái)完成蝦肉中的氨基酸測(cè)定,所用儀器簡(jiǎn)單普遍,且分析樣品不經(jīng)分離。推廣開去,不但可用于對(duì)蝦肌肉中氨基酸含量測(cè)定及品質(zhì)評(píng)判,也可用于其他水產(chǎn)品和肉類食品中氨基酸含量的分析,即在食品質(zhì)量分析方面有一定的意義[6]。
7.結(jié)論
從以上討論分析可見,紫外-可見光譜結(jié)合人工神經(jīng)網(wǎng)絡(luò)方法測(cè)定氨基酸溶液中氨基酸濃度具有一定的科學(xué)研究?jī)r(jià)值和經(jīng)濟(jì)價(jià)值。
再說(shuō)在本次研究性和創(chuàng)新性實(shí)驗(yàn)中,指導(dǎo)老師的指導(dǎo)工作著力于以下幾個(gè)方面,首先是:輔導(dǎo)學(xué)生建一個(gè)工作能力較強(qiáng)的項(xiàng)目小組管理核心。有了這個(gè)項(xiàng)目小組管理核心,所以以下工作都是在項(xiàng)目小組管理核心的配合下順利完成的。第一,指導(dǎo)學(xué)生完成實(shí)驗(yàn)相關(guān)背景知識(shí)和基礎(chǔ)課程學(xué)習(xí);第二,引導(dǎo)學(xué)生思考如何查閱檢索所須文獻(xiàn),提高學(xué)生獲取有效信息的能力。第三,引導(dǎo)學(xué)生獨(dú)立購(gòu)買所需實(shí)驗(yàn)試劑,提高學(xué)生社會(huì)交往能力。第四,指導(dǎo)學(xué)生自行完成實(shí)驗(yàn)試劑的配制,培養(yǎng)同學(xué)的動(dòng)手操作能力。第五,參與小組討論學(xué)習(xí),幫助學(xué)生提高分析問(wèn)題和解決問(wèn)題的能力。
通過(guò)此次研究性學(xué)習(xí),本科學(xué)生作為科研創(chuàng)新實(shí)驗(yàn)的主體,不僅加深了對(duì)基礎(chǔ)課程知識(shí)的理解,還拓展了知識(shí)面(如人工神經(jīng)網(wǎng)絡(luò)、化學(xué)計(jì)量學(xué)等方面的知識(shí))。不但提高了儀器操作方面的實(shí)際操作使用能力,還提高了計(jì)算機(jī)技術(shù)方面的能力(如人工神經(jīng)網(wǎng)絡(luò)建模、數(shù)值計(jì)算等等),從而激發(fā)了同學(xué)們的創(chuàng)新性思維和創(chuàng)新意識(shí),全面提升了科技創(chuàng)新能力。
參考文獻(xiàn):
[1]高國(guó)全主編,生物化學(xué)[M],北京,人民衛(wèi)生出版社,2008年4月第2版:116-117
[2]鐘雷鳴,江王棟,石樂(lè)明等,六種氨基酸混合物溶液的紫外光譜的人工神經(jīng)元網(wǎng)絡(luò)定量分析研究[J],生物物理學(xué)報(bào),1992,8(4):706-710
[3]許祿主編,化學(xué)計(jì)量學(xué)[M],北京,科學(xué)出版社,2004年2月第1版:88-120
[4]Guang-Bin Huang,,Hongming Zhou,Xiaojian Ding,et al,Extreme Learning Machine for Regression and Multiclass Classification,IEEE Transactions on Systems, Man,and Cybernetics-Part B:Cybernetics,2012,42(2):513-529
[5]李大東著,檢驗(yàn)醫(yī)學(xué)計(jì)算機(jī)數(shù)值方法[M],杭州,浙江大學(xué)出版社,2011年4月:43-46
關(guān)鍵詞: FPGA; BP神經(jīng)網(wǎng)絡(luò); 線性擬合; 非線性擬合; 自適應(yīng)訓(xùn)練
中圖分類號(hào): TN702.2?34; TP183 文獻(xiàn)標(biāo)識(shí)碼: A 文章編號(hào): 1004?373X(2016)15?0115?04
Abstract: Using software for neural network has the disadvantages of low parallelism and slow speed, the hardware design resource utilization of the traditional neural network is high, and the network training is uncontrollable. To solve these problems, a new FPGA?based design method of back propagation (BP) neural network is proposed. The method can realize the Sigmoid excitation function through piecewise linear fitting and nonlinear fitting based on symmetry, and uses the finite state machine (FSM) to accomplish the training times adaption based on error. The Verilog HDL language is used to design the 1?3?1 BP neural network to approximate the function [y=cosx.] The resource occupancy of the network is 2 756 LEs, the training times are 1 583, the average relative error of the network test sample is 0.6%, and the maximum clock frequency is 82.3 MHz. The verification results show that the neural network designed with the method has the advantages of less resource occupancy, high accuracy and fast running speed, and can control the network training automatically.
Keywords: FPGA; BP neural network; linear fitting; nonlinear fitting; adaptive training
0 引 言
人工神經(jīng)網(wǎng)絡(luò)(ANNs)[1]通常都是采用基于軟件的方法實(shí)現(xiàn)。但作為一個(gè)并行計(jì)算系統(tǒng),軟件實(shí)現(xiàn)的方法存在速度慢的缺點(diǎn),而硬件方式具有高并行性的特點(diǎn),適合于人工神經(jīng)網(wǎng)絡(luò)。FPGA作為一種通用的硬件設(shè)計(jì)平臺(tái),其內(nèi)部分布式的資源與神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)非常契合,是一個(gè)實(shí)現(xiàn)神經(jīng)網(wǎng)絡(luò)硬件化設(shè)計(jì)的良好選擇。
資源占用是FPGA設(shè)計(jì)的一個(gè)重要考量因素,而網(wǎng)絡(luò)訓(xùn)練是神經(jīng)網(wǎng)絡(luò)功能實(shí)現(xiàn)的基礎(chǔ)。已有的神經(jīng)網(wǎng)絡(luò)硬件設(shè)計(jì)工作在這兩方面還存在巨大的空間。例如,薛維琴等利用FPGA實(shí)現(xiàn)了BP神經(jīng)網(wǎng)絡(luò)[2],該網(wǎng)絡(luò)經(jīng)過(guò)訓(xùn)練能夠描述非線性函數(shù),但沒(méi)有提出BP神經(jīng)網(wǎng)絡(luò)的激勵(lì)函數(shù)和訓(xùn)練控制模塊的具體硬件實(shí)現(xiàn)方法。李利歌等提出了直接利用查找表實(shí)現(xiàn)神經(jīng)網(wǎng)絡(luò)激勵(lì)函數(shù)的方法[3],但是查找表存在占用資源大,運(yùn)行速度慢的缺點(diǎn)。張海燕等采用基于查找表的STAM算法實(shí)現(xiàn)神經(jīng)網(wǎng)絡(luò)激勵(lì)函數(shù)[4],且文中也沒(méi)有提到訓(xùn)練控制模塊。Javier Valls等提出利用CORDIC算法實(shí)現(xiàn)神經(jīng)網(wǎng)絡(luò)的激勵(lì)函數(shù)[5],資源利用率低,但是存在精度不足的問(wèn)題。劉培龍利用分段擬合實(shí)現(xiàn)激勵(lì)函數(shù)[6],但是激勵(lì)函數(shù)資源占用較多。
基于這一現(xiàn)狀,本文通過(guò)對(duì)Sigmoid函數(shù)基于對(duì)稱性分段擬合以及基于誤差的訓(xùn)練自適應(yīng)技術(shù),提出了一種新的神經(jīng)網(wǎng)絡(luò)FPGA設(shè)計(jì)方法。該方法設(shè)計(jì)的神經(jīng)網(wǎng)絡(luò)資源占用少,網(wǎng)絡(luò)訓(xùn)練自適應(yīng),同時(shí)還具有精度高,運(yùn)行速度快的優(yōu)點(diǎn)。
1 BP神經(jīng)網(wǎng)絡(luò)的FPGA設(shè)計(jì)
根據(jù)BP神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu),本文將網(wǎng)絡(luò)劃分為神經(jīng)元模塊、激勵(lì)函數(shù)模塊、誤差計(jì)算模塊,權(quán)值更新模塊、權(quán)值存儲(chǔ)模塊以及自適應(yīng)網(wǎng)絡(luò)訓(xùn)練模塊。圖1給出了不同功能模塊之間的連接和訓(xùn)練過(guò)程。其中,權(quán)值存儲(chǔ)模塊和輸入神經(jīng)元將輸入層的權(quán)值以及訓(xùn)練的樣本輸入到隱含層神經(jīng)元進(jìn)行乘累加運(yùn)算,其結(jié)果輸入到激勵(lì)函數(shù)模塊得到激勵(lì)函數(shù)輸出,該輸出和隱含層的權(quán)值作為輸出層神經(jīng)元的輸入得到本次訓(xùn)練結(jié)果。該結(jié)果再經(jīng)過(guò)誤差計(jì)算模塊計(jì)算誤差值和權(quán)值改變量。權(quán)值改變量在權(quán)值更新模塊中得到新權(quán)值存入到權(quán)值存儲(chǔ)模塊。誤差值輸入到自適應(yīng)網(wǎng)絡(luò)訓(xùn)練模塊判斷網(wǎng)絡(luò)訓(xùn)練是否達(dá)到最優(yōu)。網(wǎng)絡(luò)訓(xùn)練達(dá)到最優(yōu)前,該過(guò)程循環(huán),當(dāng)網(wǎng)絡(luò)訓(xùn)練達(dá)到最優(yōu),自適應(yīng)訓(xùn)練模塊控制網(wǎng)絡(luò)停止訓(xùn)練。
系統(tǒng)中神經(jīng)元模塊、誤差計(jì)算模塊、權(quán)值更新模塊按照BP網(wǎng)絡(luò)算法規(guī)則可調(diào)用加、乘、乘累加等功能模塊,權(quán)值存儲(chǔ)模塊可調(diào)用RAM模塊。激勵(lì)函數(shù)模塊和自適應(yīng)訓(xùn)練模塊關(guān)乎系統(tǒng)資源占用及訓(xùn)練過(guò)程的實(shí)現(xiàn),是本文BP神經(jīng)網(wǎng)絡(luò)FPGA設(shè)計(jì)的重點(diǎn)。
1.1 激勵(lì)函數(shù)模塊設(shè)計(jì)
激勵(lì)函數(shù)模塊是影響整個(gè)神經(jīng)網(wǎng)絡(luò)資源利用的主要因素之一,在保證誤差足夠小的前提下,激勵(lì)函數(shù)模塊資源占用越小越好。
式中含有指數(shù)運(yùn)算,較難在FPGA 中直接實(shí)現(xiàn)。利用Sigmoid函數(shù)具有對(duì)稱性以及較好的線性區(qū)域和非線性區(qū)域分界的特點(diǎn),本文提出一種資源占用小、精度高的基于對(duì)稱性分段擬合的激勵(lì)函數(shù)硬件實(shí)現(xiàn)的方法。
考慮到Sigmoid函數(shù)的對(duì)稱性,只需完成[x>0]的區(qū)域硬件實(shí)現(xiàn),根據(jù)對(duì)稱性即可求出[x0]區(qū)域,根據(jù)Sigmoid函數(shù)線性區(qū)域和非線性區(qū)域分界良好的特點(diǎn),分別采用線性擬合和非線性擬合的方法分段逼近。具體而言,如圖2所示,將整個(gè)激勵(lì)函數(shù)模塊分為預(yù)處理模塊、函數(shù)逼近模塊以及最終輸出模塊三個(gè)子模塊。
1.1.1 預(yù)處理模塊
激勵(lì)函數(shù)的輸入[x]為16位定點(diǎn)數(shù),最高位為符號(hào)位,中間五位為整數(shù)部分,后十位為小數(shù)部分。當(dāng)[x]輸入到激勵(lì)函數(shù)模塊時(shí),首先進(jìn)行預(yù)處理。截取二進(jìn)制輸入[x]的最高位判斷[x>0]或者[x0]時(shí),[x=x,]將[x]輸入到后續(xù)處理模塊,若判斷出[x
1.1.2 函數(shù)逼近模塊
基于對(duì)輸入[x]的預(yù)處理,此子模塊只需要對(duì)[x>0]的情況做線性擬合和非線性擬合。分段逼近函數(shù)如表1所示。
1.1.3 最終輸出模塊
最終輸出模塊由預(yù)處理模塊輸出的控制信號(hào)控制。若[x>0,]則控制信號(hào)控制最終輸出模塊直接輸出函數(shù)逼近模塊中[x]對(duì)應(yīng)的輸出[fx;]若[x
1.1.4 激勵(lì)函數(shù)模塊分析
按照上述設(shè)計(jì)方法完成激勵(lì)函數(shù)模塊的設(shè)計(jì)后,對(duì)激勵(lì)函數(shù)模塊進(jìn)行功能仿真和誤差分析。從-8~8以0.001為間隔生成測(cè)試數(shù)據(jù)輸入到激勵(lì)函數(shù)模塊,得到的ModelSim仿真結(jié)果如圖3所示,其各區(qū)間絕對(duì)誤差如表2所示。從中可以看出,各區(qū)間的誤差值均很小且誤差分布較為平均,體現(xiàn)出良好的逼近效果。
1.2 自適應(yīng)訓(xùn)練模塊設(shè)計(jì)
網(wǎng)絡(luò)訓(xùn)練是神經(jīng)網(wǎng)絡(luò)功能實(shí)現(xiàn)的基礎(chǔ)。神經(jīng)網(wǎng)絡(luò)隨著訓(xùn)練的進(jìn)行,權(quán)值逐漸改變,誤差逐漸減小,但如果網(wǎng)絡(luò)訓(xùn)練不能適時(shí)結(jié)束,造成過(guò)度訓(xùn)練,則網(wǎng)絡(luò)性能會(huì)變差。然而對(duì)網(wǎng)絡(luò)訓(xùn)練的控制在硬件上并不易設(shè)計(jì),故很多工作未討論這一點(diǎn)或簡(jiǎn)單的以固定周期來(lái)完成訓(xùn)練。本文提出了一種基于可容忍誤差值的自適應(yīng)網(wǎng)絡(luò)訓(xùn)練硬件設(shè)計(jì)方法,可有效的自動(dòng)控制神經(jīng)網(wǎng)絡(luò)訓(xùn)練過(guò)程。
分析神經(jīng)網(wǎng)絡(luò)的訓(xùn)練過(guò)程,每一次輸入樣本值都會(huì)在本次訓(xùn)練完成時(shí)得到一個(gè)誤差值,當(dāng)誤差在可以容忍的范圍內(nèi)可以認(rèn)為網(wǎng)絡(luò)已經(jīng)訓(xùn)練完成。認(rèn)為在給定的可容忍誤差值的情況下,如果連續(xù)兩次整個(gè)樣本集輸入得到的誤差絕對(duì)值都要比給定的可容忍誤差值要小,則該神經(jīng)網(wǎng)絡(luò)訓(xùn)練已經(jīng)達(dá)到最優(yōu)。根據(jù)這個(gè)思想,提出利用有限狀態(tài)機(jī)實(shí)現(xiàn)自適應(yīng)網(wǎng)絡(luò)訓(xùn)練。
如圖4所示,有限狀態(tài)機(jī)的狀態(tài)數(shù)是樣本集中樣本數(shù)的兩倍,狀態(tài)機(jī)初始為零狀態(tài)。當(dāng)某一次訓(xùn)練得到的誤差絕對(duì)值小于可容忍誤差值時(shí),狀態(tài)機(jī)進(jìn)入第一個(gè)狀態(tài)。若緊鄰的下一次訓(xùn)練得到的誤差絕對(duì)值也小于可容忍誤差值,狀態(tài)機(jī)進(jìn)入下一個(gè)狀態(tài),否則狀態(tài)機(jī)狀態(tài)回到第0個(gè)狀態(tài)。當(dāng)狀態(tài)機(jī)跳轉(zhuǎn)到最后一個(gè)狀態(tài)時(shí),網(wǎng)絡(luò)訓(xùn)練完成,此時(shí)輸出控制信號(hào)控制權(quán)值存儲(chǔ)模塊停止權(quán)值更新,提示信號(hào)提示訓(xùn)練完成。該模塊的分析需要結(jié)合網(wǎng)絡(luò)中的其他模塊,故測(cè)試結(jié)果在下一節(jié)中給出。
2 驗(yàn)證和分析
2.1 驗(yàn)證平臺(tái)
根據(jù)上述方法,設(shè)計(jì)了一個(gè)1?3?1三層BP神經(jīng)網(wǎng)絡(luò)驗(yàn)證其性能。驗(yàn)證平臺(tái)為Altera公司的EP2C70F896C6。
以[y=cosx]函數(shù)為學(xué)習(xí)對(duì)象,從[0~2π]之間以[0.062 5π]為間隔選取33個(gè)樣本組成樣本集,隨機(jī)選取其中25個(gè)作為訓(xùn)練樣本,剩下8個(gè)作為測(cè)試樣本。神經(jīng)網(wǎng)絡(luò)的初始權(quán)值和閾值的選取具有一定的隨機(jī)性,根據(jù)網(wǎng)絡(luò)需要逼近的函數(shù)數(shù)值大小,輸入層到隱含層的初始權(quán)值矩陣[W1=[2.5,0.5,-0.3],]隱含層到輸出層的初始權(quán)值矩陣[W2=[0.35,0.4,0.3],]隱含層閾值選為[0.2,0.3,0.4],輸出層閾值選為[0.3]。隱含層的學(xué)習(xí)率設(shè)為0.4,輸出層的學(xué)習(xí)率設(shè)為0.3,容忍誤差設(shè)為0.01。
2.2 結(jié)果分析
ModelSim仿真得到的結(jié)果如圖5所示,從圖5中可以看出該BP神經(jīng)網(wǎng)絡(luò)的訓(xùn)練是自適應(yīng)的。當(dāng)網(wǎng)絡(luò)訓(xùn)練到最優(yōu)時(shí),產(chǎn)生一個(gè)控制信號(hào)和一個(gè)提示信號(hào)以及網(wǎng)絡(luò)訓(xùn)練的次數(shù),此時(shí)權(quán)值存儲(chǔ)器的值不再變化,訓(xùn)練完成。
25個(gè)訓(xùn)練樣本集訓(xùn)練的平均誤差為0.003,分析8個(gè)測(cè)試樣本集的誤差,如表3所示。從表3中可以看出,其誤差與訓(xùn)練數(shù)據(jù)的誤差大體相當(dāng)且均很小。計(jì)算測(cè)試樣本的平均相對(duì)誤差為0.6%,小于1%,說(shuō)明該方法實(shí)現(xiàn)的基于FPGA的BP神經(jīng)網(wǎng)絡(luò)精度較高。
將該網(wǎng)絡(luò)下載至Altera公司EP2C70F896C6的FPGA中,其最高時(shí)鐘頻率為82.3 MHz,可見該方法具有運(yùn)行速度快的優(yōu)點(diǎn)。將該神經(jīng)網(wǎng)絡(luò)資源占用情況與已有相關(guān)工作的資源占用情況作對(duì)比,如表4所示。雖然其中各設(shè)計(jì)的規(guī)模和平臺(tái)有所差異(如1 Slice≈4 LEs),但仍可估算出即便添加了自適應(yīng)訓(xùn)練模塊,本設(shè)計(jì)對(duì)資源的占用依然較低。
從表5中可以看到,當(dāng)學(xué)習(xí)對(duì)象不同時(shí),網(wǎng)絡(luò)訓(xùn)練的次數(shù)也不同,實(shí)現(xiàn)了訓(xùn)練過(guò)程的自適應(yīng)。由此亦可推至,若采用傳統(tǒng)的預(yù)設(shè)固定次數(shù)的方式完成訓(xùn)練,則對(duì)于不同學(xué)習(xí)對(duì)象難免會(huì)造成訓(xùn)練不充分或過(guò)度訓(xùn)練的情況,從而影響網(wǎng)絡(luò)的性能。因此,該表也進(jìn)一步證明了該設(shè)計(jì)自適應(yīng)訓(xùn)練的優(yōu)越性。
3 結(jié) 論
本文以典型的BP神經(jīng)網(wǎng)絡(luò)為例,提出了一種自適應(yīng)訓(xùn)練的神經(jīng)網(wǎng)絡(luò)FPGA設(shè)計(jì)方法。通過(guò)對(duì)Sigmoid激勵(lì)函數(shù)基于對(duì)稱性做分段擬合減少了資源占用,使用基于可容忍誤差完成了網(wǎng)絡(luò)訓(xùn)練自適應(yīng)。該方法設(shè)計(jì)的神經(jīng)網(wǎng)絡(luò)具備訓(xùn)練可控、資源占用低、精度高的優(yōu)點(diǎn)。此方法不僅適合于 BP網(wǎng)絡(luò),也可推廣至采用Sigmoid函數(shù)及需要訓(xùn)練控制的其他類型的神經(jīng)網(wǎng)絡(luò)。
注:本文通訊作者為常勝。
參考文獻(xiàn)
[1] 蔣宗禮.人工神經(jīng)網(wǎng)絡(luò)導(dǎo)論[M].北京:高等教育出版社,2001:15?16.
[2] 薛維琴,李莉華,戴明.基于FPGA的人工神經(jīng)網(wǎng)絡(luò)系統(tǒng)的實(shí)現(xiàn)方法[J].電子設(shè)計(jì)工程,2010,18(9):151?154.
[3] 李利歌,閻保定,侯忠.基于FPGA的神經(jīng)網(wǎng)絡(luò)硬件可重構(gòu)實(shí)現(xiàn)[J].河南科技大學(xué)學(xué)報(bào)(自然科學(xué)版),2009,30(1):37?40.
[4] 張海燕,李欣,田書峰.基于BP神經(jīng)網(wǎng)絡(luò)的仿真線設(shè)計(jì)及其FPGA實(shí)現(xiàn)[J].電子與信息學(xué)報(bào),2007,29(5):1267?1270.
[5] VALLS J, KUHLMANN M, PARHI K K. Evaluation of CORDIC algorithms for FPGA design [J]. Journal of VLSI signal processing, 2002, 32(3): 207?222.
[關(guān)鍵詞] Spiking神經(jīng)網(wǎng)絡(luò) 學(xué)習(xí)模型 股市預(yù)測(cè)
一、引言
隨著經(jīng)濟(jì)的增長(zhǎng),對(duì)于股市的預(yù)測(cè)將變得越來(lái)越重要,也成為經(jīng)濟(jì)理論研究中的一個(gè)重要課題。股票市場(chǎng)的變化有很多因素,是一個(gè)復(fù)雜的非線性系統(tǒng),而人工神經(jīng)網(wǎng)絡(luò)能夠從大量復(fù)雜的數(shù)據(jù)中找到數(shù)據(jù)間的內(nèi)在聯(lián)系,具有良好的自我學(xué)習(xí)和抗干擾能力,在股票預(yù)測(cè)領(lǐng)域中取得了顯著的效果。本文應(yīng)用一種更接近于生物神經(jīng)系統(tǒng)的Spiking神經(jīng)網(wǎng)絡(luò),采用基于粒子群算法的學(xué)習(xí)模型,構(gòu)建了滬市上證綜合指數(shù)的學(xué)習(xí)預(yù)測(cè)模型,并用實(shí)際數(shù)據(jù)進(jìn)行了分析實(shí)驗(yàn)。
二、Spiking神經(jīng)網(wǎng)絡(luò)及其學(xué)習(xí)模型
Spike神經(jīng)元模型是更接近生物神經(jīng)元的一個(gè)數(shù)學(xué)模型,由Spike神經(jīng)元構(gòu)成的人工神經(jīng)網(wǎng)絡(luò)稱為Spiking神經(jīng)網(wǎng)絡(luò)。在Spiking神經(jīng)網(wǎng)絡(luò)中,一個(gè)Spike神經(jīng)元在t時(shí)刻接收來(lái)自于父突觸神經(jīng)元的多個(gè)post-synaptic potential(PSP)信號(hào),不斷改變自己的膜電壓。當(dāng)它的膜電壓超過(guò)閾值時(shí),產(chǎn)生一個(gè)spike,并通過(guò)突觸連接向外發(fā)送PSP信號(hào)。用于描述PSP信號(hào)的spike響應(yīng)函數(shù)定義為:
三、上證綜合指數(shù)的預(yù)測(cè)
滬市上證綜合指數(shù)是上海證券交易所編制的,以上海證券交易所掛牌上市的全部股票為計(jì)算范圍,以發(fā)行量為權(quán)數(shù)綜合,上證綜指反映了上海證券交易市場(chǎng)的總體走勢(shì),所以對(duì)上證綜指的預(yù)測(cè)具有重要的意義。文中選取了2006年6月~2007年7月共286個(gè)工作日的滬市上證綜合指數(shù)作為研究的原始數(shù)據(jù),利用滑動(dòng)窗口技術(shù),通過(guò)前6天收盤時(shí)的上證指數(shù)來(lái)預(yù)測(cè)第7天收盤時(shí)的上證指數(shù)。
我們構(gòu)建了具有6個(gè)輸入神經(jīng)元、4個(gè)隱含層神經(jīng)元和1個(gè)輸出節(jié)點(diǎn)的前向全連接Spiking神經(jīng)網(wǎng)絡(luò),并利用以上的Spiking神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)模型進(jìn)行測(cè)試。選取了原始數(shù)據(jù)中的前276個(gè)數(shù)據(jù)構(gòu)成神經(jīng)網(wǎng)絡(luò)的訓(xùn)練集,后10個(gè)數(shù)據(jù)用于測(cè)試。在實(shí)驗(yàn)前,我們對(duì)原始數(shù)據(jù)進(jìn)行歸一化的處理轉(zhuǎn)換為[0,1]之間的值。把歸一化后的前6天收盤時(shí)的上證指數(shù)分別作為6個(gè)輸入神經(jīng)元的spike時(shí)間加入到Spiking神經(jīng)網(wǎng)絡(luò)中進(jìn)行學(xué)習(xí)和計(jì)算,獲得神經(jīng)網(wǎng)絡(luò)輸出節(jié)點(diǎn)的spike時(shí)間,該時(shí)間對(duì)應(yīng)于第7天的收盤指數(shù)。按本文式(3)計(jì)算獲得Spiking神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)誤差,通過(guò)粒子群算法不斷調(diào)整神經(jīng)網(wǎng)絡(luò)的參數(shù)使誤差最小化。獲得了最優(yōu)的Spiking神經(jīng)網(wǎng)絡(luò)后,用測(cè)試集的數(shù)據(jù)對(duì)其性能進(jìn)行了測(cè)試。經(jīng)Spiking神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)預(yù)測(cè)后的上證指數(shù)變化如圖。
結(jié)果表明,與傳統(tǒng)BP算法相比,基于粒子群算法的Spiking神經(jīng)網(wǎng)絡(luò)具有較快的運(yùn)算速度和逼近性能, 同時(shí)可以克服SpikeProp算法陷入局部最優(yōu)解和對(duì)權(quán)值有約束的缺點(diǎn),可以較好地處理股票類非線性數(shù)據(jù)的學(xué)習(xí)和預(yù)測(cè)。
四、結(jié)論
股票市場(chǎng)的不確定因素太多,是一個(gè)復(fù)雜的非線性系統(tǒng),而神經(jīng)網(wǎng)絡(luò)具有自我學(xué)習(xí)的能力,能很好地解決不明確環(huán)境中的非線性應(yīng)用問(wèn)題。Spiking神經(jīng)網(wǎng)絡(luò)作為一種新型的動(dòng)態(tài)的神經(jīng)網(wǎng)絡(luò),其利用動(dòng)態(tài)的spike時(shí)間進(jìn)行信息編碼和計(jì)算的特點(diǎn)與股票市場(chǎng)中動(dòng)態(tài)的時(shí)間序列相吻合。文中對(duì)應(yīng)用Spiking神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)國(guó)內(nèi)股票市場(chǎng)做了初步的探討,獲得了較好的擬合效果。進(jìn)一步改進(jìn)原始數(shù)據(jù)的處理方式,提高Spiking神經(jīng)網(wǎng)絡(luò)的自適應(yīng)能力,將能得到更好的預(yù)測(cè)效果。
參考文獻(xiàn):
[1]Sander M:Bohte, Spiking Neural Networks [D].ISBN 90-6734-167-3, 2003
[2]Gerstner W, Kistler W. Spiking Neuron Models: Single Neurons, Populations, Plasticity [M]. Cambridge University Press, 2002
[3]韓文蕾王萬(wàn)誠(chéng):概率神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)股票市場(chǎng)的漲跌[J].計(jì)算機(jī)應(yīng)用與軟件,2005,22(11):133~135
關(guān)鍵詞: 邊坡安全; 穩(wěn)定性; 評(píng)價(jià)方法
中圖分類號(hào): U416.14 文獻(xiàn)標(biāo)識(shí)碼: A 文章編號(hào): 1009-8631(2012)07-0053-01
1 引言
邊坡安全穩(wěn)定問(wèn)題一直是巖土工程的一個(gè)重要研究?jī)?nèi)容,而邊坡穩(wěn)定性評(píng)價(jià)結(jié)果的正確與否直接關(guān)系到邊坡工程的成敗。目前邊坡穩(wěn)定性評(píng)價(jià)方法多種多樣,但由于邊坡穩(wěn)定受多方面因素影響,而各因素具有不確定性(模糊性、隨機(jī)性、信息不完全性和未確定性)和復(fù)雜性,故傳統(tǒng)的確定性分析方法如極限平衡理論用于邊坡分析,結(jié)果不是十分理想。但不論是確定性分析如蒙特-卡洛模擬法、一次二階矩法,還是不確定性方法如模糊數(shù)學(xué)、灰色理論、數(shù)量化理論和信息模型法等,其用于邊坡穩(wěn)定性評(píng)價(jià)的準(zhǔn)確性與實(shí)際情況仍有差距。對(duì)于邊坡穩(wěn)定性評(píng)價(jià)方法的綜合認(rèn)識(shí),早在1999年丁恩保教授等就已進(jìn)行過(guò)分類,他們主要根據(jù)各種方法對(duì)邊坡穩(wěn)定性評(píng)價(jià)的量化程度為依據(jù),分為定性分析法、定量分析法、非確定性分析法、物理模型法和現(xiàn)場(chǎng)監(jiān)測(cè)分析法等五種。綜合來(lái)看,目前邊坡安全穩(wěn)定評(píng)價(jià)方法主要集中在四個(gè)方面。
2 邊坡穩(wěn)定評(píng)價(jià)方法
2.1人工神經(jīng)網(wǎng)絡(luò)和遺傳算法評(píng)價(jià)法
在人工神經(jīng)網(wǎng)絡(luò)方面,邢愛國(guó)等應(yīng)用改進(jìn)的BP神經(jīng)網(wǎng)絡(luò)模型對(duì)國(guó)道107線清連一級(jí)公路部分高危邊坡進(jìn)行穩(wěn)定性評(píng)價(jià)研究。于子國(guó)等采用非線性理論研究邊坡的變形破壞機(jī)理,建立穩(wěn)定性評(píng)價(jià)模型,用遺傳-神經(jīng)網(wǎng)絡(luò)從中獲取穩(wěn)定性評(píng)價(jià)和判斷的知識(shí)進(jìn)而構(gòu)建系統(tǒng),對(duì)各類邊坡穩(wěn)定狀態(tài)做出評(píng)價(jià)。趙健將Kohonen神經(jīng)網(wǎng)絡(luò)應(yīng)用于邊坡穩(wěn)定性分析,建立評(píng)價(jià)邊坡穩(wěn)定狀態(tài)的網(wǎng)絡(luò)模型。姜德義等結(jié)合重慶地區(qū)的地質(zhì)條件和高速公路建設(shè)實(shí)踐,分析影響重慶地區(qū)高速公路土質(zhì)和巖質(zhì)邊坡穩(wěn)定性的主要因素,運(yùn)用人工神經(jīng)網(wǎng)絡(luò)方法,以重慶地區(qū)大量高速公路邊坡實(shí)例為樣本對(duì)其進(jìn)行學(xué)習(xí)和預(yù)測(cè)。
綜合來(lái)看,人工神經(jīng)網(wǎng)絡(luò)是依據(jù)人腦結(jié)構(gòu)的基本特征發(fā)展起來(lái)的一種信息處理體系或計(jì)算體系,是對(duì)神經(jīng)系統(tǒng)的數(shù)學(xué)抽象和粗略的逼近和模仿。研究表明,在巖土邊坡工程系統(tǒng)分析領(lǐng)域內(nèi)采用神經(jīng)網(wǎng)絡(luò)具有獨(dú)特的優(yōu)勢(shì),利用神經(jīng)網(wǎng)絡(luò)理論,可以盡可能多地將各種影響因素作為輸入變量,建立這些定性或定量影響因素同邊坡安全系數(shù)和變形量之間的高度非線性映射模型,然后用模型來(lái)預(yù)測(cè)和評(píng)價(jià)邊坡的安全性。毛謙等將遺傳算法引入三維邊坡穩(wěn)定分析中,用7個(gè)控制參數(shù)模擬生成滑裂面,再運(yùn)用遺傳算法來(lái)搜索滑坡最不利滑裂面,對(duì)于存在確定滑裂面的滑坡,將此滑裂面作為整體滑裂面計(jì)算其整體穩(wěn)定安全系數(shù),然后在整體穩(wěn)定的基礎(chǔ)上,運(yùn)用遺傳算法搜索滑坡內(nèi)部最不利滑裂面,得出滑坡最小的穩(wěn)定安全系數(shù)。
綜合分析可知,遺傳算法不受搜索空間限制性假設(shè)的約束(如連續(xù)性、導(dǎo)數(shù)存在等),克服了傳統(tǒng)方法容易陷入局部極小值的缺點(diǎn),從一群點(diǎn)開始搜索,能從離散的、多極值的和含有噪音的高維問(wèn)題中以很大的概率找到全局最優(yōu)解,且適用于大規(guī)模并行計(jì)算。
2.2范例推理評(píng)價(jià)法
在范例推理評(píng)價(jià)方面,劉沐宇等運(yùn)用模糊相似優(yōu)先概念,構(gòu)造基于模糊相似優(yōu)先的邊坡范例檢索模型,對(duì)每一個(gè)邊坡穩(wěn)定性的影響因素,分別建立邊坡的目標(biāo)范例與源范例之間的模糊相似優(yōu)先關(guān)系,經(jīng)過(guò)影響因素之間的兩兩比較,獲得不同影響因素下邊坡的目標(biāo)范例與源范例之間的相似性序列,從而最終找出與目標(biāo)范例最相似的源范例,實(shí)現(xiàn)邊坡的穩(wěn)定性評(píng)價(jià)。劉沐宇等建立基于神經(jīng)網(wǎng)絡(luò)的邊坡范例檢索模型,通過(guò)邊坡范例的神經(jīng)網(wǎng)絡(luò)學(xué)習(xí),建立當(dāng)前邊坡和邊坡范例之間相似性計(jì)算關(guān)系,實(shí)現(xiàn)當(dāng)前邊坡的穩(wěn)定性評(píng)價(jià)。高德彬等利用大量公路黃土路塹高邊坡實(shí)例,構(gòu)建基于范例推理的邊坡穩(wěn)定性預(yù)測(cè)模型,通過(guò)源范例和邊坡范例之間的相似度計(jì)算,得到目標(biāo)范例與源范例之間的相似性序列,找出與目標(biāo)邊坡范例最相似的源范例,實(shí)現(xiàn)黃土路塹高邊坡的穩(wěn)定性預(yù)測(cè)。
綜合來(lái)看,范例推理方法以范例為基礎(chǔ),范例的獲取比規(guī)則獲取要容易,從而大大簡(jiǎn)化知識(shí)獲取。對(duì)于邊坡安全穩(wěn)定性評(píng)價(jià)這樣的復(fù)雜問(wèn)題,其知識(shí)獲取本身就是一件非常不容易的事情,故范例推理原理為邊坡穩(wěn)定性評(píng)價(jià)提供了一條可行的新途徑。
2.3模糊綜合評(píng)價(jià)法
在模糊綜合評(píng)價(jià)方面,周軍霞等針對(duì)影響公路邊坡穩(wěn)定性因素的模糊性和隨機(jī)性,選擇影響公路邊坡穩(wěn)定性的10個(gè)主要因素,并分為兩個(gè)層次,利用模糊數(shù)學(xué)綜合評(píng)判方法,采用專家方法和經(jīng)驗(yàn)公式法賦予影響因素的隸屬函數(shù)和隸屬值,建立公路邊坡穩(wěn)定性分析的二級(jí)綜合評(píng)判模型,得到公路邊坡穩(wěn)定性的預(yù)測(cè)結(jié)果。孟衡采用判斷矩陣分析法確定評(píng)價(jià)因子的權(quán)重,用二級(jí)模糊評(píng)判對(duì)某工程實(shí)例進(jìn)行計(jì)算分析,結(jié)果表明用該法確定權(quán)重簡(jiǎn)便,亦能較好反映邊坡所處狀態(tài)。歐國(guó)林等運(yùn)用模糊數(shù)學(xué)方法提出模糊穩(wěn)定系數(shù)的概念和描述方法,建立路基邊坡穩(wěn)定性分析的模糊綜合評(píng)價(jià)模型,通過(guò)確定個(gè)體因素等級(jí)標(biāo)準(zhǔn)和權(quán)重得出模糊穩(wěn)定系數(shù),使路基邊坡穩(wěn)定分析更接近客觀實(shí)際。
總體來(lái)看,模糊綜合評(píng)價(jià)方法為多變量、多因素影響的邊坡穩(wěn)定性分析提供了一種行之有效的手段,用隸屬函數(shù)代替確定論中非此即彼的特征函數(shù)來(lái)描述具有模糊性的影響因素,用模糊變換原理實(shí)現(xiàn)多因素、多層次的邊坡穩(wěn)定性分析與評(píng)價(jià)。其不足之處在于相關(guān)因素及各因素邊界值的不易確定以及在隸屬函數(shù)的確定和因素權(quán)重的分配上均含有相當(dāng)多的人為主觀因素。
2.4灰色系統(tǒng)評(píng)價(jià)法
在灰色系統(tǒng)評(píng)價(jià)方面,魏星等將復(fù)雜巖體邊坡系統(tǒng)視為一個(gè)灰色系統(tǒng),在綜合分析巖體邊坡影響因素基礎(chǔ)上,采用表征邊坡巖體穩(wěn)定性的復(fù)合指標(biāo)作為評(píng)判其穩(wěn)定性的因素,給出一種基于復(fù)合指標(biāo)的邊坡巖體穩(wěn)定性灰色系統(tǒng)類比預(yù)測(cè)模型。趙靜波等提出以控制因素變化的階段性來(lái)劃分時(shí)間數(shù)據(jù)序列,建立階段時(shí)間序列灰色預(yù)測(cè)模型,對(duì)邊坡的發(fā)展變化情況進(jìn)行預(yù)測(cè)。王利等提出一種基于卡爾曼濾波的GM預(yù)測(cè)模型,即先用卡爾曼濾波法對(duì)原始變形監(jiān)測(cè)數(shù)據(jù)進(jìn)行濾波處理,再建立GM模型進(jìn)行灰色預(yù)測(cè)。何習(xí)平等針對(duì)單點(diǎn)模型背景值取值方法的不足,提出一種動(dòng)態(tài)定權(quán)方法,建立加權(quán)多點(diǎn)灰色預(yù)測(cè)模型。
總體來(lái)講,利用灰色理論分析方法,可在不完全的信息中,通過(guò)一定的數(shù)據(jù)處理,找出它們的關(guān)聯(lián)性,確定邊坡穩(wěn)定性各影響因素的影響程度,進(jìn)而利用多因素疊加分析評(píng)估邊坡的穩(wěn)定性。
參考文獻(xiàn):
級(jí)別:省級(jí)期刊
榮譽(yù):中國(guó)優(yōu)秀期刊遴選數(shù)據(jù)庫(kù)
級(jí)別:部級(jí)期刊
榮譽(yù):中國(guó)優(yōu)秀期刊遴選數(shù)據(jù)庫(kù)
級(jí)別:北大期刊
榮譽(yù):Caj-cd規(guī)范獲獎(jiǎng)期刊
級(jí)別:部級(jí)期刊
榮譽(yù):Caj-cd規(guī)范獲獎(jiǎng)期刊
級(jí)別:省級(jí)期刊
榮譽(yù):中國(guó)期刊全文數(shù)據(jù)庫(kù)(CJFD)