欧美日韩亚洲一区二区精品_亚洲无码a∨在线视频_国产成人自产拍免费视频_日本a在线免费观看_亚洲国产综合专区在线电影_丰满熟妇人妻无码区_免费无码又爽又刺激又高潮的视频_亚洲一区区
公務(wù)員期刊網(wǎng) 精選范文 人工神經(jīng)網(wǎng)絡(luò)的缺點(diǎn)范文

人工神經(jīng)網(wǎng)絡(luò)的缺點(diǎn)精選(九篇)

前言:一篇好文章的誕生,需要你不斷地搜集資料、整理思路,本站小編為你收集了豐富的人工神經(jīng)網(wǎng)絡(luò)的缺點(diǎn)主題范文,僅供參考,歡迎閱讀并收藏。

第1篇:人工神經(jīng)網(wǎng)絡(luò)的缺點(diǎn)范文

關(guān)鍵詞:人工神經(jīng)網(wǎng)絡(luò) 礦山 安全狀態(tài) 評(píng)判能力

中圖分類號(hào):TD77;TP181 文獻(xiàn)標(biāo)識(shí)碼:A 文章編號(hào):1007-9416(2015)04-0206-01

通過(guò)改變神經(jīng)網(wǎng)絡(luò)訓(xùn)練樣本等方式,對(duì)神經(jīng)網(wǎng)絡(luò)不同訓(xùn)練樣本的反應(yīng)能力進(jìn)行對(duì)比分析,從而探討人工神經(jīng)網(wǎng)絡(luò)對(duì)礦山安全程度評(píng)價(jià)的適應(yīng)性。為了有效的提高人工神經(jīng)網(wǎng)絡(luò)對(duì)礦山安全程度評(píng)價(jià)的能力,可以通過(guò)改變神經(jīng)網(wǎng)絡(luò)的神經(jīng)元數(shù)目以及初值賦值的方式來(lái)測(cè)試不同的結(jié)構(gòu),從而得出不同參數(shù)下神經(jīng)網(wǎng)絡(luò)對(duì)相同訓(xùn)練樣本的評(píng)價(jià)結(jié)論,以便提高其評(píng)價(jià)能力,在礦山安全狀態(tài)評(píng)判中充分發(fā)揮出人工神經(jīng)網(wǎng)絡(luò)的作用。

1 人工神經(jīng)網(wǎng)絡(luò)中的網(wǎng)絡(luò)結(jié)構(gòu)設(shè)計(jì)與原始數(shù)據(jù)的準(zhǔn)備

本文中主要采取如1所示的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu),根據(jù)測(cè)試目的的差異性,其測(cè)試過(guò)程中神經(jīng)網(wǎng)絡(luò)的部分性能也就不同,但是對(duì)整個(gè)網(wǎng)絡(luò)結(jié)構(gòu)的性能不會(huì)改變。

這種神經(jīng)網(wǎng)絡(luò)的主體結(jié)構(gòu)是單輸入、三層式BP的網(wǎng)絡(luò)結(jié)構(gòu),輸出連接、目標(biāo)連接、輸入權(quán)重連接、偏置連接以及層權(quán)連接等是其主要的連接方式。各層神經(jīng)元的分類包括:第一隱含層有8個(gè)正切S型神經(jīng)元,第二隱含層有8個(gè)對(duì)數(shù)S型的神經(jīng)元,輸入層有4個(gè)元素,輸出層有一個(gè)線性神經(jīng)元。其網(wǎng)絡(luò)函數(shù)主要包括訓(xùn)練函數(shù)、初始化函數(shù)、性能函數(shù)以及各網(wǎng)絡(luò)層的層初始化函數(shù)。其訓(xùn)練函數(shù)需要采取TRAINLM回轉(zhuǎn)方法來(lái)運(yùn)算;初始化函數(shù)需要采取逐層初始化的方法運(yùn)算;性能函數(shù)需要采取均方誤差法來(lái)計(jì)算;各網(wǎng)絡(luò)層的層初始化函數(shù)需要采取優(yōu)化規(guī)則的方式計(jì)算,有的時(shí)候還需要采取INITWB的方式進(jìn)行運(yùn)算。各個(gè)權(quán)閾值的初始化需要采用RANDS方法來(lái)計(jì)算。在人工神經(jīng)網(wǎng)絡(luò)訓(xùn)練的原始樣本數(shù)據(jù)以及期望值中,這些數(shù)據(jù)主要是用來(lái)評(píng)價(jià)地質(zhì)因素對(duì)礦山安全影響程度的原始數(shù)據(jù)。當(dāng)訓(xùn)練完成之后,需要對(duì)其各種數(shù)據(jù)進(jìn)行仿真測(cè)試,以便評(píng)斷這種人工神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)在礦山安全狀態(tài)中的應(yīng)用價(jià)值與能力,并對(duì)其不足之處以及缺陷問(wèn)題等進(jìn)行分析,以便尋找出更加優(yōu)化的方案,從而提高人工神經(jīng)網(wǎng)絡(luò)在礦山安全狀態(tài)中的評(píng)判作用與能力。

2 人工神經(jīng)網(wǎng)絡(luò)對(duì)礦山安全狀態(tài)評(píng)判能力的訓(xùn)練以及仿真測(cè)試

對(duì)礦山安全評(píng)價(jià)的方法較多,但是能夠較好的應(yīng)用于礦山安全評(píng)價(jià)的方法卻很少,例如事故樹分析法、概率風(fēng)險(xiǎn)評(píng)價(jià)法以及事件樹分析法等,這些方法均由于基本事件的發(fā)生概率的確定方面存在一定的困難,從而導(dǎo)致運(yùn)用于礦山過(guò)程中的安全評(píng)價(jià)效率不高。另外,在礦山安全狀態(tài)評(píng)價(jià)的過(guò)程中,其安全檢查表、專家評(píng)價(jià)方法等存在一定的缺點(diǎn)與不足,其在評(píng)價(jià)的過(guò)程中,主觀性較強(qiáng),受到個(gè)人意識(shí)的影響較大。綜合指標(biāo)評(píng)價(jià)法由于其指標(biāo)間的邏輯關(guān)系,指標(biāo)的權(quán)值與指標(biāo)的量化等問(wèn)題,從而導(dǎo)致該方法難以在礦山安全狀態(tài)中進(jìn)行準(zhǔn)確的評(píng)價(jià)。只有能夠更好的適應(yīng)這種復(fù)雜的動(dòng)態(tài)系統(tǒng)的安全評(píng)價(jià)方法,才能夠?qū)⑵涓玫膽?yīng)用在礦山安全狀態(tài)評(píng)價(jià)中[1]。

其中人工神經(jīng)網(wǎng)絡(luò)在處理無(wú)法使用簡(jiǎn)單規(guī)則或公式進(jìn)行描述的大量的原始數(shù)據(jù)的問(wèn)題時(shí),以及在處理規(guī)律不清楚的問(wèn)題時(shí),其具有較大的優(yōu)勢(shì)。也正是由于這種方法能夠?qū)?fù)雜的非線性動(dòng)力學(xué)系統(tǒng)的適應(yīng),才能夠使其在礦山安全狀態(tài)評(píng)價(jià)中得到引進(jìn)與推廣。將人工神經(jīng)網(wǎng)絡(luò)對(duì)礦山安全狀態(tài)評(píng)價(jià)能力的訓(xùn)練進(jìn)行仿真實(shí)驗(yàn),在每次實(shí)驗(yàn)檢測(cè)之前,都需要對(duì)同一神經(jīng)網(wǎng)絡(luò)進(jìn)行重新初始化,之后需要運(yùn)用相同的訓(xùn)練樣本數(shù)據(jù)對(duì)神經(jīng)網(wǎng)絡(luò)進(jìn)行訓(xùn)練,以便達(dá)到訓(xùn)練要求后對(duì)網(wǎng)絡(luò)進(jìn)行仿真測(cè)試,訓(xùn)練性能函數(shù)的誤差需要保持在10以內(nèi)。其神經(jīng)網(wǎng)絡(luò)的訓(xùn)練過(guò)程是網(wǎng)絡(luò)在初始權(quán)閾值的基礎(chǔ)上,對(duì)其權(quán)閾值進(jìn)行不斷的修改,以便尋找出它們之間的某種聯(lián)系,使得輸入的整個(gè)訓(xùn)練樣本集數(shù)據(jù)經(jīng)過(guò)網(wǎng)絡(luò)的運(yùn)算之后,其輸出與相應(yīng)的目標(biāo)數(shù)據(jù)差別能夠滿足性能函數(shù)的要求。因此,在人工網(wǎng)絡(luò)對(duì)礦山安全狀態(tài)進(jìn)行評(píng)判的時(shí)候,即使所有數(shù)據(jù)與性能均符合要求,但是由于在訓(xùn)練的時(shí)候就被賦予了不同的權(quán)閾值,訓(xùn)練之后得到的權(quán)閾值的最終組合也會(huì)存在較大的差異。通過(guò)神經(jīng)網(wǎng)絡(luò)對(duì)礦山進(jìn)行安全評(píng)判的目的在于運(yùn)用神經(jīng)網(wǎng)絡(luò)總結(jié)分析數(shù)據(jù),對(duì)礦井各個(gè)致災(zāi)的貢獻(xiàn)率進(jìn)行分析,進(jìn)而對(duì)礦山的安裝狀態(tài)進(jìn)行評(píng)判。從神經(jīng)網(wǎng)絡(luò)的角度來(lái)分析,通過(guò)運(yùn)用網(wǎng)絡(luò)的運(yùn)算功能對(duì)訓(xùn)練樣本的數(shù)據(jù)進(jìn)行統(tǒng)計(jì)分析,并從中找出滿足目標(biāo)值以及性能要求的權(quán)閾值組合形式,從而通過(guò)仿真方式來(lái)評(píng)價(jià)礦山的安全狀態(tài)。

3 結(jié)語(yǔ)

通過(guò)對(duì)人工神經(jīng)網(wǎng)絡(luò)在礦山安全狀態(tài)的評(píng)判能力進(jìn)行訓(xùn)練以及仿真測(cè)試后,發(fā)現(xiàn)人工神經(jīng)網(wǎng)絡(luò)與人類評(píng)判方法存在一定的差異性,在今后的發(fā)展過(guò)程中,還需要對(duì)人工神經(jīng)網(wǎng)絡(luò)在礦山安全狀態(tài)中的評(píng)判能力進(jìn)行不斷的優(yōu)化與改進(jìn),以便更好的適應(yīng)礦山安全狀態(tài)的評(píng)判,在礦山安全狀態(tài)的評(píng)判中充分發(fā)揮出人工神經(jīng)網(wǎng)絡(luò)的作用,從而更好的確保礦山生產(chǎn)與經(jīng)營(yíng)的安全性。

第2篇:人工神經(jīng)網(wǎng)絡(luò)的缺點(diǎn)范文

Abstract: The technology of affecting the output accuracy of artificial neural network model has affected widespread ettention,and influence researches of sample quality to neural network output accuracy are very few,and the majority of these researcher about neural network structure. This paper analyses the influence of the sample to the output of artificial neural network,having important significance to improve accuracy of neural network output.

關(guān)鍵詞: 人工神經(jīng)網(wǎng)絡(luò);局部影響;BP神經(jīng)網(wǎng)絡(luò);算法

Key words: artificial neural networks;local influence;BP neural network;algorithm

中圖分類號(hào):TP393.092 文獻(xiàn)標(biāo)識(shí)碼:A文章編號(hào):1006-4311(2010)07-0144-02

0引言

神經(jīng)網(wǎng)絡(luò)應(yīng)用到預(yù)測(cè)有許多問(wèn)題需要解決, 其中最為突出的問(wèn)題就是沒(méi)有一個(gè)確定的最合適的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)的標(biāo)準(zhǔn)方法,由于影響神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)能力的參數(shù)很多,本文針對(duì)最為常用的BP神經(jīng)網(wǎng)絡(luò),對(duì)影響神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)精度的樣本質(zhì)量進(jìn)行了詳細(xì)分析和研究, 并在此基礎(chǔ)上,給出優(yōu)化樣本后的具體例子。

1樣本質(zhì)量對(duì)網(wǎng)絡(luò)的影響

用于神經(jīng)網(wǎng)絡(luò)的樣本分為訓(xùn)練樣本和測(cè)試樣本,訓(xùn)練樣本的質(zhì)量在一定程度上決定著預(yù)測(cè)精度。首先,訓(xùn)練樣本和待預(yù)測(cè)樣本的均值存在較大差異, 預(yù)測(cè)誤差會(huì)隨著長(zhǎng)時(shí)間的訓(xùn)練而增大。其次,訓(xùn)練誤差會(huì)隨著訓(xùn)練樣本和待預(yù)測(cè)樣本均值間差異的增大而增大。再次,訓(xùn)練誤差會(huì)隨著訓(xùn)練樣本和待預(yù)測(cè)樣本方差間差異的增大而增大[1]。下面是文獻(xiàn)[1]對(duì)樣本質(zhì)量分析的方法。

文獻(xiàn)[1]的人工神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)誤差為e=em+et+er,其中,e為預(yù)測(cè)誤差;em為模型誤差,它由所建回歸模型與實(shí)際系統(tǒng)的差異引起的;et為最終的訓(xùn)練誤差;er為人工神經(jīng)網(wǎng)絡(luò)訓(xùn)練和預(yù)測(cè)過(guò)程中引入的隨機(jī)誤差。et和er的存在是不可避免的,而em為:em=ef+ed,式中ef為實(shí)際輸出值與預(yù)測(cè)輸出值之間的誤差,它反映了樣本質(zhì)量;為由不正確的嵌入維數(shù)引起的誤差, 它可通過(guò)選擇合適的輸入神經(jīng)元數(shù)來(lái)消除。

為了評(píng)價(jià)訓(xùn)練樣本質(zhì)量,根據(jù)ef提出“一致度”的指標(biāo)。文獻(xiàn)[1]定義了偽距離DCTP-D,但計(jì)算偽距離是相當(dāng)復(fù)雜的,難于實(shí)現(xiàn)對(duì)樣本質(zhì)量的分析和應(yīng)用。下面用協(xié)方差比統(tǒng)計(jì)量分析訓(xùn)練樣本對(duì)預(yù)測(cè)精度的影響。

設(shè)訓(xùn)練樣本為θ,是神經(jīng)網(wǎng)絡(luò)的輸出,i是從θ中剔除第i個(gè)數(shù)據(jù)點(diǎn)的神經(jīng)網(wǎng)絡(luò)輸出。則剔除第i個(gè)數(shù)據(jù)點(diǎn)的協(xié)方差比統(tǒng)計(jì)量CR=cv()cv()表明了剔除第個(gè)數(shù)據(jù)點(diǎn)對(duì)神經(jīng)網(wǎng)絡(luò)輸出精度的影響,從精度方面刻畫了第i個(gè)數(shù)據(jù)點(diǎn)的重要程度。CRi-1的值越大,對(duì)預(yù)測(cè)精度(神經(jīng)網(wǎng)絡(luò)輸出)的影響越大。在使用PB神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)時(shí)先對(duì)訓(xùn)練樣本進(jìn)行篩選,剔除對(duì)網(wǎng)絡(luò)輸出結(jié)果影響小的樣本點(diǎn)。

樣本精簡(jiǎn):矩陣初等行變換能保持矩陣列向量之間的線性關(guān)系,利用這個(gè)結(jié)論我們可以用來(lái)進(jìn)行樣本數(shù)據(jù)的精簡(jiǎn),這樣精簡(jiǎn)后的樣本數(shù)據(jù)能夠保持各屬性字段之間的線性關(guān)系。神經(jīng)網(wǎng)絡(luò)的訓(xùn)練實(shí)際上是一個(gè)通過(guò)給定樣本實(shí)時(shí)調(diào)整網(wǎng)絡(luò)連接權(quán)重的過(guò)程,樣本預(yù)處理的結(jié)果對(duì)于網(wǎng)絡(luò)訓(xùn)練的收斂性起到關(guān)鍵的作用。

2實(shí)例分析

本文采用麻省理工大學(xué)林肯實(shí)驗(yàn)室的測(cè)試數(shù)據(jù)KDDCUP99,它是專門用來(lái)進(jìn)行入侵檢測(cè)評(píng)估的。我們采用數(shù)據(jù)集上的一個(gè)子集10%作為實(shí)驗(yàn)數(shù)據(jù)源,它一共包含有494021條網(wǎng)絡(luò)連接,其中正常連接97277 條,異常連接396744條。

下面我們針對(duì)DOS攻擊類型數(shù)據(jù)(DOS攻擊類型編碼為“0 0 0 1”)進(jìn)行分析。

設(shè)A為樣本數(shù)據(jù)矩陣,其中每一行向量表示一條樣本數(shù)據(jù),則該行向量含34個(gè)數(shù)據(jù),假設(shè)有a條樣本,則A為a行34列矩陣;由于每條樣本數(shù)據(jù)輸入網(wǎng)絡(luò)后都會(huì)有一條對(duì)應(yīng)的輸出,加上本實(shí)例為DOS攻擊類型以編碼“0 0 0 1”表示,則期望輸出矩陣B為a行4列矩陣(暫時(shí)先不考慮閾值,只考慮權(quán)重問(wèn)題)。本文BP神經(jīng)網(wǎng)絡(luò)的輸入節(jié)點(diǎn)數(shù)為34個(gè),隱含層節(jié)點(diǎn)數(shù)為15個(gè),輸出層節(jié)點(diǎn)數(shù)為4個(gè)雖然神經(jīng)網(wǎng)絡(luò)的連接權(quán)重可以用一個(gè)實(shí)數(shù)串進(jìn)行表示,但在進(jìn)行網(wǎng)絡(luò)的訓(xùn)練時(shí),還需要將實(shí)數(shù)串分為兩部分,設(shè)輸入層到隱含層的連接權(quán)重矩陣為W1,則W1為34行15列矩陣;同理,隱含層到輸出層的連接權(quán)重矩陣W2為15行4列矩陣。于是我們可以得到公式(1)。

AWW=B(1)

如式(2)所示,A和B是系數(shù)矩陣 ,C是增廣矩陣。經(jīng)過(guò)帶約束初等行變換后如式(3)所示。

C=[AB](2)

C=[AB]A′B′C D(3)

式(3)中,C、D為零矩陣,經(jīng)過(guò)處理以后,由原先的A對(duì)應(yīng)輸出B變成了現(xiàn)在的A′對(duì)應(yīng)輸出B′,通過(guò)這樣的處理,我們就可以將大樣本變?yōu)樾颖?從而使計(jì)算更加快速,樣本數(shù)據(jù)更加精簡(jiǎn)。 為了能使樣本應(yīng)用于本文提出的分類檢測(cè)器同步檢測(cè)模型,我們將樣本數(shù)據(jù)先進(jìn)行歸類合并,分別構(gòu)造出DOS、PROBE、U2R、R2L四大類攻擊樣本數(shù)據(jù)集,這樣四個(gè)檢測(cè)器分別檢測(cè)四大類攻擊。為了降低可疑攻擊數(shù),即四大攻擊類型數(shù)據(jù)集之間的重疊記錄數(shù)要少。精度過(guò)大會(huì)增加計(jì)算量,從而會(huì)降低學(xué)習(xí)速度;精度過(guò)小,會(huì)使記錄重疊數(shù)增加,從而造成可疑攻擊數(shù)增加,影響訓(xùn)練結(jié)果。

對(duì)訓(xùn)練樣本用上述方法進(jìn)行優(yōu)化后,利用矩陣初等行變換能保持矩陣列向量之間的線性關(guān)系這個(gè)結(jié)論,我們可以進(jìn)一步對(duì)樣本數(shù)據(jù)的精簡(jiǎn),這樣精簡(jiǎn)后的樣本數(shù)據(jù)能夠保持各屬性字段之間的線性關(guān)系。神經(jīng)網(wǎng)絡(luò)的訓(xùn)練實(shí)際上是一個(gè)通過(guò)給定樣本實(shí)時(shí)調(diào)整網(wǎng)絡(luò)連接權(quán)重的過(guò)程,樣本預(yù)處理的結(jié)果對(duì)于網(wǎng)絡(luò)訓(xùn)練的收斂性起到關(guān)鍵的作用。

3結(jié)論

(1)分析神經(jīng)網(wǎng)絡(luò)進(jìn)行非線性預(yù)測(cè)多變量預(yù)測(cè)的優(yōu)越性以及神經(jīng)網(wǎng)絡(luò)用于預(yù)測(cè)的缺點(diǎn)所在。

(2)提出了影響網(wǎng)絡(luò)預(yù)測(cè)能力的五個(gè)重要參數(shù):樣本質(zhì)量、樣本歸一化、輸人層節(jié)點(diǎn)數(shù)、隱層節(jié)點(diǎn)數(shù)及網(wǎng)絡(luò)訓(xùn)練允許誤差目標(biāo)值。

(3)在一定允許訓(xùn)練誤差的情況下,研究了無(wú)個(gè)參數(shù)對(duì)網(wǎng)絡(luò)預(yù)測(cè)精度的影響,發(fā)現(xiàn)存在一個(gè)最優(yōu)的樣本、輸入層節(jié)點(diǎn)數(shù)和隱層節(jié)點(diǎn)數(shù),這樣的網(wǎng)絡(luò)具有較強(qiáng)的預(yù)測(cè)能力。

(4)本文用遺傳算法構(gòu)造了同時(shí)優(yōu)化影響神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)精度的參數(shù)(輸入層節(jié)點(diǎn)數(shù)、隱層節(jié)點(diǎn)數(shù)及樣本允許訓(xùn)練誤差)的算法, 得到了較優(yōu)的網(wǎng)絡(luò)預(yù)測(cè)模型最后, 用算例驗(yàn)證了本文分析結(jié)果的正確性。

參考文獻(xiàn):

[1]陳果.神經(jīng)網(wǎng)絡(luò)模型的預(yù)測(cè)精度影響因素分析[J].北京: 模式識(shí)別與人工智能,2005,18(5):528-533.

[2]蔣林,陳濤,屈梁生.訓(xùn)練樣本質(zhì)量對(duì)人工神經(jīng)網(wǎng)絡(luò)性能的影響[J].北京:中國(guó)機(jī)械工程,1979,8(2):50-53.

[3]李敏強(qiáng),徐博藝,寇紀(jì)淞.遺傳算法與神經(jīng)網(wǎng)絡(luò)的結(jié)合[J].北京:系統(tǒng)工程理論與實(shí)踐,1999(2).

[4]吳懷宇,宋玉階.非線性回歸分析中的神經(jīng)網(wǎng)絡(luò)方法[J].武漢:武漢冶金科技大學(xué)學(xué)報(bào),1998,21(1):90-93.

第3篇:人工神經(jīng)網(wǎng)絡(luò)的缺點(diǎn)范文

關(guān)鍵詞 礦井提升機(jī);模糊理論;神經(jīng)網(wǎng)絡(luò);小波變化;智能診斷

中圖分類號(hào):TD534 文獻(xiàn)標(biāo)識(shí)碼:A 文章編號(hào):1671—7597(2013)051-041-01

礦井提升機(jī)是集械、電、液于一體的大型設(shè)備。礦井提升機(jī)在煤礦生產(chǎn)過(guò)程中主要擔(dān)負(fù)著提升人員、生產(chǎn)設(shè)備、煤炭和矸石等任務(wù)。礦井提升機(jī)一旦發(fā)生故障,輕則導(dǎo)致礦山停產(chǎn)停工,嚴(yán)重時(shí)則有可能造成人員傷亡事件。為了確保礦井提升機(jī)能夠安全運(yùn)行避免礦山事故的發(fā)生,國(guó)內(nèi)外相關(guān)科技工作者也進(jìn)行了大量的探討和研究,其中礦井提升機(jī)的故障診斷技術(shù)是一個(gè)重要方面。礦井提升機(jī)故障診斷技術(shù)的成功應(yīng)用對(duì)煤礦的安全生產(chǎn)起到了積極的作用,為煤礦企業(yè)也會(huì)產(chǎn)生巨大的經(jīng)濟(jì)效益。

1 礦井提升機(jī)故障分類

礦井提升機(jī)的故障可分為機(jī)械故障與電氣故障兩類。機(jī)械故障是指礦井提升機(jī)設(shè)備上的某些參數(shù)超過(guò)了正常運(yùn)行時(shí)的額限,是一種提升機(jī)設(shè)備的外在表現(xiàn)形式,主要解決方法是給提升機(jī)設(shè)備增加一些保護(hù)裝置,防止機(jī)械故障發(fā)生。電氣故障需要測(cè)量和檢測(cè)提升機(jī)設(shè)備上的工況參數(shù)和數(shù)據(jù)信息,并將這些工礦參數(shù)和數(shù)據(jù)信息進(jìn)行數(shù)據(jù)處理和綜合分析才能診斷出提升機(jī)設(shè)備的故障位置、故障問(wèn)題和原因。由于礦井提升機(jī)的電氣故障往往與很多的設(shè)備變量和參數(shù)有關(guān)聯(lián),從而降低了提升機(jī)故障診斷的準(zhǔn)確率。如果電氣故障不能有效而快速的得到解決,也會(huì)導(dǎo)致提升機(jī)設(shè)備機(jī)械故障的發(fā)生。

2 礦井提升機(jī)故障診斷存在的問(wèn)題

目前關(guān)于提升機(jī)故障診斷研究還相對(duì)較少,現(xiàn)有的提升機(jī)故障診斷系統(tǒng)也存在一些不足和缺陷。比如,當(dāng)提升機(jī)控制系統(tǒng)中的傳感器或執(zhí)行器發(fā)生故障問(wèn)題, 將會(huì)嚴(yán)重影響提升機(jī)系統(tǒng)的安全可靠運(yùn)行;對(duì)礦井提升機(jī)系統(tǒng)中的工礦參數(shù)和數(shù)據(jù)信息處理準(zhǔn)確度不高,提升機(jī)設(shè)備智能化程度相對(duì)較低,也是目前礦井提升機(jī)故障診斷中存在的問(wèn)題;對(duì)于以開發(fā)的礦井提升機(jī)智能故障診斷系統(tǒng)還存在自適應(yīng)能力弱,實(shí)時(shí)性不強(qiáng)等缺點(diǎn)。

3 礦井提升機(jī)智能故障診斷技術(shù)及發(fā)展趨勢(shì)

提高礦井提升機(jī)的安全可靠性,通常有2種方法。一種是設(shè)計(jì)高可靠的礦井提升機(jī)制動(dòng)系統(tǒng),二是對(duì)礦井提升機(jī)的制動(dòng)系統(tǒng)進(jìn)行故障診斷。目前對(duì)于礦井提升機(jī)的智能故障診斷的研究成果很多,下面主要介紹幾種常見的智能故障診斷技術(shù)以及提升機(jī)故障診斷技術(shù)未來(lái)的發(fā)展趨勢(shì)。

3.1 基于模糊理論的礦井提升機(jī)故障診斷方法

礦井提升機(jī)的模糊診斷法是將數(shù)學(xué)集合論的概念應(yīng)用到提升機(jī)設(shè)備的故障診斷中,進(jìn)行模糊推理,實(shí)現(xiàn)礦井提升機(jī)的故障診斷,從而解決提升機(jī)設(shè)備征兆與故障間的不確定關(guān)系。該診斷方法模糊推理邏輯嚴(yán)謹(jǐn),但是由于較難確定礦井提升機(jī)故障的模糊關(guān)系,模糊診斷知識(shí)獲取困難等原因,因此礦井提升機(jī)的模糊診斷法還缺乏一定的準(zhǔn)確性。

3.2 基于神經(jīng)網(wǎng)絡(luò)的礦井提升機(jī)故障診斷方法

人工神經(jīng)網(wǎng)絡(luò)具有容錯(cuò)能力、自學(xué)習(xí)和自適應(yīng)能力以及并行處理信息能力強(qiáng)等特點(diǎn)。由于人工神經(jīng)網(wǎng)絡(luò)具有以上特點(diǎn),目前將人工神經(jīng)網(wǎng)絡(luò)應(yīng)用到礦井提升機(jī)故障診斷的研究也逐漸增多,主要研究有基于BP神經(jīng)網(wǎng)絡(luò)或基于Elman神經(jīng)網(wǎng)絡(luò)的礦井提升機(jī)故障診斷方法。該方法的主要思想是將礦井提升機(jī)的故障特征向量作為人工神經(jīng)網(wǎng)絡(luò)的輸入,將礦井提升機(jī)的故障分類模式向量作為人工神經(jīng)網(wǎng)絡(luò)的輸出。輸入特征信號(hào)的提取方法主要有:時(shí)域特征法、頻域特征法以及幅值域特征法;時(shí)間序列法;小波變換特征提取法等。

3.3 基于小波變換的礦井提升機(jī)故障診斷方法

小波變換是時(shí)間頻率的局部化分析,它通過(guò)平移伸縮運(yùn)算對(duì)信號(hào)進(jìn)行多尺度細(xì)化,從而達(dá)到在信號(hào)低頻處頻率細(xì)分,高頻處時(shí)間細(xì)分,進(jìn)而可以觀察到信號(hào)的任意特性細(xì)節(jié)。其最顯著的特點(diǎn)是能夠進(jìn)行信號(hào)的多分辨率分析,對(duì)于正常信號(hào)中夾帶的瞬態(tài)反?,F(xiàn)象,不僅能檢測(cè)出來(lái),還能夠展示該反常信號(hào)的成分,因此基于小波變換技術(shù)在礦井提升機(jī)的故障診斷中得到了廣泛應(yīng)用。利用小波變換對(duì)礦井提升機(jī)的動(dòng)態(tài)系統(tǒng)的故障檢測(cè)與診斷也具有很好的效果,為礦井提升機(jī)的智能故障診斷技術(shù)提供了一種強(qiáng)而有力的分析手段。

3.4 基于人工智能的礦井提升機(jī)故障診斷方法

基于免疫粒子群算法的礦井提升機(jī)故障診斷方法是將人工免疫模型和離散粒子群進(jìn)化算法相結(jié)合的一種礦井提升機(jī)故障診斷方法。該方法提高了礦井提升機(jī)故障診斷的執(zhí)行效率,并且能夠適應(yīng)提升機(jī)故障診斷過(guò)程中出現(xiàn)的不確定性,還可以實(shí)現(xiàn)多種提升機(jī)故障診斷。

基于遺傳神經(jīng)網(wǎng)絡(luò)算法的礦井提升機(jī)故障診斷方法是將遺傳算法和人工神經(jīng)網(wǎng)絡(luò)相結(jié)合的一種新的提升機(jī)故障診斷方法。該方法將遺傳算法的全局特性和神經(jīng)網(wǎng)絡(luò)的并行處理信息能力強(qiáng)等優(yōu)點(diǎn)相接合,能夠有效的克服人工神經(jīng)網(wǎng)絡(luò)收斂速度慢以及容易陷入局部極小等缺點(diǎn),從而更加準(zhǔn)確的建立礦井提升機(jī)故障診斷系統(tǒng),快速地判斷出礦井提升機(jī)的故障。

4 結(jié)束語(yǔ)

隨著現(xiàn)代科技的發(fā)展,越來(lái)越多的新型智能診斷理論開始應(yīng)用于礦井提升機(jī)的故障診斷,如小波分析、人工神經(jīng)網(wǎng)絡(luò)、免疫算法以及遺傳算法等。開展對(duì)礦井提升機(jī)的智能故障診斷的研究,將會(huì)極大地提高提升機(jī)運(yùn)行的安全可靠性,避免礦井事故的發(fā)生,減少不必要的損失, 為礦井提升機(jī)設(shè)備的經(jīng)濟(jì)、高效以及安全運(yùn)行提供強(qiáng)而有力的技術(shù)支持。

參考文獻(xiàn)

[1]張平.礦用機(jī)電設(shè)備常見故障及其解決策略[J].硅谷,2012(6):88.

[2]羅永仁,晏飛.故障智能診斷技術(shù)及其在礦井提升機(jī)上的應(yīng)用研究[J].2006(11):117-119.

[3]吳艦,吳楠.基于小波分析的煤礦機(jī)電設(shè)備故障檢測(cè)關(guān)鍵技術(shù)應(yīng)用研究[J].自動(dòng)化與儀器儀表,2011(5):85-86.

[4]汪楚嬌,夏士雄,牛強(qiáng).免疫粒子群算法及其在礦井提升機(jī)故障診斷中的應(yīng)用[J].電子學(xué)報(bào),2010:94-98.

作者簡(jiǎn)介

第4篇:人工神經(jīng)網(wǎng)絡(luò)的缺點(diǎn)范文

關(guān)鍵詞性能對(duì)比感知器BP網(wǎng)絡(luò)霍普菲爾德網(wǎng)絡(luò)字符識(shí)別

1引言

人工神經(jīng)網(wǎng)絡(luò)是在人類對(duì)其大腦神經(jīng)網(wǎng)絡(luò)認(rèn)識(shí)理解的基礎(chǔ)上人工構(gòu)造的能夠?qū)崿F(xiàn)某種功能的神經(jīng)網(wǎng)絡(luò)。 它是理論化的人腦神經(jīng)網(wǎng)絡(luò)的數(shù)學(xué)模型,是基于模仿大腦神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)和功能而建立的一種信息處理系統(tǒng)。因其自組織、自學(xué)習(xí)能力以及具有信息的分布式存儲(chǔ)和并行處理,信息存儲(chǔ)與處理的合一等特點(diǎn)得到了廣泛的關(guān)注,已經(jīng)發(fā)展了上百種人工神經(jīng)網(wǎng)絡(luò)。

一般來(lái)說(shuō),人工神經(jīng)網(wǎng)絡(luò)從結(jié)構(gòu)上可分為兩種:前向網(wǎng)絡(luò)和反饋網(wǎng)絡(luò)。典型的前向網(wǎng)絡(luò)有單層感知器、BP網(wǎng)絡(luò)等,反饋網(wǎng)絡(luò)有霍普菲爾德網(wǎng)絡(luò)等[1]。

人工神經(jīng)網(wǎng)絡(luò)已經(jīng)被廣泛應(yīng)用于模式識(shí)別、信號(hào)處理、專家系統(tǒng)、優(yōu)化組合、智能控制等各個(gè)方面,其中采用人工神經(jīng)網(wǎng)絡(luò)進(jìn)行模式識(shí)別具有一些傳統(tǒng)技術(shù)所沒(méi)有的優(yōu)點(diǎn):良好的容錯(cuò)能力[2j、分類能力、并行處理能力和自學(xué)習(xí)能力,并且其運(yùn)行速度快,自適應(yīng)性能好,具有較高的分辨率。單層感知器、BP網(wǎng)絡(luò)和霍普菲爾德網(wǎng)絡(luò)均可以用于字符識(shí)別。

本文通過(guò)具體采用感知器網(wǎng)絡(luò)、BP網(wǎng)絡(luò)和霍普菲爾德反饋網(wǎng)絡(luò)對(duì)26個(gè)英文字母進(jìn)行識(shí)別的應(yīng)用,通過(guò)實(shí)驗(yàn)給出各自的識(shí)別出錯(cuò)率,通過(guò)比較,可以看出這3種神經(jīng)網(wǎng)絡(luò)的識(shí)別能力以及各自的優(yōu)缺點(diǎn)。

2 字符識(shí)別問(wèn)題描述與網(wǎng)絡(luò)識(shí)別前的預(yù)處理

字符識(shí)別在現(xiàn)代日常生活的應(yīng)用越來(lái)越廣泛,比如車輛牌照自動(dòng)識(shí)別系統(tǒng)[3,4],手寫識(shí)別系統(tǒng)[5],辦公自動(dòng)化等等[6]。畢業(yè)論文 本文采用單層感知器、BP網(wǎng)絡(luò)和霍普菲爾德網(wǎng)絡(luò)對(duì)26個(gè)英文字母進(jìn)行識(shí)別。首先將待識(shí)別的26個(gè)字母中的每一個(gè)字母都通過(guò)長(zhǎng)和寬分別為7×5的方格進(jìn)行數(shù)字化處理,并用一個(gè)向量表示。其相應(yīng)有數(shù)據(jù)的位置置為1,其他位置置為O。圖1給出了字母A、B和C的數(shù)字化過(guò)程,其中最左邊的為字母A的數(shù)字化處理結(jié)果所得對(duì)應(yīng)的向量為:IetterA~「00100010100101010001111111000110001〕’,由此可得每個(gè)字母由35個(gè)元素組成一個(gè)向量。由26個(gè)標(biāo)準(zhǔn)字母組成的輸人向量被定義為一個(gè)輸人向量矩陣alphabet,即神經(jīng)網(wǎng)絡(luò)的樣本輸人為一個(gè)35×26的矩陣。其中alphabet=[letterA,letterB,lettere,……letterZj。網(wǎng)絡(luò)樣本輸出需要一個(gè)對(duì)26個(gè)輸人字母進(jìn)行區(qū)分輸出向量,對(duì)于任意一個(gè)輸人字母,網(wǎng)絡(luò)輸出在字母對(duì)應(yīng)的順序位置上的值為1,其余為O,即網(wǎng)絡(luò)輸出矩陣為對(duì)角線上為1的26×26的單位陣,定義target=eye(26)。

本文共有兩類這樣的數(shù)據(jù)作為輸人:一類是理想的標(biāo)準(zhǔn)輸人信號(hào);另一類是在標(biāo)準(zhǔn)輸人信號(hào)中加上用MATLAB工具箱里的噪聲信號(hào),即randn函數(shù)。

3 識(shí)別字符的網(wǎng)絡(luò)設(shè)計(jì)及其實(shí)驗(yàn)分析

3.1單層感知器的設(shè)計(jì)及其識(shí)別效果

選取網(wǎng)絡(luò)35個(gè)輸人節(jié)點(diǎn)和26個(gè)輸出節(jié)點(diǎn),設(shè)置目標(biāo)誤差為0.0001,最大訓(xùn)練次數(shù)為40。設(shè)計(jì)出的網(wǎng)絡(luò)使輸出矢量在正確的位置上輸出為1,在其他位置上輸出為O。醫(yī)學(xué)論文 首先用理想輸人信號(hào)訓(xùn)練網(wǎng)絡(luò),得到無(wú)噪聲訓(xùn)練結(jié)果,然后用兩組標(biāo)準(zhǔn)輸入矢量加上兩組帶有隨機(jī)噪聲的輸人矢量訓(xùn)練網(wǎng)絡(luò),這樣可以保證網(wǎng)絡(luò)同時(shí)具有對(duì)理想輸人和噪聲輸人分類的能力。網(wǎng)絡(luò)訓(xùn)練完后,為保證網(wǎng)絡(luò)能準(zhǔn)確無(wú)誤地識(shí)別出理想的字符,再用無(wú)噪聲的標(biāo)準(zhǔn)輸入訓(xùn)練網(wǎng)絡(luò),最終得到有能力識(shí)別帶有噪聲輸人的網(wǎng)絡(luò)。下一步是對(duì)所設(shè)計(jì)的網(wǎng)絡(luò)進(jìn)行性能測(cè)試:給網(wǎng)絡(luò)輸人任意字母,并在其上加人具有平均值從。~0.2的噪聲,隨機(jī)產(chǎn)生100個(gè)輸人矢量,分別對(duì)上述兩種網(wǎng)絡(luò)的字母識(shí)別出錯(cuò)率進(jìn)行實(shí)驗(yàn),結(jié)果如圖2所示。其中縱坐標(biāo)所表示的識(shí)別出錯(cuò)率是將實(shí)際輸出減去期望輸出所得的輸出矩陣中所有元素的絕對(duì)值和的一半再除以26得到的;虛線代表用無(wú)噪聲的標(biāo)準(zhǔn)輸人信號(hào)訓(xùn)練出網(wǎng)絡(luò)的出錯(cuò)率,實(shí)線代表用有噪聲訓(xùn)練出網(wǎng)絡(luò)的出錯(cuò)率。從圖中可以看出,無(wú)噪聲訓(xùn)練網(wǎng)絡(luò)對(duì)字符進(jìn)行識(shí)別時(shí),當(dāng)字符一出現(xiàn)噪聲時(shí),該網(wǎng)絡(luò)識(shí)別立刻出現(xiàn)錯(cuò)誤;當(dāng)噪聲均值超過(guò)0.02時(shí),識(shí)別出錯(cuò)率急劇上升,其最大出錯(cuò)率達(dá)到21.5%。由此可見,無(wú)噪聲訓(xùn)練網(wǎng)絡(luò)識(shí)別幾乎沒(méi)有抗干擾能力。而有噪聲訓(xùn)練出的網(wǎng)絡(luò)具有一定的抗干擾能力,它在均值為。~0.06之間的噪聲環(huán)境下,能夠準(zhǔn)確無(wú)誤地識(shí)別;其最大識(shí)別出錯(cuò)率約為6.6%,遠(yuǎn)遠(yuǎn)小于無(wú)噪聲訓(xùn)練出的網(wǎng)絡(luò)。

3.2BP網(wǎng)絡(luò)的設(shè)計(jì)及其識(shí)別效果

該網(wǎng)絡(luò)設(shè)計(jì)方法在文獻(xiàn)[lj中有詳細(xì)介紹。網(wǎng)絡(luò)具有35個(gè)輸人節(jié)點(diǎn)和26個(gè)輸出節(jié)點(diǎn)。目標(biāo)誤差為0.0001,采用輸人在(0,l)范圍內(nèi)對(duì)數(shù)S型激活函數(shù)兩層109519/109519網(wǎng)絡(luò),隱含層根據(jù)經(jīng)驗(yàn)選取10個(gè)神經(jīng)元。和單層感知器一樣,分別用理想輸人信號(hào)和帶有隨機(jī)噪聲的輸人訓(xùn)練網(wǎng)絡(luò),得到有噪聲訓(xùn)練網(wǎng)絡(luò)和無(wú)噪聲訓(xùn)練網(wǎng)絡(luò)。由于噪聲輸人矢量可能會(huì)導(dǎo)致網(wǎng)絡(luò)的1或o輸出不正確,或出現(xiàn)其他值,所以為了使網(wǎng)絡(luò)具有抗干擾能力,在網(wǎng)絡(luò)訓(xùn)練后,再將其輸出經(jīng)過(guò)一層競(jìng)爭(zhēng)網(wǎng)絡(luò)的處理,使網(wǎng)絡(luò)的輸出只在本列中的最大值的位t為1,保證在其他位置輸出為O,其中網(wǎng)絡(luò)的訓(xùn)練采用自適應(yīng)學(xué)習(xí)速率加附加動(dòng)量法,在MATLAB工具箱中直接調(diào)用traingdx。在與單層感知器相同的測(cè)試條件下對(duì)網(wǎng)絡(luò)進(jìn)行性能測(cè)試,結(jié)果如圖3所示。其中虛線代表用無(wú)噪聲訓(xùn)練網(wǎng)絡(luò)的出錯(cuò)率,實(shí)線代表用有噪聲訓(xùn)練網(wǎng)絡(luò)的出錯(cuò)率。從圖中可以看出,在均值為o一0.12之間的噪聲環(huán)境下,兩個(gè)網(wǎng)絡(luò)都能夠準(zhǔn)確地進(jìn)行識(shí)別。在0.12~0.15之間的噪聲環(huán)境下,由于噪聲幅度相對(duì)較小,待識(shí)別字符接近于理想字符,故無(wú)噪聲訓(xùn)練網(wǎng)絡(luò)的出錯(cuò)率較有噪聲訓(xùn)練網(wǎng)絡(luò)略低。當(dāng)所加的噪聲均值超過(guò)。.15時(shí),待識(shí)別字符在噪聲作用下不再接近于理想字符,無(wú)噪聲訓(xùn)練網(wǎng)絡(luò)的出錯(cuò)率急劇上升,此時(shí)有噪聲訓(xùn)練網(wǎng)絡(luò)的性能較優(yōu).

轉(zhuǎn)貼于 3.3離散型,霍普菲爾德網(wǎng)絡(luò)的設(shè)計(jì)及其識(shí)別效果

此時(shí)網(wǎng)絡(luò)輸人節(jié)點(diǎn)數(shù)目與輸出神經(jīng)元的數(shù)目是相等的,有r=s=35,采用正交化的權(quán)值設(shè)計(jì)方法。在MATLAB工具箱中可直接調(diào)用函數(shù)newh叩.m。要注意的是,由于調(diào)用函數(shù)newhoP.m,需要將輸人信號(hào)中所有的。英語(yǔ)論文 變換為一1。如letterA~[一1一11~1-1一11一11一l一11一11一11一1一1一11111111一l一l一111一1一1一11〕’。設(shè)計(jì)離散型霍普菲爾德網(wǎng)絡(luò)進(jìn)行字符識(shí)別,只需要讓網(wǎng)絡(luò)記憶所要求的穩(wěn)定平衡點(diǎn),即待識(shí)別的26個(gè)英文字母。故只需要用理想輸人信號(hào)來(lái)訓(xùn)練網(wǎng)絡(luò)。對(duì)于訓(xùn)練后的網(wǎng)絡(luò),我們進(jìn)行性能測(cè)試。給網(wǎng)絡(luò)輸入任意字母,并在其上加人具有平均值從。~0.5的噪聲,隨機(jī)產(chǎn)生100個(gè)輸人矢量,觀察字母識(shí)別出錯(cuò)率,結(jié)果如圖4所示。從圖中可以看出,在均值為0~0.33之間的噪聲環(huán)境下,網(wǎng)絡(luò)能夠準(zhǔn)確地進(jìn)行識(shí)別。在0.33~0.4之間的噪聲環(huán)境下,識(shí)別出錯(cuò)率不到1%,在0.4以上的噪聲環(huán)境下,網(wǎng)絡(luò)識(shí)別出錯(cuò)率急劇上升,最高達(dá)到大約10%。可以看出,該網(wǎng)絡(luò)穩(wěn)定點(diǎn)的吸引域大約在0.3~。.4之間。當(dāng)噪聲均值在吸引域內(nèi)時(shí),網(wǎng)絡(luò)進(jìn)行字符識(shí)別時(shí)幾乎不出錯(cuò),而當(dāng)噪聲均值超過(guò)吸引域時(shí),網(wǎng)絡(luò)出錯(cuò)率急劇上升。

4結(jié)論

本文設(shè)計(jì)了3種人工神經(jīng)網(wǎng)絡(luò)對(duì)26個(gè)英文字母進(jìn)行了識(shí)別。可以看出,這3種人工神經(jīng)網(wǎng)絡(luò)均能有效地進(jìn)行字符識(shí)別,并且識(shí)別速度快,自適應(yīng)性能好,分辨率較高。由圖2和圖3可以看出,單層感知器的有噪聲訓(xùn)練網(wǎng)絡(luò)在均值為O~0.06之間的噪聲環(huán)境下可以準(zhǔn)確無(wú)誤的識(shí)別,而有噪聲訓(xùn)練的BP網(wǎng)絡(luò)可以在o~0.12之間的噪聲環(huán)境下準(zhǔn)確無(wú)誤的識(shí)別,故BP絡(luò)網(wǎng)絡(luò)容錯(cuò)性比單層感知器的容錯(cuò)性好;此外,噪聲達(dá)到0.2時(shí),單層感知器的有噪聲訓(xùn)練網(wǎng)絡(luò)的識(shí)別出錯(cuò)率為6.6%,而有噪聲訓(xùn)練的BP網(wǎng)絡(luò)的識(shí)別出錯(cuò)率為2.1%,故BP網(wǎng)絡(luò)比單層感知器識(shí)別能力強(qiáng)。另外,由圖2、圖3和圖4可以看出,這3種網(wǎng)絡(luò)中霍普菲爾德網(wǎng)絡(luò)識(shí)別率最高,它在噪聲為0.33以前幾乎不會(huì)出錯(cuò),BP網(wǎng)絡(luò)次之,感知器最差。

通過(guò)設(shè)計(jì)、應(yīng)用與性能對(duì)比,我們可得單層感知器網(wǎng)絡(luò)結(jié)構(gòu)和算法都很簡(jiǎn)單,訓(xùn)練時(shí)間短,但識(shí)別出錯(cuò)率較高,容錯(cuò)性也較差。BP網(wǎng)絡(luò)結(jié)構(gòu)和算法比單層感知器結(jié)構(gòu)稍復(fù)雜,但其識(shí)別率和容錯(cuò)性都較好?;羝辗茽柕戮W(wǎng)絡(luò)具有設(shè)計(jì)簡(jiǎn)單且容錯(cuò)性最好的雙重優(yōu)點(diǎn)。因此,我們應(yīng)根據(jù)網(wǎng)絡(luò)的特點(diǎn)以及實(shí)際要求來(lái)選擇人工神經(jīng)網(wǎng)絡(luò)對(duì)字符進(jìn)行識(shí)別。 參考文獻(xiàn)

[1]叢爽.面向MATLAB工具箱的神經(jīng)網(wǎng)絡(luò)理論與應(yīng)用「M.合肥:中國(guó)科學(xué)技術(shù)大學(xué)出版社,2003.

[2]武強(qiáng),童學(xué)鋒,季雋.基于人工神經(jīng)網(wǎng)絡(luò)的數(shù)字字符識(shí)別[J].計(jì)算機(jī)工程,2003,29(14):112一113.

[3]廖翔云,許錦標(biāo),龔仕偉.車牌識(shí)別技術(shù)研究[J].徽機(jī)發(fā)展,2003,13:30一35.

[4]李中凱,王效岳,魏修亭.BP網(wǎng)絡(luò)在汽車牌照字符識(shí)別中的應(yīng)用[J].東理工大學(xué)學(xué)報(bào),2004,18(4):69一72.

第5篇:人工神經(jīng)網(wǎng)絡(luò)的缺點(diǎn)范文

關(guān)鍵詞:電力系統(tǒng)超短期負(fù)荷預(yù)測(cè)人工神經(jīng)網(wǎng)絡(luò)外推法

中圖分類號(hào):F407文獻(xiàn)標(biāo)識(shí)碼: A

1 負(fù)荷預(yù)測(cè)概述[1]

負(fù)荷的大小與特性對(duì)于電力系統(tǒng)設(shè)計(jì)和運(yùn)行都是極為重要的因素。對(duì)負(fù)荷的變化與特性有一個(gè)事先的估計(jì)是電力系統(tǒng)運(yùn)行、控制和規(guī)劃不可缺少的一部分。

指導(dǎo)調(diào)度員控制聯(lián)絡(luò)線交換功率在規(guī)定范圍,一般需5~15min 的負(fù)荷數(shù)據(jù)。預(yù)防性控制和緊急狀態(tài)處理需要10min至1h的預(yù)測(cè)值[2] 。這也是本文的主要研究方向。

2 電力系統(tǒng)負(fù)荷預(yù)測(cè)方法簡(jiǎn)介

長(zhǎng)期以來(lái),國(guó)內(nèi)外學(xué)者對(duì)負(fù)荷預(yù)測(cè)的理論和方法做了大量的研究,提出了各種各樣的預(yù)測(cè)方法,這些方法大致可分為兩大類:一類是以時(shí)間序列法為代表的傳統(tǒng)方法,另一類是以人工神經(jīng)網(wǎng)絡(luò)為代表的新型人工智能方法。傳統(tǒng)方法中主要有時(shí)間序列法、多元線性回歸法及傅立葉展開法等。人工智能方法中主要有專家系統(tǒng)法、模糊邏輯法、人工神經(jīng)網(wǎng)絡(luò)法及小波分析法等。由于電力負(fù)荷的變化有其不確定性,如氣候變化、意外事故的發(fā)生等對(duì)電力負(fù)荷造成隨機(jī)干擾,因此,每種方法均有一定的適應(yīng)場(chǎng)合,并需要不斷的完善。

2.1 回歸分析法

回歸分析法又稱統(tǒng)計(jì)分析法,回歸模型有一元線性回歸、多元線性回歸、非線性回歸等回歸預(yù)測(cè)模型;其中,線性回歸用于中期負(fù)荷預(yù)測(cè)。優(yōu)點(diǎn)是:預(yù)測(cè)精度較高,適用于在中、短期預(yù)測(cè)使用。缺點(diǎn)是:1.規(guī)劃水平年的工農(nóng)業(yè)總產(chǎn)值很難詳細(xì)統(tǒng)計(jì);2.用回歸分析法只能測(cè)算出綜合用電負(fù)荷的發(fā)展水平,無(wú)法測(cè)算出各供電區(qū)的負(fù)荷發(fā)展水平,也就無(wú)法進(jìn)行具體的電網(wǎng)建設(shè)規(guī)劃。

2.2 彈性系數(shù)法

彈性系數(shù)是電量平均增長(zhǎng)率與國(guó)內(nèi)生產(chǎn)總值之間的比值,根據(jù)國(guó)內(nèi)生產(chǎn)總值的增長(zhǎng)速度結(jié)合彈性系數(shù)得到規(guī)劃期末的總用電量。彈性系數(shù)法是從宏觀上確定電力發(fā)展同國(guó)民經(jīng)濟(jì)發(fā)展的相對(duì)速度,它是衡量國(guó)民經(jīng)濟(jì)發(fā)展和用電需求的重要參數(shù)。電力彈性系數(shù)可以用下面的公式來(lái)表示:

(2-1-1)

式中:為電力彈性系數(shù);為為電力消費(fèi)年平均增長(zhǎng)率;為國(guó)民經(jīng)濟(jì)年平均增長(zhǎng)率

在市場(chǎng)經(jīng)濟(jì)條件下,電力彈性系數(shù)已經(jīng)變得捉摸不定,并且隨著科學(xué)技術(shù)的迅猛發(fā)展,節(jié)電技術(shù)和電力需求側(cè)管理,電力與經(jīng)濟(jì)的關(guān)系急劇變化,電力需求與經(jīng)濟(jì)發(fā)展的變化步伐嚴(yán)重失調(diào),使得彈性系數(shù)難以捉摸,使用彈性系數(shù)法預(yù)測(cè)電力需求難以得到滿意的效果。2.3 時(shí)間序列法

時(shí)間序列法是短期負(fù)荷預(yù)測(cè)的經(jīng)典方法,是根據(jù)負(fù)荷的歷史資料,設(shè)法建立一個(gè)數(shù)學(xué)模型,用這個(gè)數(shù)學(xué)模型一方面來(lái)描述電力負(fù)荷這個(gè)隨機(jī)變量變化過(guò)程的統(tǒng)計(jì)規(guī)律,另一方面在該數(shù)學(xué)模型的基礎(chǔ)上再確立負(fù)荷預(yù)測(cè)的數(shù)學(xué)表達(dá)式,對(duì)未來(lái)的負(fù)荷進(jìn)行預(yù)報(bào)。就一般地時(shí)間序列預(yù)測(cè)方法而言,人們總是先去識(shí)別與實(shí)際預(yù)測(cè)目標(biāo)序列相符合的一個(gè)隨機(jī)模型,并估計(jì)出隨機(jī)模型中的未知參數(shù),再對(duì)隨機(jī)模型進(jìn)行考核,當(dāng)確認(rèn)該隨機(jī)模型具有適用價(jià)值后,再在此基礎(chǔ)上建立預(yù)測(cè)表達(dá)式進(jìn)行預(yù)報(bào)。它利用了電力負(fù)荷變動(dòng)的慣性特征和時(shí)間上的延續(xù)性,通過(guò)對(duì)歷史數(shù)據(jù)時(shí)間序列的分析處理,確定其基本特征和變化規(guī)律,預(yù)測(cè)未來(lái)負(fù)荷。

2.4 負(fù)荷求導(dǎo)法

每天的負(fù)荷大小(高低)有差別,但其負(fù)荷的變化率是有一定的規(guī)律。只要找出一個(gè)適當(dāng)函數(shù)來(lái)擬合每天的負(fù)荷曲線,對(duì)這個(gè)函數(shù)進(jìn)行一次求導(dǎo),即可得出一天的負(fù)荷變化率。雖然每天的負(fù)荷大小變化難以準(zhǔn)確預(yù)測(cè),但對(duì)負(fù)荷曲線求導(dǎo)后,得出的負(fù)荷變化率有一定的穩(wěn)定性。因此,利用負(fù)荷的變化率來(lái)進(jìn)行超短期負(fù)荷預(yù)測(cè)將會(huì)使精確度提高。負(fù)荷求導(dǎo)法預(yù)測(cè)的公式是:

(2-1-2)

式中對(duì)第i+1點(diǎn)的負(fù)荷預(yù)測(cè)值;

第i點(diǎn)的實(shí)際負(fù)荷值;

第i點(diǎn)的預(yù)測(cè)負(fù)荷變化率值。

2.5 專家系統(tǒng)法

專家系統(tǒng)預(yù)測(cè)法是對(duì)數(shù)據(jù)庫(kù)里存放的過(guò)去幾年甚至幾十年的,每小時(shí)的負(fù)荷和天氣數(shù)據(jù)進(jìn)行分析,從而匯集有經(jīng)驗(yàn)的負(fù)荷預(yù)測(cè)人員的知識(shí),提取有關(guān)規(guī)則,按照一定的規(guī)則進(jìn)行負(fù)荷預(yù)測(cè)。實(shí)踐證明,精確的負(fù)荷預(yù)測(cè)不僅需要高新技術(shù)的支撐,同時(shí)也需要融合人類自身的經(jīng)驗(yàn)和智慧。因此,就會(huì)需要專家系統(tǒng)這樣的技術(shù)。專家系統(tǒng)法,是對(duì)人類的不可量化的經(jīng)驗(yàn)進(jìn)行轉(zhuǎn)化的一種較好的方法。但專家系統(tǒng)分析本身就是一個(gè)耗時(shí)的過(guò)程,并且某些復(fù)雜的因素(如天氣因素),即使知道其對(duì)負(fù)荷的影響,但要準(zhǔn)確定量地確定他們對(duì)負(fù)荷地區(qū)的影響也是很難的。專家系統(tǒng)預(yù)測(cè)法適用于中、長(zhǎng)期負(fù)荷預(yù)測(cè)。此法的優(yōu)點(diǎn)是:1.能匯集多個(gè)專家的知識(shí)和經(jīng)驗(yàn),最大限度地利用專家的能力;2.占有的資料、信息多,考慮的因素也比較全面,有利于得出較為正確的結(jié)論。

2.6 外推法

根據(jù)負(fù)荷的變化趨勢(shì)對(duì)未來(lái)負(fù)荷情況作出預(yù)測(cè)。電力負(fù)荷雖然具有隨機(jī)性和不確定性,但在一定條件下,仍存在著明顯的變化趨勢(shì),例如農(nóng)業(yè)用電,在氣候條件變化較小的冬季,日用電量相對(duì)穩(wěn)定,表現(xiàn)為較平穩(wěn)的變化趨勢(shì)。

外推法有線性趨勢(shì)預(yù)測(cè)法、對(duì)數(shù)趨勢(shì)預(yù)測(cè)法、二次曲線趨勢(shì)預(yù)測(cè)法、指數(shù)曲線趨勢(shì)預(yù)測(cè)法。趨勢(shì)外推法的優(yōu)點(diǎn)是:只需要?dú)v史數(shù)據(jù)、所需的數(shù)據(jù)量較少。缺點(diǎn)是:如果負(fù)荷出現(xiàn)變動(dòng),會(huì)引起較大的誤差。

2.7 人工神經(jīng)網(wǎng)絡(luò)法

人工神經(jīng)網(wǎng)絡(luò)理論最早出現(xiàn)于20世紀(jì)40年代,經(jīng)過(guò)幾十年的發(fā)展,已廣泛的用于電力系統(tǒng)短期負(fù)荷預(yù)測(cè)。在現(xiàn)有的各種神經(jīng)網(wǎng)絡(luò)的計(jì)算方法中,由Ponelhert和Mcclelland提出的BP算法是應(yīng)用得最多的一種。BP算法的模型為前向多層網(wǎng)絡(luò),由輸入層、隱含層、輸出層組成,每層都包含若干節(jié)點(diǎn),同一層的節(jié)點(diǎn)間沒(méi)有相互的連接,而僅僅在前后不同層之間有節(jié)點(diǎn)的連接。BP算法的學(xué)習(xí)過(guò)程由正向傳播和反向傳播組成,正向傳播過(guò)程的輸入樣本從輸入層經(jīng)隱含層處理后傳向輸出層,每一層神經(jīng)元的狀態(tài)只影響下一層神經(jīng)元的狀態(tài)。如果在輸出層得不到期望值,則轉(zhuǎn)入反向傳播,將誤差信號(hào)沿原連接通路返回,通過(guò)修正各神經(jīng)元的權(quán)系數(shù),使誤差信號(hào)減小,達(dá)到給定的精度,從而完成了其學(xué)習(xí)過(guò)程。這樣,當(dāng)在網(wǎng)絡(luò)的輸入端加入一新的信號(hào)時(shí),就能從其輸出端得到相應(yīng)的結(jié)果。

3 預(yù)測(cè)算例

通過(guò)前述對(duì)各種預(yù)測(cè)方法的分析,采用神經(jīng)網(wǎng)絡(luò)法和外推法對(duì)山東某地區(qū)一個(gè)變電站的2005年8月8日負(fù)荷進(jìn)行預(yù)測(cè)。在實(shí)際應(yīng)用中,預(yù)測(cè)最小間隔為5min,預(yù)測(cè)長(zhǎng)度為1h。目前15min預(yù)測(cè)間隔為最常用。負(fù)荷采樣間隔為5分鐘,一天24個(gè)小時(shí)為288個(gè)數(shù)據(jù),預(yù)測(cè)為提前15分鐘的預(yù)測(cè),預(yù)測(cè)結(jié)果如下:

圖1 基于BP神經(jīng)網(wǎng)絡(luò)的負(fù)荷預(yù)測(cè)曲線

預(yù)測(cè)的平均相對(duì)誤差為2.3089%,本文在建立超短期負(fù)荷模型時(shí),未考慮天氣變化和突發(fā)事件對(duì)負(fù)荷的影響,這在一定程度上影響了預(yù)測(cè)的精度。當(dāng)天氣變化顯著或者有突發(fā)事件時(shí),這個(gè)預(yù)測(cè)模型的精度會(huì)變差。但總的來(lái)說(shuō),所得預(yù)測(cè)結(jié)果比較令人滿意。

圖2 外推法負(fù)荷預(yù)測(cè)曲線

預(yù)測(cè)的平均相對(duì)誤差為2.3059%,與神經(jīng)網(wǎng)絡(luò)法預(yù)測(cè)結(jié)果相差不大。

4 結(jié)論

本文對(duì)各種負(fù)荷預(yù)測(cè)方法進(jìn)行了分析,并且在短期及超短期負(fù)荷預(yù)測(cè)方面,針對(duì)于兩種目前比較常用的負(fù)荷預(yù)測(cè)方法――人工神經(jīng)網(wǎng)絡(luò)法和負(fù)荷外推法進(jìn)行了重點(diǎn)的仿真研究。得出:在超短期負(fù)荷預(yù)測(cè)方面兩種方法得出結(jié)果相差并不是很大。負(fù)荷外推法方法簡(jiǎn)單,要求的歷史數(shù)據(jù)較少,運(yùn)算速度較快,可滿足系統(tǒng)在線分析的實(shí)時(shí)要求,比較適合在工程中應(yīng)用。人工神經(jīng)網(wǎng)絡(luò)法算法比較復(fù)雜,而且存在訓(xùn)練時(shí)間較長(zhǎng)、收斂性等問(wèn)題。但是在短期負(fù)荷預(yù)測(cè)方面(例如提前24小時(shí)的預(yù)測(cè))神經(jīng)網(wǎng)絡(luò)法存在著比負(fù)荷外推法明顯的優(yōu)勢(shì)。因此,在工程應(yīng)用等方面線性外推法還是具有較強(qiáng)的實(shí)用性。

參考文獻(xiàn)

[1]劉晨暉.電力系統(tǒng)負(fù)荷預(yù)報(bào)理論與方法[M].中國(guó):哈爾濱工業(yè)大學(xué)出版社,1987年 .20-60.

[2]張峰 吳勁暉 張怡 胡若云.基于負(fù)荷趨勢(shì)的新型超短期負(fù)荷預(yù)測(cè)法[J]. 電網(wǎng)技術(shù),2005,vol.28 No.19

[3]吳熳紅 楊繼旺.幾種電力負(fù)荷預(yù)測(cè)方法及其比較[J].廣東電力,2001,vol.17 No.1

[4]陳霞 安伯義 陳廣林.電力負(fù)荷預(yù)測(cè)理論與方法[J].農(nóng)村電氣化,2004.7

[5]吳勁暉 王冬明 黃良寶 孫維真.一種超短期負(fù)荷預(yù)測(cè)的新方法-負(fù)荷求導(dǎo)法[J]. 浙江電力,2000,6

[6]張國(guó)忠 熊偉 向求新 黃曉明 劉亞. 應(yīng)用人工神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)電力負(fù)荷[J].電力自動(dòng)化設(shè)備,2002,22

[7]S.H.Ling Frank H.F.Leung H.K.Lam Peter K.S.Tam Short-Term Electric Load Forecasting Based on a Neural Fuzzy Networks[A]. IEEE Transactions on Industrial electronics vol.50 no.6

[8]閆承山 劉永奇.人工神經(jīng)網(wǎng)絡(luò)在華北電網(wǎng)負(fù)荷預(yù)測(cè)中的應(yīng)用[J].電網(wǎng)技術(shù),1998,22

[9] 馬文曉 白曉民 沐連順.基于人工神經(jīng)網(wǎng)絡(luò)和模糊推理的短期負(fù)荷預(yù)測(cè)方法[J].電網(wǎng)技術(shù),2003,27

[10]D.C.Park M.A.El-Sharkawi R.J.Marks II L.E.Atlas and M.J.Damborg. Electric Load Forecasting Using An Artificial Neural Network [A].IEEE Transcaction on Power Systems vol.6 no.2 May 1991

[11]Lee K.Y.,Cha Y.T. Park J.H.,Short-term load forecasting using an artificial neutral network[J]. Power Systems, IEEE Transactions on , Volume: 7 , Issue: 1 , Feb. 1992

[12]姜勇.電力系統(tǒng)短期負(fù)荷預(yù)測(cè)的模糊神經(jīng)網(wǎng)絡(luò)方法[J]. 繼電,2002,30(7)

[13]Shan Shao, Yaming Sun, Short-term load forecasting using fuzzy neural network. Advances in Power System Control, Operation and Management, 1997. Fourth International Conference on (Conf. Publ. No. 450) Vol. 1 Nov 1997

[14]楊洪明 白培林.基于遺傳算法的人工神經(jīng)網(wǎng)絡(luò)負(fù)荷預(yù)報(bào)模型[J].湖南電力,2000 20

作者簡(jiǎn)介

陳曉東 男 碩士 工程師電力系統(tǒng)穩(wěn)定 山東電機(jī)工程學(xué)會(huì)

第6篇:人工神經(jīng)網(wǎng)絡(luò)的缺點(diǎn)范文

關(guān)鍵詞:食品安全與衛(wèi)生管理 研究性學(xué)習(xí) 創(chuàng)新性實(shí)驗(yàn) 人工神經(jīng)網(wǎng)絡(luò)

在大學(xué)生研究性和創(chuàng)新性科研項(xiàng)目中,要改變由指導(dǎo)老師一步一步發(fā)指令由學(xué)生被動(dòng)完成任務(wù),還是科研小組同學(xué)主動(dòng)學(xué)習(xí)、主動(dòng)定方案(方向)、定任務(wù)后,再由指導(dǎo)老師和全組同學(xué)商討,小組同學(xué)分別完成相應(yīng)工作任務(wù),再學(xué)習(xí),再研討,再實(shí)驗(yàn)…,直到項(xiàng)目完成。這是研究性和創(chuàng)新性項(xiàng)目培養(yǎng)和提高同學(xué)自主管理能力和科技創(chuàng)新能力非常關(guān)鍵的環(huán)節(jié)。在這個(gè)環(huán)節(jié)上,老師不再是“司令員”,而是科研小組中的普通一員。下面以“水培蝦、南美白對(duì)蝦、斑節(jié)對(duì)蝦氨基酸紫外可見光譜人工神經(jīng)網(wǎng)絡(luò)定量測(cè)定及營(yíng)養(yǎng)學(xué)分析”大學(xué)生科技創(chuàng)新項(xiàng)目為例,說(shuō)明一些具體作法。

1.組織小組同學(xué)展開調(diào)研, 明確科研與生產(chǎn)實(shí)際相結(jié)合, 培養(yǎng)社會(huì)調(diào)查能力

“水培蝦、南美白對(duì)蝦、斑節(jié)對(duì)蝦氨基酸紫外可見光譜人工神經(jīng)網(wǎng)絡(luò)定量測(cè)定及營(yíng)養(yǎng)學(xué)分析”項(xiàng)目小組成員來(lái)自學(xué)校中三個(gè)專業(yè)不同年級(jí)的同學(xué),自愿組合而成。首先在老師的主持下由小組同學(xué)選出2名學(xué)習(xí)好、責(zé)任心強(qiáng)、實(shí)踐操作能力強(qiáng)的同學(xué)組成項(xiàng)目小組管理核心。然后小組負(fù)責(zé)同學(xué)則將同學(xué)分成二個(gè)調(diào)查組,分別到海產(chǎn)品養(yǎng)殖場(chǎng)和海產(chǎn)品銷售市場(chǎng)展開調(diào)研。二個(gè)小組調(diào)查完畢,通過(guò)匯總與討論,大家明確了目前舟山人工養(yǎng)殖蝦體主要有三大代表品種:水培蝦、斑節(jié)對(duì)蝦和南美白對(duì)蝦。這三種蝦適應(yīng)范圍廣,產(chǎn)量高,是目前我國(guó)東海養(yǎng)殖的主要特色品種。其營(yíng)養(yǎng)豐富,口感鮮美,市場(chǎng)需求量大,經(jīng)濟(jì)價(jià)值較高,具有良好的市場(chǎng)前景。因此,必須依靠通過(guò)對(duì)這三種蝦的優(yōu)良品種的選育、飼料配料的組合和篩選及其營(yíng)養(yǎng)價(jià)值的分析等工作進(jìn)一步提高其質(zhì)和量。而這些工作的開展必須進(jìn)行氨基酸的測(cè)定??梢?,蝦體肌肉中氨基酸含量的測(cè)定具有十分重要的意義。于是同學(xué)們經(jīng)充分討論后認(rèn)為:開展“蝦體氨基酸檢測(cè)”的創(chuàng)新性實(shí)驗(yàn),不但具有重要的實(shí)際意義,而且可行性強(qiáng)。不但可加深同學(xué)們的專業(yè)基礎(chǔ)知識(shí),還可拓展同學(xué)們知識(shí)視野,培養(yǎng)科技創(chuàng)新能力。

2.組織同學(xué)學(xué)習(xí)相關(guān)背景知識(shí), 提高自主學(xué)習(xí)能力, 加深對(duì)基礎(chǔ)課程知識(shí)的理解

項(xiàng)目小組管理核心下一步則是組織科研小組成員復(fù)習(xí)《生物化學(xué)》、《營(yíng)養(yǎng)學(xué)》、《食品分析與檢驗(yàn)》等基礎(chǔ)及專業(yè)課程,首先是進(jìn)一步加深同學(xué)對(duì)蝦體中氨基酸的認(rèn)識(shí)。氨基酸是人體必不可少的營(yíng)養(yǎng)成分之一,而有些氨基酸是不能在人體內(nèi)自行合成必需要從食物中獲取,如異亮氨酸、亮氨酸、甲硫氨酸(蛋氨酸)、賴氨酸、蘇氨酸、苯丙氨酸和纈氨酸,它們稱為必需氨基酸[1]。因此蝦體中氨基酸的檢測(cè)分析主要就是針對(duì)這些必需氨基酸。必需氨基酸的含量高,蝦的營(yíng)養(yǎng)價(jià)值就大,商業(yè)價(jià)值就高。而養(yǎng)殖對(duì)蝦蝦體中氨基酸含量的傳統(tǒng)檢測(cè)方法存在費(fèi)用高、樣品用量大、檢測(cè)方法費(fèi)時(shí)繁瑣等問(wèn)題,不適于養(yǎng)殖生產(chǎn)控制特別是蝦體氨基酸含量的快速分析。結(jié)合《現(xiàn)代儀器分析》課程中的知識(shí),同學(xué)們提出用最簡(jiǎn)單的紫外-可見光譜法結(jié)合人工神經(jīng)網(wǎng)絡(luò)用于三種對(duì)蝦主要氨基酸(必需氨基酸和鮮味氨基酸)的不經(jīng)分離定量測(cè)定。光譜數(shù)據(jù)在BP人工神經(jīng)網(wǎng)絡(luò)實(shí)現(xiàn)對(duì)蝦肌肉中氨基酸定量分析的基礎(chǔ)上[2], 進(jìn)一步試驗(yàn)采用較新的具有較強(qiáng)自適應(yīng)能力和較好預(yù)測(cè)效果的極限學(xué)習(xí)機(jī)(Extreme Learning Machine,ELM)神經(jīng)網(wǎng)絡(luò)模型完成定量分析和預(yù)測(cè),嘗試為對(duì)蝦蝦肉中氨基酸多組分分析提供一種不需貴重儀器的簡(jiǎn)易新方法。

3.組織同學(xué)自主檢索查閱文獻(xiàn),學(xué)習(xí)人工神經(jīng)網(wǎng)絡(luò)方法,拓展知識(shí)視野

方向任務(wù)明確以后,項(xiàng)目小組管理核心則組織小組同學(xué)自主檢索相關(guān)文獻(xiàn),自主學(xué)習(xí)相關(guān)知識(shí),開拓知識(shí)視野,重點(diǎn)組織小組同學(xué)學(xué)習(xí)人工神經(jīng)網(wǎng)絡(luò)方法。經(jīng)過(guò)項(xiàng)目小組全體成員的多次學(xué)習(xí)與探討,大家都清楚的知道了人工神經(jīng)網(wǎng)絡(luò)現(xiàn)在已經(jīng)是解決化學(xué)問(wèn)題的一種重要的化學(xué)計(jì)量學(xué)方法。是模擬人腦神經(jīng)元的工作原理來(lái)建立模型進(jìn)行分類與預(yù)測(cè)的一種化學(xué)計(jì)量學(xué)手段[3]。目前,人工湖神經(jīng)網(wǎng)絡(luò)應(yīng)用于氨基酸混合液測(cè)定中主要是誤差反向傳播 ( Back propagation,BP)人工神通網(wǎng)絡(luò)(BP是由輸入層, 輸出層以及若干隱含層節(jié)點(diǎn)間互連而成的一種多層網(wǎng)絡(luò))。但它存在一些無(wú)法克服的缺點(diǎn),如:訓(xùn)練速度慢;訓(xùn)練過(guò)程可能不穩(wěn)定;容易陷入局部極小點(diǎn),無(wú)法達(dá)到全局最??;而且可見-紫外光譜所含的波長(zhǎng)數(shù)據(jù)點(diǎn)多,具有多重共線性,會(huì)造成建模時(shí)間長(zhǎng)等問(wèn)題。經(jīng)過(guò)小組學(xué)習(xí)探討和老師的指導(dǎo),大家提出針對(duì)海產(chǎn)品對(duì)蝦氨基酸溶液光譜測(cè)定中波長(zhǎng)數(shù)據(jù)點(diǎn)多的問(wèn)題,我們可以試用極限學(xué)習(xí)機(jī)完成對(duì)蝦體肉中必需(主要)氨基酸含量測(cè)定并與BP神經(jīng)網(wǎng)絡(luò)等方法進(jìn)行分析對(duì)比。進(jìn)一步的學(xué)習(xí)與探討,小組同學(xué)明確了極限學(xué)習(xí)機(jī)(Extreme Learning Machine,ELM)神經(jīng)網(wǎng)絡(luò)是南洋理工大學(xué)G. B. Huang 等人在2006年提出的一種人工神經(jīng)網(wǎng)絡(luò)模型訓(xùn)練新算法,與傳統(tǒng)的誤差反向傳播 ( Back propagation,BP)人工神通網(wǎng)絡(luò)方法相比,極限學(xué)習(xí)機(jī)有泛化性能好、訓(xùn)練學(xué)習(xí)速度快等優(yōu)點(diǎn)[4]。

4.組織同學(xué)主動(dòng)聯(lián)系藥品試劑市場(chǎng), 鍛煉社會(huì)人際交往能力

在購(gòu)買所實(shí)驗(yàn)所需的試劑與材料方面,項(xiàng)目小組管理核心同學(xué)認(rèn)識(shí)到,本項(xiàng)目所需主要儀器為紫外可見分光光度計(jì)和氨基酸分析儀,但實(shí)驗(yàn)試劑則不同于以往的實(shí)驗(yàn)課,老師配好實(shí)驗(yàn)用試劑后供同學(xué)直接使用?,F(xiàn)在是需要通過(guò)小組同學(xué)自己去市場(chǎng)聯(lián)系,同學(xué)自己購(gòu)買,買來(lái)后還需同學(xué)自己配制,因此這是一個(gè)培養(yǎng)同學(xué)社會(huì)人際交往能力的好機(jī)會(huì)。項(xiàng)目小組管理核心則首先組織同學(xué)上網(wǎng)查找相關(guān)試劑的供應(yīng)商的信息,然后讓同學(xué)比較這幾家商家的報(bào)價(jià)及其產(chǎn)品的可靠性,從中挑選出合乎條件的2-3家商家,最后由項(xiàng)目小組管理核心負(fù)責(zé)聯(lián)系著2-3家商家,并與小組成員討論比較后進(jìn)行購(gòu)買。

5.組織與分配小組同學(xué)各自完成相應(yīng)的具體實(shí)驗(yàn)項(xiàng)目,培養(yǎng)實(shí)驗(yàn)實(shí)際操作能力

在儀器使用等方面老師則重點(diǎn)指導(dǎo)這幾個(gè)同學(xué),即他(她)們同時(shí)也就成為這個(gè)項(xiàng)目小組的“指導(dǎo)老師”。如由他(她)們負(fù)責(zé)實(shí)驗(yàn)試劑的配制或指導(dǎo)同學(xué)配制,負(fù)責(zé)指導(dǎo)同學(xué)進(jìn)行儀器操作,負(fù)責(zé)分配或指導(dǎo)同學(xué)完成相應(yīng)的具體實(shí)驗(yàn)項(xiàng)目,輔助或指導(dǎo)實(shí)驗(yàn)小組同學(xué)完成實(shí)驗(yàn)設(shè)備的具體配置等等。如以下取同齡期、同體長(zhǎng)、同體重的南美白對(duì)蝦、竹節(jié)蝦(日本對(duì)蝦)和水培蝦稱重,勻漿機(jī)勻漿10min,真空干燥箱在50℃下真空干燥,制成粉。分別稱取水培蝦粉、南美白對(duì)蝦粉,竹節(jié)蝦粉加鹽酸水解24h這些實(shí)驗(yàn)過(guò)程,均在項(xiàng)目小組管理核心同學(xué)的安排下有條不紊地完成。

在指導(dǎo)老師的輔導(dǎo)下,項(xiàng)目小組管理核心組織小組同學(xué)分別取三種蝦的水解液稀釋成9個(gè)濃度,用L-8800型氨基酸分析儀分別測(cè)定三種蝦體9個(gè)濃度水解液的氨基酸含量。用紫外-可見分光光度計(jì)分別對(duì)三種蝦體9個(gè)濃度的水解液進(jìn)行光譜掃描[5],獲取一系列光譜數(shù)據(jù)。再取未知氨基酸濃度的三種蝦體3個(gè)不同濃度的水解液同樣進(jìn)行光譜掃描獲取光譜數(shù)據(jù)。然后用已知氨基酸濃度的光譜數(shù)據(jù)訓(xùn)練神經(jīng)網(wǎng)絡(luò)并對(duì)未知濃度蝦水解液進(jìn)行氨基酸含量預(yù)測(cè)。結(jié)果見圖1和圖2。通過(guò)對(duì)測(cè)定結(jié)果的分析進(jìn)一步加深了小組同學(xué)對(duì)《現(xiàn)代儀器分析》課程中光譜掃描和吸收光譜曲線概念和幾種人工神經(jīng)網(wǎng)絡(luò)模型的理解和認(rèn)識(shí)。

6.老師和小組同學(xué)一起學(xué)習(xí)討論人工神經(jīng)網(wǎng)絡(luò)方法,分析測(cè)定結(jié)果,培養(yǎng)科學(xué)分析能力

在對(duì)測(cè)定結(jié)果的分析中,項(xiàng)目小組全體同學(xué)分成3個(gè)學(xué)習(xí)小組,每個(gè)小組對(duì)照參考資料,根據(jù)所得測(cè)定數(shù)據(jù)結(jié)果與數(shù)據(jù)可視化圖形(如圖1、圖2等),先進(jìn)行分析討論,有了初步的認(rèn)識(shí)后,指導(dǎo)老師和全體小組成員在一起再進(jìn)行充分的分析與探討。最后大家得出結(jié)論:紫外-可見光譜數(shù)據(jù)結(jié)合三種人工神經(jīng)網(wǎng)絡(luò)(①誤差反向傳輸神經(jīng)網(wǎng)絡(luò),BP。②徑向基函數(shù)神經(jīng)網(wǎng)絡(luò),RBF。③極限學(xué)習(xí)機(jī)神經(jīng)網(wǎng)絡(luò),EML)對(duì)氨基酸溶液中氨基酸濃度的測(cè)定,徑向基函數(shù)神經(jīng)網(wǎng)絡(luò)(RBF)的預(yù)測(cè)結(jié)果比誤差反向傳輸神經(jīng)網(wǎng)絡(luò)(BP)好,但極限學(xué)習(xí)機(jī)神經(jīng)網(wǎng)絡(luò)(EML)的預(yù)測(cè)效果要好于誤差反向傳輸神經(jīng)網(wǎng)絡(luò)(BP)和徑向基函數(shù)神經(jīng)網(wǎng)絡(luò)(RBF)。同時(shí)大家進(jìn)一步認(rèn)識(shí)到,氨基酸溶液(如蝦肉水解液)中氨基酸的定量分析, 一般都是用比較昂貴的分析儀器如高效液相色譜儀等儀器來(lái)完成,而且操作復(fù)雜、費(fèi)時(shí)、費(fèi)勁。所以,如果是使用普通的紫外-可見光譜儀結(jié)合計(jì)算機(jī)數(shù)值方法來(lái)完成蝦肉中的氨基酸測(cè)定,所用儀器簡(jiǎn)單普遍,且分析樣品不經(jīng)分離。推廣開去,不但可用于對(duì)蝦肌肉中氨基酸含量測(cè)定及品質(zhì)評(píng)判,也可用于其他水產(chǎn)品和肉類食品中氨基酸含量的分析,即在食品質(zhì)量分析方面有一定的意義[6]。

7.結(jié)論

從以上討論分析可見,紫外-可見光譜結(jié)合人工神經(jīng)網(wǎng)絡(luò)方法測(cè)定氨基酸溶液中氨基酸濃度具有一定的科學(xué)研究?jī)r(jià)值和經(jīng)濟(jì)價(jià)值。

再說(shuō)在本次研究性和創(chuàng)新性實(shí)驗(yàn)中,指導(dǎo)老師的指導(dǎo)工作著力于以下幾個(gè)方面,首先是:輔導(dǎo)學(xué)生建一個(gè)工作能力較強(qiáng)的項(xiàng)目小組管理核心。有了這個(gè)項(xiàng)目小組管理核心,所以以下工作都是在項(xiàng)目小組管理核心的配合下順利完成的。第一,指導(dǎo)學(xué)生完成實(shí)驗(yàn)相關(guān)背景知識(shí)和基礎(chǔ)課程學(xué)習(xí);第二,引導(dǎo)學(xué)生思考如何查閱檢索所須文獻(xiàn),提高學(xué)生獲取有效信息的能力。第三,引導(dǎo)學(xué)生獨(dú)立購(gòu)買所需實(shí)驗(yàn)試劑,提高學(xué)生社會(huì)交往能力。第四,指導(dǎo)學(xué)生自行完成實(shí)驗(yàn)試劑的配制,培養(yǎng)同學(xué)的動(dòng)手操作能力。第五,參與小組討論學(xué)習(xí),幫助學(xué)生提高分析問(wèn)題和解決問(wèn)題的能力。

通過(guò)此次研究性學(xué)習(xí),本科學(xué)生作為科研創(chuàng)新實(shí)驗(yàn)的主體,不僅加深了對(duì)基礎(chǔ)課程知識(shí)的理解,還拓展了知識(shí)面(如人工神經(jīng)網(wǎng)絡(luò)、化學(xué)計(jì)量學(xué)等方面的知識(shí))。不但提高了儀器操作方面的實(shí)際操作使用能力,還提高了計(jì)算機(jī)技術(shù)方面的能力(如人工神經(jīng)網(wǎng)絡(luò)建模、數(shù)值計(jì)算等等),從而激發(fā)了同學(xué)們的創(chuàng)新性思維和創(chuàng)新意識(shí),全面提升了科技創(chuàng)新能力。

參考文獻(xiàn):

[1]高國(guó)全主編,生物化學(xué)[M],北京,人民衛(wèi)生出版社,2008年4月第2版:116-117

[2]鐘雷鳴,江王棟,石樂(lè)明等,六種氨基酸混合物溶液的紫外光譜的人工神經(jīng)元網(wǎng)絡(luò)定量分析研究[J],生物物理學(xué)報(bào),1992,8(4):706-710

[3]許祿主編,化學(xué)計(jì)量學(xué)[M],北京,科學(xué)出版社,2004年2月第1版:88-120

[4]Guang-Bin Huang,,Hongming Zhou,Xiaojian Ding,et al,Extreme Learning Machine for Regression and Multiclass Classification,IEEE Transactions on Systems, Man,and Cybernetics-Part B:Cybernetics,2012,42(2):513-529

[5]李大東著,檢驗(yàn)醫(yī)學(xué)計(jì)算機(jī)數(shù)值方法[M],杭州,浙江大學(xué)出版社,2011年4月:43-46

第7篇:人工神經(jīng)網(wǎng)絡(luò)的缺點(diǎn)范文

關(guān)鍵詞: FPGA; BP神經(jīng)網(wǎng)絡(luò); 線性擬合; 非線性擬合; 自適應(yīng)訓(xùn)練

中圖分類號(hào): TN702.2?34; TP183 文獻(xiàn)標(biāo)識(shí)碼: A 文章編號(hào): 1004?373X(2016)15?0115?04

Abstract: Using software for neural network has the disadvantages of low parallelism and slow speed, the hardware design resource utilization of the traditional neural network is high, and the network training is uncontrollable. To solve these problems, a new FPGA?based design method of back propagation (BP) neural network is proposed. The method can realize the Sigmoid excitation function through piecewise linear fitting and nonlinear fitting based on symmetry, and uses the finite state machine (FSM) to accomplish the training times adaption based on error. The Verilog HDL language is used to design the 1?3?1 BP neural network to approximate the function [y=cosx.] The resource occupancy of the network is 2 756 LEs, the training times are 1 583, the average relative error of the network test sample is 0.6%, and the maximum clock frequency is 82.3 MHz. The verification results show that the neural network designed with the method has the advantages of less resource occupancy, high accuracy and fast running speed, and can control the network training automatically.

Keywords: FPGA; BP neural network; linear fitting; nonlinear fitting; adaptive training

0 引 言

人工神經(jīng)網(wǎng)絡(luò)(ANNs)[1]通常都是采用基于軟件的方法實(shí)現(xiàn)。但作為一個(gè)并行計(jì)算系統(tǒng),軟件實(shí)現(xiàn)的方法存在速度慢的缺點(diǎn),而硬件方式具有高并行性的特點(diǎn),適合于人工神經(jīng)網(wǎng)絡(luò)。FPGA作為一種通用的硬件設(shè)計(jì)平臺(tái),其內(nèi)部分布式的資源與神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)非常契合,是一個(gè)實(shí)現(xiàn)神經(jīng)網(wǎng)絡(luò)硬件化設(shè)計(jì)的良好選擇。

資源占用是FPGA設(shè)計(jì)的一個(gè)重要考量因素,而網(wǎng)絡(luò)訓(xùn)練是神經(jīng)網(wǎng)絡(luò)功能實(shí)現(xiàn)的基礎(chǔ)。已有的神經(jīng)網(wǎng)絡(luò)硬件設(shè)計(jì)工作在這兩方面還存在巨大的空間。例如,薛維琴等利用FPGA實(shí)現(xiàn)了BP神經(jīng)網(wǎng)絡(luò)[2],該網(wǎng)絡(luò)經(jīng)過(guò)訓(xùn)練能夠描述非線性函數(shù),但沒(méi)有提出BP神經(jīng)網(wǎng)絡(luò)的激勵(lì)函數(shù)和訓(xùn)練控制模塊的具體硬件實(shí)現(xiàn)方法。李利歌等提出了直接利用查找表實(shí)現(xiàn)神經(jīng)網(wǎng)絡(luò)激勵(lì)函數(shù)的方法[3],但是查找表存在占用資源大,運(yùn)行速度慢的缺點(diǎn)。張海燕等采用基于查找表的STAM算法實(shí)現(xiàn)神經(jīng)網(wǎng)絡(luò)激勵(lì)函數(shù)[4],且文中也沒(méi)有提到訓(xùn)練控制模塊。Javier Valls等提出利用CORDIC算法實(shí)現(xiàn)神經(jīng)網(wǎng)絡(luò)的激勵(lì)函數(shù)[5],資源利用率低,但是存在精度不足的問(wèn)題。劉培龍利用分段擬合實(shí)現(xiàn)激勵(lì)函數(shù)[6],但是激勵(lì)函數(shù)資源占用較多。

基于這一現(xiàn)狀,本文通過(guò)對(duì)Sigmoid函數(shù)基于對(duì)稱性分段擬合以及基于誤差的訓(xùn)練自適應(yīng)技術(shù),提出了一種新的神經(jīng)網(wǎng)絡(luò)FPGA設(shè)計(jì)方法。該方法設(shè)計(jì)的神經(jīng)網(wǎng)絡(luò)資源占用少,網(wǎng)絡(luò)訓(xùn)練自適應(yīng),同時(shí)還具有精度高,運(yùn)行速度快的優(yōu)點(diǎn)。

1 BP神經(jīng)網(wǎng)絡(luò)的FPGA設(shè)計(jì)

根據(jù)BP神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu),本文將網(wǎng)絡(luò)劃分為神經(jīng)元模塊、激勵(lì)函數(shù)模塊、誤差計(jì)算模塊,權(quán)值更新模塊、權(quán)值存儲(chǔ)模塊以及自適應(yīng)網(wǎng)絡(luò)訓(xùn)練模塊。圖1給出了不同功能模塊之間的連接和訓(xùn)練過(guò)程。其中,權(quán)值存儲(chǔ)模塊和輸入神經(jīng)元將輸入層的權(quán)值以及訓(xùn)練的樣本輸入到隱含層神經(jīng)元進(jìn)行乘累加運(yùn)算,其結(jié)果輸入到激勵(lì)函數(shù)模塊得到激勵(lì)函數(shù)輸出,該輸出和隱含層的權(quán)值作為輸出層神經(jīng)元的輸入得到本次訓(xùn)練結(jié)果。該結(jié)果再經(jīng)過(guò)誤差計(jì)算模塊計(jì)算誤差值和權(quán)值改變量。權(quán)值改變量在權(quán)值更新模塊中得到新權(quán)值存入到權(quán)值存儲(chǔ)模塊。誤差值輸入到自適應(yīng)網(wǎng)絡(luò)訓(xùn)練模塊判斷網(wǎng)絡(luò)訓(xùn)練是否達(dá)到最優(yōu)。網(wǎng)絡(luò)訓(xùn)練達(dá)到最優(yōu)前,該過(guò)程循環(huán),當(dāng)網(wǎng)絡(luò)訓(xùn)練達(dá)到最優(yōu),自適應(yīng)訓(xùn)練模塊控制網(wǎng)絡(luò)停止訓(xùn)練。

系統(tǒng)中神經(jīng)元模塊、誤差計(jì)算模塊、權(quán)值更新模塊按照BP網(wǎng)絡(luò)算法規(guī)則可調(diào)用加、乘、乘累加等功能模塊,權(quán)值存儲(chǔ)模塊可調(diào)用RAM模塊。激勵(lì)函數(shù)模塊和自適應(yīng)訓(xùn)練模塊關(guān)乎系統(tǒng)資源占用及訓(xùn)練過(guò)程的實(shí)現(xiàn),是本文BP神經(jīng)網(wǎng)絡(luò)FPGA設(shè)計(jì)的重點(diǎn)。

1.1 激勵(lì)函數(shù)模塊設(shè)計(jì)

激勵(lì)函數(shù)模塊是影響整個(gè)神經(jīng)網(wǎng)絡(luò)資源利用的主要因素之一,在保證誤差足夠小的前提下,激勵(lì)函數(shù)模塊資源占用越小越好。

式中含有指數(shù)運(yùn)算,較難在FPGA 中直接實(shí)現(xiàn)。利用Sigmoid函數(shù)具有對(duì)稱性以及較好的線性區(qū)域和非線性區(qū)域分界的特點(diǎn),本文提出一種資源占用小、精度高的基于對(duì)稱性分段擬合的激勵(lì)函數(shù)硬件實(shí)現(xiàn)的方法。

考慮到Sigmoid函數(shù)的對(duì)稱性,只需完成[x>0]的區(qū)域硬件實(shí)現(xiàn),根據(jù)對(duì)稱性即可求出[x0]區(qū)域,根據(jù)Sigmoid函數(shù)線性區(qū)域和非線性區(qū)域分界良好的特點(diǎn),分別采用線性擬合和非線性擬合的方法分段逼近。具體而言,如圖2所示,將整個(gè)激勵(lì)函數(shù)模塊分為預(yù)處理模塊、函數(shù)逼近模塊以及最終輸出模塊三個(gè)子模塊。

1.1.1 預(yù)處理模塊

激勵(lì)函數(shù)的輸入[x]為16位定點(diǎn)數(shù),最高位為符號(hào)位,中間五位為整數(shù)部分,后十位為小數(shù)部分。當(dāng)[x]輸入到激勵(lì)函數(shù)模塊時(shí),首先進(jìn)行預(yù)處理。截取二進(jìn)制輸入[x]的最高位判斷[x>0]或者[x0]時(shí),[x=x,]將[x]輸入到后續(xù)處理模塊,若判斷出[x

1.1.2 函數(shù)逼近模塊

基于對(duì)輸入[x]的預(yù)處理,此子模塊只需要對(duì)[x>0]的情況做線性擬合和非線性擬合。分段逼近函數(shù)如表1所示。

1.1.3 最終輸出模塊

最終輸出模塊由預(yù)處理模塊輸出的控制信號(hào)控制。若[x>0,]則控制信號(hào)控制最終輸出模塊直接輸出函數(shù)逼近模塊中[x]對(duì)應(yīng)的輸出[fx;]若[x

1.1.4 激勵(lì)函數(shù)模塊分析

按照上述設(shè)計(jì)方法完成激勵(lì)函數(shù)模塊的設(shè)計(jì)后,對(duì)激勵(lì)函數(shù)模塊進(jìn)行功能仿真和誤差分析。從-8~8以0.001為間隔生成測(cè)試數(shù)據(jù)輸入到激勵(lì)函數(shù)模塊,得到的ModelSim仿真結(jié)果如圖3所示,其各區(qū)間絕對(duì)誤差如表2所示。從中可以看出,各區(qū)間的誤差值均很小且誤差分布較為平均,體現(xiàn)出良好的逼近效果。

1.2 自適應(yīng)訓(xùn)練模塊設(shè)計(jì)

網(wǎng)絡(luò)訓(xùn)練是神經(jīng)網(wǎng)絡(luò)功能實(shí)現(xiàn)的基礎(chǔ)。神經(jīng)網(wǎng)絡(luò)隨著訓(xùn)練的進(jìn)行,權(quán)值逐漸改變,誤差逐漸減小,但如果網(wǎng)絡(luò)訓(xùn)練不能適時(shí)結(jié)束,造成過(guò)度訓(xùn)練,則網(wǎng)絡(luò)性能會(huì)變差。然而對(duì)網(wǎng)絡(luò)訓(xùn)練的控制在硬件上并不易設(shè)計(jì),故很多工作未討論這一點(diǎn)或簡(jiǎn)單的以固定周期來(lái)完成訓(xùn)練。本文提出了一種基于可容忍誤差值的自適應(yīng)網(wǎng)絡(luò)訓(xùn)練硬件設(shè)計(jì)方法,可有效的自動(dòng)控制神經(jīng)網(wǎng)絡(luò)訓(xùn)練過(guò)程。

分析神經(jīng)網(wǎng)絡(luò)的訓(xùn)練過(guò)程,每一次輸入樣本值都會(huì)在本次訓(xùn)練完成時(shí)得到一個(gè)誤差值,當(dāng)誤差在可以容忍的范圍內(nèi)可以認(rèn)為網(wǎng)絡(luò)已經(jīng)訓(xùn)練完成。認(rèn)為在給定的可容忍誤差值的情況下,如果連續(xù)兩次整個(gè)樣本集輸入得到的誤差絕對(duì)值都要比給定的可容忍誤差值要小,則該神經(jīng)網(wǎng)絡(luò)訓(xùn)練已經(jīng)達(dá)到最優(yōu)。根據(jù)這個(gè)思想,提出利用有限狀態(tài)機(jī)實(shí)現(xiàn)自適應(yīng)網(wǎng)絡(luò)訓(xùn)練。

如圖4所示,有限狀態(tài)機(jī)的狀態(tài)數(shù)是樣本集中樣本數(shù)的兩倍,狀態(tài)機(jī)初始為零狀態(tài)。當(dāng)某一次訓(xùn)練得到的誤差絕對(duì)值小于可容忍誤差值時(shí),狀態(tài)機(jī)進(jìn)入第一個(gè)狀態(tài)。若緊鄰的下一次訓(xùn)練得到的誤差絕對(duì)值也小于可容忍誤差值,狀態(tài)機(jī)進(jìn)入下一個(gè)狀態(tài),否則狀態(tài)機(jī)狀態(tài)回到第0個(gè)狀態(tài)。當(dāng)狀態(tài)機(jī)跳轉(zhuǎn)到最后一個(gè)狀態(tài)時(shí),網(wǎng)絡(luò)訓(xùn)練完成,此時(shí)輸出控制信號(hào)控制權(quán)值存儲(chǔ)模塊停止權(quán)值更新,提示信號(hào)提示訓(xùn)練完成。該模塊的分析需要結(jié)合網(wǎng)絡(luò)中的其他模塊,故測(cè)試結(jié)果在下一節(jié)中給出。

2 驗(yàn)證和分析

2.1 驗(yàn)證平臺(tái)

根據(jù)上述方法,設(shè)計(jì)了一個(gè)1?3?1三層BP神經(jīng)網(wǎng)絡(luò)驗(yàn)證其性能。驗(yàn)證平臺(tái)為Altera公司的EP2C70F896C6。

以[y=cosx]函數(shù)為學(xué)習(xí)對(duì)象,從[0~2π]之間以[0.062 5π]為間隔選取33個(gè)樣本組成樣本集,隨機(jī)選取其中25個(gè)作為訓(xùn)練樣本,剩下8個(gè)作為測(cè)試樣本。神經(jīng)網(wǎng)絡(luò)的初始權(quán)值和閾值的選取具有一定的隨機(jī)性,根據(jù)網(wǎng)絡(luò)需要逼近的函數(shù)數(shù)值大小,輸入層到隱含層的初始權(quán)值矩陣[W1=[2.5,0.5,-0.3],]隱含層到輸出層的初始權(quán)值矩陣[W2=[0.35,0.4,0.3],]隱含層閾值選為[0.2,0.3,0.4],輸出層閾值選為[0.3]。隱含層的學(xué)習(xí)率設(shè)為0.4,輸出層的學(xué)習(xí)率設(shè)為0.3,容忍誤差設(shè)為0.01。

2.2 結(jié)果分析

ModelSim仿真得到的結(jié)果如圖5所示,從圖5中可以看出該BP神經(jīng)網(wǎng)絡(luò)的訓(xùn)練是自適應(yīng)的。當(dāng)網(wǎng)絡(luò)訓(xùn)練到最優(yōu)時(shí),產(chǎn)生一個(gè)控制信號(hào)和一個(gè)提示信號(hào)以及網(wǎng)絡(luò)訓(xùn)練的次數(shù),此時(shí)權(quán)值存儲(chǔ)器的值不再變化,訓(xùn)練完成。

25個(gè)訓(xùn)練樣本集訓(xùn)練的平均誤差為0.003,分析8個(gè)測(cè)試樣本集的誤差,如表3所示。從表3中可以看出,其誤差與訓(xùn)練數(shù)據(jù)的誤差大體相當(dāng)且均很小。計(jì)算測(cè)試樣本的平均相對(duì)誤差為0.6%,小于1%,說(shuō)明該方法實(shí)現(xiàn)的基于FPGA的BP神經(jīng)網(wǎng)絡(luò)精度較高。

將該網(wǎng)絡(luò)下載至Altera公司EP2C70F896C6的FPGA中,其最高時(shí)鐘頻率為82.3 MHz,可見該方法具有運(yùn)行速度快的優(yōu)點(diǎn)。將該神經(jīng)網(wǎng)絡(luò)資源占用情況與已有相關(guān)工作的資源占用情況作對(duì)比,如表4所示。雖然其中各設(shè)計(jì)的規(guī)模和平臺(tái)有所差異(如1 Slice≈4 LEs),但仍可估算出即便添加了自適應(yīng)訓(xùn)練模塊,本設(shè)計(jì)對(duì)資源的占用依然較低。

從表5中可以看到,當(dāng)學(xué)習(xí)對(duì)象不同時(shí),網(wǎng)絡(luò)訓(xùn)練的次數(shù)也不同,實(shí)現(xiàn)了訓(xùn)練過(guò)程的自適應(yīng)。由此亦可推至,若采用傳統(tǒng)的預(yù)設(shè)固定次數(shù)的方式完成訓(xùn)練,則對(duì)于不同學(xué)習(xí)對(duì)象難免會(huì)造成訓(xùn)練不充分或過(guò)度訓(xùn)練的情況,從而影響網(wǎng)絡(luò)的性能。因此,該表也進(jìn)一步證明了該設(shè)計(jì)自適應(yīng)訓(xùn)練的優(yōu)越性。

3 結(jié) 論

本文以典型的BP神經(jīng)網(wǎng)絡(luò)為例,提出了一種自適應(yīng)訓(xùn)練的神經(jīng)網(wǎng)絡(luò)FPGA設(shè)計(jì)方法。通過(guò)對(duì)Sigmoid激勵(lì)函數(shù)基于對(duì)稱性做分段擬合減少了資源占用,使用基于可容忍誤差完成了網(wǎng)絡(luò)訓(xùn)練自適應(yīng)。該方法設(shè)計(jì)的神經(jīng)網(wǎng)絡(luò)具備訓(xùn)練可控、資源占用低、精度高的優(yōu)點(diǎn)。此方法不僅適合于 BP網(wǎng)絡(luò),也可推廣至采用Sigmoid函數(shù)及需要訓(xùn)練控制的其他類型的神經(jīng)網(wǎng)絡(luò)。

注:本文通訊作者為常勝。

參考文獻(xiàn)

[1] 蔣宗禮.人工神經(jīng)網(wǎng)絡(luò)導(dǎo)論[M].北京:高等教育出版社,2001:15?16.

[2] 薛維琴,李莉華,戴明.基于FPGA的人工神經(jīng)網(wǎng)絡(luò)系統(tǒng)的實(shí)現(xiàn)方法[J].電子設(shè)計(jì)工程,2010,18(9):151?154.

[3] 李利歌,閻保定,侯忠.基于FPGA的神經(jīng)網(wǎng)絡(luò)硬件可重構(gòu)實(shí)現(xiàn)[J].河南科技大學(xué)學(xué)報(bào)(自然科學(xué)版),2009,30(1):37?40.

[4] 張海燕,李欣,田書峰.基于BP神經(jīng)網(wǎng)絡(luò)的仿真線設(shè)計(jì)及其FPGA實(shí)現(xiàn)[J].電子與信息學(xué)報(bào),2007,29(5):1267?1270.

[5] VALLS J, KUHLMANN M, PARHI K K. Evaluation of CORDIC algorithms for FPGA design [J]. Journal of VLSI signal processing, 2002, 32(3): 207?222.

第8篇:人工神經(jīng)網(wǎng)絡(luò)的缺點(diǎn)范文

[關(guān)鍵詞] Spiking神經(jīng)網(wǎng)絡(luò) 學(xué)習(xí)模型 股市預(yù)測(cè)

一、引言

隨著經(jīng)濟(jì)的增長(zhǎng),對(duì)于股市的預(yù)測(cè)將變得越來(lái)越重要,也成為經(jīng)濟(jì)理論研究中的一個(gè)重要課題。股票市場(chǎng)的變化有很多因素,是一個(gè)復(fù)雜的非線性系統(tǒng),而人工神經(jīng)網(wǎng)絡(luò)能夠從大量復(fù)雜的數(shù)據(jù)中找到數(shù)據(jù)間的內(nèi)在聯(lián)系,具有良好的自我學(xué)習(xí)和抗干擾能力,在股票預(yù)測(cè)領(lǐng)域中取得了顯著的效果。本文應(yīng)用一種更接近于生物神經(jīng)系統(tǒng)的Spiking神經(jīng)網(wǎng)絡(luò),采用基于粒子群算法的學(xué)習(xí)模型,構(gòu)建了滬市上證綜合指數(shù)的學(xué)習(xí)預(yù)測(cè)模型,并用實(shí)際數(shù)據(jù)進(jìn)行了分析實(shí)驗(yàn)。

二、Spiking神經(jīng)網(wǎng)絡(luò)及其學(xué)習(xí)模型

Spike神經(jīng)元模型是更接近生物神經(jīng)元的一個(gè)數(shù)學(xué)模型,由Spike神經(jīng)元構(gòu)成的人工神經(jīng)網(wǎng)絡(luò)稱為Spiking神經(jīng)網(wǎng)絡(luò)。在Spiking神經(jīng)網(wǎng)絡(luò)中,一個(gè)Spike神經(jīng)元在t時(shí)刻接收來(lái)自于父突觸神經(jīng)元的多個(gè)post-synaptic potential(PSP)信號(hào),不斷改變自己的膜電壓。當(dāng)它的膜電壓超過(guò)閾值時(shí),產(chǎn)生一個(gè)spike,并通過(guò)突觸連接向外發(fā)送PSP信號(hào)。用于描述PSP信號(hào)的spike響應(yīng)函數(shù)定義為:

三、上證綜合指數(shù)的預(yù)測(cè)

滬市上證綜合指數(shù)是上海證券交易所編制的,以上海證券交易所掛牌上市的全部股票為計(jì)算范圍,以發(fā)行量為權(quán)數(shù)綜合,上證綜指反映了上海證券交易市場(chǎng)的總體走勢(shì),所以對(duì)上證綜指的預(yù)測(cè)具有重要的意義。文中選取了2006年6月~2007年7月共286個(gè)工作日的滬市上證綜合指數(shù)作為研究的原始數(shù)據(jù),利用滑動(dòng)窗口技術(shù),通過(guò)前6天收盤時(shí)的上證指數(shù)來(lái)預(yù)測(cè)第7天收盤時(shí)的上證指數(shù)。

我們構(gòu)建了具有6個(gè)輸入神經(jīng)元、4個(gè)隱含層神經(jīng)元和1個(gè)輸出節(jié)點(diǎn)的前向全連接Spiking神經(jīng)網(wǎng)絡(luò),并利用以上的Spiking神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)模型進(jìn)行測(cè)試。選取了原始數(shù)據(jù)中的前276個(gè)數(shù)據(jù)構(gòu)成神經(jīng)網(wǎng)絡(luò)的訓(xùn)練集,后10個(gè)數(shù)據(jù)用于測(cè)試。在實(shí)驗(yàn)前,我們對(duì)原始數(shù)據(jù)進(jìn)行歸一化的處理轉(zhuǎn)換為[0,1]之間的值。把歸一化后的前6天收盤時(shí)的上證指數(shù)分別作為6個(gè)輸入神經(jīng)元的spike時(shí)間加入到Spiking神經(jīng)網(wǎng)絡(luò)中進(jìn)行學(xué)習(xí)和計(jì)算,獲得神經(jīng)網(wǎng)絡(luò)輸出節(jié)點(diǎn)的spike時(shí)間,該時(shí)間對(duì)應(yīng)于第7天的收盤指數(shù)。按本文式(3)計(jì)算獲得Spiking神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)誤差,通過(guò)粒子群算法不斷調(diào)整神經(jīng)網(wǎng)絡(luò)的參數(shù)使誤差最小化。獲得了最優(yōu)的Spiking神經(jīng)網(wǎng)絡(luò)后,用測(cè)試集的數(shù)據(jù)對(duì)其性能進(jìn)行了測(cè)試。經(jīng)Spiking神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)預(yù)測(cè)后的上證指數(shù)變化如圖。

結(jié)果表明,與傳統(tǒng)BP算法相比,基于粒子群算法的Spiking神經(jīng)網(wǎng)絡(luò)具有較快的運(yùn)算速度和逼近性能, 同時(shí)可以克服SpikeProp算法陷入局部最優(yōu)解和對(duì)權(quán)值有約束的缺點(diǎn),可以較好地處理股票類非線性數(shù)據(jù)的學(xué)習(xí)和預(yù)測(cè)。

四、結(jié)論

股票市場(chǎng)的不確定因素太多,是一個(gè)復(fù)雜的非線性系統(tǒng),而神經(jīng)網(wǎng)絡(luò)具有自我學(xué)習(xí)的能力,能很好地解決不明確環(huán)境中的非線性應(yīng)用問(wèn)題。Spiking神經(jīng)網(wǎng)絡(luò)作為一種新型的動(dòng)態(tài)的神經(jīng)網(wǎng)絡(luò),其利用動(dòng)態(tài)的spike時(shí)間進(jìn)行信息編碼和計(jì)算的特點(diǎn)與股票市場(chǎng)中動(dòng)態(tài)的時(shí)間序列相吻合。文中對(duì)應(yīng)用Spiking神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)國(guó)內(nèi)股票市場(chǎng)做了初步的探討,獲得了較好的擬合效果。進(jìn)一步改進(jìn)原始數(shù)據(jù)的處理方式,提高Spiking神經(jīng)網(wǎng)絡(luò)的自適應(yīng)能力,將能得到更好的預(yù)測(cè)效果。

參考文獻(xiàn):

[1]Sander M:Bohte, Spiking Neural Networks [D].ISBN 90-6734-167-3, 2003

[2]Gerstner W, Kistler W. Spiking Neuron Models: Single Neurons, Populations, Plasticity [M]. Cambridge University Press, 2002

[3]韓文蕾王萬(wàn)誠(chéng):概率神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)股票市場(chǎng)的漲跌[J].計(jì)算機(jī)應(yīng)用與軟件,2005,22(11):133~135

第9篇:人工神經(jīng)網(wǎng)絡(luò)的缺點(diǎn)范文

關(guān)鍵詞: 邊坡安全; 穩(wěn)定性; 評(píng)價(jià)方法

中圖分類號(hào): U416.14 文獻(xiàn)標(biāo)識(shí)碼: A 文章編號(hào): 1009-8631(2012)07-0053-01

1 引言

邊坡安全穩(wěn)定問(wèn)題一直是巖土工程的一個(gè)重要研究?jī)?nèi)容,而邊坡穩(wěn)定性評(píng)價(jià)結(jié)果的正確與否直接關(guān)系到邊坡工程的成敗。目前邊坡穩(wěn)定性評(píng)價(jià)方法多種多樣,但由于邊坡穩(wěn)定受多方面因素影響,而各因素具有不確定性(模糊性、隨機(jī)性、信息不完全性和未確定性)和復(fù)雜性,故傳統(tǒng)的確定性分析方法如極限平衡理論用于邊坡分析,結(jié)果不是十分理想。但不論是確定性分析如蒙特-卡洛模擬法、一次二階矩法,還是不確定性方法如模糊數(shù)學(xué)、灰色理論、數(shù)量化理論和信息模型法等,其用于邊坡穩(wěn)定性評(píng)價(jià)的準(zhǔn)確性與實(shí)際情況仍有差距。對(duì)于邊坡穩(wěn)定性評(píng)價(jià)方法的綜合認(rèn)識(shí),早在1999年丁恩保教授等就已進(jìn)行過(guò)分類,他們主要根據(jù)各種方法對(duì)邊坡穩(wěn)定性評(píng)價(jià)的量化程度為依據(jù),分為定性分析法、定量分析法、非確定性分析法、物理模型法和現(xiàn)場(chǎng)監(jiān)測(cè)分析法等五種。綜合來(lái)看,目前邊坡安全穩(wěn)定評(píng)價(jià)方法主要集中在四個(gè)方面。

2 邊坡穩(wěn)定評(píng)價(jià)方法

2.1人工神經(jīng)網(wǎng)絡(luò)和遺傳算法評(píng)價(jià)法

在人工神經(jīng)網(wǎng)絡(luò)方面,邢愛國(guó)等應(yīng)用改進(jìn)的BP神經(jīng)網(wǎng)絡(luò)模型對(duì)國(guó)道107線清連一級(jí)公路部分高危邊坡進(jìn)行穩(wěn)定性評(píng)價(jià)研究。于子國(guó)等采用非線性理論研究邊坡的變形破壞機(jī)理,建立穩(wěn)定性評(píng)價(jià)模型,用遺傳-神經(jīng)網(wǎng)絡(luò)從中獲取穩(wěn)定性評(píng)價(jià)和判斷的知識(shí)進(jìn)而構(gòu)建系統(tǒng),對(duì)各類邊坡穩(wěn)定狀態(tài)做出評(píng)價(jià)。趙健將Kohonen神經(jīng)網(wǎng)絡(luò)應(yīng)用于邊坡穩(wěn)定性分析,建立評(píng)價(jià)邊坡穩(wěn)定狀態(tài)的網(wǎng)絡(luò)模型。姜德義等結(jié)合重慶地區(qū)的地質(zhì)條件和高速公路建設(shè)實(shí)踐,分析影響重慶地區(qū)高速公路土質(zhì)和巖質(zhì)邊坡穩(wěn)定性的主要因素,運(yùn)用人工神經(jīng)網(wǎng)絡(luò)方法,以重慶地區(qū)大量高速公路邊坡實(shí)例為樣本對(duì)其進(jìn)行學(xué)習(xí)和預(yù)測(cè)。

綜合來(lái)看,人工神經(jīng)網(wǎng)絡(luò)是依據(jù)人腦結(jié)構(gòu)的基本特征發(fā)展起來(lái)的一種信息處理體系或計(jì)算體系,是對(duì)神經(jīng)系統(tǒng)的數(shù)學(xué)抽象和粗略的逼近和模仿。研究表明,在巖土邊坡工程系統(tǒng)分析領(lǐng)域內(nèi)采用神經(jīng)網(wǎng)絡(luò)具有獨(dú)特的優(yōu)勢(shì),利用神經(jīng)網(wǎng)絡(luò)理論,可以盡可能多地將各種影響因素作為輸入變量,建立這些定性或定量影響因素同邊坡安全系數(shù)和變形量之間的高度非線性映射模型,然后用模型來(lái)預(yù)測(cè)和評(píng)價(jià)邊坡的安全性。毛謙等將遺傳算法引入三維邊坡穩(wěn)定分析中,用7個(gè)控制參數(shù)模擬生成滑裂面,再運(yùn)用遺傳算法來(lái)搜索滑坡最不利滑裂面,對(duì)于存在確定滑裂面的滑坡,將此滑裂面作為整體滑裂面計(jì)算其整體穩(wěn)定安全系數(shù),然后在整體穩(wěn)定的基礎(chǔ)上,運(yùn)用遺傳算法搜索滑坡內(nèi)部最不利滑裂面,得出滑坡最小的穩(wěn)定安全系數(shù)。

綜合分析可知,遺傳算法不受搜索空間限制性假設(shè)的約束(如連續(xù)性、導(dǎo)數(shù)存在等),克服了傳統(tǒng)方法容易陷入局部極小值的缺點(diǎn),從一群點(diǎn)開始搜索,能從離散的、多極值的和含有噪音的高維問(wèn)題中以很大的概率找到全局最優(yōu)解,且適用于大規(guī)模并行計(jì)算。

2.2范例推理評(píng)價(jià)法

在范例推理評(píng)價(jià)方面,劉沐宇等運(yùn)用模糊相似優(yōu)先概念,構(gòu)造基于模糊相似優(yōu)先的邊坡范例檢索模型,對(duì)每一個(gè)邊坡穩(wěn)定性的影響因素,分別建立邊坡的目標(biāo)范例與源范例之間的模糊相似優(yōu)先關(guān)系,經(jīng)過(guò)影響因素之間的兩兩比較,獲得不同影響因素下邊坡的目標(biāo)范例與源范例之間的相似性序列,從而最終找出與目標(biāo)范例最相似的源范例,實(shí)現(xiàn)邊坡的穩(wěn)定性評(píng)價(jià)。劉沐宇等建立基于神經(jīng)網(wǎng)絡(luò)的邊坡范例檢索模型,通過(guò)邊坡范例的神經(jīng)網(wǎng)絡(luò)學(xué)習(xí),建立當(dāng)前邊坡和邊坡范例之間相似性計(jì)算關(guān)系,實(shí)現(xiàn)當(dāng)前邊坡的穩(wěn)定性評(píng)價(jià)。高德彬等利用大量公路黃土路塹高邊坡實(shí)例,構(gòu)建基于范例推理的邊坡穩(wěn)定性預(yù)測(cè)模型,通過(guò)源范例和邊坡范例之間的相似度計(jì)算,得到目標(biāo)范例與源范例之間的相似性序列,找出與目標(biāo)邊坡范例最相似的源范例,實(shí)現(xiàn)黃土路塹高邊坡的穩(wěn)定性預(yù)測(cè)。

綜合來(lái)看,范例推理方法以范例為基礎(chǔ),范例的獲取比規(guī)則獲取要容易,從而大大簡(jiǎn)化知識(shí)獲取。對(duì)于邊坡安全穩(wěn)定性評(píng)價(jià)這樣的復(fù)雜問(wèn)題,其知識(shí)獲取本身就是一件非常不容易的事情,故范例推理原理為邊坡穩(wěn)定性評(píng)價(jià)提供了一條可行的新途徑。

2.3模糊綜合評(píng)價(jià)法

在模糊綜合評(píng)價(jià)方面,周軍霞等針對(duì)影響公路邊坡穩(wěn)定性因素的模糊性和隨機(jī)性,選擇影響公路邊坡穩(wěn)定性的10個(gè)主要因素,并分為兩個(gè)層次,利用模糊數(shù)學(xué)綜合評(píng)判方法,采用專家方法和經(jīng)驗(yàn)公式法賦予影響因素的隸屬函數(shù)和隸屬值,建立公路邊坡穩(wěn)定性分析的二級(jí)綜合評(píng)判模型,得到公路邊坡穩(wěn)定性的預(yù)測(cè)結(jié)果。孟衡采用判斷矩陣分析法確定評(píng)價(jià)因子的權(quán)重,用二級(jí)模糊評(píng)判對(duì)某工程實(shí)例進(jìn)行計(jì)算分析,結(jié)果表明用該法確定權(quán)重簡(jiǎn)便,亦能較好反映邊坡所處狀態(tài)。歐國(guó)林等運(yùn)用模糊數(shù)學(xué)方法提出模糊穩(wěn)定系數(shù)的概念和描述方法,建立路基邊坡穩(wěn)定性分析的模糊綜合評(píng)價(jià)模型,通過(guò)確定個(gè)體因素等級(jí)標(biāo)準(zhǔn)和權(quán)重得出模糊穩(wěn)定系數(shù),使路基邊坡穩(wěn)定分析更接近客觀實(shí)際。

總體來(lái)看,模糊綜合評(píng)價(jià)方法為多變量、多因素影響的邊坡穩(wěn)定性分析提供了一種行之有效的手段,用隸屬函數(shù)代替確定論中非此即彼的特征函數(shù)來(lái)描述具有模糊性的影響因素,用模糊變換原理實(shí)現(xiàn)多因素、多層次的邊坡穩(wěn)定性分析與評(píng)價(jià)。其不足之處在于相關(guān)因素及各因素邊界值的不易確定以及在隸屬函數(shù)的確定和因素權(quán)重的分配上均含有相當(dāng)多的人為主觀因素。

2.4灰色系統(tǒng)評(píng)價(jià)法

在灰色系統(tǒng)評(píng)價(jià)方面,魏星等將復(fù)雜巖體邊坡系統(tǒng)視為一個(gè)灰色系統(tǒng),在綜合分析巖體邊坡影響因素基礎(chǔ)上,采用表征邊坡巖體穩(wěn)定性的復(fù)合指標(biāo)作為評(píng)判其穩(wěn)定性的因素,給出一種基于復(fù)合指標(biāo)的邊坡巖體穩(wěn)定性灰色系統(tǒng)類比預(yù)測(cè)模型。趙靜波等提出以控制因素變化的階段性來(lái)劃分時(shí)間數(shù)據(jù)序列,建立階段時(shí)間序列灰色預(yù)測(cè)模型,對(duì)邊坡的發(fā)展變化情況進(jìn)行預(yù)測(cè)。王利等提出一種基于卡爾曼濾波的GM預(yù)測(cè)模型,即先用卡爾曼濾波法對(duì)原始變形監(jiān)測(cè)數(shù)據(jù)進(jìn)行濾波處理,再建立GM模型進(jìn)行灰色預(yù)測(cè)。何習(xí)平等針對(duì)單點(diǎn)模型背景值取值方法的不足,提出一種動(dòng)態(tài)定權(quán)方法,建立加權(quán)多點(diǎn)灰色預(yù)測(cè)模型。

總體來(lái)講,利用灰色理論分析方法,可在不完全的信息中,通過(guò)一定的數(shù)據(jù)處理,找出它們的關(guān)聯(lián)性,確定邊坡穩(wěn)定性各影響因素的影響程度,進(jìn)而利用多因素疊加分析評(píng)估邊坡的穩(wěn)定性。

參考文獻(xiàn):

相關(guān)熱門標(biāo)簽
国产日韩欧美在线精品| 一区二区三区乱码不卡18| 亚洲精品久久久久久婷婷小说| 老司机影院毛片| 亚洲欧美成人精品一区二区| 乱人伦中国视频| 欧美人与性动交α欧美软件 | 成人18禁高潮啪啪吃奶动态图| 寂寞人妻少妇视频99o| 黄色一级大片看看| 伊人久久国产一区二区| 黄色视频在线播放观看不卡| 亚洲国产色片| 免费观看无遮挡的男女| 欧美日韩视频高清一区二区三区二| 亚洲精品乱久久久久久| 国产国语露脸激情在线看| 22中文网久久字幕| 成人毛片60女人毛片免费| 在线看a的网站| 97在线人人人人妻| 国产精品久久久久久精品电影小说| 一二三四中文在线观看免费高清| 成人免费观看视频高清| 精品一区二区三区视频在线| 高清av免费在线| 国产麻豆69| 久久久国产精品麻豆| 成人午夜精彩视频在线观看| 国产精品国产三级国产专区5o| 欧美性感艳星| 日韩中字成人| 亚洲av国产av综合av卡| 国产成人精品在线电影| 国产xxxxx性猛交| 香蕉精品网在线| 97精品久久久久久久久久精品| videossex国产| 日日摸夜夜添夜夜爱| 欧美精品国产亚洲| 日本色播在线视频| 亚洲av国产av综合av卡| 九九在线视频观看精品| 国产探花极品一区二区| 亚洲精华国产精华液的使用体验| 久热这里只有精品99| 又黄又爽又刺激的免费视频.| 在线 av 中文字幕| 精品一区二区三区视频在线| 人妻人人澡人人爽人人| 国语对白做爰xxxⅹ性视频网站| 欧美性感艳星| 色哟哟·www| 爱豆传媒免费全集在线观看| 午夜av观看不卡| 精品福利永久在线观看| 亚洲中文av在线| 国产成人一区二区在线| 最近2019中文字幕mv第一页| 黑人欧美特级aaaaaa片| 有码 亚洲区| 免费久久久久久久精品成人欧美视频 | 国产精品久久久久成人av| 又粗又硬又长又爽又黄的视频| 亚洲色图 男人天堂 中文字幕 | 免费大片黄手机在线观看| 久久婷婷青草| av在线老鸭窝| 国产日韩欧美在线精品| av在线播放精品| 五月伊人婷婷丁香| 人成视频在线观看免费观看| 国产精品一区二区在线观看99| 久久精品国产亚洲av涩爱| 成年动漫av网址| 亚洲欧美色中文字幕在线| 亚洲美女搞黄在线观看| 在线观看www视频免费| 夜夜骑夜夜射夜夜干| 久久99热这里只频精品6学生| 亚洲欧洲日产国产| 精品久久久久久电影网| 汤姆久久久久久久影院中文字幕| 熟女电影av网| 一本一本久久a久久精品综合妖精 国产伦在线观看视频一区 | 久久99精品国语久久久| 免费观看av网站的网址| 91精品三级在线观看| 蜜桃在线观看..| 久久婷婷青草| 在线观看人妻少妇| 黄网站色视频无遮挡免费观看| 亚洲精品日本国产第一区| 成人无遮挡网站| 久久97久久精品| 欧美性感艳星| 18禁裸乳无遮挡动漫免费视频| 日韩伦理黄色片| 少妇被粗大猛烈的视频| 欧美精品一区二区大全| 国产欧美亚洲国产| 五月开心婷婷网| 夫妻性生交免费视频一级片| 国产高清不卡午夜福利| 亚洲精品美女久久久久99蜜臀 | 男女午夜视频在线观看 | 久久99精品国语久久久| a级毛片在线看网站| av国产精品久久久久影院| 久久女婷五月综合色啪小说| 午夜视频国产福利| 老熟女久久久| 国产乱人偷精品视频| 久久精品国产鲁丝片午夜精品| 999精品在线视频| 中文字幕制服av| 国产深夜福利视频在线观看| 自线自在国产av| 九九爱精品视频在线观看| 中文字幕免费在线视频6| 女人被躁到高潮嗷嗷叫费观| 国产亚洲一区二区精品| 欧美国产精品va在线观看不卡| 久久韩国三级中文字幕| 亚洲精品久久午夜乱码| 国产视频首页在线观看| 国产亚洲最大av| 美女主播在线视频| 免费观看在线日韩| 午夜av观看不卡| 国产熟女午夜一区二区三区| 又大又黄又爽视频免费| 看非洲黑人一级黄片| 哪个播放器可以免费观看大片| 观看av在线不卡| 一级片'在线观看视频| 亚洲内射少妇av| 欧美bdsm另类| 国产一区二区在线观看日韩| 日本午夜av视频| 欧美日韩精品成人综合77777| 久久精品久久久久久噜噜老黄| 五月伊人婷婷丁香| 视频区图区小说| 少妇人妻 视频| 极品人妻少妇av视频| 日本wwww免费看| 国产成人免费观看mmmm| 精品久久国产蜜桃| 色哟哟·www| 久久久久久久精品精品| 最后的刺客免费高清国语| 亚洲av电影在线观看一区二区三区| 在线观看国产h片| 亚洲 欧美一区二区三区| 9色porny在线观看| 欧美国产精品一级二级三级| 高清av免费在线| www.色视频.com| 精品国产一区二区久久| 日本午夜av视频| 99热国产这里只有精品6| 最近最新中文字幕免费大全7| 在线观看美女被高潮喷水网站| 久久午夜福利片| 少妇 在线观看| 久久精品国产亚洲av天美| 丁香六月天网| 国产成人一区二区在线| h视频一区二区三区| 久热这里只有精品99| 午夜福利,免费看| 欧美最新免费一区二区三区| 一级,二级,三级黄色视频| 777米奇影视久久| 嫩草影院入口| 秋霞在线观看毛片| 亚洲精品一区蜜桃| 久久精品国产亚洲av涩爱| 亚洲av日韩在线播放| 国产一区亚洲一区在线观看| 美女福利国产在线| 少妇 在线观看| 亚洲三级黄色毛片| 人人妻人人澡人人爽人人夜夜| 亚洲伊人久久精品综合| av天堂久久9| 9热在线视频观看99| av在线老鸭窝| 国产熟女欧美一区二区| 街头女战士在线观看网站| 久久ye,这里只有精品| 最后的刺客免费高清国语| 香蕉精品网在线| 久久精品国产a三级三级三级| 亚洲精品美女久久av网站| 最近最新中文字幕大全免费视频 | 极品少妇高潮喷水抽搐| 99国产精品免费福利视频| 久久久亚洲精品成人影院| 日韩大片免费观看网站| 国产成人a∨麻豆精品| 亚洲国产欧美日韩在线播放| 蜜桃在线观看..| 日韩av不卡免费在线播放| 国产成人免费观看mmmm| 成人漫画全彩无遮挡| 国产精品一区www在线观看| 一级爰片在线观看| 免费高清在线观看日韩| 一区在线观看完整版| 久久影院123| 性色av一级| 免费大片黄手机在线观看| 成人毛片a级毛片在线播放| 搡女人真爽免费视频火全软件| 国精品久久久久久国模美| 97人妻天天添夜夜摸| 免费看av在线观看网站| 午夜影院在线不卡| 精品熟女少妇av免费看| 国产精品国产三级国产av玫瑰| 中文字幕精品免费在线观看视频 | 欧美人与性动交α欧美精品济南到 | 一级爰片在线观看| 香蕉丝袜av| 日日撸夜夜添| 王馨瑶露胸无遮挡在线观看| 亚洲精品一区蜜桃| 成人亚洲欧美一区二区av| 久久久久精品久久久久真实原创| av国产精品久久久久影院| 国产无遮挡羞羞视频在线观看| 欧美激情 高清一区二区三区| 男的添女的下面高潮视频| 国产成人精品婷婷| 老司机影院成人| 亚洲图色成人| videosex国产| 日韩制服骚丝袜av| 亚洲综合色网址| 色视频在线一区二区三区| 亚洲情色 制服丝袜| 欧美3d第一页| 涩涩av久久男人的天堂| 免费观看av网站的网址| 免费播放大片免费观看视频在线观看| 久久影院123| 99热全是精品| 成人午夜精彩视频在线观看| 熟女电影av网| 欧美日韩视频精品一区| 亚洲精品国产色婷婷电影| 在线免费观看不下载黄p国产| 国产成人午夜福利电影在线观看| 母亲3免费完整高清在线观看 | 日韩av在线免费看完整版不卡| 少妇的逼好多水| 国产精品一区www在线观看| 少妇的逼水好多| 午夜日本视频在线| 岛国毛片在线播放| 日本vs欧美在线观看视频| 99热全是精品| videosex国产| 啦啦啦视频在线资源免费观看| 久久精品aⅴ一区二区三区四区 | 久久影院123| 巨乳人妻的诱惑在线观看| 成人国产麻豆网| 久久人人爽人人片av| 一级毛片黄色毛片免费观看视频| 嫩草影院入口| av有码第一页| 最近中文字幕高清免费大全6| 成年动漫av网址| 国产成人91sexporn| 免费看av在线观看网站| 亚洲精品,欧美精品| 亚洲精品日本国产第一区| videosex国产| 卡戴珊不雅视频在线播放| 欧美精品高潮呻吟av久久| 国产熟女午夜一区二区三区| 免费看av在线观看网站| 国产精品偷伦视频观看了| a级毛片黄视频| 99视频精品全部免费 在线| 欧美少妇被猛烈插入视频| 国产成人欧美| 91aial.com中文字幕在线观看| 欧美精品亚洲一区二区| 国产免费福利视频在线观看| 久久国内精品自在自线图片| 国产高清不卡午夜福利| 热re99久久国产66热| 亚洲久久久国产精品| 夫妻午夜视频| h视频一区二区三区| 久久久久久伊人网av| 婷婷成人精品国产| 中文欧美无线码| 午夜激情av网站| 久久人妻熟女aⅴ| 国产av国产精品国产| 中国美白少妇内射xxxbb| 国产成人精品婷婷| 一级爰片在线观看| 国产精品国产三级国产av玫瑰| 高清毛片免费看| 亚洲色图 男人天堂 中文字幕 | 免费观看在线日韩| 99久久精品国产国产毛片| 成人亚洲精品一区在线观看| 亚洲精品av麻豆狂野| 中国美白少妇内射xxxbb| 欧美国产精品一级二级三级| 80岁老熟妇乱子伦牲交| 国产激情久久老熟女| 一个人免费看片子| 又大又黄又爽视频免费| 三上悠亚av全集在线观看| 1024视频免费在线观看| 99热6这里只有精品| 国产免费一级a男人的天堂| 一级毛片我不卡| 久久久久国产网址| 最近中文字幕高清免费大全6| 亚洲,欧美精品.| 中文精品一卡2卡3卡4更新| 丝瓜视频免费看黄片| 欧美人与性动交α欧美精品济南到 | 丝袜美足系列| 国产探花极品一区二区| 国产综合精华液| 午夜视频国产福利| 久久久国产一区二区| 国产精品久久久av美女十八| 日本vs欧美在线观看视频| 纯流量卡能插随身wifi吗| 国产精品国产三级专区第一集| 9热在线视频观看99| 黑丝袜美女国产一区| 亚洲精品av麻豆狂野| 深夜精品福利| 在线观看美女被高潮喷水网站| 少妇被粗大的猛进出69影院 | 九九爱精品视频在线观看| 国产 一区精品| 午夜激情av网站| 亚洲欧美一区二区三区黑人 | 中文字幕精品免费在线观看视频 | 国产激情久久老熟女| 国产精品麻豆人妻色哟哟久久| 日日撸夜夜添| 久久久国产欧美日韩av| 各种免费的搞黄视频| 高清在线视频一区二区三区| 国产成人91sexporn| 亚洲成人一二三区av| 欧美日韩成人在线一区二区| 99热6这里只有精品| a级毛片在线看网站| 国产老妇伦熟女老妇高清| 欧美xxⅹ黑人| 久久国内精品自在自线图片| 中文字幕人妻丝袜制服| 亚洲精品日本国产第一区| 日本免费在线观看一区| 精品久久久精品久久久| 在线精品无人区一区二区三| 色吧在线观看| 亚洲国产毛片av蜜桃av| 亚洲综合色网址| 日韩电影二区| 亚洲欧洲日产国产| 久久亚洲国产成人精品v| 国国产精品蜜臀av免费| 久久久精品免费免费高清| 日本猛色少妇xxxxx猛交久久| 久久狼人影院| 国产激情久久老熟女| 亚洲三级黄色毛片| 男女高潮啪啪啪动态图| 国产精品不卡视频一区二区| 美女xxoo啪啪120秒动态图| a级片在线免费高清观看视频| 亚洲内射少妇av| 亚洲国产看品久久| 啦啦啦在线观看免费高清www| 高清在线视频一区二区三区| 亚洲国产精品专区欧美| 国产色爽女视频免费观看| 各种免费的搞黄视频| 久久久a久久爽久久v久久| 女人精品久久久久毛片| 国产xxxxx性猛交| 啦啦啦在线观看免费高清www| 久久国产精品男人的天堂亚洲 | 中文字幕制服av| 伊人亚洲综合成人网| 黄色毛片三级朝国网站| 91成人精品电影| 天天操日日干夜夜撸| 日日爽夜夜爽网站| 国产色婷婷99| 日本色播在线视频| 下体分泌物呈黄色| 五月开心婷婷网| 91久久精品国产一区二区三区| 亚洲伊人色综图| 欧美日韩成人在线一区二区| 又黄又粗又硬又大视频| 在线精品无人区一区二区三| xxx大片免费视频| 久久久久久人人人人人| 永久免费av网站大全| 免费大片18禁| 亚洲精品久久成人aⅴ小说| 亚洲国产av新网站| 激情视频va一区二区三区| 日本黄大片高清| 日日爽夜夜爽网站| 国产又色又爽无遮挡免| 日日撸夜夜添| 中文字幕亚洲精品专区| 亚洲av国产av综合av卡| 午夜福利影视在线免费观看| 免费女性裸体啪啪无遮挡网站| 在现免费观看毛片| 欧美精品人与动牲交sv欧美| 韩国av在线不卡| 黄片无遮挡物在线观看| 女的被弄到高潮叫床怎么办| 精品一区二区免费观看| 国产淫语在线视频| 一级毛片电影观看| 97超碰精品成人国产| 最近中文字幕高清免费大全6| 亚洲中文av在线| 天堂8中文在线网| 大香蕉久久网| 精品卡一卡二卡四卡免费| 熟女电影av网| 久久精品夜色国产| 91国产中文字幕| 久久人人爽人人片av| 只有这里有精品99| 久久久久久久国产电影| 七月丁香在线播放| 日韩电影二区| 亚洲情色 制服丝袜| 精品酒店卫生间| 日日爽夜夜爽网站| www.av在线官网国产| 美国免费a级毛片| 亚洲av日韩在线播放| 狂野欧美激情性bbbbbb| 欧美精品一区二区免费开放| 内地一区二区视频在线| 亚洲av福利一区| 18+在线观看网站| 久久青草综合色| 久久久久国产网址| 最后的刺客免费高清国语| 性高湖久久久久久久久免费观看| 高清欧美精品videossex| 日韩av不卡免费在线播放| 另类精品久久| 亚洲国产av影院在线观看| 国产色婷婷99| 欧美性感艳星| 国产av精品麻豆| 国产片特级美女逼逼视频| 一区二区三区精品91| 久久久久久久大尺度免费视频| 极品人妻少妇av视频| 成人综合一区亚洲| 午夜免费鲁丝| 一级毛片黄色毛片免费观看视频| 亚洲精品一二三| 精品一区在线观看国产| 深夜精品福利| 咕卡用的链子| 母亲3免费完整高清在线观看 | 免费黄网站久久成人精品| 亚洲一级一片aⅴ在线观看| 赤兔流量卡办理| 亚洲精品av麻豆狂野| 精品国产露脸久久av麻豆| 久久久久精品性色| 国产 一区精品| 新久久久久国产一级毛片| 一级a做视频免费观看| 99re6热这里在线精品视频| 美女内射精品一级片tv| 母亲3免费完整高清在线观看 | videos熟女内射| 日本猛色少妇xxxxx猛交久久| 高清视频免费观看一区二区| 99久久综合免费| 国产精品久久久久久久电影| 韩国av在线不卡| 成人国产麻豆网| 亚洲三级黄色毛片| 视频中文字幕在线观看| 国产精品久久久久久久电影| 国产精品久久久久久精品电影小说| 寂寞人妻少妇视频99o| 天堂俺去俺来也www色官网| 国产麻豆69| 免费人成在线观看视频色| 色视频在线一区二区三区| 国产av精品麻豆| 国产片特级美女逼逼视频| 亚洲色图 男人天堂 中文字幕 | av播播在线观看一区| av线在线观看网站| 国产亚洲欧美精品永久| 精品少妇黑人巨大在线播放| 成人无遮挡网站| 日韩av在线免费看完整版不卡| 久久久久久久大尺度免费视频| 日韩中文字幕视频在线看片| 国产精品人妻久久久久久| 大片免费播放器 马上看| 美女脱内裤让男人舔精品视频| 熟女人妻精品中文字幕| 亚洲天堂av无毛| 少妇精品久久久久久久| 中文字幕最新亚洲高清| 欧美最新免费一区二区三区| 国产精品99久久99久久久不卡 | 亚洲激情五月婷婷啪啪| 亚洲美女搞黄在线观看| 2018国产大陆天天弄谢| 亚洲精品美女久久久久99蜜臀 | 最近最新中文字幕大全免费视频 | av免费在线看不卡| 熟女av电影| 91精品伊人久久大香线蕉| 男女下面插进去视频免费观看 | 欧美bdsm另类| 国产免费又黄又爽又色| 在线观看美女被高潮喷水网站| 久久久国产精品麻豆| 五月天丁香电影| 欧美日韩视频精品一区| 在线观看人妻少妇| 欧美国产精品一级二级三级| 十八禁网站网址无遮挡| 在现免费观看毛片| 日本av免费视频播放| 一级爰片在线观看| xxxhd国产人妻xxx| 亚洲一码二码三码区别大吗| 婷婷成人精品国产| 午夜激情久久久久久久| 亚洲精品美女久久av网站| 春色校园在线视频观看| 一区二区三区精品91| 午夜福利视频在线观看免费| 久久久久人妻精品一区果冻| 精品国产一区二区三区久久久樱花| 99热全是精品| 精品一区二区免费观看| 国产精品久久久av美女十八| 欧美精品国产亚洲| 亚洲欧美色中文字幕在线| 少妇人妻 视频| 国产爽快片一区二区三区| 精品久久久久久电影网| 美女视频免费永久观看网站| 婷婷色综合大香蕉| 妹子高潮喷水视频| 五月伊人婷婷丁香| 99久久人妻综合| 亚洲欧洲国产日韩| av线在线观看网站| 一本—道久久a久久精品蜜桃钙片| 国产色婷婷99| 中国国产av一级| 久久久久精品人妻al黑| 91精品国产国语对白视频| 午夜免费男女啪啪视频观看| 欧美性感艳星| av有码第一页| 欧美日韩国产mv在线观看视频| 国产有黄有色有爽视频| 成年人午夜在线观看视频| 久久免费观看电影| 国产亚洲一区二区精品| 日韩中字成人| 男人舔女人的私密视频| 99热网站在线观看| 国产免费又黄又爽又色| 丰满乱子伦码专区| 国产伦理片在线播放av一区| 啦啦啦中文免费视频观看日本| 久久久国产精品麻豆| 我要看黄色一级片免费的| 熟女电影av网| 啦啦啦啦在线视频资源| 中文精品一卡2卡3卡4更新| 少妇高潮的动态图| 99热全是精品| 久久久久视频综合| 五月开心婷婷网| 一级黄片播放器| 日韩中文字幕视频在线看片| 国产一区二区激情短视频 | 国产精品久久久av美女十八| 色视频在线一区二区三区| 精品福利永久在线观看| 日韩制服丝袜自拍偷拍|