神經(jīng)網(wǎng)絡(luò)的參數(shù)是如何來設(shè)定的

網(wǎng)絡(luò)參數(shù)確定原則：

①、網(wǎng)絡(luò)節(jié)點(diǎn)

網(wǎng)絡(luò)輸入層神經(jīng)元節(jié)點(diǎn)數(shù)就是系統(tǒng)的特征因子（自變量）個(gè)數(shù)，輸出層神經(jīng)元節(jié)點(diǎn)數(shù)就是系統(tǒng)目標(biāo)個(gè)數(shù)。隱層節(jié)點(diǎn)選按經(jīng)驗(yàn)選取，一般設(shè)為輸入層節(jié)點(diǎn)數(shù)的75%。如果輸入層有7個(gè)節(jié)點(diǎn)，輸出層1個(gè)節(jié)點(diǎn)，那么隱含層可暫設(shè)為5個(gè)節(jié)點(diǎn)，即構(gòu)成一個(gè)7-5-1 BP神經(jīng)網(wǎng)絡(luò)模型。在系統(tǒng)訓(xùn)練時(shí)，實(shí)際還要對不同的隱層節(jié)點(diǎn)數(shù)4、5、6個(gè)分別進(jìn)行比較，最后確定出最合理的網(wǎng)絡(luò)結(jié)構(gòu)。

②、初始權(quán)值的確定

初始權(quán)值是不應(yīng)完全相等的一組值。已經(jīng)證明，即便確定 存在一組互不相等的使系統(tǒng)誤差更小的權(quán)值，如果所設(shè)Wji的的初始值彼此相等，它們將在學(xué)習(xí)過程中始終保持相等。故而，在程序中，我們設(shè)計(jì)了一個(gè)隨機(jī)發(fā)生器程序，產(chǎn)生一組一0.5~+0.5的隨機(jī)數(shù)，作為網(wǎng)絡(luò)的初始權(quán)值。

③、最小訓(xùn)練速率

在經(jīng)典的BP算法中，訓(xùn)練速率是由經(jīng)驗(yàn)確定，訓(xùn)練速率越大，權(quán)重變化越大，收斂越快；但訓(xùn)練速率過大，會引起系統(tǒng)的振蕩，因此，訓(xùn)練速率在不導(dǎo)致振蕩前提下，越大越好。因此，在DPS中，訓(xùn)練速率會自動調(diào)整，并盡可能取大一些的值，但用戶可規(guī)定一個(gè)最小訓(xùn)練速率。該值一般取0.9。

④、動態(tài)參數(shù)

動態(tài)系數(shù)的選擇也是經(jīng)驗(yàn)性的，一般取0.6 ~0.8。

⑤、允許誤差

一般取0.001~0.00001，當(dāng)2次迭代結(jié)果的誤差小于該值時(shí)，系統(tǒng)結(jié)束迭代計(jì)算，給出結(jié)果。

⑥、迭代次數(shù)

一般取1000次。由于神經(jīng)網(wǎng)絡(luò)計(jì)算并不能保證在各種參數(shù)配置下迭代結(jié)果收斂，當(dāng)?shù)Y(jié)果不收斂時(shí)，允許最大的迭代次數(shù)。

⑦、Sigmoid參數(shù)

該參數(shù)調(diào)整神經(jīng)元激勵函數(shù)形式，一般取0.9~1.0之間。

⑧、數(shù)據(jù)轉(zhuǎn)換

在DPS系統(tǒng)中，允許對輸入層各個(gè)節(jié)點(diǎn)的數(shù)據(jù)進(jìn)行轉(zhuǎn)換，提供轉(zhuǎn)換的方法有取對數(shù)、平方根轉(zhuǎn)換和數(shù)據(jù)標(biāo)準(zhǔn)化轉(zhuǎn)換。

本文轉(zhuǎn)自CSDN