神經(jīng)網(wǎng)絡

　　人工神經(jīng)網(wǎng)絡（ArtificialNeuralNetworks，簡寫為ANNs）也簡稱為神經(jīng)網(wǎng)絡（NNs）或稱作連接模型（ConnectionModel），它是一種模仿動物神經(jīng)網(wǎng)絡行為特征，進行分布式并行信息處理的算法數(shù)學模型。這種網(wǎng)絡依靠系統(tǒng)的復雜程度，通過調(diào)整內(nèi)部大量節(jié)點之間相互連接的關系，從而達到處理信息的目的。

　　概述

　　神經(jīng)元網(wǎng)絡是機器學習學科中的一個重要部分，用來classification或者regression。思維學普遍認為，人類大腦的思維分為抽象（邏輯）思維、形象（直觀）思維和靈感（頓悟）思維三種基本方式。

　　邏輯性的思維是指根據(jù)邏輯規(guī)則進行推理的過程；它先將信息化成概念，并用符號表示，然后，根據(jù)符號運算按串行模式進行邏輯推理；這一過程可以寫成串行的指令，讓計算機執(zhí)行。然而，直觀性的思維是將分布式存儲的信息綜合起來，結果是忽然間產(chǎn)生想法或解決問題的辦法。這種思維方式的根本之點在于以下兩點：1.信息是通過神經(jīng)元上的興奮模式分布存儲在網(wǎng)絡上；2.信息處理是通過神經(jīng)元之間同時相互作用的動態(tài)過程來完成的。

　　人工神經(jīng)網(wǎng)絡就是模擬人思維的第二種方式。這是一個非線性動力學系統(tǒng)，其特色在于信息的分布式存儲和并行協(xié)同處理。雖然單個神經(jīng)元的結構極其簡單，功能有限，但大量神經(jīng)元構成的網(wǎng)絡系統(tǒng)所能實現(xiàn)的行為卻是極其豐富多彩的。

　　模擬人腦思維方式的神經(jīng)網(wǎng)絡是個很有趣的分類算法，對于復雜度比較大的分類問題提供了一個相對簡單的解決方案。

　　研究內(nèi)容

　　神經(jīng)網(wǎng)絡的研究內(nèi)容相當廣泛，反映了多學科交叉技術領域的特點。主要的研究工作集中在以下幾個方面：

　　生物原型

　　從生理學、心理學、解剖學、腦科學、病理學等方面研究神經(jīng)細胞、神經(jīng)網(wǎng)絡、神經(jīng)系統(tǒng)的生物原型結構及其功能機理。

　　建立模型

　　根據(jù)生物原型的研究，建立神經(jīng)元、神經(jīng)網(wǎng)絡的理論模型。其中包括概念模型、知識模型、物理化學模型、數(shù)學模型等。

　　算法

　　在理論模型研究的基礎上構作具體的神經(jīng)網(wǎng)絡模型，以實現(xiàn)計算機模擬或準備制作硬件，包括網(wǎng)絡學習算法的研究。這方面的工作也稱為技術模型研究。

　　神經(jīng)網(wǎng)絡用到的算法就是向量乘法，并且廣泛采用符號函數(shù)及其各種逼近。并行、容錯、可以硬件實現(xiàn)以及自我學習特性，是神經(jīng)網(wǎng)絡的幾個基本優(yōu)點，也是神經(jīng)網(wǎng)絡計算方法與傳統(tǒng)方法的區(qū)別所在。

　　應用

　　在網(wǎng)絡模型與算法研究的基礎上，利用人工神經(jīng)網(wǎng)絡組成實際的應用系統(tǒng)，例如，完成某種信號處理或模式識別的功能、構作專家系統(tǒng)、制成機器人、復雜系統(tǒng)控制等等。

　　縱觀當代新興科學技術的發(fā)展歷史，人類在征服宇宙空間、基本粒子，生命起源等科學技術領域的進程中歷經(jīng)了崎嶇不平的道路。我們也會看到，探索人腦功能和神經(jīng)網(wǎng)絡的研究將伴隨著重重困難的克服而日新月異。

　　工作原理

　　“人腦是如何工作的？”

　　“人類能否制作模擬人腦的人工神經(jīng)元？”

　　多少年以來，人們從醫(yī)學、生物學、生理學、哲學、信息學、計算機科學、認知學、組織協(xié)同學等各個角度企圖認識并解答上述問題。在尋找上述問題答案的研究過程中，逐漸形成了一個新興的多學科交叉技術領域，稱之為“神經(jīng)網(wǎng)絡”。神經(jīng)網(wǎng)絡的研究涉及眾多學科領域，這些領域互相結合、相互滲透并相互推動。不同領域的科學家又從各自學科的興趣與特色出發(fā)，提出不同的問題，從不同的角度進行研究。

　　人工神經(jīng)網(wǎng)絡首先要以一定的學習準則進行學習，然后才能工作。現(xiàn)以人工神經(jīng)網(wǎng)絡對手寫“A”、“B”兩個字母的識別為例進行說明，規(guī)定當“A”輸入網(wǎng)絡時，應該輸出“1”，而當輸入為“B”時，輸出為“0”。

　　所以網(wǎng)絡學習的準則應該是：如果網(wǎng)絡作出錯誤的判決，則通過網(wǎng)絡的學習，應使得網(wǎng)絡減少下次犯同樣錯誤的可能性。首先，給網(wǎng)絡的各連接權值賦予(0，1)區(qū)間內(nèi)的隨機值，將“A”所對應的圖象模式輸入給網(wǎng)絡，網(wǎng)絡將輸入模式加權求和、與門限比較、再進行非線性運算，得到網(wǎng)絡的輸出。在此情況下，網(wǎng)絡輸出為“1”和“0”的概率各為50%，也就是說是完全隨機的。這時如果輸出為“1”(結果正確)，則使連接權值增大，以便使網(wǎng)絡再次遇到“A”模式輸入時，仍然能作出正確的判斷。

　　普通計算機的功能取決于程序中給出的知識和能力。顯然，對于智能活動要通過總結編制程序?qū)⑹掷щy。

　　人工神經(jīng)網(wǎng)絡也具有初步的自適應與自組織能力。在學習或訓練過程中改變突觸權重值，以適應周圍環(huán)境的要求。同一網(wǎng)絡因?qū)W習方式及內(nèi)容不同可具有不同的功能。人工神經(jīng)網(wǎng)絡是一個具有學習能力的系統(tǒng)，可以發(fā)展知識，以致超過設計者原有的知識水平。通常，它的學習訓練方式可分為兩種，一種是有監(jiān)督或稱有導師的學習，這時利用給定的樣本標準進行分類或模仿；另一種是無監(jiān)督學習或稱無為導師學習，這時，只規(guī)定學習方式或某些規(guī)則，則具體的學習內(nèi)容隨系統(tǒng)所處環(huán)境（即輸入信號情況）而異，系統(tǒng)可以自動發(fā)現(xiàn)環(huán)境特征和規(guī)律性，具有更近似人腦的功能。

　　神經(jīng)網(wǎng)絡就像是一個愛學習的孩子，您教她的知識她是不會忘記而且會學以致用的。我們把學習集（LearningSet）中的每個輸入加到神經(jīng)網(wǎng)絡中，并告訴神經(jīng)網(wǎng)絡輸出應該是什么分類。在全部學習集都運行完成之后，神經(jīng)網(wǎng)絡就根據(jù)這些例子總結出她自己的想法，到底她是怎么歸納的就是一個黑盒了。之后我們就可以把測試集（TestingSet）中的測試例子用神經(jīng)網(wǎng)絡來分別作測試，如果測試通過（比如80%或90%的正確率），那么神經(jīng)網(wǎng)絡就構建成功了。我們之后就可以用這個神經(jīng)網(wǎng)絡來判斷事務的分類了。

　　神經(jīng)網(wǎng)絡是通過對人腦的基本單元——神經(jīng)元的建模和聯(lián)接，探索模擬人腦神經(jīng)系統(tǒng)功能的模型，并研制一種具有學習、聯(lián)想、記憶和模式識別等智能信息處理功能的人工系統(tǒng)。神經(jīng)網(wǎng)絡的一個重要特性是它能夠從環(huán)境中學習，并把學習的結果分布存儲于網(wǎng)絡的突觸連接中。神經(jīng)網(wǎng)絡的學習是一個過程，在其所處環(huán)境的激勵下，相繼給網(wǎng)絡輸入一些樣本模式，并按照一定的規(guī)則（學習算法）調(diào)整網(wǎng)絡各層的權值矩陣，待網(wǎng)絡各層權值都收斂到一定值，學習過程結束。然后我們就可以用生成的神經(jīng)網(wǎng)絡來對真實數(shù)據(jù)做分類。

　　人工神經(jīng)網(wǎng)絡早期的研究工作應追溯至20世紀40年代。下面以時間順序，以著名的人物或某一方面突出的研究成果為線索，簡要介紹。

　　常見的工具

　　在眾多的神經(jīng)網(wǎng)絡工具中，NeuroSolutions[1]始終處于業(yè)界領先位置。它是一個可用于windowsXP/7高度圖形化的神經(jīng)網(wǎng)絡開發(fā)工具。其將模塊化，基于圖標的網(wǎng)絡設計界面，先進的學習程序和遺傳優(yōu)化進行了結合。該款可用于研究和解決現(xiàn)實世界的復雜問題的神經(jīng)網(wǎng)絡設計工具在使用上幾乎無限制。

　　研究方向

　　神經(jīng)網(wǎng)絡的研究可以分為理論研究和應用研究兩大方面。

　　理論研究可分為以下兩類：

　　1、利用神經(jīng)生理與認知科學研究人類思維以及智能機理。

　　2、利用神經(jīng)基礎理論的研究成果，用數(shù)理方法探索功能更加完善、性能更加優(yōu)越的神經(jīng)網(wǎng)絡模型，深入研究網(wǎng)絡算法和性能，如：穩(wěn)定性、收斂性、容錯性、魯棒性等；開發(fā)新的網(wǎng)絡數(shù)理理論，如：神經(jīng)網(wǎng)絡動力學、非線性神經(jīng)場等。

　　應用研究可分為以下兩類：

　　1、神經(jīng)網(wǎng)絡的軟件模擬和硬件實現(xiàn)的研究。

　　2、神經(jīng)網(wǎng)絡在各個領域中應用的研究。這些領域主要包括：

　　模式識別、信號處理、知識工程、專家系統(tǒng)、優(yōu)化組合、機器人控制等。隨著神經(jīng)網(wǎng)絡理論本身以及相關理論、相關技術的不斷發(fā)展，神經(jīng)網(wǎng)絡的應用定將更加深入。