1943 年， 心理學(xué)家W.S.McCulloch 和數(shù)理邏輯學(xué)家W.Pitts 建立了神經(jīng)網(wǎng)絡(luò)和數(shù)學(xué)模型，稱為MP 模型。他們通過MP 模型提出了神經(jīng)元的形式化數(shù)學(xué)描述和網(wǎng)絡(luò)結(jié)構(gòu)方法，證明了單個(gè)神經(jīng)元能執(zhí)行邏輯功能，從而開創(chuàng)了人工神經(jīng)網(wǎng)絡(luò)研究的時(shí)代。1949 年，心理學(xué)家提出了突觸聯(lián)系強(qiáng)度可變的設(shè)想。60 年代，人工神經(jīng)網(wǎng)絡(luò)的到了進(jìn)一步發(fā)展，更完善的神經(jīng)網(wǎng)絡(luò)模型被提出。其中包括感知器和自適應(yīng)線性元件等。M.Minsky 等仔細(xì)分析了以感知器為代表的神經(jīng)網(wǎng)絡(luò)系統(tǒng)的功能及局限后， 于1969 年出版了《Perceptron 》一書， 指出感知器不能解決高階謂詞問題。他們的論點(diǎn)極大地影響了神經(jīng)網(wǎng)絡(luò)的研究， 加之當(dāng)時(shí)串行計(jì)算機(jī)和人工智能所取得的成就， 掩蓋了發(fā)展新型計(jì)算機(jī)和人工智能新途徑的必要性和迫切性，使人工神經(jīng)網(wǎng)絡(luò)的研究處于低潮。在此期間， 一些人工神經(jīng)網(wǎng)絡(luò)的研究者仍然致力于這一研究，提出了適應(yīng)諧振理論（ ART 網(wǎng)）、自組織映射、認(rèn)知機(jī)網(wǎng)絡(luò)，同時(shí)進(jìn)行了神經(jīng)網(wǎng)絡(luò)數(shù)學(xué)理論的研究。以上研究為神經(jīng)網(wǎng)絡(luò)的研究和發(fā)展奠定了基礎(chǔ)。1982 年，美國加州工學(xué)院物理學(xué)家J.J.Hopfield 提出了Hopfield 神經(jīng)網(wǎng)格模型，引入了“計(jì)算能量”概念，給出了網(wǎng)絡(luò)穩(wěn)定性判斷。1984 年，他又提出了連續(xù)時(shí)間Hopfield 神經(jīng)網(wǎng)絡(luò)模型，為神經(jīng)計(jì)算機(jī)的研究做了開拓性的工作， 開創(chuàng)了神經(jīng)網(wǎng)絡(luò)用于聯(lián)想記憶和優(yōu)化計(jì)算的新途徑， 有力地推動(dòng)了神經(jīng)網(wǎng)絡(luò)的研究， 1985 年，又有學(xué)者提出了波耳茲曼模型，在學(xué)習(xí)中采用統(tǒng)計(jì)熱力學(xué)模擬退火技術(shù)，保證整個(gè)系統(tǒng)趨于全局穩(wěn)定點(diǎn)。1986 年進(jìn)行認(rèn)知微觀結(jié)構(gòu)地研究，提出了并行分布處理的理論。人工神經(jīng)網(wǎng)絡(luò)的研究受到了各個(gè)發(fā)達(dá)國家的重視， 美國國會(huì)通過決議將1990 年1 月5 日開始的十年定為“腦的十年”， 國際研究組織號(hào)召它的成員國將“腦的十年”變?yōu)槿蛐袨椤Ｔ谌毡镜摹罢鎸?shí)世界計(jì)算（ RWC ）”項(xiàng)目中，人工智能的研究成了一個(gè)重要的組成部分。