本文摘要：人工智能的演化形成了符號主義與聯結主義人工智能兩條代表性進路。符號主義人工智能的優點在于推理過程透明、可解釋，但存在不完備、框架問題和知識接收瓶頸等問題。聯結主義人工智能的泛化能力和可移植能力強，但缺陷是算法不可解釋性、過擬合等問題。符號主義與聯結
人工智能的演化形成了符號主義與聯結主義人工智能兩條代表性進路。符號主義人工智能的優點在于推理過程透明、可解釋，但存在不完備、框架問題和知識接收瓶頸等問題。聯結主義人工智能的泛化能力和可移植能力強，但缺陷是算法不可解釋性、過擬合等問題。符號主義與聯結主義人工智能有著顯著的融合可能性，在新一代人工智能背景下，兩條進路的融合又產生了新的路徑，在基于神經網絡的邏輯推理、符號表示的機器學習、認知圖譜及其推理、機器學習與論辯挖掘等交叉領域表現出強勁的融合潛力。
關鍵詞符號主義;聯結主義;人工智能;融合路徑
人工智能在過去六十多年當中形成了兩條脈絡清晰的進路———符號主義(symbolism)和聯結主義(connectionism)，兩條進路貫穿于整個人工智能的發展史，各自都形成了鮮明的特色，表現出不同的理論和應用競爭力。符號主義人工智能是第一代人工智能，它主張人類思維的基本單元是符號，人類認知的過程是符號運算，表現為知識表示和推理，主要通過邏輯進路來研究。
聯結主義人工智能是第二代人工智能，它源于仿生學，研究上模擬人腦的神經系統，主要聚焦神經網絡及其連接機制，由此來探索大數據驅動下的學習方法。符號主義人工智能擅長研究人類的邏輯思維活動，學習過程是從經驗或規則出發，根據前提推出結論的過程，采用從一般到特殊的演繹式推理，是一種“自上而下”的模式。符號主義人工智能的基礎是公理化理論和數理邏輯，特點在于邏輯推理過程是可解釋和錯誤可追溯的。
與之不同，聯結主義人工智能采用的是由特殊到一般的歸納式推理，依賴的是假設檢驗、相關性分析、線性預測、時間序列分析等數學方法，學習過程是從大數據中發現隱 藏的特征和規律，擬合反映特征的正面數據，排除特征異常的反面數據，這種學習方式是一種“自下而上”的模式。一直以來，科學家都在探索兩種路徑融合的技術和方法，第三代人工智能的發展思路是把第一代和第二代人工智能結合起來，同時利用知識、數據、算法和算力要素，構造安全、可信賴、可靠和可擴展的AI技術。
〔1〕1285、符號主義與聯結主義人工智能之比較符號主義和聯結主義之間的路線競爭推動了人工智能的快速發展，形成了“符號派”和“聯結派”兩個陣營，兩個學派之間經常發生碰撞，甚至一度發生過激烈的“對抗”。在當前新一代人工智能背景下，以深度學習為代表的聯結派占據了絕對優勢，但聯結主義人工智能也存在明顯的缺陷�；跈C器學習的方法存在不同程度的不可解釋性問題，因而難以闡明推理的因果關聯，從而導致解釋能力弱，并且魯棒性較差。
聯結主義的方法同樣還缺乏堅實的理論基礎，即使在仿生學和腦科學理論有所突破，但仍然難以透徹解釋決策的過程。人類的思維過程是綜合演繹思維和歸納思維的過程，人工智能模擬人腦的思維必須綜合兩種思維模式，通過分析兩種路徑的優缺點，做到優勢互補、協同融合。
1.符號主義人工智能的優缺點
符號主義人工智能的早期探索主要是邏輯推理的研究，即如何使用邏輯符號系統來表達邏輯思維的過程，因而又被稱為“邏輯主義”。在符號主義看來，計算機是一個可解釋的自動化形式系統，或者說是一個符號操縱的機器。這種定義包含兩層含義:一是形式系統的參與主體是自動化的，它們是根據規則來自動化執行的;二是符號是可以被解釋的，這使得其行為是有效且合理的。
〔2〕106符號主義的特點在于推理的過程是可解釋的，如果推理過程出現錯誤，那么是可以追溯和定位的。符號主義還研究知識的表示、推理和應用，因為符號化方法對于知識的顯示性和表達能力強，能夠應對較復雜的知識推理，被廣泛地運用于自動定理證明和專家系統的構建。然而，符號主義人工智能也面臨困境，首先，符號系統是不完備的，希爾伯特綱領(Hilbertprogramme)提出構造一個滿足完備性、協調性和可判定性的數學系統，哥德爾不完全性定理(Godel’sincompletetheorems)證明了對于任何一個公理化系統，都存在此公理體系所無法判定真偽的命題。這表明符號系統構建的邏輯形式系統不可能是無所不包的，它無法保證在完備的形式系統中推出所有為真的結論，即不可能同時滿足“完備性”和“無矛盾性”兩個特征。
因而，不存在一個無所不能的符號化人工智能系統，這也顯示了符號化方法的局限性。符號主義人工智能的第二個局限是知識獲取瓶頸。知識引導的人工智能之所以能展示知識推理等智能化行為，是因為它運用了常識或專家知識。人工智能根據專家知識來執行專家的任務，其推理引擎高度依賴專家知識獲取，但這些知識庫是封閉的，并且需要由領域專家來構建專家知識，因而，符號主義人工智能無法自主獲取知識，這也是專家系統難以維持的主要原因。除了專家知識，人工智能同樣難以理解常識，甚至包含一些兒童都能辨別的常識，這是由于人類學習常識往往是通過生活實踐來學習的，而機器難以從實踐中去學習知識。
符號主義人工智能的第三個問題是框架問題(frameproblem)，該問題最初是由麥卡錫(J.McCarthy)和哈耶斯(P.J.Hayes)提出的〔3〕463，當人工智能試圖模擬人類適應環境中相關變化的能力時，就會出現框架問題。通常來說，人類很容易掌握周圍發生的事情，這從他們快速預測、反應或調整特定事件的重要后果的能力中可以明顯看出�！�4〕161然而，人工智能卻難以用符號來刻畫人類周圍環境中的知識。換言之，經典人工智能直接可用的顯性符號表征由于難以實時、自動地更新，也無法捕捉大量的隱性知識，從而無力表征現實世界，面臨框架問題的困擾�！�5〕3例如，符號主義人工智能就很難用符號去表征圖片、語音或視頻等感知數據，而這恰是聯結主義人工智能所擅長的。
2.聯結主義人工智能的優缺點
由數據驅動的聯結主義人工智能以機器學習為主要驅動技術，以深度學習為代表的算法和模型通過組織和擬合參數，學習特征表示，有著良好的泛化能力和可移植性。然而，機器學習運用于大數據分析還存在著若干缺陷:第一，機器學習對大數據的容量和質量有較高的要求，數據的質量直接決定了模型訓練的效果，“垃圾數據”輸入必然會造成“垃圾結果”輸出。
第二，數據來源不明確、不完整、可靠性不高、缺乏針對性和準確性，甚至出現數據之間的沖突和矛盾，這些都導致數據的可實用性不高。第三，數據通常要求是滿足獨立同分布，這在諸多實踐應用中難以得到滿足。第四，在監督學習當中，數據還需要被精確標注，機器學習模型表現力很大程度上取決于數據標記質量的好壞。聯結主義人工智能還面臨難以克服的技術困難。一方面，聯結主義人工智能構建“特征工程”困難，如果設置的特征與數據樣本真實的特征出入過大，那么機器所習得的特征與人所設置的特征將相差甚遠。另一方面，聯結主義人工智能所采用的深度學習容易造成過擬合(overfitting)的問題。
直觀上，過擬合指的是模型學習能力過于強大，將訓練數據集的特點看作是所有數據集的屬性，從而導致模型的泛化能力下降。隨著模型訓練復雜度不斷增強，模型在驗證數據集上的誤差會隨之增大，導致模型不能很好地擬合訓練集之外的其他數據，由此便發生了過擬合問題，導致降低了預測的準確性。聯結主義人工智能的算法還面臨不可解釋性問題，尤其是基于多隱層神經網絡的深度學習算法會造成“黑箱算法”，算法的不透明成為深度學習飽受詬病的問題。原因在于深度學習高度依賴數學和統計學，機器學習本質上不能解決語義理解的問題。最典型的表現是人工智能本身不能夠理解因果關聯，因為所學習到的統計頻率上的相關性不能夠代表因果關聯，而表達因果關聯恰是符號主義人工智能所擅長的。
因而，深度學習雖然有強勁的結果表現能力，但存在的問題仍不足以獨立應對所有的學習和決策。此外，從目前深度學習應用的落地場景來看，大量還是采用監督學習的方式，仍然在數據標記等工作上還高度依賴于人的參與，因而，深度學習看似是“機器的學習”，但在實踐中并非完全依靠機器，大量的應用仍然停留在“有多少人工就有多少智能”的狀態。從模擬人類思維的過程來看，符號主義與聯結主義人工智能的融合具備現實可行性。在推理方向上，符號主義人工智能采用的是“演繹式”的推理模式，它是由前提根據推論規則得到結論的模式。
反之，聯結主義人工智能采用的是“歸納式”的推理模式，它是從已經具有某種特征或規律的數據當中歸納或類比推出相似的新數據也具有某種特征的推理模式。人類的思維往往是綜合了演繹思維和歸納思維，推理過程也往往混合兩種思維，不存在絕對的分野。比較而言，聯結主義人工智能受到極大的認可和關注，但因此就推崇聯結主義而否定符號主義顯得過于片面，美國俄亥俄大學的詹德拉(G.Chandrasekaran)就指出:“最近幾年，人工智能在很大程度上集中于統計學和大數據。我同意由于計算能力的大幅度提高，這些技術曾經取得過某些令人印象深刻的成果。但是我們完全有理由相信，雖然這些技術還會繼續改進、提高，總有一天這個領域會對它們說再見，并轉向更加基本的認知科學研究。盡管擺鐘擺回去還需要一段時間，我相信定有必要把統計技術和對認知結構的深刻理解結合起來。”〔6〕
i-ii融合的路徑已經成為人工智能領域的共識，也逐漸成為人工智能的研究熱點。符號主義進路和聯結主義進路的人工智能沒有絕對的優劣，只是兩者適用的科學和社會領域不同，它們對應的是人類理性思維活動的不同向度，擅長解決不同類型的問題。有些領域適用符號主義進路的人工智能，它更加側重算法的透明性和可解釋性，對算法黑箱和不可解釋性的容忍度較低。
有些領域則適用聯結主義的人工智能，這類領域往往要求能夠滿足較強的算法表現力，能夠為決策的結果提供直接和有效的建議，但卻對算法的可解釋性沒有強制或過高的要求，這意味著這些領域對風險和錯誤的容忍程度較高，允許算法存在一定的風險。符號主義進路和聯結主義進路的人工智能都存在局限性，不可能存在一種在任何問題和領域當中都統一適用的人工智能方法，盡管“深度學習+大數據”已經在較大范圍的科學和社會活動中發揮了重要作用，但是在其他很多問題當中仍然作用有限。
人工智能技術的優劣是相對于具體的問題和領域而言的，就某個問題適用何種人工智能，有的人工智能在可解釋性和表現力方面能夠達到符合既定目標和要求的某種平衡，那么它就是相對更優的方法，人工智能科學家一直在這樣的研究方向上發展更優的人工智能算法。兩種路徑融合的優勢在于兩者能夠優勢互補，符號主義的可解釋性可以彌補聯結主義的算法可解釋性和推理能力弱等問題，聯結主義可以避免符號主義的知識接收瓶頸困境等。融合的觀點越來越受到人工智能科學家的認同，融合神經網絡和符號過程的混合系統(hybridsystem)、“神經-符號機”等理論相繼被提出，常見的一階邏輯、多值邏輯、模態邏輯都被嘗試嵌入到神經網絡當中。
隨著新一代人工智能的發展，符號主義與聯結主義人工智能又各自取得了新進展，使得兩種路徑的融合又出現了新的生命力。符號主義與聯結主義人工智能的融合產生了兩種融合的思路，第一種是非對稱的單向融合模型，這又包含兩種方法，其一是將符號主義方法融入到聯結主義人工智能，利用邏輯符號來表達神經網絡等研究;其二是將聯結主義方法融入到符號主義人工智能，利用機器學習的特點加深因果關系及其推理等研究。
第二種是雙向模型，即結合雙方的特征產生新的應用場景，如認知圖譜及其推理的研究。神經網絡能夠與邏輯結合的原因在于，它能夠構建神經網絡中不同隱層之間的關聯結構與邏輯推理的規則結構之間的映射。換言之，神經網絡中原本難以解釋神經網絡之間的關聯性，可以用可解釋的邏輯規則來加以說明。張鈸院士還提出了第三代AI的三空間融合模型，即融合雙空間和單空間兩種模型，其中，單空間模型是以深度學習為基礎，將所有的處理都放在亞符號(向量)空間，雙空間模型模仿了大腦的工作機制，但對其工作機制知之甚少。〔1〕1290
1.基于神經網絡的邏輯推理
在符號主義與聯結主義融合的早期，科學家嘗試借助神經網絡的優點來提升邏輯推理能力。明斯基(M.Minsky)總結到:符號知識和聯結主義各有優缺點，我們需要一個系統能夠將它們的優點集成起來�！�7〕34自1980年以來，人工智能科學家就通過各種方法將神經網絡和符號學相結合，形成了神經符號主義(neural-symbolism)。平卡斯(G.Pinkas)就提出了一個能夠表示和學習命題知識的聯結主義框架，開發了命題演算的擴展版本，并且證明了可用于非單調推理、處理相互沖突的信念和知識。新框架能夠實現快速學習，擴展邏輯可用作聯結主義網絡的高級規范語言，能夠映射主要的符號系統�！�8〕20320世紀90年代初期，托維爾(G.Towell)和沙弗里克(J.Shavlik)給出了一種基于知識的人工神經網絡(KBANN)，這種模型研究如何從神經網絡中插入和提取規則，為使用反向傳播訓練的基于知識的神經網絡學習算法提供了一種學習背景知識的有效方法。
〔9〕119人工神經網絡后來還啟發了聯結主 義歸納學習和邏輯程序(CILP)，這種模型使用邏輯程序作為知識表示語言，在神經網絡中進行知識精煉，從受過訓練的網絡中提取知識，并從例子中歸納得到新的知識。加爾塞斯(A.Garcez)等提出了一種在已訓練后的神經網絡中抽取邏輯知識的方法，幫助增強神經網絡的可解釋性。〔10〕155理查德森(M.Richardson)等以一階符號邏輯和概率圖模型結合的方式進行了探索，提出了馬爾科夫邏輯網絡〔11〕107，該網絡是一階符號邏輯的知識庫，其中每一個公式都有對應的權重。受限于當時機器學習技術和自然語言處理技術的制約，這些探索并不能充分利用神經網絡的優勢，因而沒有取得更進一步的成功。未來的研究將推動以深度學習為代表的神經網絡在模態邏輯、直覺主義邏輯等更多邏輯分支中發揮作用。
2.基于符號表示的機器學習
聯結主義人工智能所采用的深度學習算法不可解釋的原因在于，神經網絡包含了多層難以被表達的隱藏層，導致無法解釋輸出是如何由輸入所得到的。解決這個問題的一種思路是利用邏輯符號來建立神經網絡中隱藏層之間的映射關系。
早在1990年，深度學習技術的代表人物辛頓(G.E.Hinton)就提出了將一種“部分-整體”層次結構映射到聯結主義網絡的方法，用符號來表達整體結構中的最小單元，并使用符號來解釋數據結構的類型，實現局部和整體的一致性表示�！�12〕47BoltzCONS是一種表達動態符號結構的聯結主義模型，能夠動態創建和操作復合符號結構。這些結構是使用鏈表的功能模擬來實現的，但BoltzCONS使用分布式表示和關聯檢索來代替傳統的內存組織。〔13〕
5符號邏輯的作用是幫助神經網絡訓練、學習和推理，通過將符號規則轉化為神經網絡可以理解的向量。有學者提出了一種知識蒸餾的師生(teacher-student)網絡，使神經網絡擬合符號規則的結果，在規則的指導下訓練學習。有研究將深度神經網絡與結構化邏輯規則相結合，比較直接的方法是將一階邏輯規則用于增強各種類型的神經網絡(CNN和RNN等)，思路是將邏輯規則的結構化信息轉換為神經網絡的權重。〔14〕
2410聯結主義和符號主義結合的困難在于，深度神經網絡中隱結點上發生的事情是不可言傳的，因為隱結點可能并不表達我們使用的任何概念或概念組合，可能只有把認知過程分解成遠比我們的概念體系細得多的碎片，再按另一種方式重新組合才能得到一點語義的蛛絲馬跡�！�15〕49第三代人工智能的研究動向之一是可解釋的人工智能，其中一個方向是通過因果關系來解釋推理的過程。
在最新的研究中，“圖靈獎”得主本吉奧(Y.Bengio)研究了因果表示的機器學習，他將因果推理與機器學習遷移與泛化聯系起來，進而分析因果推理可能對機器學習的價值，魯棒性和泛化性，以及現有的共性比如半監督學習、自我監督學習、數據增強和預訓練�！�16〕612周志華結合機器學習和邏輯編程實現了溯因學習，提出了一種新的方法來聯合優化機器學習模型和邏輯推理模型，其中邏輯推理利用符號域知識和糾正錯誤感知的事實來改進機器學習模型，通過溯因學習使機器同時學習識別手寫數字和求解數學運算。〔17〕220-222機器學習借助符號主義路徑的思路是利用邏輯推理的簡潔性和可解釋性來彌補機器學習的不可解釋性，但如何充分地使邏輯與機器學習算法相融合，還需要深度挖掘邏輯的推理機制與機器學習的預測功能相耦合的新路徑。
3.認知圖譜與推理研究
知識工程在語義網絡之后進入了知識圖譜的時代，谷歌于2012年正式提出了知識圖譜這一新概念，其最初的目的是為了提高搜索引擎檢索的效率，通過知識圖譜可以將相關聯的信息共同提供給使用者。谷歌的知識圖譜不僅基于Freebase、維基百科等知識圖譜，而且還致力于全面和深入的知識圖譜建構。該知識圖譜包含超過5億個對象，超過35億個這個對象之間的關系。
�、俪藰嫿ê蛻弥R圖譜的技術之外，知識圖譜研究還包含融合認知計算、自然語言處理、語義網絡技術和機器學習等人工智能技術。近些年，隨著知識圖譜推理和圖神經網絡技術的應用，知識圖譜研究開始走向認知圖譜。認知圖譜是以實現知識引導和數據驅動相結合的知識表示和推理的認知引擎為目標，研究支持魯棒可解釋人工智能的大規模知識的表示、獲取、推理與計算的基礎理論和方法�！�18〕9現有的認知圖譜的研究方法主要是基于知識圖譜結合邏輯推理的方法來實現認知層面上的圖譜推理。在知識圖譜推理方面，主要是基于邏輯推理的方法，常見的方法包括基于一階邏輯、模態邏輯、描述邏輯、分布式表示推理、神經網絡推理等方法。另一方面，在知識圖譜的邏輯表達方面，主要的研究方法是基于自然語言生成(NLG)，常見的模型包括Tranformer模型和Bert模型等。然而，神經網絡模型難以解釋的問題仍然存在，還需要從認知層面來尋找解釋神經網絡推理過程的新方案。
認知圖譜研究不能只停留在“知識圖譜+邏輯推理”的層面，而應當深入發掘知識圖譜和認知科學的結合。這需要交叉可解釋性理論、反事實因果推理、持續學習等方法，建立高效且穩定的知識獲取、表達和推理機制，讓知識能夠被機器理解和運用，進而進行可解釋的推理。最新的研究動態指向多種路徑:一是知識圖譜與圖神經網絡的結合，利用循環神經網絡(RNN)和注意力機制(attention)等來構建知識圖譜。二是大規模知識圖譜和知識計算研究，這需要從海量、多源、異構、碎片化的大數據當中大規模自動化地獲取知識，并進行動態融合。三是從人機知識交互的角度，研究人機交互的知識表征體系，實現高效的智能交互。四是從高階認知的視角來研究，這需要從形式認識論、認知心理學、腦機融合等學科進行交叉性探索。
4.基于機器學習的論辯研究
符號主義人工智能的最新研究進展是可計算論辯模型與機器學習的結合，實現了自動化辯論。2018年IBM的人工智能辯論機器人(ProjectDebater)在與人類專業辯手對局的國際辯論比賽中表現出色。2020年《自然》雜志發表了人工智能論辯機器的工作原理，辯論機器人結合了計算辯論理論和論辯的數據挖掘等多種技術，使得機器人具備了從海量文本數據中獲取知識來構建論證以支持論點，反駁對方論點等多種論辯能力。辯論機器人由四個主要模塊組成:
(1)論證挖掘，機器通過處理LexisNexis語料庫中的大約4億篇報紙文章來檢索與論點相關的主張和證據。(2)論證知識庫(AKB)，機器獲取不同辯論之間的共性，通過特征的分離器來判定哪些與論點相關，從而獲取與論點相關的知識。(3)論證反駁，機器通過論證挖掘來編譯可能被對手提及的線索，AKB同樣也可以挖掘反駁的論點。(4)論證構建，機器通過聚類分析構建一個基于規則的論辯系統，該系統根據與論證的語義相似性來聚類論證，獲取一組能夠反映聚類主體的高質量論證集，以供系統選擇論辯的素材�！�19〕380-381基于機器學習的方法，人工智能已經實現了論辯挖掘和論辯文本的自動化生成。論辯挖掘是在海量文本大數據當中根據機器學習算法來預測文本中所包含的不同類型的論證。
首先，論辯挖掘需要構建特征工程，這要先定義完全的論證類型，明確論證的組成要素。其次，論辯要根據這些要素組成不同論證類型的方式，采用有監督學習的方式來進行人工標注，構建相對應的特征工程。
第三，再根據特征工程，采用深度學習、樸素貝葉斯分類器、統計學習等算法來訓練模型，通過不斷調整模型參數，使模型獲得良好的泛化能力。第四，采用模型檢驗論辯挖掘的準確率，對目標文本進行預測，準確挖掘文本中所包含的論證，而后再采用論辯語義的高效求解方法來進行評估。盡管論辯研究為兩種路徑的融合提供了巨大的推動力，它不僅提供了從海量文本大數據中挖掘和生成論辯文本的技術，還推動了論辯本體論的研究和語料庫的開發。
然而，基于機器學習的論辯研究還有待進一步完善，其一，最突出的問題在于人工智能挖掘和生成論辯并不能像人類一樣理解上下文的含義，也就無法理解論證文本的語義，生成的文本也無法保證論點在語義上是有意義的，甚至論證當中的簡單因果關系都難以識別。其二，論辯研究目前只限于辯論賽式的說服型對話，沒有涵蓋日常生活中其他類型的辯論，比如信息尋求、科學探索、談判等對話類型。其三，論辯研究難以獲得人類在辯論中的修辭技巧，這往往和語用情境相關，人類理解觀點是需要在具體的論辯情境中去理解其含義，脫離情境極可能導致含混。符號主義人工智能的新趨勢之一是研究非形式邏輯和新修辭學的形式化〔20〕，融合路徑下的論辯研究蘊含著無窮的潛力。
人工智能是在不斷向人類學習的過程中發展起來的，符號主義人工智能的思維對應于人類的演繹式思維，而聯結主義人工智能的思維則對應于人類的歸納式思維。演繹式思維注重從人類的經驗當中提煉和獲取知識，歸納式思維則傾向于從個案當中總結和歸納知識，人類的思維活動往往是融合兩種思維模式。
本吉奧就指出人工智能研究應當從直覺的、快速的、無意識的、非語言的系統(system1)，轉向有意識的、邏輯性的、有規劃的、推理性以及可以用語言表達的認知系統(system2)。①符號主義和聯結主義路徑的融合不能只停留在以一方的技術優勢來彌補另一方的缺陷，而是應當真正理解對方的技術邏輯，找到最契合的融合點，探索新的理論和技術增長點，創造具備協作(collaborative)能力、自適應(adaptive)能力、負責任和可解釋的人工智能。
參考文獻：
〔1〕張鈸，朱軍，蘇航.邁向第三代人工智能[J].中國科學:信息科學，2020，50(9):1281-1302.
〔2〕HaugelandJ.AI:TheVeryIdea[M].MITPress，1985.
〔3〕McCarthyJ，HayesPJ.SomePhilosophicalProblemsfromtheStandpointofArtificialIntelligence[C]//MeltzerB，MichieD.(eds.)MachineIntelligence.Edinburgh:EdinburghUniversityPress，1969:463-502.
〔4〕HaselagerW，RappardJ.Connectionism，SystematicityandtheFrameProblem[J].MindsandMachines，1998，8(2):161-179.
〔5〕夏永紅，李建會.人工智能的框架問題及其解決策略[J].自然辯證法研究，2018，34(5):3-9.
〔6〕周志華.機器學習[M].北京:清華大學出版社，2016.
〔7〕MinskyM.LogicalversusAnalogicalorSymbolicversusConnectionistorNeatversusScruffy[J].AImagazine，1991，12(2):34-51.
〔8〕PinkasG.Reasoning，NonmonotonicityandLearninginConnectionistNetworksthatCapturePropositionalKnowledge[J].ArtificialIntelligence，1995，77(2):203-247.
〔9〕TowellG，ShavlikJ.Knowledge-basedArtificialNeuralNetworks[J].ArtificialIntelligence，1994，70(1):119-165.
〔10〕GarcezA，KrysiaB，GabbayD.SymbolicKnowledgeExtractionfromTrainedNeuralNetworks:ASoundApproach[J].ArtificialIntelligence，2001，125(1-2):155-207.
作者：魏斌
轉載請注明來自發表學術論文網：http://www.keysida.com.cn/dzlw/29598.html
