人工智能導論復習筆記
第一章 緒論
弱人工智能:指不能真正實現推理和解決問題的智能機器,這些機器表面看像是智能的,但是並不真正擁有智能,也不會有自主意識。
強人工智能:指真正能思維的智能機器,並且認為這樣的機器是有知覺的和自我意識的,這類機器可分為類人(機器的思考和推理類似人的思維)與非類人(機器產生了和人完全不一樣的知覺和意識,使用和人完全不一樣的推理方式)兩大類。
人工智能:用人工的方法在機器(計算機)上實現的智能,也稱為機器智能。
第二章 知識表示
1:相關概念(知道就行,不需要記住准確定義)
謂詞(大寫)、常量、變元、函數(小寫)、連接詞(非、與(合取)、或(析取)、蘊含、等價,已按優先級順序寫出) 、量詞(全稱量詞、存在量詞)、謂詞公式、量詞的轄域、永真性、可滿足性、不可滿足性(永假性)、等價性(注意逆否律)、永真蘊含(主要的永真蘊含式:假言推理、拒取式推理、假言三段論、全稱固化、存在固化、反證法)。
2:一階謂詞邏輯表示步驟
(1)定義謂詞及個體,確定每個謂詞及個體的確切定義。
(2)根據要表達的事物或概念,為謂詞中的變元賦以特定的值。
(3)根據語義用恰當的連接符號將各個謂詞連接起來,形成謂詞公式。
例題:
注:定義謂詞時,不要定義成負面的。“都是、必”用“蘊含”,“不”用“非”,“所有”用“任意”,“有些”用“存在”,“不是所有”用“非 任意”,“沒有一個”用“非 存在”,“是、既…又…”用“合取”,“並列的句子”用“析取”。個人認為,也要把為變元賦予的特定值寫明出來。所有的表示基本都要加量詞。個人認為,謂詞首字母大寫,函數首字母小寫,人名首字母大寫。
3:產生式系統
把一組產生式放在一起,讓它們互相配合,協同作用,一個產生式生成的結論可以供另一個產生式作為已知事實使用,以求得問題的解,這樣的系統稱為產生式系統。
4:產生式系統的基本結構
一般來說,一個產生式系統由規則庫、控制系統(推理機)、綜合數據庫三部分組成。
注:根據教材,此圖要注意將“推理機”改為“推理”,將“控制”和“推理”用虛線框在一起,並在其中寫上“推理機”。
5:產生式系統各部分
(1)規則庫:用於描述相應領域內知識的產生式集合稱為規則庫。
(2)綜合數據庫:綜合數據庫又稱為事實庫、上下文、黑板等。它是一個存放問題求解過程中各種當前信息的數據結構,如問題的初始狀態、原始證據、推理中得到的中間結論及最終結論。
(3)推理機:推理機有一組程序組成,負責整個產生式系統的運行,實現對問題的求解。推理機要做以下工作:推理、沖突消解、執行規則、檢查推理終止條件。
6:產生式系統的工作過程(原理)
不斷地從規則庫中選擇可用規則與綜合數據庫中的已知事實進行匹配,規則的每一次成功匹配都使綜合數據庫增加了新的內容,並朝着問題的解決方向前進了一步,這就是產生式系統的工作過程(原理)。:
7:產生式與謂詞邏輯中的蘊涵式的區別
(1)除邏輯蘊涵外,產生式還包括各種操作、規則、變換、算子、函數等。例如,“如果爐溫超過上限,則立即關閉風門”是一個產生式,但不是蘊含式。
(2)蘊涵式只能表示精確知識,而產生式不僅可以表示精確的知識,還可以表示不精確知識。蘊涵式的匹配總要求是精確的。產生式匹配可以是精確的,也可以是不精確的,只要按某種算法求出的相似度落在預先指定的范圍內就認為是可匹配的。
第三章 確定性推理方法
1: 推理:從初始證據出發,按照某種策略不斷運用知識庫中的已知知識,逐步推出結論的過程稱為推理。
2 演繹推理 (deductive reasoning) :從全稱判斷推導出單稱判斷的過程,即由一般性知識推出適合某一具體情況的結論。這是從一般到個體的推理。
3 :歸納推理:從足夠多的事例中歸納出一般性結論的推理過程。是從個別到一般的推理。(完全歸納推理和不完全歸納推理 P50)
4 :默認推理(缺省推理):在知識不完全的情況下假設某些條件具備所進行的推理。
5 :確定性推理:推理時所用的知識與證據都是確定的,推出的結論也是確定的,其真值或者為真或者為假。
6 :不確定性推理:推理時所用的知識與證據不都是確定的,推出的結論也是不確定的。
7 :單調推理:隨着推理向前推進及新知識的加入,推出的結論越來越接近最終目標。
8 :非單調推理:由於新知識的加入,不僅沒有加強已推出的結論,反而要否定它,使推理退回到前面的某一步,然后重新開始。
9 :如果推理過程中運用與推理有關的啟發性知識,則稱為啟發式推理,否則稱為非啟發式推理。
10 :沖突消解:按一定的策略從匹配成功的多個知識中挑出一個知識用於當前的推理的過程稱為沖突消解。解決沖突時所用的策略稱為沖突消解策略。目前已有的多種消解沖突的策略,其基本思想都是對知識進行排序。
11 :沖突消解策略常用的幾種:按規則的針對性進行排序、按已知事實的新鮮性排序、按匹配度排序、按條件個數進行排序。
12 :自然演繹推理:從一組已知為真的事實出發,運用經典邏輯的推理規則推出結論的過程稱為自然演繹推理。
(1)首先定義謂詞
(2)把上述已知事實及待求證的問題用謂詞公式表示出來
(3)應用推理規則進行推理
13 :謂詞公式化為子句集
(1)消去謂詞中的“蘊含”和“等價”符號
(2)把否定符號移到緊靠謂詞的位置上
(3)變量標准化
(4)消去存在量詞
(5)化為前束型
(6)化為Skolem標准型
(7)略去全稱量詞
(8)消去合取詞
(9)子句變量標准化,即使每個子句中的變量符號不同
謂詞公式不可滿足的充要條件是其子句集不可滿足。
14: 歸結原理(一定要看書)
15: 歸結反演:應用歸結原理證明定理的過程稱為歸結反演。
(1)將已知前提表示為謂詞公式F
(2)將待證明的結論表示為謂詞公式Q,並否定得到非Q
(3)把謂詞公式集{F, 非Q}化為子句集S
(4)應用歸結原理對子句集S中的子句進行歸結,並把每次歸結得到的歸結式都並入到S中。如此反復進行,若出現了空子句,則停止歸結,此時就證明了Q為真。
16 :應用歸結原理求解問題
(1)已知前提F用謂詞公式表示,並化為子句集S
(2)把待求解的問題Q用謂詞公式表示,並否定Q,再與ANSWER構成析取式(﹁ Q ∨ ANSWER );
(3)把(﹁ Q∨ ANSWER) 化為子句集,並入到子句集S中,得到子句集S’
(4)對S’ 應用歸結原理進行歸結
(5)若得到歸結式ANSWER,則答案就在ANSWER中
注:本章節多看書中例題
第四章 不確定性推理方法
1 :不確定推理的概念:不確定性推理從不確定性的初始證據出發,通過運用不確定性知識,最終推出具有一定程度的不確定性但卻是合理或者近乎合理的結論的思維過程。
2 :三種不確定性推理方法:可信度方法、證據理論(D-S理論)、模糊推理。
3 :C-F模型:C-F模型是基於可信度表示的不確定性推理的基本方法。
4 :證據理論
概率分配函數
概率分配函數的作用是把D的任意一個子集A都映射為[0, 1]上的一個數M(A)。概率分配函數實際上就是對D的各個子集進行信任分配,M(A )表示分配給A的那一部分。
信任函數
似然函數
由於Bel(A)表示對A為真的信任程度,所有Bel(非A)表示對非A為真的信任程度,即A為假的信任程度,由此推出Pl(A)表示對A為非假的信任程度。
5 :模糊推理:
模糊邏輯給集合中每一個元素賦予一個介於0和1之間的實數,描述其屬於一個集合的強度,該實數稱為元素屬於一個集合的隸屬度。集合中所有元素的隸屬度全體構成集合的隸屬函數。
6 :模糊關系是普通關系的推廣。普通關系是描述兩個集合中的元素之間是否有關聯。模糊關系描述的是兩個模糊集合中的元素之間的關聯程度。
第五章 搜索求解策略
1 :狀態空間是利用狀態變量和操作符號,表示系統或問題的有關知識的符號體系。狀態看空間可以用一個四元組表示(S, O, S0, G)。(S是狀態集合,O是操作算子的集合,S0是初始狀態,G是目標狀態)
2 :狀態空間搜索是搜索某個狀態空間以求得操作算子序列的一個解答的過程。
3 :搜索策略的主要任務是確定選取操作算子的方式。它有兩種基本方式:盲目搜索和啟發式搜索。
4 :回溯策略是當遇到不可解結點時回溯到路徑中最近的父結點上,查看該結點是否還有其他的子結點未被擴展。若有,則沿這些子結點繼續搜索;如果找到目標,就成功退出搜索,返回解題路徑。
回溯策略的三張表:路徑狀態表(PS)、新的路徑狀態表(NPS)、不可解狀態表(NSS)。
路徑狀態表:保存當前搜索路徑上的狀態。
新的路徑狀態:包含了等待搜索的狀態,其后裔狀態還為被搜索到,即未被擴展。
不可解狀態表:找不到解路徑的狀態。
PS = [Start], NPS = [Start], NSS = [], CS = Start while NPS != [] if CS == 目的狀態 return PS if CS沒有子狀態 while (PS != []) and (CS == PS中的第一個元素) 將CS加入到NSS中 從PS中刪除第一個元素CS 從NPS中刪除第一個元素CS CS = NPS中的第一個元素 將CS加入到PS中 else 將CS子狀態(不包括PS、NPS、NSS中已有的)加入到NPS中 CS = NPS中的第一個元素 將CS加入到PS中 return false // 沒有解
書中例題:
5 :寬度優先搜索策略是根據狀態空間的圖描述,一層一層地擴展下去,直到搜索到目的狀態(如果目的狀態存在)。
使用兩張表:open表、closed表。
open表:表中狀態的排列次序就是搜索的次序。
closed表:記錄了已被生成擴展過的狀態。
open = [Start], closed = [] while open != [] 從open中刪除第一個狀態,稱之為n 將n加入到closed中 if n == 目的狀態 return true 生成n的所有子狀態 從n的子狀態中刪除已在open或closed中已出現的狀態 將n的其余子狀態按生成的次序加入到open表的后端 return false
由於寬度優先搜索總是在生成擴展完N層所有結點之后才轉向N+1層,所以如果有解,那么它一定能找到最優解。
書中例題:積木問題
6 :深度優先搜索策略
open = [Start], closed = [], d = 深度限制值 while open != [] 從open中刪除第一個狀態,稱之為n 將n加入到closed中 if n == 目的狀態 return true if n的深度 < d 生成n的所有子狀態 從n的子狀態中刪除已在open或closed中已出現的狀態 將n的其余子狀態按生成的次序加入到open表的前端 return false
書中例題:卒子穿陣問題
7 :啟發式策略就是利用與問題有關的起發信息引導搜索。
書中例題:一字棋游戲的啟發式策略
8 :估價函數f(n)定義為從初始結點經過n結點到達目的結點的路徑的最小代價估計值,其一般形式是f(n) = g(n) + h(n)
9 :八數碼問題的估價函數
10 :啟發式圖搜索算法有兩張表:open表、closed表
open表:保留所有已生成而未擴展的狀態。
closed表:記錄已擴展過的狀態。
11 :A搜索算法是基於估價函數的一種加權啟發式圖搜索算法。
open = [Start], closed = [Start], f(s) = g(s) + h(s) while open != [] 從open中刪除第一個狀態,稱之為n if n == 目的狀態 return true 生成n的所有子狀態 if n沒有任何子狀態 continue for n的每個子狀態 case 子狀態不在open或closed中 計算該子狀態估價函數值 將該子狀態加入到open表中 case 子狀態在open中 if 子狀態是沿着一條比在closed中已有的更短路徑而到達 記錄更短路徑走向及估價函數值 case 子狀態在closed中 if 子狀態是沿着一條比在closed中已有的更短路徑而到達 將該子狀態從closed中移到open中 記錄更短路徑走向及估價函數值 將n加入到closed中 根據估價函數值,從小到大重新排列open表 return false
書中例題:八數碼f(n) = d(n) + w(n)
d(n)代表深度,每步為單位代價;w(n)表示以“不在位”的數碼作為啟發信息的度量。
12:A搜索算法:定義h(n)為狀態n到達目的狀態的最優路徑的代價,則當A搜算算法的啟發函數h(n)小於等於h*(n),即滿足
h(n)≤h*(n),對所有節點n
時,被稱為A搜索算法。
如果某一問題有解,那么利用A搜索算法對該問題進行搜索則一定能搜索到解,並且一定能搜索到最優的解而結束。
第六章 智能計算及其應用
1 :進化算法(EA):是基於自然選擇和自然遺傳等生物進化機制的一種搜索算法。
2 :遺傳算法(GA):一類借鑒生物界自然選擇和自然遺傳機制的隨機搜索算法,非常適用於處理傳統搜索方法難以解決的復雜和非線性優化問題。
3 :基本遺傳算法(SGA)只使用選擇、交叉、變異這三種基本遺傳算子
4 :遺傳算法基本思想:在求解問題時從多個解開始,然后通過一定的法則進行逐步迭代以產生新的解。
5 :遺傳算法中包括的5個基本要素:參數編碼,初始群體的設定,適應度函數的設計,遺傳操作設計和控制參數設定。
6 :6.2.3-6.2.8全部自己看,理解概念就行,不需要背公式
7 :群智能算法(SI):受動物群體智能啟發的算法,稱為群智能算法。
8 :群體智能:這些由簡單個體組成的群落與環境以及個體之間的互動行為,稱為群體智能。
9 :粒子群優化算法(PSO)是一種利用群智能理論的全局優化算法,通過群體中粒子間的合作與競爭產生的群體智能指導優化搜索。
10 :進化計算方法強調種群的達爾文主義的進化模型;群體智能方法則注重對群體中個體之間的相互作用與分布式協同的模擬。
第七章 專家系統與機器學習
1:專家系統的概念:專家系統是一種智能計算機程序,它運用知識和推理來解決只有專家才能解決的復雜問題。
2 :專家系統的一般結構:完整的專家系統一般包括人機接口、推理機、知識庫、數據庫、知識獲取機構和解釋機構六部分。
3:專家系統的核心是知識庫和推理機。
(1)知識庫主要用來存放領域專家提供的有關問題求解的專門知識。
(2)推理機的功能是模擬領域專家的思維過程,控制並執行對問題的求解。
(3)綜合數據庫又稱動態數據庫或黑板,主要用於存放初始事實、問題描述及系統運行過程中得到的中間結果、最終結果等信息。
(4)知識獲取機構把知識轉換為計算機可存儲的內部形式,然后把它們存入知識庫。
(5)人機接口是專家系統與領域專家、知識工程師、一般用戶之間進行交互的界面,由一組程序及相應的硬件組成,用於完成輸入輸出工作。
(6)解釋機構回答用戶提出的問題,解釋系統的推理過程。
4 :機器學習的基本概念:機器學習使計算機能模擬人的學習行為,自動地通過學習來獲取知識和技能,不斷改善性能,實現自我完善。
5 :知識發現(KDD)的概念:從數據庫中發現知識。
6 :數據挖掘(DM)的概念:從大量數據中,提取隱含在其中的、人們事先不知道的但又有可能有用的信息和知識的過程。
第八章 人工神經網絡及其應用
1 :人工神經網絡(artificial neural networks, ANN): 模擬人腦神經系統的結構和功能,運用大量簡單處理單元經廣泛連接而組成的人工網絡系統。
2 :神經元的數學模型(MP模型):
兩個操作,即加權求和與非線性變換
3. 什么是感知機:
4 :感知機模型只能解決線性問題,不能解決非線性問題。
5 :增加更多的層次有什么好處?更深入的表示特征,以及更強的函數模擬能力。
(1)更深入的表示特征可以這樣理解,隨着網絡的層數增加,每一層對於前一層次的抽象表示更深入。在神經網絡中,每一層神經元學習到的是前一層神經元值的更抽象的表示。例如第一個隱藏層學習到的是“邊緣”的特征,第二個隱藏層學習到的是由“邊緣”組成的“形狀”的特征,第三個隱藏層學習到的是由“形狀”組成的“圖案”的特征,最后的隱藏層學習到的是由“圖案”組成的“目標”的特征。通過抽取更抽象的特征來對事物進行區分,從而獲得更好的區分與分類能力。
(2)更強的函數模擬能力是由於隨着層數的增加,整個網絡的參數就越多。而神經網絡其實本質就是模擬特征與目標之間的真實關系函數的方法,更多的參數意味着其模擬的函數可以更加的復雜,可以有更多的容量(capcity)去擬合真正的關系。
注:上面的解釋也只是其中的一種。
6 :機器學習模型訓練的目的:就是使得參數盡可能的與真實的模型逼近。
7 :機器學習模型訓練的具體做法:首先給所有參數賦上隨機值。我們使用這些隨機生成的參數值,來預測訓練數據中的樣本。樣本的預測目標為yp,真實目標為y。那么,定義一個值loss,計算公式如下。loss = (yp – y)2這個值稱之為損失(loss),我們的目標就是使對所有訓練數據的損失和盡可能的小。如果將先前的神經網絡預測的矩陣公式帶入到yp中(因為有z=yp),那么我們可以把損失寫為關於參數(parameter)的函數,這個函數稱之為損失函數(loss function)。下面的問題就是求如何優化參數,能夠讓損失函數的值最小。
8 :反向傳播算法:反向傳播算法利用了神經網絡的結構進行的計算。不一次計算所有參數的梯度,而是從后往前。首先計算輸出層的梯度,然后是第二個參數矩陣的梯度,接着是中間層的梯度,再然后是第一個參數矩陣的梯度,最后是輸入層的梯度。計算結束以后,所要的兩個參數矩陣的梯度就都有了。
注:反向傳播算法就是根據損失函數,通過鏈式法則,從后往前,不斷地更新參數,達到學習的目的。
第九章 智能體與多智能體系統
1 :智能體的概念:Agent可以看做是一個程序或者一個實體,它嵌入在環境中,通過傳感器(sensors)感知環境,通過效應器(effectors)自治地作用於環境並滿足設計要求。
2 :智能體的特性:自主性、反應性、社會性、進化性。
3 :多智能體系統:一個應用系統中往往包括多個智能體,這些智能體不僅具備自身的問題求解能力和行為目標,而且能夠相互協作,達到共同的整體目標,這樣的系統稱為多智能體系統(MAS)。
4 :合同網協作方法的基本思想:人們在商務過程中用於管理商品和服務的合同機制。
5 :合同網協作方法:在合同網方法中,所有智能體分為兩種角色:管理者和工作者。智能體的角色在協作過程中的角色可以變化:任何智能體通過發布任務通知書而成為管理者;相反,任何智能體通過應答任務通知書而成為工作者。
管理者Agent的職責:
(1)對每個待求解任務建立任務通知書,將任務通知書發送給有關的工作者agent,向工作者發出競標信息。
(2)接受並評估來自工作者的投標值。
(3)根據任務競標要求,選擇最合適的工作者,並與之簽訂工作合同。
(4)在工作者履行合同的同時,對工作者進行監督和管理。
(5)對任務執行結果進行綜合和分析。
工作者Agent的職責:
(1)接收相關的任務通知書。
(2)評價任務書,根據自身的情況設定任務投標的投標值。
(3)向管理者發送投標信息。
(4)若獲得投標成功,則和管理者簽訂合同,並按照合同要求執行合同所分配的任務。
(5)當所分配的任務完成時,通知管理者,並報告求解的結果。
6 :黑板模型協作方法的基本思想:多個人類專家或智能體專家協同求解一個問題,黑板是一個共享的問題求解工作空間,多個專家都能“看到”黑板。
7 :黑板模型協作方法:當問題和初始數據記錄到黑板上,求解開始。所有專家通過“看”黑板尋找利用其專家經驗知識求解問題的機會。當一個專家發現黑板上的信息足以支持他進一步求解問題時,他就將求解結果記錄在黑板上。新增加的信息有可能使其它專家繼續求解。重復這一過程直到整個問題徹底求解,獲得最終結果。
8 :黑板模型由三個基本模塊組成:知識源、黑板、監控機制。
① 知識源,即Agent,是作為求解問題的獨立單元,具有不同的專門知識,獨立完成特定的任務。
② 黑板,即公共工作區,為知識源提供信息和數據,同時,供知識源進行修改。
③ 監控機制,根據黑板當前的問題求解狀態,以及各知識源的不同求解能力,對其進行監控,使之能實時響應黑板變化,及時進行問題求解。
————————————————
版權聲明:本文為CSDN博主「ALTLI」的原創文章,遵循CC 4.0 BY-SA版權協議,轉載請附上原文出處鏈接及本聲明。
原文鏈接:https://blog.csdn.net/weixin_43360801/article/details/108405536