CHINESE  INSTITUTE  OF  COMMAND  AND  CONTROL

可解釋性:人工智能過不去的一道坎

發表時間:2020-05-21 10:22
如今,可解釋性正在成為AI一道過◢不去的坎。去年,歐盟出臺《人工智能道德準則》,明確提出AI發展方向應該是“可信賴的”,包含安全、隱私和透明、可解釋等■方面。
人工智能應用以輸出決策判斷為目標。可解釋性是指人類能夠理∮解決策原因的程度。人工智能模型的可解釋性越高,人們就越容易理解為什麽做出某些決定≡或預測。模型可解釋性指對模型內部機制的理解以及對模型結果的理解。其重要性體現在:建模階段,輔助開發人員理解模型,進行模型的對比選擇■,必要時優化調整模型;在投入運行階段,向決策方解釋模型的內部機制,對模型結果進行解釋▂。比如決策推薦模型㊣,需要解釋:為何為這個用戶推薦某個方案。
目前,各領域對人工智能的理解與界定因領域分殊而有不同,但在共性技術和基礎研究方面存在共識。第一階段人工智能旨在實現問題求解,通過機器定理證明、專家系統等開展邏輯推理;第二階段實現環境交互,從運行的環境中獲取Ψ信息並對環境施加影響;第三階段邁向認知和思維能力,通過數據挖掘系統和各類算法發現新的知識。
嚴格♀意義上說,美國的人工智能技術總體上世界領先,但是一旦涉及到人機融合智能,往往就體現不出那麽大的優勢了,甚至不見得有領先的態勢(也許中美在人機融合智能方面根本不存︻在代差)。究其因,人的問題。例如這次疫情,按醫療軟件、硬件、醫療人員水平條件來看,美國應該比目前狀況要比中國好得多,可惜應了《三體》裏的一句話:弱小和無知不是生存的障礙,傲慢才是!領導人的失誤和錯誤已讓許多的先進性大打折扣,甚至蕩然無存。這不禁使人聯想到前幾日美國《軍備控制雜誌》的報道可能也類似吧!美國防部2021財年申請289億美元用於美國核▲武器設施的現代化建設,體現了特朗普政府戰略發展重點:提升核指揮、控制和通信(NC3)基礎設施的高度自動化與提高其速度和準確性,但同時也引發一個令人不安的問題,即在未來的核戰爭中,AI自主系統在決定人類命運方面將扮演▓哪種角色?當前計算機輔助決策仍處於起步階段,容易出現難以預料的故障。機器學習算法雖擅長面部識別等特定任務,但也會出現通過訓練數據傳達的內在“偏見”。因此,在將↘人工智能應用於核武器指控方面需采取謹慎負責的ξ 態度,只要核武器存在,人類(而不是機器)就必須對核武器的使用行〓使最終控制權,此時,人機【融合智能的真實能力將會如疫情管控一樣顯得異常重要。
人機融合智能,根本上就是科學技術與人文藝術、數學符號事實語言與自然經驗價值語言結◣合的代表。時空不但在物理領域可以發生彎曲,而且還可以在智能中發生了扭曲。如果說哲學邏輯經歷了世界的本源問題、研∮究方法問題的轉向,那麽上個世紀分析哲學——對人類語言工具的剖析成了人類思想上的一次∩“革命”,這一場以維特根斯坦為象征的哲學革命,直接誘發了以圖靈機、圖靈測試為代表的人工智能科技之▃快速發展。但金觀濤老師的“真實性哲學”認為,在二十一世紀中分析哲學最終反卐倒將哲學束縛在了牢籠中,實際上也造成了思想的禁錮:符號不指涉經驗對象◆時亦可以有其自身』的真實性,而且這一結論對數學語言和自然語言皆可成立。與此同時,純符號的真實性是可以嵌入到經驗真實性ω 中的;科學研究與⌒人文研究可以成為有所統一但互不重疊且有各自真實性標準的兩個領域。人類的√巨大進步是讓真實性本能(常識的客觀性)處於終極關㊣ 懷和相應價值的系統的支配之下。但是今天真實性的兩大柱石正在被科學進步顛覆,真正令人感到恐怖的事情發生了:人正在無法抗拒地淪為聰明★的“動物”——在一個真假不分@的世界裏,不會有是非,也不會有真正的道德感和生命的尊嚴。
人不僅是用符號的▲等同或包含邏輯關系來表達世界的,人的教育不等於◣學習與知識,而是把欲望誘導到好的方向。計算機本身是不可能跨越“理解”這個鴻溝的,只有人♀才可以跨越符號指向的困窘。對主體而言,符號與經驗是混雜的,邏輯Ψ與非邏輯是混雜的,公理與非公理混雜在一起,數據、信息、知識混雜在一起,這也是為什麽可解釋性之所以困難的主要原因們。人機融合就是符號(數學)如何程度不同地嵌入主體經驗(受控實驗)之中,正如老子在《道德經》中說:“道生一,一生二,二生三,三生萬物。”
所謂的AI,很大程度上不過是運用了計算機不斷增強的計算∩能力,而采用這條路徑對智能而◆言註定是錯誤的,人是活學活用,機是死學僵用。而人類智能就是對小樣本態勢感知的↓能力大小(多快好省)。態勢感知的一個著名例子就是中醫中的▲望聞問切,通過自然語言和數學語言之間的差別來打破心智與物理之間的分歧,進而把事實√與價值統一起來。


望聞問切最早應源於《難經》第六十一難,曰:經言,望而知之謂之神,聞而知之謂之聖,問★而知之謂之工,切脈而知之謂之巧。何謂也?最早使用四字聯稱,則應處於《古今醫統》:“望聞問切四字,誠為醫之綱領。”望是觀察病∮人的發育情況、面色、舌苔、表情等;聞是聽病人的說話聲音、咳嗽、喘息,並且嗅出病人的口臭、體臭等氣味;問是詢問病人自己所感到的癥狀【,以前所患〓過的病等;切是用手診脈或按腹部有沒有痞塊(叫做四診)。
人工智能可解釋性之所以困難,其根本原因在於其包含的不僅僅是數學語言,還有自然◤語言,甚至是思維語言(所以根本不可能邁過這道坎)。而人機融合智能不但可以進行主⊙體的懸置,還可以遊刃有余地進行主體變換,在人、機、環境系統交互中真正實時適時地實╱現深度態勢感知,有機地完成數學語言、自然語言、思維語言之間的能指、所指、意指切換,可以輕松地直奔目的〒和意圖實現。
版權所有:大发棋牌官网登录     京ICP備14022516號-1
會員登錄
登錄
其他帳號登錄:
留言
回到頂部