• <menu id="4yacc"></menu>
    • 論文
    主辦單位:煤炭科學研究總院有限公司、中國煤炭學會學術期刊工作委員會

    對新一代人工智能的思考

    2022-09-22   來源:智能系統學報

      如果將達特茅斯會議作為人工智能(AI)誕生的標志的話,我正好與 AI 同歲。但是,迄今為止,國際上對AI 是什么仍眾說紛紜。比較有共識的似乎是對 AI 的代際劃分,即第一代 AI 是基于知識的,第二代 AI 是基于數據的。而現在,大家正在開啟對第三代或新一代 AI 的研究。但要弄清楚新一代 AI 的特征,首先必須搞清楚第一代和第二代 AI 存在的問題。

      

      我認為,第一代 AI 之所以不夠成功,主要問題有三個:第一,其知識是以規則的形式表達的,因而是碎片化的,盡管有一套格式,但很難說是一個嚴謹的科學體系,更像是一種實用技術。然而,沒有嚴謹的科學理論支撐的技術是走不遠的。第二,缺乏嚴謹的不確定性表達和推理算法?,F實世界絕大多數都有不確定性,只有證明數學定理等少數情況無不確定性。顯然,沒有嚴謹的處理不確定性的算法限制了第一代 AI 的應用。第三, 追求通用AI(AGI),將目標定得過于寬泛,要求其像人一樣能夠學習、識別、分析、歸納、推理、感知等,是不現實的。

      

      第二代AI 基于大數據機器學習,能夠有效應對不確定性,其代表是深度學習(DL) 模型。主要問題也有三個: 第一,由于 DL 的本質是數據擬合,模型缺乏可解釋性。對很多應用而言,沒有可解釋性就難以可信和應用。例如疾病診斷,要綜合患者的癥狀、體征、實驗室檢查、影像學檢查,以及性別、年齡、病史等各種信息,根據彼此的關系才能下診斷結論,而且結論只能由作為用戶的醫生下,由醫生承擔責任,否則會出現很多法律問題。這就需要 AI 可解釋,包括計算結果可解釋(怎么算出來的)、計算模型可解釋(能理解)、計算方法可解釋(物理意義清晰)。然而數據擬合是一種黑箱方法,從原理上就不具備可解釋性。第二,依賴數據獨立同分布假設。這里的同分布不僅指訓練集與測試集之間,而且指訓練和測試集與真實應用場景之間,都要同分布。但很多情況不符合這一假設。例如基層醫療機構診病的數據樣本空間與用于 DL 模型訓練和測試的數據集(三甲醫院病歷) 的樣本空間就不同,導致泛化問題。第三,與第一代AI 一樣,追求AGI,想用一個模型解決所有問題,但結果往往不佳。事實上,由于開放式問題的模式不可窮盡,總有擬合不到的。這就為其應用懸了一把達摩克利斯之劍。這也是當前自動駕駛所面臨的困境。至于數據獲取難、清洗加工難、保護隱私難、數據產權難、訓練能耗大等非技術問題,就不在這里討論了。

      

      事實上,計算機只能執行人事先設定的程序(包括算法和數據),不具有真正意義上的智能,至少目前如此。就某個具體問題而言,用人設定的計算機程序來代替人解決問題是完全可能的,并且其表現往往超過人(例如AlphaGo 戰勝李世石)。一旦應用超越了事先設定的計算機程序所要解決的問題的邊界(例如用 AlphaGo 下以前沒有見過的半個棋盤或兩倍棋盤的圍棋),就很難保證 AI 仍有上佳表現,但人卻可以舉一反三。在當前人們對生物腦知之甚少的情況下,在尚未解決自我意識是什么和怎樣產生的情況下,用計算機模擬人這樣的生物腦很難, 因為要模擬的對象是什么不清楚。一個顯著的區別是:人能夠通過自我意識理解事物,而計算機沒有自我意識, 也理解不了事物(缺少理解主體)。從這個意義上講,學習(Learning)這個詞用在計算機上是不恰當的。擬合(Fitting)更準確,但不夠吸睛。

      

      我的看法是:當前 AI 應著力研究兩個領域:第一,研究生物腦的工作機理,這主要是醫學和生物學的事情, 以及相關學科的事情(例如生物電鏡)。第二,研究能解決具體問題的 AI 模型,無論其基于知識還是基于數據, 不一味追求 AGI。不同領域有不同需求,從而適用不同模型。例如人臉識別,無所謂可解釋還是黑箱,即使有一定錯誤率也問題不大,這時用深度學習模型就很好。當然還要在現有基礎上精進。對于診?。ú恢皇强雌蚣膊『Y查)和工業系統故障診斷來說,沒有可解釋性的模型是不可信,因而也不宜用的;基于知識的模型(當然要系統化和具備處理不確定性的能力)才是可信和可用的,大數據學習并非必由之路。事實上,核電站幾乎沒有可供學習的故障數據,但要求 AI 能夠診斷從來沒有出現過的故障。對核電站操作員的要求也相同,所以這一要求并不過分。

      

      歸納一下:新一代 AI 要有可解釋性,不依賴或少依賴數據獨立同分布,知識應系統化,能夠處理不確定性, 基于數據或知識或兩者均可,但未必通用。

      

      我對 AI 的定義是:AI 是一門科學技術,將由人類智能解決的問題轉化為由人造機器來解決。這里首先要明確所解決的問題是不是智能問題。如果是,且由機器來解決,就是 AI。適合于解決本領域智能問題的模型就是強 AI 模型,與其是否通用無關。


    作者簡介:

    1663814517143915.jpg

      張勤,全國政協常委,中國科協榮譽委員,國際核能院院士,中國人工智能學會會士、不確定性人工智能專委會主任、智慧醫療專委會顧問, 中國知識產權研究會副理事長兼學術顧問委員會主任;國家核電重大專項戰略咨詢專家組組長;清華大學博士后校友會會長;清華大學核能與新能源技術研究院和計算機系雙聘教授、博導。中國科協原黨組副書記、副主席。


    原文鏈接


      責任編輯:宮在芹

    特別聲明:

    本文轉載僅僅是出于傳播信息的需要,并不意味著代表本網站觀點或證實其內容的真實性;如其他媒體、網站或個人從本網站轉載使用,須保留本網站注明的“來源”,并自負版權等法律責任;作者如果不希望被轉載或者聯系轉載稿費等事宜,請與我們接洽。
    今日專家

    男,1978年生于江西貴溪,博士,副教授,碩導,江西理工大學經濟管理學院專...

    亮點論文

    這項技術的關鍵在于頭發富含碳和氮,而這兩種物質在設計發光粒子時是很有價值的特性??茖W家們在240℃(464℉)的溫度下焚燒頭發,將其分解,使其分子結構中包含碳和氮。...

    今日企業
    • 神州機械注冊資金1億元,形成了以干法選煤新工藝、新裝備研發、選...

    主辦單位:煤炭科學研究總院有限公司 中國煤炭學會學術期刊工作委員會

    ©版權所有2015 煤炭科學研究總院有限公司 地址:北京市朝陽區和平里青年溝東路煤炭大廈 郵編:100013
    京ICP備05086979號-16  技術支持:云智互聯
    一级毛片a片
  • <menu id="4yacc"></menu>