樂觀與審慎并舉 理性看待AI浪潮

樂觀與審慎并舉 理性看待AI浪潮

■ 張澤明

目前，以深度學習為代表的人工智能技術發展，需要依靠算法、數據和算力這三者多輪驅動。算法形成智能模型，數據提供智能訓練素材，算力滿足人工智能高并行大數據量的計算，三者缺一不可，他們也共同制約了深度學習的進一步拓展應用。

深度學習的技術制約，首要是深度學習的算法決定模型適配度不高。深度學習其實是模擬了人腦神經元的感知模式，將感知分為多個層次，每個層次的神經節點都賦予不同的權重，從而將輸入信號層層識別得到較為滿意的結果。深度學習數據訓練的結果就是要找到合理的各項權重，從而獲得滿意的輸出識別結果。

但是深度學習的神經網絡是一個“黑盒系統”，也就是說人工智能自己依靠數據訓練，為什么得出這個結果人類確實全然不知，結果是概率學與統計學原理等共同運行得出的。一言以蔽之，依靠數據，人工智能的輸出結果你無法預知，輸入與輸出的邏輯因果關系也不明確。

況且，人工智能的神經網絡模型針對的是特定的數據、特定的場景，經過訓練得到表現良好的深度學習系統很難移植到另一個不同場景中。南京大學的機器學習專家周志華教授甚至一針見血地指出：“神經網絡有很多缺陷。”他說：“凡是用過深度神經網絡的人都知道，要花大量的精力來調參數，因為這是一個巨大的系統。這會帶來很多問題，首先調參數時，經驗是很難共享的；這帶來第二個問題——不管是科學研究、技術發展，都希望結果可重復，而在整個機器學習領域中，深度學習的可重復性是最弱的。”他還舉例說，經常會遇到這樣的情況：有一組研究人員報告了一個結果，但其他的研究人員很難重復——哪怕用同樣的數據、同樣的方法。

目前市場中已經出現不少深度學習人工智能產品，如智能音箱、政務服務機器人、教育機器人等，但大都表現不佳，遠遠達不到大眾的預期。究其根本，就是訓練好的模型用在變化的環境或領域，其普適性能出現明顯下降。

簡而言之，深度學習與場景耦合度過高，普適性較差。首先，這不僅對技術發展形成制約，也讓技術移植耗費大量成本。其次，深度學習需要大量的人工標注的數據來進行算法訓練。所以深度學習天然是要跟大數據聯系在一起，數據是否適合分類、分類準確與否，不僅決定了深度學習方法是否可以使用，也決定了深度學習的結果走向。經過精確標注的“干凈”數據，也將成為深度學習發展的瓶頸。再次是算力的優化。深度學習需要的大規模算力，已經超出了通用CPU架構的承受能力。在GPU概念推出并應用于圖像處理后，其也不能很好滿足深度學習人工智能的需求。因此， 人工智能專用芯片的研發正在進行中，國內也涌現出了很多相關初創企業乃至是獨角獸企業。不過，這種芯片的研發仍然在路上，且芯片處理深度學習大規模并行計算產生巨大的熱量，而熱量又限制了芯片的進一步表現。這一矛盾目前為止，還是沒有商用的完美解決方案。最后是深度學習推廣的邊際成本。深度學習使用的卷積神經網絡，是一個多層的神經網絡。且深度學習隨著層次的增多，識別能力會出現一個極限，系統復雜度的急劇上升將不會帶來等比例的識別能力提升。

深度學習的原理綜合性很強，門檻很高。同時，實現深度學習的成本很高，數據、算力、算法帶來的技術瓶頸，又導致人工智能難以實現規模化發展，這反過來又嚴重制約了技術的實際應用與推廣。

一方面人工智能給人們帶來了巨大的便利，另一方面技術的發展也給隱私和安全問題帶來新的挑戰。

今年初，網友運用人工智能換臉技術Deepfake 把《射雕英雄傳》里黃蓉的臉由朱茵換成了楊冪。視頻里換臉后人臉的輪廓、表情都一樣，動起來的效果也很真實，幾乎看不出破綻。這樣的技術也引來了一些恐慌，一旦這項技術被濫用在其他地方，后果將不堪設想。

同時，深度學習人工智能需要大量的數據進行訓練，這些數據往往牽涉個人的隱私，比方說醫療領域的個人數據。這些數據一旦泄露，將產生難以估量的惡果。人工智能系統甚至可以通過對數據的再學習和再推理，導致現行的數據匿名化等安全保護措施無效，個人隱私變得更易被挖掘和更易暴露

柯潔因為輸給AlphaGo，曾經被調侃，“柯潔他走在了我們普通人的前邊，我們還沒有享受到人工智能的服務呢，他就已經被人工智能傷害了。”然而保障人工智能不被濫用，不傷害人類，并不是一個遙不可及的問題。這既需要技術上的審慎，也亟待法律的約束。

《新一代人工智能發展規劃》提到“舉全國之力，搶占全球人工智能制高點”。 規劃到2020年，我們人工智能產業競爭力務必要進入國際第一方陣。實現人工智能核心產業規模達1500億元，帶動相關產業規模超萬億。到2025年，我們人工智能的理論和技術務必達到世界領先水平。實現人工智能核心產業規模達4000億元，帶動相關產業規模超5萬億。到2030年，我們人工智能務必要占據全球人工智能制高點。實現人工智能核心產業規模達1萬億，帶動相關產業規模超10萬億。

國家層面對人工智能認識是清醒的。為此，更需要我們采購人在具體使用人工智能技術時，保持謹慎樂觀。不妨以習總書記的要求來自勉——正能量是總要求，管得住是硬道理，用得好是真本事。

（作者單位：大連海關）

本報擁有此文版權，若需轉載或復制，請注明來源于中國政府采購報，標注作者，并保持文章的完整性。否則，將追究法律責任。