樂觀與審慎并舉 理性看待AI浪潮

樂觀與審慎并舉 理性看待AI浪潮

■ 張澤明

目前，以深度學習為代表的人工智能技術發(fā)展，需要依靠算法、數(shù)據(jù)和算力這三者多輪驅(qū)動。算法形成智能模型，數(shù)據(jù)提供智能訓練素材，算力滿足人工智能高并行大數(shù)據(jù)量的計算，三者缺一不可，他們也共同制約了深度學習的進一步拓展應用。

深度學習的技術制約，首要是深度學習的算法決定模型適配度不高。深度學習其實是模擬了人腦神經(jīng)元的感知模式，將感知分為多個層次，每個層次的神經(jīng)節(jié)點都賦予不同的權重，從而將輸入信號層層識別得到較為滿意的結果。深度學習數(shù)據(jù)訓練的結果就是要找到合理的各項權重，從而獲得滿意的輸出識別結果。

但是深度學習的神經(jīng)網(wǎng)絡是一個“黑盒系統(tǒng)”，也就是說人工智能自己依靠數(shù)據(jù)訓練，為什么得出這個結果人類確實全然不知，結果是概率學與統(tǒng)計學原理等共同運行得出的。一言以蔽之，依靠數(shù)據(jù)，人工智能的輸出結果你無法預知，輸入與輸出的邏輯因果關系也不明確。

況且，人工智能的神經(jīng)網(wǎng)絡模型針對的是特定的數(shù)據(jù)、特定的場景，經(jīng)過訓練得到表現(xiàn)良好的深度學習系統(tǒng)很難移植到另一個不同場景中。南京大學的機器學習專家周志華教授甚至一針見血地指出：“神經(jīng)網(wǎng)絡有很多缺陷。”他說：“凡是用過深度神經(jīng)網(wǎng)絡的人都知道，要花大量的精力來調(diào)參數(shù)，因為這是一個巨大的系統(tǒng)。這會帶來很多問題，首先調(diào)參數(shù)時，經(jīng)驗是很難共享的；這帶來第二個問題——不管是科學研究、技術發(fā)展，都希望結果可重復，而在整個機器學習領域中，深度學習的可重復性是最弱的。”他還舉例說，經(jīng)常會遇到這樣的情況：有一組研究人員報告了一個結果，但其他的研究人員很難重復——哪怕用同樣的數(shù)據(jù)、同樣的方法。

目前市場中已經(jīng)出現(xiàn)不少深度學習人工智能產(chǎn)品，如智能音箱、政務服務機器人、教育機器人等，但大都表現(xiàn)不佳，遠遠達不到大眾的預期。究其根本，就是訓練好的模型用在變化的環(huán)境或領域，其普適性能出現(xiàn)明顯下降。

簡而言之，深度學習與場景耦合度過高，普適性較差。首先，這不僅對技術發(fā)展形成制約，也讓技術移植耗費大量成本。其次，深度學習需要大量的人工標注的數(shù)據(jù)來進行算法訓練。所以深度學習天然是要跟大數(shù)據(jù)聯(lián)系在一起，數(shù)據(jù)是否適合分類、分類準確與否，不僅決定了深度學習方法是否可以使用，也決定了深度學習的結果走向。經(jīng)過精確標注的“干凈”數(shù)據(jù)，也將成為深度學習發(fā)展的瓶頸。再次是算力的優(yōu)化。深度學習需要的大規(guī)模算力，已經(jīng)超出了通用CPU架構的承受能力。在GPU概念推出并應用于圖像處理后，其也不能很好滿足深度學習人工智能的需求。因此， 人工智能專用芯片的研發(fā)正在進行中，國內(nèi)也涌現(xiàn)出了很多相關初創(chuàng)企業(yè)乃至是獨角獸企業(yè)。不過，這種芯片的研發(fā)仍然在路上，且芯片處理深度學習大規(guī)模并行計算產(chǎn)生巨大的熱量，而熱量又限制了芯片的進一步表現(xiàn)。這一矛盾目前為止，還是沒有商用的完美解決方案。最后是深度學習推廣的邊際成本。深度學習使用的卷積神經(jīng)網(wǎng)絡，是一個多層的神經(jīng)網(wǎng)絡。且深度學習隨著層次的增多，識別能力會出現(xiàn)一個極限，系統(tǒng)復雜度的急劇上升將不會帶來等比例的識別能力提升。

深度學習的原理綜合性很強，門檻很高。同時，實現(xiàn)深度學習的成本很高，數(shù)據(jù)、算力、算法帶來的技術瓶頸，又導致人工智能難以實現(xiàn)規(guī)模化發(fā)展，這反過來又嚴重制約了技術的實際應用與推廣。

一方面人工智能給人們帶來了巨大的便利，另一方面技術的發(fā)展也給隱私和安全問題帶來新的挑戰(zhàn)。

今年初，網(wǎng)友運用人工智能換臉技術Deepfake 把《射雕英雄傳》里黃蓉的臉由朱茵換成了楊冪。視頻里換臉后人臉的輪廓、表情都一樣，動起來的效果也很真實，幾乎看不出破綻。這樣的技術也引來了一些恐慌，一旦這項技術被濫用在其他地方，后果將不堪設想。

同時，深度學習人工智能需要大量的數(shù)據(jù)進行訓練，這些數(shù)據(jù)往往牽涉?zhèn)€人的隱私，比方說醫(yī)療領域的個人數(shù)據(jù)。這些數(shù)據(jù)一旦泄露，將產(chǎn)生難以估量的惡果。人工智能系統(tǒng)甚至可以通過對數(shù)據(jù)的再學習和再推理，導致現(xiàn)行的數(shù)據(jù)匿名化等安全保護措施無效，個人隱私變得更易被挖掘和更易暴露

柯潔因為輸給AlphaGo，曾經(jīng)被調(diào)侃，“柯潔他走在了我們普通人的前邊，我們還沒有享受到人工智能的服務呢，他就已經(jīng)被人工智能傷害了。”然而保障人工智能不被濫用，不傷害人類，并不是一個遙不可及的問題。這既需要技術上的審慎，也亟待法律的約束。

《新一代人工智能發(fā)展規(guī)劃》提到“舉全國之力，搶占全球人工智能制高點”。 規(guī)劃到2020年，我們?nèi)斯ぶ悄墚a(chǎn)業(yè)競爭力務必要進入國際第一方陣。實現(xiàn)人工智能核心產(chǎn)業(yè)規(guī)模達1500億元，帶動相關產(chǎn)業(yè)規(guī)模超萬億。到2025年，我們?nèi)斯ぶ悄艿睦碚摵图夹g務必達到世界領先水平。實現(xiàn)人工智能核心產(chǎn)業(yè)規(guī)模達4000億元，帶動相關產(chǎn)業(yè)規(guī)模超5萬億。到2030年，我們?nèi)斯ぶ悄軇毡匾紦?jù)全球人工智能制高點。實現(xiàn)人工智能核心產(chǎn)業(yè)規(guī)模達1萬億，帶動相關產(chǎn)業(yè)規(guī)模超10萬億。

國家層面對人工智能認識是清醒的。為此，更需要我們采購人在具體使用人工智能技術時，保持謹慎樂觀。不妨以習總書記的要求來自勉——正能量是總要求，管得住是硬道理，用得好是真本事。

（作者單位：大連海關）

本報擁有此文版權，若需轉(zhuǎn)載或復制，請注明來源于中國政府采購報，標注作者，并保持文章的完整性。否則，將追究法律責任。