政府采購人工智能產(chǎn)品風(fēng)險有哪些？怎么防？

政府采購人工智能產(chǎn)品風(fēng)險有哪些？怎么防？

■ 張澤明

隨著人工智能的日益強大，其相關(guān)產(chǎn)品在政府采購市場的應(yīng)用也將越來越多。然而，人工智能是一把雙刃劍，采購人必須處理好幾個核心關(guān)切，才能有效規(guī)避風(fēng)險，發(fā)揮最大作用。

政府采購人工智能需求不斷被挖掘

人工智能產(chǎn)品的政府采購需求已不是新鮮事物。2023年8月3日財政部發(fā)布的《通用服務(wù)器政府采購需求標準（征求意見稿）》中就提出，配備了AI計算單元的產(chǎn)品，可大幅提升在特定場景下，典型功能的計算性能，如人臉識別、圖片識別、數(shù)據(jù)挖掘等，用戶可根據(jù)需要選擇是否配備。

各采購單位對于人工智能產(chǎn)品的使用也日益增多。2023年最高人民法院對十三屆全國人大五次會議第3194號建議的答復(fù)中，針對人大代表提出關(guān)于運用人工智能等方式保障法官裁量可預(yù)測性的建議，最高法表態(tài)將充分考慮一線法官需求，搭建完全自主、集法律和案例檢索、應(yīng)用、研究于一體的統(tǒng)一法律適用平臺和數(shù)據(jù)庫，實現(xiàn)智能分析和人工篩查相結(jié)合，為進一步完善類案檢索、規(guī)范裁量權(quán)行使、推進統(tǒng)一法律適用提供科技支撐。

類似的基于對文本學(xué)習(xí)而統(tǒng)一執(zhí)法尺度的需求，在其他單位也不同程度存在。例如，多地公共資源交易中心已經(jīng)用上了人工智能輔助評標系統(tǒng)。而未來，采購人對于人工智能產(chǎn)品的需求仍將不斷攀升。

高度關(guān)注人工智能產(chǎn)品使用的責任與風(fēng)險

人工智能產(chǎn)品采購已有先例，但尚未成熟。筆者認為，采購人在采購和使用人工智能產(chǎn)品時要注意以下幾個問題。

一是做好個人信息保護。人工智能產(chǎn)品涉及個人信息的收集，如何避免收集到的個人信息泄露，是采購人必須要考慮的首要問題。

《中華人民共和國個人信息保護法》（以下簡稱個人信息保護法）已經(jīng)就有關(guān)單位如何進行個人信息保護提出了很多要求。第六十九條規(guī)定了個人信息處理者的舉證倒置責任，即處理個人信息侵害個人信息權(quán)益造成損害，個人信息處理者不能證明自己沒有過錯的，應(yīng)當承擔損害賠償?shù)惹謾?quán)責任。此外，該法還規(guī)定了警告、處分、罰款等不同的違法責任。

個人信息保護的細則也在繼續(xù)完善。去年8月3日，國家網(wǎng)信辦公布了《個人信息保護合規(guī)審計管理辦法》征求意見稿，要求處理超過100萬人個人信息的處理者，每年至少開展一次個人信息保護合規(guī)審計，其他應(yīng)每兩年審計一次。如果該要求在正式辦法中依然保留，那么各采購單位在使用人工智能產(chǎn)品處理個人信息時，還要新增主動尋求合規(guī)審計的責任。

因此，機關(guān)單位等采購人在采購及使用人工智能產(chǎn)品前，就要有個人信息保護意識，避免出現(xiàn)某些單位上馬人臉識別系統(tǒng)引發(fā)的數(shù)據(jù)采集與保護爭議。

二是確保數(shù)據(jù)安全。數(shù)據(jù)安全法規(guī)定了數(shù)據(jù)分類分級保護制度、數(shù)據(jù)安全應(yīng)急處置機制與數(shù)據(jù)出口管制制度等，重要數(shù)據(jù)的處理者還應(yīng)當明確數(shù)據(jù)安全負責人和管理機構(gòu)，落實數(shù)據(jù)安全保護責任。

以上規(guī)定中，采購人最容易忽視的就是數(shù)據(jù)出口管制制度了。很多采購人認為，自己采購的人工智能產(chǎn)品其訓(xùn)練所需的數(shù)據(jù)采集與存儲都在國內(nèi)，不存在數(shù)據(jù)非法出口的問題，其實不盡然。以之前大火的人工智能工具ChatGPT為例，有媒體報道某國企員工因直接將企業(yè)機密信息以提問的方式輸入到ChatGPT中，導(dǎo)致相關(guān)內(nèi)容進入學(xué)習(xí)數(shù)據(jù)庫，并泄露到境外。

ChatGPT曾經(jīng)還存在一項漏洞，使得一些用戶可以看到另一在線用戶的姓名、電子郵件地址、付款地址、信用卡號后四位，以及信用卡有效期等隱私信息。雖然漏洞目前已經(jīng)被修復(fù)，但是這種因機器學(xué)習(xí)需要數(shù)據(jù)“喂入”而產(chǎn)生的數(shù)據(jù)跨境泄露風(fēng)險是一直存在的。

因此，2023年4月10日，中國支付清算協(xié)會明確指出，ChatGPT這類智能化工具已經(jīng)暴露出跨境數(shù)據(jù)泄露等風(fēng)險，要求全面評估使用ChatGPT等工具處理工作內(nèi)容的風(fēng)險，并發(fā)出謹慎使用ChatGPT等工具的倡議。

最近正在公開征求意見的《會計師事務(wù)所數(shù)據(jù)安全管理暫行辦法》也要求會計師事務(wù)所的審計工作底稿及相關(guān)數(shù)據(jù)存儲在境內(nèi)，不得在境外備份，加密數(shù)據(jù)密鑰應(yīng)當存儲在境內(nèi)，核心數(shù)據(jù)應(yīng)存儲在專用服務(wù)器或私有云平臺上，使用加密虛擬專用網(wǎng)絡(luò)等技術(shù)手段傳輸?shù)取８鞑少弳挝辉诓少徣斯ぶ悄墚a(chǎn)品時，可以結(jié)合上述經(jīng)驗，對具體數(shù)據(jù)保護措施予以約定。

三是提前考慮能耗問題。人工智能產(chǎn)品需要大規(guī)模的密集計算，其耗電量非常驚人，對應(yīng)的數(shù)據(jù)中心水冷消耗也是巨大的。

雖然目前有專家表示，由于人工智能大模型存在復(fù)雜度高、參數(shù)量大的問題，對于政府機關(guān)事業(yè)單位的部署使用將帶來巨大挑戰(zhàn)，并建議可以考慮模型壓縮的概念和研發(fā)規(guī)劃路線，在盡量不損失模型精度和使用體驗的情況下，減小模型的計算復(fù)雜度。但短時間這種技術(shù)只能停留在研究階段，畢竟從原理上，人工智能的強大就是根源于海量數(shù)據(jù)的學(xué)習(xí)與復(fù)雜參數(shù)的調(diào)整。

四是避免形成技術(shù)依賴。按照現(xiàn)行規(guī)范性文件要求，政府采購人工智能服務(wù)合同期限最長可以續(xù)簽到3年。采購人應(yīng)避免后續(xù)續(xù)約時出現(xiàn)只能通過單一來源選擇原供應(yīng)商的問題，人為使自己的選擇權(quán)受限。

做好人工智能產(chǎn)品采購的幾點建議

一是壓實個人信息保護責任。涉及個人信息采集等關(guān)鍵問題的采購需求，采購人應(yīng)經(jīng)過內(nèi)部合法性審查。針對供應(yīng)商管理，采購人要在采購文件中，對個人信息保護提出具體要求，要求供應(yīng)商制定并遵守相關(guān)人員管理制度，避免對個人信息的非法采集與信息泄露。在合同中，采購人還應(yīng)約定供應(yīng)商違反個人信息相關(guān)法律法規(guī)的罰則。

二是嚴守數(shù)據(jù)安全底線。采購人應(yīng)在采購文件中對供應(yīng)商的數(shù)據(jù)分級保護與傳輸、數(shù)據(jù)安全應(yīng)急處置等提出要求，明確人工智能產(chǎn)品訓(xùn)練與生成的數(shù)據(jù)必須存放在采購人可控的存儲上，比如政務(wù)云或采購單位的存儲設(shè)備上。

采購單位也要從權(quán)責分治、權(quán)限管理等方面夯實數(shù)據(jù)保護基礎(chǔ)。具體來說，要對提供給供應(yīng)商的原始數(shù)據(jù)建立審查機制，確保不上傳國家及行業(yè)涉密文件、非公開的資料、基礎(chǔ)設(shè)施或系統(tǒng)的核心代碼等數(shù)據(jù)。

按照個人信息保護法第三十八條規(guī)定，向中國境外提供個人信息主要有三條合規(guī)路徑：通過網(wǎng)信部門組織的安全評估，經(jīng)專業(yè)機構(gòu)進行個人信息保護認證，以及與境外接收方訂立國家網(wǎng)信部門制定的標準合同。國家網(wǎng)信辦目前已出臺《個人信息出境標準合同辦法》，配套發(fā)布《個人信息出境標準合同備案指南（第一版）》，明確了個人信息出境標準合同備案的適用范圍、備案方式和備案流程等。從此，適用廣泛的個人信息出境的第三條路徑——標準合同有了可實操的規(guī)范。采購人應(yīng)結(jié)合上述規(guī)范性文件與項目具體情況，在采購文件和合同中對供應(yīng)商如何應(yīng)對數(shù)據(jù)出境風(fēng)險及如何做到合法出境等作出要求。

此外，筆者注意到，近來國家安全機關(guān)曾通報，境外特定組織和人員正通過SDK搜集中國大陸使用者數(shù)據(jù)，給國家安全帶來隱患。SDK是手機軟件的開發(fā)組件，國內(nèi)廠商如果在開發(fā)手機APP時使用了有問題的國外SDK，再參加政府采購活動，就可能把這種數(shù)據(jù)安全風(fēng)險引入采購單位。

各采購單位可以視具體情況，適時在采購文件中加入供應(yīng)商提供產(chǎn)品未通過網(wǎng)絡(luò)安全審查的，不得參與采購項目競爭等要求。

三是在采購需求階段就預(yù)估能耗。采購人應(yīng)將人工智能產(chǎn)品采購與節(jié)能減排政策相結(jié)合，在采購需求調(diào)研階段就對人工智能產(chǎn)品需要的能耗進行預(yù)估，從而驗證自身是否可以承擔，項目上馬是否必要。

四是從項目源頭確保人工智能產(chǎn)品的可替代性。為防止服務(wù)期滿后，只能通過單一來源方式繼續(xù)選用原供應(yīng)商服務(wù)的情況，采購人應(yīng)在合同中與供應(yīng)商約定好數(shù)據(jù)資產(chǎn)的權(quán)屬劃分，自己要保存好已提供或由供應(yīng)商采集的原始訓(xùn)練數(shù)據(jù)集，合理劃分人工智能生成式數(shù)據(jù)的知識產(chǎn)權(quán)與所有權(quán)、使用權(quán)，防止現(xiàn)有人工智能產(chǎn)品形成不可替代性，為項目后期升級等保持競爭性奠定基礎(chǔ)。

五是避免對人工智能產(chǎn)品過于激進的使用。雖然目前人工智能技術(shù)在圖像識別上有天然的優(yōu)勢，在文本和視頻生成上也有不錯的效果，在教育、醫(yī)療、智慧城市、氣象、電力等多個行業(yè)中有很好的實踐，但對于人工智能是否能夠進化為有自我意識，且對人類社會產(chǎn)生危害，社會各界一直保持著警惕。因此，重點領(lǐng)域的采購單位，還是應(yīng)該對人工智能技術(shù)持謹慎態(tài)度，并持續(xù)關(guān)注人工智能業(yè)界關(guān)于技術(shù)管制的最新動態(tài)，對是否通過人工智能技術(shù)解決自身需求做出理性抉擇。

本報擁有此文版權(quán)，若需轉(zhuǎn)載或復(fù)制，請注明來源于中國政府采購報，標注作者，并保持文章的完整性。否則，將追究法律責任。