政府采購人工智能產品風險有哪些？怎么防？

政府采購人工智能產品風險有哪些？怎么防？

■ 張澤明

隨著人工智能的日益強大，其相關產品在政府采購市場的應用也將越來越多。然而，人工智能是一把雙刃劍，采購人必須處理好幾個核心關切，才能有效規避風險，發揮最大作用。

政府采購人工智能需求不斷被挖掘

人工智能產品的政府采購需求已不是新鮮事物。2023年8月3日財政部發布的《通用服務器政府采購需求標準（征求意見稿）》中就提出，配備了AI計算單元的產品，可大幅提升在特定場景下，典型功能的計算性能，如人臉識別、圖片識別、數據挖掘等，用戶可根據需要選擇是否配備。

各采購單位對于人工智能產品的使用也日益增多。2023年最高人民法院對十三屆全國人大五次會議第3194號建議的答復中，針對人大代表提出關于運用人工智能等方式保障法官裁量可預測性的建議，最高法表態將充分考慮一線法官需求，搭建完全自主、集法律和案例檢索、應用、研究于一體的統一法律適用平臺和數據庫，實現智能分析和人工篩查相結合，為進一步完善類案檢索、規范裁量權行使、推進統一法律適用提供科技支撐。

類似的基于對文本學習而統一執法尺度的需求，在其他單位也不同程度存在。例如，多地公共資源交易中心已經用上了人工智能輔助評標系統。而未來，采購人對于人工智能產品的需求仍將不斷攀升。

高度關注人工智能產品使用的責任與風險

人工智能產品采購已有先例，但尚未成熟。筆者認為，采購人在采購和使用人工智能產品時要注意以下幾個問題。

一是做好個人信息保護。人工智能產品涉及個人信息的收集，如何避免收集到的個人信息泄露，是采購人必須要考慮的首要問題。

《中華人民共和國個人信息保護法》（以下簡稱個人信息保護法）已經就有關單位如何進行個人信息保護提出了很多要求。第六十九條規定了個人信息處理者的舉證倒置責任，即處理個人信息侵害個人信息權益造成損害，個人信息處理者不能證明自己沒有過錯的，應當承擔損害賠償等侵權責任。此外，該法還規定了警告、處分、罰款等不同的違法責任。

個人信息保護的細則也在繼續完善。去年8月3日，國家網信辦公布了《個人信息保護合規審計管理辦法》征求意見稿，要求處理超過100萬人個人信息的處理者，每年至少開展一次個人信息保護合規審計，其他應每兩年審計一次。如果該要求在正式辦法中依然保留，那么各采購單位在使用人工智能產品處理個人信息時，還要新增主動尋求合規審計的責任。

因此，機關單位等采購人在采購及使用人工智能產品前，就要有個人信息保護意識，避免出現某些單位上馬人臉識別系統引發的數據采集與保護爭議。

二是確保數據安全。數據安全法規定了數據分類分級保護制度、數據安全應急處置機制與數據出口管制制度等，重要數據的處理者還應當明確數據安全負責人和管理機構，落實數據安全保護責任。

以上規定中，采購人最容易忽視的就是數據出口管制制度了。很多采購人認為，自己采購的人工智能產品其訓練所需的數據采集與存儲都在國內，不存在數據非法出口的問題，其實不盡然。以之前大火的人工智能工具ChatGPT為例，有媒體報道某國企員工因直接將企業機密信息以提問的方式輸入到ChatGPT中，導致相關內容進入學習數據庫，并泄露到境外。

ChatGPT曾經還存在一項漏洞，使得一些用戶可以看到另一在線用戶的姓名、電子郵件地址、付款地址、信用卡號后四位，以及信用卡有效期等隱私信息。雖然漏洞目前已經被修復，但是這種因機器學習需要數據“喂入”而產生的數據跨境泄露風險是一直存在的。

因此，2023年4月10日，中國支付清算協會明確指出，ChatGPT這類智能化工具已經暴露出跨境數據泄露等風險，要求全面評估使用ChatGPT等工具處理工作內容的風險，并發出謹慎使用ChatGPT等工具的倡議。

最近正在公開征求意見的《會計師事務所數據安全管理暫行辦法》也要求會計師事務所的審計工作底稿及相關數據存儲在境內，不得在境外備份，加密數據密鑰應當存儲在境內，核心數據應存儲在專用服務器或私有云平臺上，使用加密虛擬專用網絡等技術手段傳輸等。各采購單位在采購人工智能產品時，可以結合上述經驗，對具體數據保護措施予以約定。

三是提前考慮能耗問題。人工智能產品需要大規模的密集計算，其耗電量非常驚人，對應的數據中心水冷消耗也是巨大的。

雖然目前有專家表示，由于人工智能大模型存在復雜度高、參數量大的問題，對于政府機關事業單位的部署使用將帶來巨大挑戰，并建議可以考慮模型壓縮的概念和研發規劃路線，在盡量不損失模型精度和使用體驗的情況下，減小模型的計算復雜度。但短時間這種技術只能停留在研究階段，畢竟從原理上，人工智能的強大就是根源于海量數據的學習與復雜參數的調整。

四是避免形成技術依賴。按照現行規范性文件要求，政府采購人工智能服務合同期限最長可以續簽到3年。采購人應避免后續續約時出現只能通過單一來源選擇原供應商的問題，人為使自己的選擇權受限。

做好人工智能產品采購的幾點建議

一是壓實個人信息保護責任。涉及個人信息采集等關鍵問題的采購需求，采購人應經過內部合法性審查。針對供應商管理，采購人要在采購文件中，對個人信息保護提出具體要求，要求供應商制定并遵守相關人員管理制度，避免對個人信息的非法采集與信息泄露。在合同中，采購人還應約定供應商違反個人信息相關法律法規的罰則。

二是嚴守數據安全底線。采購人應在采購文件中對供應商的數據分級保護與傳輸、數據安全應急處置等提出要求，明確人工智能產品訓練與生成的數據必須存放在采購人可控的存儲上，比如政務云或采購單位的存儲設備上。

采購單位也要從權責分治、權限管理等方面夯實數據保護基礎。具體來說，要對提供給供應商的原始數據建立審查機制，確保不上傳國家及行業涉密文件、非公開的資料、基礎設施或系統的核心代碼等數據。

按照個人信息保護法第三十八條規定，向中國境外提供個人信息主要有三條合規路徑：通過網信部門組織的安全評估，經專業機構進行個人信息保護認證，以及與境外接收方訂立國家網信部門制定的標準合同。國家網信辦目前已出臺《個人信息出境標準合同辦法》，配套發布《個人信息出境標準合同備案指南（第一版）》，明確了個人信息出境標準合同備案的適用范圍、備案方式和備案流程等。從此，適用廣泛的個人信息出境的第三條路徑——標準合同有了可實操的規范。采購人應結合上述規范性文件與項目具體情況，在采購文件和合同中對供應商如何應對數據出境風險及如何做到合法出境等作出要求。

此外，筆者注意到，近來國家安全機關曾通報，境外特定組織和人員正通過SDK搜集中國大陸使用者數據，給國家安全帶來隱患。SDK是手機軟件的開發組件，國內廠商如果在開發手機APP時使用了有問題的國外SDK，再參加政府采購活動，就可能把這種數據安全風險引入采購單位。

各采購單位可以視具體情況，適時在采購文件中加入供應商提供產品未通過網絡安全審查的，不得參與采購項目競爭等要求。

三是在采購需求階段就預估能耗。采購人應將人工智能產品采購與節能減排政策相結合，在采購需求調研階段就對人工智能產品需要的能耗進行預估，從而驗證自身是否可以承擔，項目上馬是否必要。

四是從項目源頭確保人工智能產品的可替代性。為防止服務期滿后，只能通過單一來源方式繼續選用原供應商服務的情況，采購人應在合同中與供應商約定好數據資產的權屬劃分，自己要保存好已提供或由供應商采集的原始訓練數據集，合理劃分人工智能生成式數據的知識產權與所有權、使用權，防止現有人工智能產品形成不可替代性，為項目后期升級等保持競爭性奠定基礎。

五是避免對人工智能產品過于激進的使用。雖然目前人工智能技術在圖像識別上有天然的優勢，在文本和視頻生成上也有不錯的效果，在教育、醫療、智慧城市、氣象、電力等多個行業中有很好的實踐，但對于人工智能是否能夠進化為有自我意識，且對人類社會產生危害，社會各界一直保持著警惕。因此，重點領域的采購單位，還是應該對人工智能技術持謹慎態度，并持續關注人工智能業界關于技術管制的最新動態，對是否通過人工智能技術解決自身需求做出理性抉擇。

本報擁有此文版權，若需轉載或復制，請注明來源于中國政府采購報，標注作者，并保持文章的完整性。否則，將追究法律責任。