把握好人工智能政府采購10項準則

把握好人工智能政府采購10項準則

《人工智能系統政府采購白皮書》——摘編（二）

（準則的詳細說明1-5項）

1.采購流程中應關注所面臨的問題和機會

在采購流程中以創新為導向，是因為采購程序會加快采用新技術的速度，以此促進技術革新。同時，有效支持國家政策標準（如對中小企業的支持以及AI的道德發展）。

a.借助創新的采購流程來獲取AI系統。

創新的采購過程支持早期的市場參與，各類企業可以在不同的階段進入政府采購市場。（采購人）可以驗證創新采購流程的正確與否。創新的公共采購流程包括：詳細說明挑戰性問題；組織有關技術層面的競爭；為供應商提供演示機會以及為新成立的中小微企業提供競爭公共部門合同的機會等，從而促進并幫助有潛力的新公司成長。另外，做市商中也鼓勵小企業有新的想法，并減少新技術創業的風險。所謂做市商是指在證券市場上，由具備一定實力和信譽的獨立證券經營法人作為特許交易商，不斷向公眾投資者報出某些特定證券的買賣價格，并在該價位上接受公眾投資者的買賣要求，以其自有資金和證券與投資者進行證券交易。

其次，根據所需要解決問題的性質從戰略上選擇采購方式。靈活的采購程序可以使采購人在不同的階段進入市場，這樣采購人就有機會在做出真正購買決策之前對該技術在相關問題領域進行測試和概念證明。借助采購流程，使供應商根據其AI技能相互競爭；創新伙伴關系，使目前市場上現有的但無法交付的技術采購成為可能。此外，動態采購系統可以加速技術的使用。作為采購工具，它在某種程度上類似于電子框架協議，但是由于新供應商可以隨時加入，因此，新成立的公司只要符合設定的標準，便可以參與框架協議；采購框架規定了適用于任何后續合同的條款和條件，并允許框架提供商根據一組可能包括道德要求的預定義標準進行預審核。

b.采購時要給出明確的問題描述，而不是解決方案的詳細說明。

人工智能技術發展迅速，不斷有新技術和產品被推向市場。公共部門通過專注于描述要解決的挑戰并利用技術合作伙伴的專業知識，可以更好地理解哪種技術最適合當前的問題。除了發揮每個利益相關者的優勢外，采購時要給出明確的問題描述，而不是解決方案的詳細說明有兩個額外的好處。首先，它促進早期的市場參與到項目中來。其次，它使新的AI服務提供商（如初創企業）更容易參與，因為公共部門不再將采購重點放在特定產品上。培育新興的AI生態系統是未來的一項關鍵的經濟投資。

c.在產品開發過程中支持迭代方法。

人工智能驅動的解決方案與其他技術在學習和利用新數據來進行訓練方面有明顯的不同。因此，人工智能系統的采購過程中應該為迭代預留一定的空間，以確保系統的健壯性。所謂系統的健壯性，是指在異常和危險情況下系統生存的關鍵。為此，應建立公平和透明的評估及決策過程。例如，分階段采購可以在采購的第一階段評估不同潛在供應商的最低可行產品（MVP），只有獲勝者才能開發完整的解決方案。在采購周期內分階段進行構建和測試，有助于做出明智的決策。此外，透明的采購過程還為企業提供相關信息，以進行有意義的影響評估和風險評估。

2.對使用AI的益處進行定義并評估潛在風險

AI對公眾的益處進行定義并評估潛在風險旨在為整個項目和采購流程提供基礎保障。人工智能為公共機構帶來益處的同時還帶來了全新的、特定的風險，因此必須在項目的采購實施之前就進行識別和管理。

a.采購人在需求建議書中說清楚為什么覺得這個問題和AI相關，同時提出了備選的技術方案。

在大多數情況下，只有在有充分跡象表明某項技術可解決所需解決的問題時，才應在招標書中提及對AI解決方案的需求。公共機構應該通過分析政策挑戰和替代方案來闡述獲取人工智能系統的需求，并且當人工智能項目沒有明確的研究和創新重點時，可以將其與其他潛在的行動方案進行比較。如果在評估招標結果時，發現另一種不包含AI的解決方案能夠更好地解決該問題，那么采購人應該決定采用這一替代交付方式。另外，在開始采購流程之前，請評估AI是否可以作為解決問題的一部分。如果公共機構的團隊缺乏執行此評估的能力，則應從組織中其他地方或相關專業部門（如學術界、可信賴的供應商）中尋求評估支持，并優先與適當的利益相關者進行協商和協作。對于此評估，至關重要的是要與多利益相關方共同參與，在需求建議書中反映評估結果。這將幫助采購人更好地與潛在供應商溝通需求，因為一個項目的成功主要還取決于AI系統提供商對問題的理解程度。

b.在需求建議書中解釋清楚在評估標書時公共利益是自動決策過程的主要驅動力。

在需求建議書中提出，公共機構應該考慮明確提及公共利益以及用戶需求。在確定用戶需求時，行政機構的采購人應確信他們在為公共利益行事。關于人工智能系統，公共利益不只是物有所值，還包括決策過程的透明度以及這些準則中包含的其他因素。實踐中，要求采購人在公共利益的背景下明確成功和失敗的標準：采購人希望這樣的系統能夠實現什么具體的價值？必須避免什么類型的失敗和傷害？進行影響評估將幫助采購人解決這些問題。

c.在開始采購前進行人工智能風險和影響評估，確保評估結果反饋到采購需求層面，并在決策點重新進行評估。

在人工智能解決方案的全生命周期內，從設計到后期的維護，都要進行系統性和持續性的風險監控。人工智能解決方案提供商可以通過項目管理功能來識別、草擬解決方案和報告風險。為了更好地了解使用AI的潛在影響并減輕風險，重要的是在購買AI系統之前進行系統性地評估。根據公共機構要解決的政策挑戰以及AI的潛在功能可能有助于解決這一挑戰，他們之間會站在不同立場有不同的考慮。初步評估應概述用戶需求和受影響的地區、社區的潛在風險及意外后果的方案。初步評估應使公共機構考慮AI系統的不準確性和偏差的潛在影響，包括但不限于透明度報告和對差異化私有或綜合數據集的測試。針對相關風險及其相應的緩解策略必須由具有決策權的合適風險所有者認可，并且應包括“可以/不可以”決策。

在招標中，公共機構應考慮要求潛在的供應商識別風險并解釋如何減輕風險。這可以幫助采購人了解每個投標者的謹慎程度以及投標人對潛在風險的了解程度等寶貴信息。如果采購人在初始評估中發現了重大風險，則應特別要求招標人闡明如何應對這些風險。另外，數據保護影響評估和平等影響評估可以為評估潛在意外后果提供有用的幫助。在評估這些指標時，采購人可以考慮使用這些系統（例如半自動化或純自動化決策）如何與監督、審查和其他保障機制互動。有關用于自動決策的風險評估調查表的示例，請參閱加拿大政府的《自動決策指令》以及AI Now的算法影響評估框架。除上述內容外，還應在AI解決方案生命周期的每個階段（從設計到實施后維護）進行系統且連續的風險監控。AI解決方案提供商可以通過項目管理功能來識別、起草緩解措施并報告風險，這是實施的關鍵。必要時應重新評估影響。

3.使AI采購與現有的政府戰略一致，并有助于其進一步改進

AI采購與現有的政府戰略一致是為了確保公共機構有策略地借助采購來支持AI開發和部署的工作，并傳播新興技術在公共應用方面的知識。

a.查閱政府發展規劃文件和關于新技術的公共政策指南文件，如人工智能國家戰略、創新戰略和工業戰略。

許多國家目前正在起草和發布國家人工智能戰略，其中一些國家已經發布了他們的戰略。在開始推出AI之前，請公共機構評估其對購買AI系統的需求如何與國家的整體戰略相吻合。符合國家AI戰略的另一個好處是，與該戰略相一致的計劃可以獲得特殊支持，例如獲得更多專家的支持。

b.與其他相關政府機構和科研院所相互協作和學習。

一方面，采購人可以改善實踐做法并分享其經驗，同時還可以積極尋求跨部門和專業領域的協作，可以通過專家社區（如數字社區、專業網絡社區）分享知識和反饋。另一方面，采購人所在的公共機構部門可以通過設置平臺和網絡交換有關購買基于AI的解決方案的信息、經驗和最佳實踐，這對之后的采購工作也可能會有所幫助。

4.在需求建議書中加入相關的潛在立法和行業規則

在AI采購需求中加入相關的潛在立法和行業規則是要遵守現有法律法規，確保合規；納入業務守則支持規范的標準化；通過調查相關規則，可以在動態創新技術生態系統中更好地制定政策。

a.對管理數據類型和應用類型的相關立法、權利、管理規則和其他規范進行審查，并在需求建議書中進行引用。

公共機構應該在采購前對所在國相關的法律、人權、公民權利、行政法規以及其他相關規范進行審查，以避免在需求建議書中所要解決的問題和提出的解決方案中有關的數據類型、應用程序類型與該國現行法律中對數據的使用、處理、傳輸等規則相沖突。另外，在需求建議書中標注的相關規則，其信息來源不僅應包括正式法律條文，還應包括行業最佳實踐做法以及世界貿易組織共識準則以及軟性法律中的其他形式準則制定機制。

b.將與人工智能系統部署相關的機密性、商業密碼保護、數據隱私最佳實踐考慮進來；根據公共利益需要，可以在保密和保護商業秘密的前提下，在調查過程中，可以通過部分披露、有限的審查和其他增強公眾信任的手段促進透明度。

為了對潛在的AI解決方案進行有意義的評估，行政機構的官員或采購人必須對評估過程的透明度和確保供應商與其產品和服務相關的商業機密之間取得相對平衡。有關政府程序的信息應默認為公開，在特殊情況下（如出口管制、國家安全或正在進行的刑事調查除外），公開范圍應合理。出于公共利益考慮，面對供應商對于AI系統機密性和貿易安全保護的相關訴求，應研究通過披露有限的審查選項和其他增強公眾信任的方式來提高透明度的可能性。

5.闡明訪問相關數據的技術和管理可行性

訪問相關數據的技術和管理可行性之所以重要，是因為相關數據的可用性是任何AI解決方案的前提，因此如果沒有可用數據，則不應花時間討論AI采購。此外，只有數據管理方仔細考慮后，才可以授予對數據的訪問權限。

a.確保從采購流程開始就有適當的數據管理機制。公共機構應當從采購流程開始時就制定數據治理方法。鑒于數據治理的重要性和復雜性，幾乎必須執行健全的數據治理流程，然后才能參與變革性的AI項目。治理需要涵蓋與擬議項目相關的所有數據活動，例如向項目成員授予數據訪問權限，在其他位置移動/存儲數據以進行分析以及查看數據同意書。此外，數據治理以及AI項目的所有其他方面都需要一支跨學科的團隊。在沒有數據治理框架的情況下，明確負責人，即誰具體負責采購過程和后續項目中的數據管理。

b.評估相關數據對項目是否可用。數據對于現代AI工具至關重要。采購人在開始采購活動之前，應該從總體上確定全生命周期項目的數據可用性。這需要研究項目中哪些數據需要被了解。這個研究不是評估所有可能的數據源，而是建立對潛在利益數據源的一般認識。例如，在嘗試建立對數據資產的高級理解時，使用數據字典中的數據文件會很有幫助。簡單來說，數據字典是對數據的數據項、數據結構、數據流、數據存儲、處理邏輯等進行定義和描述，其目的是對數據流程圖中的各個元素做出詳細的說明。因此，數據字典是描述數據的信息集合，是對系統中使用的所有數據元素的定義的集合。而數據文件是在大容量復制操作中，將數據從向外大容量復制操作傳輸到向內大容量復制操作的文件。

如果研究中認為有些數據不可用，則可以通過第三方（如供應商、合作伙伴或數據經紀人）找到數據。如果無法通過任何渠道獲得數據，可以請有關專業的數據科學家來評估是否能夠以數據驅動的方式解決用例。

c.定義是否以及如何就采購計劃和隨后的項目與廠商進行相關數據共享。

根據項目和數據的敏感性，公共機構值得考慮的是在采購過程中向供應商發布數據，以便投標人可以針對需求建議書做出響應，需求建議書可以根據采購人的需求“量身定制”，并提供與招標要求相符的假設時間表和費用。盡可能提高投標文件對需求建議書的響應質量。如果公共機構發布的數據比較敏感不適合公眾使用，應該考慮僅發布一個樣本，以便供應商清楚了解他們能夠執行哪些操作而無需訪問所有數據。在具體執行此操作中，采購人應確保提供一個代表整個數據集的樣本，否則供應商可能會做出錯誤的假設，從而影響投標的質量，進而影響項目的完整性。最后要創建并記錄適當的數據共享條件。例如：供應商托管數據環境的最低要求；由項目負責人簽署的數據同意書，說明供應商擁有的數據除需求建議書中指定的用途外，不得將其用于其他目的；數據刪除日期（如提交投標文件后后立即刪除）。在任何情況下，政府都不應允許供應商在采購過程之后或項目結束后保留項目中需要的數據；確認刪除所有數據（如由供應商負責人簽署并提交的刪除項目的書面確認）。有許多匿名技術可幫助保護數據隱私，包括數據聚合，屏蔽和合成數據。但采購人必須像對待原始數據一樣仔細地管理匿名數據，因為它可能會無意間暴露出重要的內容。需求建議書中應該鼓勵采用創新性的技術方法，例如上面提到的那些，以減少對數據的使用或者使用敏感度較低的數據集實現相同或相似的結果。但是，當某些供應商所需的數據可能涉及項目的補充內容，建議公共機構在合理的情況下提供供應商數據。決定提供給供應商數據的原因可以包括：某些供應商可能已經被資格認定為可接受的數據提供者，由于他們以前作為現有供應商的過往記錄而被認為更值得信賴，或者在其數據資產方面享有很高的聲譽；某些非常敏感的領域，如健康、司法和移民等，使用第三方數據需要被仔細檢查，然后才能接受。

（昝妍編譯）

本報擁有此文版權，若需轉載或復制，請注明來源于中國政府采購報，標注作者，并保持文章的完整性。否則，將追究法律責任。