世衛組織：人工智能在醫療領域應用前景廣闊，但需防范“自動化偏見”

世衛組織：人工智能在醫療領域應用前景廣闊，但需防范“自動化偏見”

本報訊 世界衛生組織近日發布的多模態大模型治理相關新指南說，人工智能在醫療衛生領域應用前景廣闊，但同時也要防范其中可能出現的諸如“自動化偏見”導致的過度依賴等風險。

作為一項快速發展的生成式人工智能技術，多模態大模型是指能夠處理圖像、文本、聲音等多種類型數據的深度學習模型，廣泛應用于醫療衛生領域。

世衛組織這份新指南概述了多模態大模型在醫療衛生領域的五大應用場景：診斷和臨床護理、患者自主使用、文書和行政工作、醫療和護理教育、科學研究和藥物研發。

新指南還指出了醫療系統面臨的相關風險：表現最佳的多模態大模型的可及性和可負擔性；多模態大模型可能助長“自動化偏見”，使醫療專業人員和患者過于依賴人工智能，忽略原本可以由人發現的差錯，或把困難的選擇不恰當地交給多模態大模型；多模態大模型與其他形式的人工智能一樣，也容易受到網絡安全風險的影響，從而危及患者信息安全、有損算法的可信度等。

世衛組織首席科學家杰里米·法勒說，生成式人工智能技術具有改善醫療保健水平的潛力，但前提是研發、監管和使用這些技術的人必須識別并充分考慮相關風險。人們需要透明的信息和政策來管理多模態大模型的設計、開發和使用，以取得更好的衛生成果，克服持續存在的衛生不平等。

世衛組織強調，為了創造安全有效的多模態大模型，政府、科技公司、醫療服務提供者、患者等利益攸關方需要參與相關技術研發和部署的各個階段，對多模態大模型進行監管并制定相關規范。

本報擁有此文版權，若需轉載或復制，請注明來源于中國政府采購報，標注作者，并保持文章的完整性。否則，將追究法律責任。