美國推動聯邦機構使用人工智慧的治理

記者/Howie Su

資料來源:Brookings Institution

近期人工智慧的快速發展引起各國政府重視,除了歐盟人工智慧法案即將實施外,美國也開始從「輕監理」轉為「積極治理」,白宮管理和預算辦公室(OMB)發布一項政策,以減輕人工智慧(AI)的風險並利用其優勢,實現美國總統拜登的人工智慧行政命令,以下為政策內容。

AI治理也成為一個新市場(資料來源:Grand View Research

一、解決人工智慧使用帶來的風險

到 2024年12月1日,要求聯邦機構在人工智慧的使用方式可能影響美國人的權利或安全時實施具體的保障措施,以可靠地評估、測試和監控人工智慧對公眾的影響,減輕演算法歧視的風險,並為公眾提供政府如何使用人工智慧的透明度。例如,當人工智慧用於檢測政府服務中的詐欺行為時,會有負責人對具影響力的決策進行監督,受影響的個人有機會尋求針對人工智慧危害的補救措施。如果機構無法應用保障措施,則必須停止使用人工智慧系統,除非機構證明這樣做會增加整體安全或權利的風險,或會對機構的關鍵運作造成不可接受的障礙。

二、擴大人工智慧使用的透明度

要求聯邦機構提高人工智慧使用的公共透明度,各機構須報告其人工智慧案例的指標,這些指標由於其敏感性而從公共清單中保留;向公眾揭露因豁免遵守該政策的人工智慧,並說明理由;發布政府擁有的人工智慧程式、模型和數據,且此類發布不會對公眾或政府營運構成風險;並發布擴大的人工智慧案例年度清單,包括確定影響權利或安全的案例以及該機構如何應對相關風險。

三、推動負責任的人工智慧創新

將消除聯邦機構負責任的人工智慧創新的不必要障礙,幫助各機構應對社會最迫切的挑戰提供了巨大的機會,包括應對氣候危機和應對自然災害、促進公共衛生、保護公共安全。並鼓勵各機構負責任地試驗生成式人工智慧,並採取適當的保障措施,包括使用人工智慧聊天機器人來改善客戶體驗和其他人工智慧試驗。

四、發展人工智慧勞動力

指導各機構擴大人工智慧人才並提高其技能,以推動人工智慧風險管理、創新和治理,包括承諾在2024年夏季聘用100名人工智慧專業人士,以促進人工智慧的可信和安全使用;2025年總統預算額外撥款500萬美元,用於政府的人工智慧培訓計劃等。

五、加強人工智慧治理

政策要求聯邦機構指定人工智慧長,負責協調各機構內人工智慧的使用,並建立由副部長或同等職務擔任主席的人工智慧治理委員會,以協調和管理整個機構人工智慧的使用。

此外,將發布關於政府負責任地採購人工智慧的資訊請求(RFI),以告知未來根據聯邦合約管理人工智慧使用的行動。

分享此新聞: