通信界訊 6月6日周四，美國財政部長耶倫出席了金融穩定監督委員會（FSOC）有關人工智能與金融穩定的會議，并在開幕致辭中警告金融機構使用人工智能技術的潛在風險。
有分析稱，這是耶倫迄今為止對人工智能作出的最廣泛評論。據一位美國財政部官員向媒體透露，耶倫本人也嘗試用過人工智能聊天機器人。
上述委員會在2008年金融危機之后由美國財政部牽頭其他監管機構成立。本次為期兩天的會議與美國智庫布魯金斯學會合辦，“美國版銀監會”貨幣監理署OCC的負責人也會發表講話。
會議主題是討論金融服務領域使用AI帶來的潛在系統性風險，并分享鼓勵創新與有效監管的洞察。與會者包括監管部門，科技公司、保險公司和資產管理機構的高管，以及學者和銀行代表。
耶倫眼中的金融業利用AI“重大風險”：頭寸過于擁擠，放大市場波動？
耶倫在演講中透露，人工智能與金融穩定是拜登政府高度重視的話題，“在未來幾年只會變得更加重要”。金融公司使用人工智能帶來的“巨大機遇和重大風險”已成為美國財政部和金融穩定監督委員會的首要議題。
耶倫承認，人工智能為金融系統提供了巨大機遇，例如通過AI的預測能力進行投資組合管理，利用AI檢測異常的能力來打擊欺詐和非法融資，客服也開始實現自動化。在最新的發展中，自然語言處理、圖像識別和生成式人工智能有助于金融服務成本更低和更易于獲取：
“我們看到，如果使用得當，人工智能可以提高效率、準確性和金融產品的可及性。”
但她同時警告稱，金融機構使用AI在促進機遇的同時伴隨著“重大風險”（significant risks）：
“特定的脆弱性可能源于人工智能模型的復雜性和不透明性，風險管理框架不足以應對人工智能風險，以及由于許多市場參與者依賴相同的數據和模型而出現的相互關聯特征。
開發模型、提供數據和云服務的供應商集中度過高，也可能會加劇現有的第三方服務提供商風險。數據不足或有缺陷則可能延續現有的偏見或引入新的金融決策偏見。”
有分析指出，耶倫意在警告，如果許多投資者都依賴于產生相同結果的AI工具，這可能導致某些熱門交易的倉位押注擁擠，從而加劇市場上行或下行的走勢。
同時，如果只有少數幾家公司有能力提供AI模型，一旦其中一家公司出現問題，許多金融機構可能受到波及。更別提AI模型有時會產生有偏差或者歧視性的結果，但耶倫沒提AI系統產生錯誤答案的“幻覺”問題。
美國財政部也在利用AI打擊金融犯罪，FSOC去年首次警告AI對金融體系構成威脅
有美國財政部官員透露，FSOC正在努力探究人工智能如何對金融系統構成威脅，包括加大力度監控人工智能在金融行業的使用情況。
耶倫承認，美國財政部早就在利用AI技術來打擊非法金融行為，例如檢測洗錢、恐怖主義融資和逃避制裁等“我們面臨的一些最大風險”，美國國稅局則用AI來增強逃稅的欺詐檢測能力。
未來，美國政府和金融監管機構將繼續擴大利用最新技術的能力、深入了解AI在金融服務領域的用例，并將公開征求市場參與者、消費者、學者和社會公眾對金融領域AI應用的意見。
美國財政部還將舉辦人工智能和保險行業的圓桌會議，討論保險公司如何防止AI造成貸款歧視等潛在的消費者保護措施，并將同美國國內與國際的金融監管機構定期對話，共同探究和監測AI對國際金融體系和全球經濟的影響。
耶倫提到，除了促進信息共享和對話之外，金融穩定監督委員會及其成員機構將加強AI監管能力，在已有風險管理指導框架的基礎上，還會引入“場景分析”（scenario analysis）的方法：
“鑒于人工智能技術發展迅速，金融公司和市場參與者的潛在用例也在快速演變，場景分析可以幫助監管機構和企業識別未來潛在的脆弱性，并告訴我們可以采取哪些措施來增強抵御能力。”
去年12月，美國金融穩定監督委員會在2023年度報告中首次警告稱“人工智能對金融體系構成潛在威脅”，將人工智能在金融服務領域的廣泛應用視為一個“新興弱點”，AI可能帶來的某些風險包括網絡安全、合規和用戶隱私保護等問題。
在報告中，監管機構還提到了對ChatGPT等生成式AI模型“復雜性”的擔憂，除了這些模型可能會產生“幻覺”而提供有缺陷的結果之外，一些人工智能系統像是外部人員無法洞察的“黑箱運作”，令評估系統概念是否合理變得困難，進而增加對其適用性和可靠性的不確定風險。
例如，監管機構擔心，如果銀行依賴“神秘的”人工智能模型，就很難理解其底層系統到底有多安全。AI系統也可能產生并掩蓋有偏見或不準確的結果，導致公平借貸等消費者保護問題。
耶倫也在本次演講中援引了FSOC年報，稱美國財政部希望解決與人工智能相關的直接運營風險、網絡安全和欺詐挑戰。去年的年報特意指出：
“隨著人工智能方法的復雜性增加，錯誤和偏見會變得更加難以識別和糾正，這凸顯了AI技術開發者、使用該技術的金融行業公司，以及監管這些公司的監管機構必須保持警惕。”
