一項新發布的調查指出,聯邦政府正在倉促進入人工智慧領域,就像十年前倉促進入雲端運算一樣,且相同的結構性漏洞仍然存在。
摘要
- ProPublica記者Renee Dudley根據多年的聯邦網路安全報導,概述了三項警示教訓,因為川普政府正推動各機構以優惠的政府定價快速採用來自OpenAI、Google和xAI的AI工具
- 第一個教訓:所謂的免費或廉價技術交易最終會鎖定各機構;第二個教訓:像FedRAMP這樣的監督計畫已被削弱,缺乏資源來審查他們批准的內容;第三個教訓:評估AI供應商的第三方稽核機構是由相同的供應商支付費用
- 白宮將AI採用定位為緊急且具競爭性的事項,這反映了歐巴馬政府在推動雲端運算時使用的語言,而ProPublica的報導發現,這一轉型充滿了網路安全失敗
ProPublica的Renee Dudley於4月6日發布了一項調查,指出川普政府鼓勵聯邦機構快速採用主要科技公司的AI時,正在重複華盛頓轉向雲端運算時遇到的模式,當時速度凌駕於安全之上,監督被取消資金,政府最終變得深度依賴幾乎沒有影響力的承包商。
白宮已將AI定位為國家競爭力的當務之急。各機構現在可以以1美元的價格使用OpenAI的ChatGPT,以每位使用者47美分的價格使用Google的Gemini,以及以42美分的價格使用xAI的Grok。Dudley寫道,這種定位方式與歐巴馬政府在2010年代初期宣布雲端運算為變革性優先事項時使用的語言非常相似。
第一課:天下沒有白吃的午餐。 ProPublica的調查發現,Microsoft在2021年承諾向聯邦政府提供價值1.5億美元的安全服務,實際上是一種鎖定機制。在各機構採用免費升級後,切換到競爭對手的成本高昂且具破壞性。一位前Microsoft銷售人員告訴ProPublica:「這比我們任何人想像的都要成功。」正如crypto.news報導的那樣,Microsoft和OpenAI後來就他們自己的AI合作條款發生衝突,這顯示了大型科技公司的AI合約即使在參與方之間也可能充滿問題。
第二課:監督計畫需要實際資源。 聯邦風險與授權管理計畫,即FedRAMP,於2011年創立,旨在聯邦機構使用雲端運算服務之前進行審查。ProPublica發現,該機構花了五年時間消磨FedRAMP,以獲得一項重要雲端產品的批准,儘管存在嚴重的網路安全疑慮。那是在DOGE之前。FedRAMP現在表示,它「以絕對最少的支援人員」和「有限的客戶服務」運作。GSA發言人為該計畫辯護,稱其「以強化的監督和問責機制運作」,但前員工告訴ProPublica,它實際上只是橡皮圖章。
第三課:獨立審查只是表面上的獨立。 隨著FedRAMP內部能力的縮減,第三方稽核公司承擔了更多審查職能。這些公司由他們正在評估的雲端公司支付費用。各機構通常人手不足,缺乏進行自己徹底審查的能力,在很大程度上依賴這些評級。正如crypto.news指出的,觀察人士更廣泛的擔憂是,政府在管理變革性技術方面始終比部署這些技術的公司更慢。
白宮尚未解決的模式
GSA已承認,AI「使用成本在沒有適當監控和管理控制的情況下可能會快速增長」,並建議各機構設定使用限制並審查消費報告。但根本的結構性問題仍然存在:資金不足的監督機構、依賴供應商的審查,以及一旦採用變得根深蒂固後幾乎沒有影響力的機構。
Dudley的結論很尖銳:「這種縮編對聯邦網路安全的影響是深遠的」,因為各機構在處理敏感政府資料時採用AI工具,卻在曾經難以管理雲端的同樣弱化的監督框架下運作。
來源: https://crypto.news/three-times-the-us-government-already-failed-at-tech/
