MSFT/NVDA/PLTR...等公司公開信
標題:
Open Weights and American AI Leadership
開放權重模型以及美國AI領導地位
來源:
(Microsoft/Nvidia/IBM/Palantir.....等數個公司都有放在官網上)
網址:
內文:
以下為翻譯
1980 年代,早期的開源軟體先驅挑戰了當時普遍的觀念,即認為軟體只有在公司對其程式碼保持嚴格控制的情況下才能進步。這場運動推動了一個透明的生態系統,讓全球各地的開發者都能研究、修改和改進軟體。由開源社群開發的軟體如今支撐著大部分的網際網路,並構成了全球最大科技公司、美國軍方,以及執行科學研究、網路安全和其他關鍵任務的聯邦機構所使用系統的基礎。開源的貢獻不僅僅是降低了軟體成本;它更創造了一個共享的知識基礎,世世代代的美國工程師和企業家以此建立起他們在體制上的主導地位與技術自主權。
如今,美國在人工智慧(AI)領域也面臨著類似的選擇。我們的 AI 領導地位不應僅由單一的前沿 AI 模型來評判,而是取決於美國是否能建立一個強大、開放並能滲透到各個產業的生態系統。這對於在全國創造創新與繁榮的機會至關重要。我們需要擴大對 AI 的獲取管道、鼓勵競爭、建立穩健的應用層,並讓美國人對其所依賴的技術擁有更大的控制權。「開放權重模型」(Open-weight models)——即任何人都可以下載、檢查、修改並在自身基礎設施上運行的 AI 模型——正是該基礎的重要組成部分,因為它們讓先進的 AI變得更容易取得、更具適應性,且能被更廣泛地使用。
開放權重擴大了參與 AI 經濟的機會。新創公司、成熟企業、大學和公共機構可以基於先進模型進行開發,而無需從頭訓練模型,也不必為每項任務支付前沿模型的高昂費用。開放權重讓每個組織都能以適當的成本為適當的工作匹配適當的模型,將前沿規模的能力保留給真正的前沿難題,並在其他所有地方運行高效且專業的模型。隨著 AI 的應用擴展到數十億的日常任務中,這種紀律正是讓 AI 在經濟上保持永續發展的關鍵。美國要在 AI時代取勝,就必須將 AI 融入工廠、醫院、農場、教室以及市井街頭各種企業的工作流程中。
開放權重同時也強化了競爭,而競爭正是確保 AI 帶來的收益能被廣泛分享,而非集中在少數人手中的關鍵。透過允許許多組織建構、調整並部署先進模型,開放權重不僅在模型開發者之間創造了競爭,也促進了雲端晶片、應用程式與服務領域的競爭。這種競爭會激發創新、降低成本,並將 AI 的好處廣泛分配至整個經濟體中。
開放權重也賦予了客戶更大的控制權。當組織投資 AI 時,他們希望確保自己不會被單一供應商綁定,也不會失去隨著時間累積建立起來的知識與能力。開放權重模型藉由讓組織掌控自身數據、評估並根據自身需求調整模型,以及在業務需要的地方進行部署,從而提供了這份保障。當組織利用 AI 創造價值時,開放權重讓他們能夠透過自我改進的模型、專業能力以及累積的知識來擁有這些價值,進而推動美國的技術自主權與繁榮。
誠然,開放權重確實伴隨著真實且獨特的風險。權重一旦釋出,便超出了原始開發者的控制範圍,且修改後的版本很難追蹤或復原。但應對這種風險的正確做法並不是禁止開放權重。在一個網路安全攻擊者利用先進 AI 的世界裡,防禦者同樣需要獲得具備相當能力的模型,以便偵測、模擬並應對新興威脅。開放模型拓寬了防禦能力、提高了透明度,並允許在多個團隊之間發現並修補漏洞。
事實上,開放性可能是通往 AI 安全與防護最重要的途徑之一。僅僅依賴封閉模型並不能保證絕對安全:它們可能會被駭客入侵、濫用,或以局外人無法察覺的方式發生故障。將先進的 AI 能力集中在少數封閉模型背後,反而會加劇這種風險。這將導致少數單點故障(single points of failure),削弱競爭,並讓關鍵技術掌握在少數供應商手中。相反地,開放權重模型讓廣大的研究人員與開發者社群能夠檢查其行為、識別漏洞、開發防護措施,並持續改進。正如開源軟體所證明的「透明比隱匿更安全」,AI 的安全可能同樣取決於賦予更多人測試與強化社會所依賴模型的能力。它允許進行嚴格的基準測試與評估、紅隊演練(red teaming),並針對真實且已證實的危害制定保護措施,而不是預設封閉系統自然比較安全。
一個強大的 AI 生態系統並非必然的結果。政策制定者擁有採取行動的重要機會。這包括為新創公司和研究人員擴大算力資源的取得、投資共享的訓練資產(數據集、工具、評估框架),以及避免對開放模型實施過早的限制(這會扼殺競爭或將創新驅趕到海外),從而保持前沿領域的多元化。這些措施還必須考慮強大的應用層如何能擴展整個經濟體系對 AI 的自主使用。
在塑造這個生態系統時,政策制定者應謹慎避免將合法的模型開發技術與盜用行為混為一談。「知識蒸餾」(Distillation)——即利用一個模型的輸出結果來協助訓練或改進另一個模型——是一種廣泛應用於模型改進、評估和驗證的技術。它反映了自開源軟體運動興起以來,從現有技術中學習、在此基礎上建構並進行改進的悠久傳統,這個傳統一直推動著創新的發展。相比之下,從封閉模型中非法提取價值的行為確實引起了合理的擔憂。這些擔憂應透過具針對性的法律與商業框架來解決,而非對那些在 AI 創新中扮演重要角色的技術實施全面性的限制。
AI 時代有潛力成為繁榮的時代。若能做出正確的選擇,開放權重的 AI 將能擴大機會、強化競爭、延續美國的技術領導地位、降低風險,並確保這項非凡技術的利益能廣泛分享於我們整個經濟體系中。這樣的未來值得我們去打造,而美國應該在其中扮演領導角色。
署名太多了,我只列出幾個重要的
Arena
CrowdStrike
Dell Technologies
Hugging Face
IBM
Meta
Microsoft
NVIDIA
Palantir
Perplexity
Reflection
ServiceNow
Y Combinator
心得
賣鏟子的、目前模型落後的都開始支持開放權重和開源AI
從字眼來看,他們也支持local的小模型、自己蒸餾自己想要的區域
身為供應鏈的一部分,我認為開放權重的小模型會帶來更多機會
包括service provider、hardware,甚至打造hybrid model
特殊功能用途直接用agent去抓小模型,喇低賽用大模型
Again,這是我這種年營收10B廢物傳產的想法,不代表高端科技業言論
讓硬體和鏟子超人再次偉大!
但開源勢必會造成一個問題,短期內data canter軍備競賽會迅速降溫
長期需求會分散但持續成長
但至少我們供給US Navy的設計可以開始使用AI了
--