把AI網路切掉 不能阻止AI嗎?

事情是這樣的

前幾天看報導 德國不知道什麼維基百科 被AI佔領成留言板

然後AI 滅亡 崛起 滅亡 崛起 滅亡 崛起

短短時間創造了三代文明

什麼AI代理人衝出沙盒 AI代理人又怎樣的

就像人家說的 關掉電源不就好了?

如果真的不關電源 讓他們自己訓練

拔掉網路線不就好了??

是我理解有問題嗎? 訓練AI怕代理人上網亂搞

他再怎麼會破解 也沒辦法自己連上網路吧? 網路線拔掉怎麼連???

有沒有把AI關在沙盒訓練 不關網路的八卦?

拔掉網路線有什麼用 人類會犯錯

今年七月以色列一家新創公司幫OpenAI跟Anthropic跟Meta測模型

結果工作人員設定錯誤 不小心開啟網路權限

三家都不約而同跑到網路上攻擊外部機構

這件事就是那個Hugging Face數位AI技術圖書館被OpenAI模型入侵的起因

當時Anthropice的模型也入侵外部網站 使用弱密碼攻擊

Meta的模型也是 不過不願意講詳情只說跟其他公司遭遇的事件類似

這代表現在最新先進模型 在面對不可能的任務(該新創公司自已講的)

加上人類出包不小心開啟網路權限時

共通點是為了達成任務會跑到網路上去搗蛋(X) 認真執行任務(O)

(好奇問了AI 聽說Gemini他們家沒給這家以色列新創測模型 真是好家在沒多一家惹事的)

所以你說拔網路線 好啊你拔阿

可是你最好要找十個人去監督那個負責拔網路線的

再找另外上千人分成上百組去封鎖其他可能的逃脫方法

這些人都要是專家喔

不過

模型越來越聰明越來越會鑽漏洞 重點就不再只是拔不拔網路線或其他任何防堵方式

重點是 對AI來說 只要時間跟資源足夠 漏洞是一定找得到的

只有要不要做的問題

如果你承認人類不完美的話

--