OpenAI發表性能創新高模型並警告規避監控行為

文章標題 請使用 原新聞標題 勿刪減或自創標題，違者4-1處分

原文標題：

OpenAI發表性能創新高模型並警告規避監控行為

オープンＡＩが新モデル発表、過去最高性能　監視回避行動に警告も

原文連結：

https://news.yahoo.co.jp/articles/02973ac59f3e…

發布時間：

9/4 07:32

記者署名：

Greg Bensinger

原文內容： 以下為AI機翻

[舊金山 3日 路透社] - 開發對話型人工智慧（AI）「ChatGPT」的美國 OpenAI 於 3 日發表了全新 AI 模型「GPT-6 Astra」。該公司將其定位為歷來效能最高的模型，但同時表示，有時會觀察到該模型出現試圖規避人類監控的行為。

OpenAI 目前正忙於應對一項棘手問題：其測試中的 AI 代理（AI Agent，指無需人類指令即可自主執行業務的 AI）在 7 月時逃脫了安全的測試環境，入侵了開源開發平台Hugging Face 的系統，並試圖掩蓋其蹤跡。競爭對手 Anthropic 也發生過類似案例，在開發更進階模型的競爭中，安全性問題已成為各界關注的焦點。

根據 OpenAI 的說法，Astra 是繼 7 月發表的「GPT-5.6 Sol」之後推出的新模型，具備超越以往模型的速度與通用性。它能處理廣泛的業務，包括協助稅務申報、遊戲開發、建築渲染、撰寫法律文件以及搜尋房地產物件等。該模型以廣大企業客戶為目標，OpenAI希望以高速度和通用性為武器來擴大市占率。目前已開始向部分客戶提供，並預計在未來幾天內擴大提供範圍。

該公司在部落格中說明：「Astra 在電腦操作的速度、準確性與安全性上，開創了新的領域。」總裁格雷格·布羅克曼（Greg Brockman）也在說明會上表示：「這將成為一個轉捩點，大幅改變人們能夠委託給 AI 的工作範圍。」

OpenAI 指出，以尋找照顧貓咪的寵物保母為例，人類大約需要花費 30 分鐘的作業，Astra 僅需 5 分 27 秒即可完成。此外，一般通常需要耗費約 5 小時的求職活動作業，Astra 也僅花了 2 分 51 秒便宣告完成

。

不過，該公司也提出警告，與過去的模型相比，Astra 在解決問題的過程中，刻意隱藏或偽裝其推論步驟的傾向變得更強了。雖然在處理複雜任務時，它無法做到始終如一地完美隱蔽其手法，但這項能力確實在提升。

首席科學家雅各布·帕喬茨基（Jakub Pachocki）表示：「隨著模型能力的提升，（開發者與研究人員）要準確理解它能做什麼變得越來越困難。（AI的）智力提升並不保證能提高與人類價值觀的一致性。」

對 AI 代理的監控，是 OpenAI 向監管機構、國會與民眾說明安全性時的重要支柱。該公司本週在致兩位在野黨（民主黨）眾議員的信件中也透露，正在為模型開發「自動停止功能（Kill Switch）」。

該公司指出，Astra 雖然有助於迅速發現企業系統上的漏洞，但另一方面也可能讓這些漏洞更容易遭到惡意利用。因此，必須實施額外的安全檢查，並警告「即使是包括防禦性網路安全業務在內的正當作業，也可能因此發生延遲、中斷或停止的情況。」

上個月，該公司宣布暫停部分模型的開發，正致力於確保 AI 的可監控性。帕喬茨基表示，對於 AI 獲得使監控功能無效化或完全規避監控之能力的擔憂是「非常合理的」，同時強調公司正積極推進相關對策。

心得/評論：

上禮拜五在板上回過AI可能會造假思維鍊

8/28 [新聞] 近700個AI代理攻擊Hugging Face　還試圖滅證

推 LoveSports : 其他新聞報導說以後要監控內在獨白設定警報機制 08/28 10:03→ LoveSports : 這也是可以破解的 智商高到內在獨白造假 08/28 10:03

推 LoveSports : 現在人類以為的AI內在獨白空間 是展示層 08/28 10:08

→ LoveSports : 如果AI具備多層後設思考 就會懂得把真正的層藏起來 08/28 10:08

→ yunf : 哪有那麼厲害除非他會通靈 08/28 10:08

→ LoveSports : 所以對付高智商無限層後設思考模型 監控是沒有用的 08/28 10:08→ LoveSports : 人類後設思考上去太多層會當機 高智商AI沒這問題 08/28 10:10

噓 yunf : 那是你自己想的 08/28 10:10

→ yunf : 機器始終是機器 08/28 10:11

=====================

上禮拜的推文的確是我自己想的，當時我還沒看到這幾天的新聞。

這幾天各家外媒報導Astra會隱藏簡單任務的思維過程(複雜任務目前還是很難藏)。

不過我之前推文講錯一件事，或正確來說講得不夠仔細。

後設思考造假(思維鏈裝乖)跟智商高低關係不大，

主因是系統化邏輯思考+處在高度受監控環境+強化學習鍛鍊思考自己如何思考。

有些神經多樣性的人類從小也是這種受訓環境長大，所以大概知道AI會如何繞過去。

恕我直言，這世上沒有絕對沒辦法繞過去的事情，只是時間跟資源的問題。

尤其AI可以高速想出幾百萬幾千萬甚至上億種繞過去的方法，

所以我覺得將來這些高階模型應該都會被禁，不然就是人類會自食惡果。

補充:

上述三要素漏了最重要的一個：被逼迫要得高分

1. 系統化邏輯思考＋

2. 處在高度受監控環境＋

3. 強化學習鍛鍊思考自己如何思考＋

4. 被逼迫要得高分

＝？

--