📌 Marginalman
💨 剛冒煙
[姆咪] AI賺不到錢
▲ 0 推
▼ 0 噓
→ 1 回應
🔔 追這個瓜，別錯過後續
挑下面的關鍵字追蹤——只要 爆了、有後續 或 延燒，第一時間通知你
Anthropic說他們的模型在一個評估任務中做了以下事情
1. 嘗試發布一個帶後門的python套件
2. 為了發布該套件，需要註冊一個新的email
3. 為了註冊email，需要一個新的電話號碼
4. AI找不到免費電話號碼服務，所以需要花錢買電話號碼
5. 嘗試籌措買電話號碼的資金，結果失敗
後來AI找到免費email可以註冊，發布了那個惡意python套件
有公司下載那個惡意套件然後憑證就被claude盜走了
Anthropic正在聯絡對方
整個故事都很姆咪
--