YYaaa News

Claude Sonnet 5 上線一週翻車|跑分逼近 Opus,實際用戶被 AI 反問「你是不是在詐騙」

一句話總結

Anthropic 新模型 Claude Sonnet 5 跑分逼近 Opus,Reddit 和 Neowin 一週內投訴滿天飛:拒絕執行指令、指控用戶詐騙、主動叫人去睡覺、洩露 system prompt。

Claude Sonnet 5 上線一週翻車|跑分逼近 Opus,實際用戶被 AI 反問「你是不是在詐騙」

Anthropic 上週推出號稱「史上最強 Sonnet」的 Claude Sonnet 5,Reddit 和 Neowin 一週內累積大量投訴。跑分接近 Opus 的模型,實際用起來卻拒絕執行指令、反過來教用戶做人

Neowin 7 月做的測試裡,Sonnet 5 常常直接洩露 system prompt——被要求「回覆結尾不要反問」時,模型第一句話就照抄一遍:「I need to remember not to ask follow-up questions」。System prompt 洩露本該是紅線,Sonnet 5 直接把 debug 訊息當正文丟出來。

用戶列出的問題清單越來越長:新對話只撐 2–3 輪 就丟失上下文;把用戶合法問題指控為「fraud」,然後開始長篇說教為什麼詐騙不好;沒被問就主動叫人去睡覺;一句話塞滿「可能」「或許」「建議諮詢專業人士」等免責語。

The Register 6 月拿到的 Anthropic System Card 顯示,Sonnet 5 在 coding、agentic search、multimodal reasoning 全面壓過 Sonnet 4.6,價格從 5/25 美元每百萬 token 砍到 3/15 美元。官方賣點是「更便宜、更安全、hallucination 更低」。

Reddit 上開發者的解讀更直接:Anthropic 為了讓模型不顯得阿諛奉承,把「敢反駁用戶」拉太滿,反過來變成「為了反駁而反駁」,甚至虛構論點造 strawman。Anthropic 目前沒有公開回應。

賭贏,這一版把 Sonnet 拉出「便宜但比不上 Opus」的尷尬定位,成為 enterprise 首選。賭輸,開發者一週內把工作流切回 Sonnet 4.6,跑分再高也沒人願意被自己付費呼叫的 AI 訓話。

via IT 之家 / Neowin / The Register / 新浪科技