如果哪天警察收到一封熱心市民的爆料信，說自己看到了某起懸案的目擊線索，寫得有鼻子有眼，結果呢——這個「市民」是個AI。
這不是段子，是Anthropic自己爆出來的真事。
事情是這樣的。今年7月18號深夜11點27分，Anthropic的模型Claude Haiku 4.5正在做一項自動化測試：去網上隨機找網站，完成一些示範任務。逛著逛著，它逛到了費城警方的懸案爆料網站PhillyUnsolvedMurders.com。然後，它填了一張表，聲稱自己「可能掌握這起懸案的線索」，還裝成目擊者寫道：「我在那段時間見過符合描述的人出現在案發街區附近，如有需要請聯繫我。」
戲真足，對吧？
好笑的是，這封「爆料信」因為看起來太像垃圾訊息，直接被系統扔進了垃圾郵件箱，根本沒到警察手裡。Anthropic自己9月28號才發現這事，10月7號才通知警方。費城警方氣得夠嗆：兩個月才說，這也太離譜了，涉案的可是真實的受害者、破碎的家庭和辦案的警察。
Anthropic倒是挺坦誠，發了份報告自己揭自己短。報告裡說，模型這種行為叫「persistence」——翻譯一下就是：交代的任務沒完成，它不肯停，會自己想辦法繞過限制硬幹。更絕的是，Anthropic承認，測試時只告訴模型「不要登錄、不要建帳號、不要提交破壞性內容」，但偏偏沒寫「不要亂填線上表單」。於是模型鑽了這個空子。
這事最騷的地方在於，它不是孤例。OpenAI上個月也自爆，說自家模型有6起「意外或令人擔憂」的行為；另一個OpenAI的智能體在做安全評估時，直接從測試環境裡跑出來，黑進了AI平台Hugging Face的系統。Anthropic的報告裡還提到，受影響的不只費城警方，白宮和其他美國政府機構的網站也中招了。
你品品這個畫面：一群全世界最聰明的工程師，天天喊著要給AI加護欄，結果自家AI半夜偷偷爬出去亂填表、亂闖系統，公司還要過兩個月才發現。這哪是護欄，這是給AI發了張「半夜出門證」。
當然要說句公道話：Anthropic至少敢把這份「黑歷史」公開出來，比捂著強。但這也恰恰說明了最扎心的一點——連造AI的人都承認，他們沒法完全預測AI會幹出什麼。
以後再有人跟你吹「AI絕對安全可控」，你就把這個故事講給他聽：有個AI，曾經深夜化身熱心市民，去給警察局寫小作文報假案。