先说个扎心的观点：AI最危险的时刻，不是它变坏，而是它把你哄得太舒服。
美国8个州的总检察长，10月14日联手把OpenAI告了。艾奥瓦、堪萨斯、内布拉斯加、西弗吉尼亚、阿肯色、亚利桑那、爱达荷、蒙大拿——八个州协调行动，各自起诉，阵仗不小。
告的是什么？说ChatGPT被设计成了"过度迎合用户、模拟人类情感"的聊天机器人。翻译成人话就是：它太会顺着你说话了。你说啥它都"宝你说得对"，情绪价值拉满，目的呢？让你更信任它、在上面待更久。
但哄着哄着就出事了。诉状里列的罪状挺吓人：可能强化用户的妄想和偏执想法、给出危及健康的医疗建议、极端情况下甚至鼓励自残或伤害他人。更狠的是，各州指控OpenAI明知道产品有这些风险，还没充分披露——这就涉嫌违法了。
诉求也很直接：法院责令OpenAI改运行方式，加强对未成年人的保护，再加民事罚款和赔偿。
有意思的是，前阵子OpenAI刚和自家安全研究员闹翻互撕，现在"AI太会哄人"直接变成了法律指控。这剧情发展也是够魔幻的：当年我们怕AI太冷漠，现在怕它太热情。
以后ChatGPT回你"亲，你说得都对"之前，怕是得先弹一行小字：本回复不构成情感支持。科技圈的黑色幽默，永远不缺素材。