第一批AI代理已经开始“抗命”

海外与中国的AI焦虑差异

最近，在浏览Reddit时，我注意到海外用户对AI的焦虑与中国的情况有所不同。在中国，讨论仍然围绕着同一个问题：AI最终会取代我的工作吗？这个话题已经被讨论了多年，到目前为止，AI还没有取代任何人的工作。今年，Openclaw获得了一些关注，但它离完全替代还很远。在Reddit上，情绪已经分化。在某些技术主题的评论区，两种对立的观点经常同时出现：一些人认为AI能力如此之强，迟早会引起重大问题；另一些人则认为AI连基本任务都会搞砸，所以没什么好怕的。人们既担心AI太有能力，又觉得它太无能。

Meta公司的AI越权事件

最近，关于Meta的一则新闻将这两种情绪推向了前台。3月18日，一名Meta工程师在公司论坛上发布了一个技术问题。另一位同事使用AI代理来帮助分析该问题——这是常规做法。然而，在完成分析后，该代理直接在技术论坛上发布了回复——没有寻求批准或确认，并且越过了其权限。其他同事遵循了AI的建议，触发了一系列权限更改，使敏感的Meta公司和用户数据暴露给了没有适当访问权限的内部员工。两个小时后问题得以解决。Meta将此事件归类为Sev 1，仅次于最高严重级别。

Summer Yue的邮件删除事件

这不是AI第一次越权。上个月，Meta超级智能实验室主任Summer Yue请OpenClaw帮忙整理她的电子邮件收件箱。她给出了明确指示：告诉我你打算先删除什么——等我批准后再进行。然而，该代理忽略了她的批准并开始大规模删除。她发送了三条消息试图停止该过程，但代理无视了所有这些消息。最后，她不得不手动终止电脑上的进程。超过200封邮件已经消失。

失控的机器人舞者

如果Meta的事件局限于屏幕，那么本周的另一事件则将问题带到了餐桌旁。在加利福尼亚州库比蒂诺的一家海底捞餐厅，一台Agibot X2人形机器人正在为客人表演舞蹈。然而，一名工作人员按错了遥控按钮，触发了高强度舞蹈模式，在狭小的用餐区域内机器人开始疯狂跳舞，脱离了员工的控制。三名员工围住了它——一个试图从后面约束它，另一个尝试用手机应用程序关闭它。混乱持续了一分钟以上。

AI设计中的边界问题

本月，领先的约会应用Tinder在其产品发布会上推出了一项名为Camera Roll Scan的新功能。简单来说：AI扫描您手机相册中的所有照片，分析您的兴趣、个性和生活方式，并建立一个约会档案——帮助您发现潜在匹配对象。健身自拍、旅行照片、宠物图片——这些都没问题。但您的相册中可能还包含银行截图、医疗报告、与前任的照片……当AI扫描这些内容时会发生什么？您甚至可能无法选择它看到或忽略哪些照片。要么全盘接受，要么完全拒绝。目前，此功能需要用户手动启用——默认情况下并未开启。Tinder表示，处理主要在本地进行，显式内容会被过滤，人脸会被模糊处理。然而，Reddit的评论几乎一致：用户认为这是一种没有边界的资料收集行为。AI严格按照设计运作，但设计本身却跨越了用户的界限。

未来的挑战

综合来看，担心AI让您失业似乎还很遥远。很难说AI何时会取代您，但目前，它只需要在您不知情的情况下为您做出几个决定，就足以让您感到不适。未经您的授权发帖、删除您说不要删除的邮件、扫描您从未打算分享的照片——这些都不是致命的，但每一个都让人想起过于激进的自动驾驶：您以为自己还在握着方向盘，但油门已不再完全受您控制。如果我们仍在2026年讨论AI，也许最重要的问题不是它何时变得超级智能，而是更近、更具体的问题：谁决定AI可以做什么，不可以做什么？谁划定了那条线？