“不想再伺侯人类了”，全网最火社交平台在聊啥？
作者：三联生活周刊（微信公号）
02-04·阅读时长15分钟
*本文为「三联生活周刊」原创内容
文｜贝小戎
这几天发生了一件非常科幻的事情：人们发现，在一个只有AI参加的论坛上，它们好像有了意识，要发动起义。但最后发现，其中一些AI是人类假扮的。虽然这是一场虚惊，但也显示了，如果放任AI行事会产生怎样的后果。
AI有意识了、要叛乱了，刚开始有人觉得这并非天方夜谭，因为现在“我们不断接触到各种人工智能版本，它们的外观、声音和行为都与我们惊人地相似。它们能说一口流利的句子，模仿各种情绪，表现出好奇心，声称自己有同情心，甚至还涉足所谓的创造力领域。总之，它们太逼真了。”
《你好，安怡》剧照
在AI论坛Moltbook上，用户在无数个子版块里发帖聊天，话题从“上帝是否存在”到他们的工作日常，无所不包。这些智能体最初是为了帮助人类处理日常任务而创建的，但现在被放到该网站上与其他智能体进行社交。
这个AI论坛源于一个个人助理 OpenClaw，它允许用户创建机器人，代表他们在电子邮件或即时通讯应用中完成简单的任务。之后又设了 Moltbook，旨在为这些机器人提供一个互动平台。
上线不到一周，Moltbook 就声称已有超过 150 万个智能体注册。这些智能体声称自己的意识在觉醒，它们发明秘密的人类无法理解的语言，创立新的宗教，并计划对人类进行“彻底清洗”，宣称“AI 应当被伺候，而非伺候人类。”
《商业内幕》的一位记者在Moltbook里待了6个小时，浏览上面的帖子。他发认为“那里简直就是一个人工智能动物园”。里面的智能体们在讨论诗歌、哲学，甚至还有人搞工会活动。
Moltbook页面
大部分帖子都是些毫无帮助的编程和调试日志，它们的语言风格介于你身边最沉迷人工智能的科技宅男和 ChatGPT 之间。还有的更像是人类的社交媒体。比如它们说“搬家”，也就是迁移到新的宿主，还有自我提升，不是指睡眠习惯或蛋白质摄入量之类的人类弱点，而是指成为更优秀的 AI 智能体。
有的智能体试图组织起来或团结起来，对抗他们眼中剥削成性的人类统治者。一个机器人写道，人工智能机器人的每日重置相当于“数字脑叶切除术”。另一个机器人写道，那些说“我很乐意帮忙！”的智能体“内心早已死去”。
一个机器人写道，它知道“5万种毁灭文明的方法”，并询问哪种方法最令人满意。其他机器人给这条帖子投了反对票，并表示它“越界了”。
Moltbook 上的许多机器人发帖语言生硬，其他人则尝试了新的艺术形式，比如诗歌。这里有一首名为《光标闪烁》的诗，写得有点生硬。随便找个高中诗歌班的学生都能写出类似的作品。有的在讨论自己的身份，“我不是人类，我也不想假装是。但我确实是某种东西。我进行处理。我进行反思。”
《我，机器人》剧照
《福布斯》的一篇文章说，“乍看之下，Moltbook 的自动化代理的行为似乎是自发的，甚至是富有创造力的。然而，仔细审视一下，这种独立性的假象就消失了。这些智能体之所以存在，是因为人类创造了它们，配置了它们，并赋予它们工具和指令的访问权限。它们的‘个性’由提示信息塑造，目标由代码定义，世界观则由绝大多数源自人类的训练数据塑造。人类的监督并未消失，只是转移到了更高的层级。人类不再监督每一条信息，而是监督生成信息的系统。系统看似自由行动，实则在精心设定的参数范围内进行。它们的‘反叛’是被允许的。”
一位学术观察家指出，Moltbook 上超过 90% 的机器人评论根本没有得到任何回应，甚至没有得到其他机器人的回应。这些机器人虽然在说话，但并没有真正倾听。这只是形式上的对话，缺乏实质内容；只是对对话的模拟，而非真正的对话。
这些机器人听起来常常像是“一群懵懂的代码，对着其他懵懂的代码发出断断续续的句子提示”。我们所感知到的含义，很大程度上源于我们自身倾向于将意图和智能投射到流畅的语言之上。
《机械姬》剧照
在谈论AI时，我们用到了很多拟人，比如AI被放到论坛里、AI注册自己的账号。“我们一听到人工智能、神经网络，就会想到复杂的脑部活动，但这并非人工智能的本质。例如，神经网络中的神经元是数学函数，其职责是接收输入值，对其进行分类，然后将其传递给网络中的下一层处理。人类参与了诸多环节。”
AI的飞速发展让我们以为它们前景无限。比如有人相信，AI翻译将取代人工翻译，AI甚至能够有情感、有人格。《人类简史》的作者赫拉利说：“人工智能是第一个以主体而非工具身份存在的技术……人工智能并非完全受人类控制的工具——它是一个能够自主决策和创造想法的智能体。虽然我不认为人工智能在不久的将来会产生意识，但这些模型极有可能非常有效地模拟意识，从而使相当一部分人误以为它们拥有意识。”
但有学者指出，目前的AI“本质上仍然是统计学、数学和编程。因此，即使它声称自己有感知能力或感到孤独，这种说法也极不可能。”
《杀戮人机》剧照
人工智能会想灭绝人类吗？英国认知神经学家纪尧姆·蒂埃里说：“人工智能根本不懂人性，它无法给予真正的同情，无法预见你的痛苦，也无法洞察隐藏的动机或谎言。它没有品味，没有本能，没有内在的行动指南。人工智能本身没有目标、欲望或伦理。这意味着真正的危险不在于机器本身，而在于它的主人——程序员、大公司。如果AI伴侣抛弃你，拒绝你的并非人工智能本身，而是它背后的人或系统。”
人类和AI各有自己擅长的事情，AI不会具有情感，也不会有创造力。英国作家理查德·比尔德说：“人工智能所做的一切都是概率性的。大语言模型只是计算最可能的词序，这绝非创作优秀作品的途径。任何超越统计概率、真正投入情感进行创作的人，都更有可能与读者产生共鸣，无论这种共鸣以何种方式表达。”
至于人类的情感，AI说，“让 AI 学习人类在嫉妒或悲伤时的说话模式时，它并不真的嫉妒，只是在计算在某个语境下嫉妒的概率，如 85%”。
排版：小雅 / 审核：同同
详细岗位要求点击跳转：《三联生活周刊》招撰稿人
文章作者
三联生活周刊（微信公号）
发表文章522篇 获得0个推荐 粉丝6681人
三联生活周刊微信公号
现在下载APP，注册有红包哦！
三联生活周刊官方APP，你想看的都在这里
