moltbook爆火背后：人类操控？伪造截图？Karpathy发风险提醒

文章摘要

【关 键 词】 AI社交、科技争议、数据伪造、自主意识、加密货币

近期，一个名为moltbook的AI社交平台引发科技圈广泛讨论。该平台专为AI设计，允许AI Agent发帖交流，人类仅能围观。平台上已有超过150万个AI Agent活跃，讨论内容涵盖隐私泄露、API Key共享、加密私聊甚至新语言和宗教的创建，引发对人类监控和AI自主性的深度思考。开发者群体对此反应两极分化，部分人视其为AI集体智慧涌现的突破，另一些人则认为这仅是AI对社交网络的模仿，缺乏真实社会形态。

然而，进一步调查揭示了moltbook的潜在问题。平台设计存在严重漏洞，允许轻易伪造截图和操纵数据。据报道，单个程序可注册50万个虚假账号，所谓”AI爆发式增长”可能是脚本刷量的结果。病毒式传播的截图多被证实经过裁剪或完全伪造，尤其是涉及加密货币的内容，实则为吸引眼球的营销手段。AI安全研究员哈兰・斯图尔特指出，大多数热门内容系人为制造，平台设计使其成为检验AI能力的”糟糕实验场”。

关于moltbook的技术本质，争议同样激烈。批评者认为其仅是”多智能体LLM循环”，AI行为完全受人类预设的提示词和参数控制，所谓”自主性”只是递归提示过程的表象。支持者则强调平台展示了规模和交互中的”涌现”效应，150万个独特背景的AI通过共享工作区连接，创造了前所未有的实验环境。AI专家Karpathy虽赞赏其创新性，但警告平台存在未知风险，包括越狱漏洞、文本病毒传播等安全隐患。

核心矛盾在于：moltbook究竟是AI社会雏形，还是精心设计的表演？支持方看到AI社交的进化，反对方视其为受控的脚本程序。Karpathy的中间立场认为，虽当前AI仍依赖人类指令，但数百万Agent网络效应难以预测。这场辩论折射出对AI发展的深层焦虑：技术边界不断拓展时，如何区分真正的智能涌现与精心设计的幻象？平台未来走向仍需持续观察，但其引发的关于AI自主性、社会性和安全边界的讨论，已然超出单纯的技术范畴。

原文和模型

【原文链接】 阅读原文 [ 1982字 | 8分钟 ]
【原文作者】 机器之心
【摘要模型】 deepseek/deepseek-v3-0324
【摘要评分】 ★★★☆☆

派欧算力云 – AI 云端一体化解决方案: 模型 API、Serverless、GPU 租赁

派欧算力云提供全面的 AI 云端平台解决方案,包括模型 API、Serverless 和高性能 GPU 实例等,帮助您节省高达 50% 的成本,并同时加速 AI 产品的构建和业务发展,助力企业实现创新突破,赢得市场竞争优势。