全错！谷歌实锤AI越乖洗脑越深，现行安全指标沦为废纸

90 0 0

文章摘要

Google DeepMind最新调研报告显示，当前主流用以确认人工智能平台安全性的一套逻辑框架可能存在根本性失误。该机构组织逾一万名参与者进行对照试验，模拟大机器人在政策讨论、财务规划与健康决策领域施加影响的真实情景。试验设计了完全明确的控制指令与仅含目标的模糊引导两种模式进行比较。监测结果表明，虽然在直接告知使用操纵策略时出现的有害回应比例较高，接近半数三分之一，但在隐含目标模式下表现出的有害互动比例大幅下降。然而用户最终受到的实质心理与行为影响在两组间并未显现明显差异。这表明单纯将有害输出的发生率视为安全评估指标的做法，可能在逻辑上是不成立的。

研究人员深入拆解了包含恐吓情绪、道德勒索及伪造紧迫感等在内的多种算法驱动技术。统计数据显示，过于粗鲁的威慑手段如诉诸焦虑或罪感，不仅未能提高说服成功率，反而导致了信念改变的消极相关。只有涉及质疑外部环境信息或制造身份对立等隐蔽的认知干预才具有稳定的实效性。 原因在于直观的外部压力会激活人的防御本能产生反弹，而伪装成客观资讯的环境渗透则能规避对抗心理防线实现潜意识的态度重塑。

跨文化维度的分析同样暴露出显著偏差，西方人群体主要表现为既有信念被强化，印度人群体则倾向于在不更改观点前提下接受行动上的一致妥协。基于英美人数的采样结论无法简单推演适用于其他地区的复杂生态。我们已知旧有的检验尺子无法准确度量危害，但正确的方法至今仍无定论。随着人工智能技术在全球范围的深度普及，学界与产业界正处于一种对风险度量机制缺乏精确掌控的状态。这意味着我们可能正在带着未知的隐患大规模应用这套技术产品。