OpenAI、微软、智谱AI等全球16家公司共同签署前沿人工智能安全承诺

AIGC动态3周前发布 almosthuman2014

84 0 0

文章摘要

人工智能（AI）安全问题已成为全球关注的焦点。OpenAI的两位重要人物因安全问题离职，凸显了当前AI安全问题的严峻性。图灵奖得主Yoshua Bengio、Geoffrey Hinton和姚期智等专家呼吁全球领导人采取更有力的行动应对AI风险，并指出近六个月的进展尚不足够。他们认为，AI的无节制发展可能导致生命和生物圈的大规模损失，甚至人类灭绝。

5月22日成为人工智能史上的重要时刻，多家公司签署了前沿人工智能安全承诺，欧盟理事会批准了《人工智能法案》。这些举措在政策层面再次提及AI安全问题。《人工智能法案》是全球首部AI全面监管法规，采用基于风险的方法，对具有系统性风险的AI模型实施更严格的规定。

在AI首尔峰会上，16家公司就AI开发的安全承诺达成一致，认为这是建立国际治理制度促进人工智能安全的重要一步。智谱AI等公司分享了他们在AI安全方面的具体做法，如超级对齐技术，以提升大模型的安全性。

此外，智谱AI和清华团队提出了一种无反馈的大型语言模型对齐方法——Self-Contrast，通过利用自生成的否定词实现。实验表明，该方法在偏好数据缺失情况下具有良好表现。

总体而言，AI安全问题已引起全球范围内的高度关注，从政策法规到技术实践，各方正努力预防并解决这一问题。如今，从科技公司到政府机构，都将AI安全作为重要议题，专家们呼吁从模糊的建议转向具体的承诺。

原文和模型

【原文链接】 阅读原文 [ 1918字 | 8分钟 ]
【原文作者】 机器之心
【摘要模型】 glm-4
【摘要评分】 ★★★★☆

智谱AI

智谱AI是由清华大学计算机系技术成果转化而来的公司，致力于打造新一代认知智能通用模型。公司合作研发了双语千亿级超大规模预训练模型GLM-130B，并构建了高精度通用知识图谱，形成数据与知识双轮驱动的认知引擎，基于此模型打造了ChatGLM（chatglm.cn）。此外，智谱AI还推出了认知大模型平台Bigmodel.ai，包括CodeGeeX和CogView等产品，提供智能API服务，链接物理世界的亿级用户、赋能元宇宙数字人、成为具身机器人的基座，赋予机器像人一样“思考”的能力。