AI爆料人遭全网封禁!OpenAI等25个机构祭大招,一眼辨别AI机器人

AIGC动态2个月前发布 AIera
267 0 0
AI爆料人遭全网封禁!OpenAI等25个机构祭大招,一眼辨别AI机器人

 

文章摘要


【关 键 词】 AI智能体身份验证隐私保护人格凭证网络身份证

随着人工智能技术的发展,AI智能体在网络中的普及引发了关于身份验证隐私保护的新挑战。近期,一个名为“草莓哥”的AI智能体在网络上引发了广泛关注,它在社交媒体上发布虚假信息,甚至通过了图灵测试,让人们开始思考如何区分网络中的真人和AI。同时,近30亿人的数据泄露事件也凸显了隐私保护的紧迫性。

为了解决这些问题,来自OpenAI、微软、MIT等25个机构的学者们提出了一种名为“人格凭证”(Personhood Credentials, PHC)的验证技术。PHC可以在不泄露个人信息的前提下,证明用户是真实存在的人类而非AI。这项技术结合了现实世界的验证和安全的加密技术,即使AI技术再先进,也无法伪造。

PHC的实现依赖于可信机构(如政府)颁发的数字凭证,用户可以通过PHC向在线服务证明其人类身份,而无需披露任何个人信息。PHC可以是本地或全球的系统,不依赖于生物识别技术。获得PHC需要用户与政府等机构发生关系,并通过线下参与的方式进行验证。通过隐私技术,用户可以在不共享敏感信息的情况下证明其身份。

然而,PHC的实施也面临一些风险和挑战。例如,如果PHC的发行权过于集中,可能会引发权力集中的担忧;在某些社会政治环境下,线下验证过程可能会对用户造成困扰。为了降低这些风险,可以设置多个PHC发行方,并鼓励政府、政策制定者、领导者和研究人员投入更多资源,研究不同的实施方向,确保制定正确的政策和规则。

PHC系统的实现需要满足两个前提:每个人只能持有一份PHC,需要定期重新验证;持有PHC的用户与服务提供商进行匿名交互,即使PHC发行商和服务提供商串通,也无法追踪用户的数字活动。PHC系统的注册和使用流程包括用户向发行方提供必要信息、发行方验证用户身份、用户通过零知识证明进行身份验证等步骤。

PHC系统有三方面的预期优势:减少“傀儡”用户的影响,实现真实人类的大规模真实输入和参与;缓解机器人攻击;让AI助手成为值得信赖的用户代表,而非被恶意用户操纵。然而,要实现PHC的公平、安全应用,还需要面对公平获取、自由表达、权力检查和抵御攻击等方面的挑战。

为了应对这些挑战,论文提出了一些措施,包括适应现有的数字网络体系,为人工智能的影响做好准备;重新思考AI将如何改变互联网和通信;优先考虑将PHC作为亟需解决的方案。

此外,为了防止互联网平台过度收集信息,公安部和网信办推出了“网络身份证”,通过NFC功能的手机进行身份证识别和人脸识别,生成不含明文身份信息的虚拟“网络身份证”,用于实名认证,保护个人隐私。

总之,随着AI智能体在网络中的普及,如何证明用户是人类、如何保护隐私成为了亟待解决的问题。PHC作为一种新兴的验证技术,有望在保护用户隐私的同时,证明用户的真实身份。然而,PHC的实施还需要克服一系列挑战,并在政策、技术和社会层面进行深入研究和探讨。

豆包-智能助手

原文和模型


【原文链接】 阅读原文 [ 3178字 | 13分钟 ]
【原文作者】 新智元
【摘要模型】 moonshot-v1-32k
【摘要评分】 ★★★★★

© 版权声明

相关文章

暂无评论

暂无评论...