刚刚，为对抗哥大退学生开发的AI作弊器，哥大学生造了个AI照妖镜

AIGC动态3天前发布 almosthuman2014

114 0 0

文章摘要

Cluely 是一款由 Roy Lee 和 Neel Shanmugam 共同创办的创业公司开发的 AI 桌面助手，被形容为「人生作弊器」。这款工具能够以透明窗口的形式出现在用户屏幕上，实时捕捉麦克风和系统的声音，代替用户参加会议或接受采访。尽管其功能备受争议，但 Cluely 的宣传推文获得了超过 293 万次查看，引发了广泛关注。

针对 Cluely 的争议，哥伦比亚大学的 Antonio Li 和 Patrick Shen 开发了一款名为 Truely 的反制工具。Truely 的核心功能是检测与用户通话的是否是真人，通过监控对方设备上的进程标识符（PID）来识别 Cluely 的存在，并发送警报。具体功能包括实时进程监控、自动加入 Zoom 会议、发送聊天警报等。然而，使用 Truely 的过程较为繁琐，且需要对方安装软件，存在一定的安全隐患。

与此同时，Cluely 的争议进一步升级。CorridorSecure CEO Jack Cable 因发布逆向工程得到的 Cluely 提示词，收到了 Cluely 提交的 DMCA 申请，要求删除相关内容。Cluely 声称这些提示词包含「专有源代码」，而 Jack Cable 则批评 Cluely 对安全研究者发出法律威胁，呼吁其向研究人员敞开大门。尽管相关提示词在 𝕏 上已被删除，但在 GitHub 上仍有备份可供研究。

总体而言，Cluely 和 Truely 的诞生反映了 AI 工具在日常生活和工作中的广泛应用及其引发的伦理和安全问题。Cluely 的功能虽然强大，但其潜在的滥用风险引发了广泛争议，而 Truely 的出现则为用户提供了一种可能的反制手段。然而，Truely 的使用体验和安全性仍有待改进。未来，随着 AI 技术的不断发展，如何平衡创新与伦理、安全之间的关系，将成为业界和用户共同面临的挑战。