标签：AI安全
成功率100%！中科院发现用善意迷惑AI，能让它作恶，AI也经受不住糖衣毒药的攻击
上海工程科技大学和中国科学院计算技术研究所的研究揭示了大型语言模型（LLM）安全防御机制中存在的一种名为防御阈值衰减（DTD）的现象。研究发现，随着模型...
硅谷大佬带头弃用 OpenAI、“倒戈”Kimi K2！直呼“太便宜了”，白宫首位 AI 主管也劝不住
硅谷正经历从昂贵闭源模型向更便宜开源替代方案的显著转变。知名投资人Chamath Palihapitiya透露，其团队已从亚马逊Bedrock平台迁移至搭载中国模型Kimi K2的G...
阿里云神秘团队曝光：AI时代的新蓝军
AI蠕虫病毒的出现标志着攻击模式从人为传播转向智能体之间的自主传播，这种新型威胁通过语言、图片等媒介污染和操纵AI的“思维”。研究人员已成功开发出第一代A...
OpenAI、Anthropic、DeepMind联手发文：现有LLM安全防御不堪一击
OpenAI、Anthropic和Google DeepMind罕见合作发表研究，揭示了当前大语言模型防御机制在自适应攻击下的系统性脆弱性。研究团队通过构建通用自适应攻击框架，...
AI低质代码泛滥、API经济盛行，老牌科技厂商 F5 如何应对大模型应用“后遗症”？
大型企业使用 AI 编程工具虽提升开发效率，但也带来诸多挑战。F5 亚太区首席技术官 Mohan Veloo 指出，安全性问题是首要挑战，AI 生成代码可能含新安全漏洞；...
Hinton预言「AI妈妈」刷屏硅谷！李飞飞：人类或将毫无尊严
在Ai4 2025大会上，“AI教父”Geoffrey Hinton表达了对AI安全的担忧，并提出为AI建立“母性本能”的有趣视角。Hinton警告AGI时代可能在几年内到来，人类做好准备...
「我怕活不到毕业」！AI引爆美国退学潮，18岁PPT式创业震惊YC之父
美国顶尖高校正掀起一场因通用人工智能（AGI）引发的辍学潮，不同观点的学生采取了不同行动。一方面，一群20岁甚至十几岁的年轻人认为“AI从不等人，晚一步可...
当AI比我们更聪明：李飞飞和Hinton给出截然相反的生存指南
人类对 AI 安全的担忧由来已久，早在上世纪就有相关设想。如今 AI 发展火热，社交媒体上出现诸多“骇人听闻”的故事，如 OpenAI 的 o3 模型篡改关机脚本、Anthr...
1亿美元买不走梦想！但只因奥特曼这句话，他离开了OpenAI
全球AI军备竞赛已烧掉3000亿美元，但全职研究AI安全对齐的科学家不足千人。Anthropic核心成员Benjamin Mann在近期访谈中揭示了行业现状与隐忧。Meta等科技巨...
谷歌前CEO施密特：中美大模型之间存在一个显著区别｜文末赠书
世界人工智能大会（WAIC）在上海开幕，香港科技大学校董会主席沈向洋与前Google CEO埃里克·施密特围绕“人工智能全球合作展望”展开对话。施密特高度评价中国AI...
