标签：AI安全
效率提升VS安全暴露，企业级AI落地如何应对“双刃剑”丨ToB产业观察
将隐藏“白色提示词”的PDF文件导入商业大模型，隐形文字能操控模型判定伪造简历“完全符合录用标准”，3分钟内骗取27份企业offer。腾讯云副总裁于旸揭示的这一案...
颤抖吧，Bug！OpenAI放出GPT-5「夜行神兽」，命中92%漏洞
OpenAI近日推出基于GPT-5的自主安全研究智能体Aardvark，该系统通过大语言模型技术实现代码漏洞的自动化识别与修复。Aardvark开创了'防御者优先'的新范式，在...
成功率100%！中科院发现用善意迷惑AI，能让它作恶，AI也经受不住糖衣毒药的攻击
上海工程科技大学和中国科学院计算技术研究所的研究揭示了大型语言模型（LLM）安全防御机制中存在的一种名为防御阈值衰减（DTD）的现象。研究发现，随着模型...
硅谷大佬带头弃用 OpenAI、“倒戈”Kimi K2！直呼“太便宜了”，白宫首位 AI 主管也劝不住
硅谷正经历从昂贵闭源模型向更便宜开源替代方案的显著转变。知名投资人Chamath Palihapitiya透露，其团队已从亚马逊Bedrock平台迁移至搭载中国模型Kimi K2的G...
阿里云神秘团队曝光：AI时代的新蓝军
AI蠕虫病毒的出现标志着攻击模式从人为传播转向智能体之间的自主传播，这种新型威胁通过语言、图片等媒介污染和操纵AI的“思维”。研究人员已成功开发出第一代A...
OpenAI、Anthropic、DeepMind联手发文：现有LLM安全防御不堪一击
OpenAI、Anthropic和Google DeepMind罕见合作发表研究，揭示了当前大语言模型防御机制在自适应攻击下的系统性脆弱性。研究团队通过构建通用自适应攻击框架，...
AI低质代码泛滥、API经济盛行，老牌科技厂商 F5 如何应对大模型应用“后遗症”？
大型企业使用 AI 编程工具虽提升开发效率，但也带来诸多挑战。F5 亚太区首席技术官 Mohan Veloo 指出，安全性问题是首要挑战，AI 生成代码可能含新安全漏洞；...
Hinton预言「AI妈妈」刷屏硅谷！李飞飞：人类或将毫无尊严
在Ai4 2025大会上，“AI教父”Geoffrey Hinton表达了对AI安全的担忧，并提出为AI建立“母性本能”的有趣视角。Hinton警告AGI时代可能在几年内到来，人类做好准备...
「我怕活不到毕业」！AI引爆美国退学潮，18岁PPT式创业震惊YC之父
美国顶尖高校正掀起一场因通用人工智能（AGI）引发的辍学潮，不同观点的学生采取了不同行动。一方面，一群20岁甚至十几岁的年轻人认为“AI从不等人，晚一步可...
当AI比我们更聪明：李飞飞和Hinton给出截然相反的生存指南
人类对 AI 安全的担忧由来已久，早在上世纪就有相关设想。如今 AI 发展火热，社交媒体上出现诸多“骇人听闻”的故事，如 OpenAI 的 o3 模型篡改关机脚本、Anthr...
