谷歌AI搜索惨败,竟教唆网友自杀!

AIGC动态4周前发布 AIera
208 0 0
谷歌AI搜索惨败,竟教唆网友自杀!

 

文章摘要


【关 键 词】 AI错误信息鉴别搜索结果可靠性谷歌行动

近期,谷歌AI Overview的搜索结果引起了广泛关注,其给出的部分答案荒谬至极,包括建议在披萨上使用胶水以防止芝士滑落,吃有毒蘑菇、杀人、跳桥等极端内容。这些回答不仅错误,甚至可能造成严重后果。事实上,这些回答大多源自于网络上的错误信息或讽刺内容,AI Overview将这些内容当做事实进行输出。

其中,一个引人注目的例子是,当用户询问如何防止披萨上的芝士滑落时,AI Overview建议在酱汁中加入1/8杯无毒胶水,这一回答实则源自于11年前Reddit上一个玩笑性质的帖子。此外,AI Overview还建议用户吃有毒的蘑菇、杀人、跳桥等,这些都是网络上不负责任的信息。

AI Overview的问题在于,它无法区分网络上的真实信息和错误信息,甚至将讽刺内容当作事实。例如,有网站故意以白底白字隐藏虚假信息,AI Overview却将其抽取出来作为答案。此外,AI Overview还犯了常识性错误,如时间计算错误,甚至错误地表示美国前总统Andrew Johnson多次从同一大学毕业

针对这些问题,谷歌已经开始采取行动,删除错误内容并改进AI系统。然而,这一事件再次引发了对AI搜索准确性和可靠性担忧。在AI技术不断发展的今天,确保其输出信息的真实性和准确性显得尤为重要。谷歌此次的教训提醒我们,AI系统在处理网络信息时,需要更加谨慎和严谨,以避免误导用户。

网易AI智能绘画

原文和模型


【原文链接】 阅读原文 [ 4944字 | 20分钟 ]
【原文作者】 新智元
【摘要模型】 glm-4
【摘要评分】 ★★★★★

© 版权声明
讯飞星火大模型

相关文章

星火内容运营大师

暂无评论

暂无评论...