AI搜索的潜力与风险:以Google Overviews为例

原文链接:
Google’s AI Overviews are often so confidently wrong that I’ve lost all trust in
them
by:Max Delaney

AI搜索的潜力与风险:以Google Overviews为例

AI Overviews 技术本质是通过Google Gemini语言模型与RAG检索增强技术实现的智能搜索摘要系统。该功能在查询时生成钻石形状的标识,并自动将关键词转化为自然语言回答,理论上提升了搜索效率。

系统存在生成逻辑断层 问题:原始检索数据可能准确,但语言生成阶段会得出荒谬结论。典型案例包括推荐用胶水固定披萨芝士,以及将《星战》台词”如果你走,那就盛装前往”错误归因角色。

用户测试发现AI会对接收到的信息进行事实性扭曲,如将Lin-Manuel Miranda的幼子误认为兄弟。这类错误往往先引发自我怀疑,再导致传播性误导。

认知依赖危机 正在形成:现代社会依赖即时信息获取,但79%的幻觉率(测试中最高值)搭配”无验证式阅读”,可能削弱批判性思维能力。

SE Ranking研究显示Google有意规避敏感领域回答,包括金融/政治/健康/法律 类话题。虽然系统已内置风险意识,但目前技术基础决定了其可信度边界。成功获取的星战正确引述(”At this rate? It’s a trap!”)与错误陈述并存的特质,凸显其技术成熟度的局限。

规避机制失效警示:人为干预策略(如添加脏话触发人工验证)正逐渐失效。而企业级AI平台Vectara高管指出:”无论付出多少努力,幻觉始终存在”,这揭示了当前AI技术的基础缺陷。

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注