根據《紐約時報》的一項最新深度分析，Google 的 AI Overviews（AI 搜索摘要）雖然在測試中表現出約 90% 的準確率，但由於 Google 龐大的全球搜索量，這剩下的 10% 錯誤率意味著每小時仍會產生數百萬個錯誤信息。
規模效應下的錯誤放大
這項研究指出，對於一個每天處理數十億次查詢的搜索引擎來說，即使是極小的錯誤比例，在絕對數量上也會變得非常驚人。這些錯誤涵蓋了從健康建議、安全指南到日常事實的各個領域，引發了公眾對 AI 驅動搜索可靠性的廣泛擔憂。
Google 的回應與挑戰
Google 已公開承認 AI Overviews 確實存在產生錯誤的可能性，並表示正在持續努力優化算法以減少錯誤答案。然而，如何在保持 AI 生成內容的靈活性與確保信息絕對準確之間取得平衡，仍然是 Google 面臨的重大技術挑戰。
「AI 搜索摘要的普及雖然提升了獲取資訊的速度，但也對用戶的資訊辨別能力提出了更高要求。」
給香港用戶的建議
在日常使用 AI 搜索工具時，我們建議用戶：
- 對於關鍵信息（如醫療、法律建議）務必交叉核對原始來源。
- 保持批判性思考，不要盲目相信 AI 生成的摘要。
- 學習如何撰寫更精確的 Prompt 以獲得更準確的答案。
在我們的 AI 應用課程中，我們也會教授學員如何識別 AI 生成內容中的潛在偏見與錯誤，確保在商業決策中正確使用 AI 工具。
資料來源：New York Times, Ars Technica