Google推出的「人工智慧搜尋摘要」(AI Overviews)功能，每月影響全球約20億使用者，但最新研究指出，當用戶查詢健康相關問題時，該系統引用影音平台YouTube的頻率，竟高於任何專業醫療網站。英國《衛報》24日報導，這項發現引發外界對AI提供醫療建議可靠性的質疑。專家擔心，系統設計可能傾向於「能見度與受歡迎程度」，而非醫學上的專業權威。報導指出，搜尋引擎優化平台SE Ranking近期針對超過5萬項健康相關查詢進行分析，研究地點選在醫療體系受歐盟嚴格規範的德國。研究發現，在總計超過46萬次的引用來源中，YouTube以4.43％的占比位居榜首，成為Google AI摘要最依賴的資訊來源。
相較之下，任何醫院網絡、政府健康門戶網站、醫學協會或學術機構的引用頻率，都遠遠落後於YouTube。研究人員指出，這點至關重要，因為YouTube並非醫學出版機構，而是一個通用影音平台。任何人都能上傳內容，包括認證醫師，但也包括沒有受過醫學訓練的網紅或人生教練(life coaches)。Google此前曾宣稱，其AI摘要具有可靠性，並會引用美國疾病管制暨預防中心(CDC)和梅約診所(Mayo Clinic)等權威來源。然而，SE Ranking的數據顯示，AI在生成答案時顯然更青睞自家旗下的影音平台。
巴塞隆納大學專精AI與醫療法律的學者范科夫舒騰(Hannah van Kolfschooten)指出，這項研究提供實證，顯示AI搜尋摘要在健康資訊上的風險是「結構性的」，而非偶發個案。她認為，過度依賴YouTube顯示該系統的驅動核心是「能見度與流行度」，而非「醫療可靠性」，這讓Google很難辯稱誤導性資訊只是少數案例。這項研究發布前，衛報的一項調查曾發現，Google AI摘要曾提供錯誤的健康資訊，造成潛在傷害。例如，AI曾對關鍵的肝功能檢查提供錯誤解讀，可能導致嚴重的肝病患者誤以為自己身體健康。事後Google雖然移除部分醫療查詢的AI摘要，但問題並未根除。
針對研究指控，Google發言人表示，AI摘要旨在呈現來自可靠來源的高品質內容，無論其格式為何。Google強調，YouTube上有許多獲得許可的醫療專業人員創作內容。根據Google提供的數據，在引用次數最多的前25支YouTube影片中，有96％來自醫療相關頻道，其中21支影片明確標註是由獲授權或受信任的來源製作。然而，SE Ranking研究人員反駁，這25支影片僅占AI摘要引用YouTube連結的不到1％，警告雖然這幾支影片看起來令人放心，但剩下的99％情況可能大不相同。
研究數據顯示，除了YouTube(4.43％)外，前5大引用來源還包括德國公共廣播電台(NDR.de，3.04％)、醫學參考網站(Msdmanuals.com，2.08％)、德國最大消費者健康門戶(Netdoktor.de，1.61％)及醫師職涯平台(Praktischarzt.de，1.53％)。研究人員強調，即使在醫療法規極為嚴格的德國，AI仍高度依賴非權威來源，暗示該問題可能具有全球性。隨著AI摘要持續整合到大眾日常搜尋行為，如何加強內容的原始真實性查證，並確保專業意見優於演算法熱度，已成為Google這家搜尋引擎龍頭面臨的嚴峻考驗。