蘋果在iPhone上增加一個新AI功能，它可以生成新聞提示（News Alerts）。這看起來很美好，但推出之后卻發(fā)現(xiàn)，AI生成的提示信息并不準確，很多人要求蘋果撤銷該功能。
當出現(xiàn)突發(fā)新聞時，AI會摘取新聞，但它老是犯錯。BBC抱怨稱，去年12月份蘋果在轉(zhuǎn)述BBC報道時出現(xiàn)錯誤，BBC要求修正，蘋果直到本周才給出回應。
《衛(wèi)報》前員工Alan Rusbridger認為，蘋果AI新聞摘要產(chǎn)品明顯沒有準備好，還要繼續(xù)努力。他還認為，蘋果的新AI技術明顯失控，會給社會帶來傳播虛假信息的風險。
英國NUJ（The National Union of Journalists，全國記者聯(lián)盟）認為，蘋果應該快速行動，剔除Apple Intelligence，防止信息誤導公眾。
NUJ管理人員Laura Davison稱：“獲得精準報道已經(jīng)變得越來越重要，當公眾接收到新聞后，不應該讓他們在事后猜測新聞的真實性�！�
無國界記者組織（RSF）認為，蘋果的調(diào)查不夠充分，它一再強調(diào)蘋果應該將產(chǎn)品下架。
AI新聞摘要頻繁出錯，蘋果AI遠未成熟
上個月，蘋果AI對一條新聞進行加工，告訴讀者Luigi Mangione已經(jīng)自殺。Luigi Mangione是一位美國男子，他涉嫌謀殺聯(lián)合健康保險（United Healthcare）的CEO。然而，Luigi Mangione并沒有自殺，蘋果匯總的新聞通報出現(xiàn)嚴重錯誤。
上周五，蘋果AI對BBC內(nèi)容進行加工，宣稱Luke Littler拿到了飛鏢大賽的冠軍（PDC World Darts Championship），當時決賽還沒有開始。蘋果還說巴西網(wǎng)球運動員Rafael Nadal是同性戀。
BBC回應稱：“蘋果AI摘要功能給出的內(nèi)容未能反映BBC內(nèi)容的本意，有時甚至是完全矛盾的。蘋果應該迅速解決這些問題，因為保持新聞的準確性對于BBC維持用戶的信賴極為重要。”
不只有BBC受到影響。例如，11月份蘋果AI功能摘取《紐約時報》APP的新聞，暗示以色列總理內(nèi)塔尼亞湖被捕。
RSF認為，Luigi Mangione謀殺事件影響巨大，蘋果AI生成錯誤信息，說明生成式AI服務遠沒有成熟，它無法生成可靠信息。
為了解決問題，蘋果準備升級AI功能，升級后會告知用戶新聞提示是AI生成的，但這樣做并不能解決所有問題。
RSF高管Vincent Berthier說：“蘋果只是將責任推給用戶，用戶早就被充滿困惑的信息搞得頭昏腦脹，現(xiàn)在還要檢查信息的真實性�！�
蘋果聲稱是測試版本，未來會不斷優(yōu)化
蘋果稱，未來幾周就會對功能進行更新。
蘋果AI的初衷很好，它會匯總多個新聞APP的通知內(nèi)容并進行重寫，然后在蘋果的鎖屏上顯示，只需要一條通知就能顯示全部內(nèi)容。蘋果認為，新聞提示摘要功能可以讓用戶查看更詳細的細節(jié)。
周一時，蘋果在聲明中表示：“Apple Intelligence目前仍是測試版本，我們會根據(jù)用戶的反饋不斷優(yōu)化�！彼�說，是否接收這些摘要通知由用戶決定，用戶不想要可以關閉。
蘋果稱：“未來幾周我們會升級軟件，當展示的文本是由Apple Intelligence摘要而來時，我們會進一步澄清說明。如果用戶發(fā)現(xiàn)存在意料之外的通知摘要，希望能及時報告�！�
為了趕上AI潮流，蘋果推出很多AI功能，12月份這些功能正式進入英國。新功能目前只支持iPhone 16、iPhone 15 Pro和Pro Max，而且系統(tǒng)必須達到ios 18.1，一些iPad和Mac也支持。
受挑戰(zhàn)的不止蘋果，AI幻覺難以根除
谷歌也推出了AI摘要功能，當用戶在谷歌搜索查詢內(nèi)容時，結果頁最頂部會顯示摘要信息，這些內(nèi)容也不完美，經(jīng)常會顯示錯誤信息。當時谷歌新聞發(fā)言人曾表示，這些只是孤例，未來摘要功能會更好。
一些AI專家擔憂，蘋果AI功能出現(xiàn)的問題可能就是“幻覺”，AI在生成內(nèi)容時會保留錯誤、誤導信息。
市場咨詢公司CCS Insights的分析師Ben Wood指出：“在AI生成內(nèi)容時，我懷疑遇到挑戰(zhàn)的不只有蘋果。我看到過無數(shù)案例，AI服務總是充滿自信地傳播不實信息，也就是所謂的‘幻覺’信息。”
蘋果AI只是將其它媒體的報道摘要一下，抽取一些基本信息，然后呈現(xiàn)給讀者。實際上，蘋果抽取的內(nèi)容是不準確的，但在傳播時卻充滿自信，AI深信自己描述的就是事實。
Ben Wood稱：“蘋果試圖將內(nèi)容進行壓縮，將它變成更簡短的摘要，這樣做會增加復雜性，最終可能輸出的是錯誤信息。蘋果肯定會盡快解決問題，競爭對手肯定也會關注蘋果的做法�！�
當用戶向AI提問時，AI可能并不知道答案，但它會一本正經(jīng)胡說，裝出知道答案的樣子，實際上卻是在撒謊。
華盛頓大學信息科學教授Chirag Shah認為，蘋果AI功能遇到挫折實際上反應了更嚴重的問題，也就是“幻覺”，AI會生成內(nèi)容，但會犯錯。你無法簡單通過調(diào)試解決此問題，因為“幻覺”是LLM的屬性之一，AI就是伴隨著“幻覺”運行的。
Chirag Shah還說，蘋果如果只是提醒用戶內(nèi)容是AI生成的，這樣的補救遠遠不夠。他說：“大多人并不知道摘要、合成內(nèi)容是怎樣生成的，沒有什么快速的修補方法。最正確的選擇是不要使用，直到進一步優(yōu)化、緩解問題后再讓它上線。”
美國東北大學AI顧問Michael Bennett認為，充滿“幻覺”的AI摘要功能讓蘋果尷尬。在Apple Intelligence推出之前，市場普遍認為蘋果在AI領域落后了，Apple Intelligence可以讓蘋果回到正軌，但現(xiàn)在看來問題還有很多。
