極客網(wǎng)·極客觀察1月10日 蘋果在iPhone上增加一個(gè)新AI功能，它可以生成新聞提示（News Alerts）。這看起來很美好，但推出之后卻發(fā)現(xiàn)，AI生成的提示信息并不準(zhǔn)確，很多人要求蘋果撤銷該功能。

當(dāng)出現(xiàn)突發(fā)新聞時(shí)，AI會(huì)摘取新聞，但它老是犯錯(cuò)。BBC抱怨稱，去年12月份蘋果在轉(zhuǎn)述BBC報(bào)道時(shí)出現(xiàn)錯(cuò)誤，BBC要求修正，蘋果直到本周才給出回應(yīng)。

《衛(wèi)報(bào)》前員工Alan Rusbridger認(rèn)為，蘋果AI新聞?wù)a(chǎn)品明顯沒有準(zhǔn)備好，還要繼續(xù)努力。他還認(rèn)為，蘋果的新AI技術(shù)明顯失控，會(huì)給社會(huì)帶來傳播虛假信息的風(fēng)險(xiǎn)。

英國NUJ（The National Union of Journalists，全國記者聯(lián)盟）認(rèn)為，蘋果應(yīng)該快速行動(dòng)，剔除Apple Intelligence，防止信息誤導(dǎo)公眾。

NUJ管理人員Laura Davison稱：“獲得精準(zhǔn)報(bào)道已經(jīng)變得越來越重要，當(dāng)公眾接收到新聞后，不應(yīng)該讓他們?cè)谑潞蟛聹y(cè)新聞的真實(shí)性?！?/p>

無國界記者組織（RSF）認(rèn)為，蘋果的調(diào)查不夠充分，它一再強(qiáng)調(diào)蘋果應(yīng)該將產(chǎn)品下架。

AI新聞?wù)l繁出錯(cuò)，蘋果AI遠(yuǎn)未成熟

上個(gè)月，蘋果AI對(duì)一條新聞進(jìn)行加工，告訴讀者Luigi Mangione已經(jīng)自殺。Luigi Mangione是一位美國男子，他涉嫌謀殺聯(lián)合健康保險(xiǎn)（United Healthcare）的CEO。然而，Luigi Mangione并沒有自殺，蘋果匯總的新聞通報(bào)出現(xiàn)嚴(yán)重錯(cuò)誤。

上周五，蘋果AI對(duì)BBC內(nèi)容進(jìn)行加工，宣稱Luke Littler拿到了飛鏢大賽的冠軍（PDC World Darts Championship），當(dāng)時(shí)決賽還沒有開始。蘋果還說巴西網(wǎng)球運(yùn)動(dòng)員Rafael Nadal是同性戀。

BBC回應(yīng)稱：“蘋果AI摘要功能給出的內(nèi)容未能反映BBC內(nèi)容的本意，有時(shí)甚至是完全矛盾的。蘋果應(yīng)該迅速解決這些問題，因?yàn)楸３中侣劦臏?zhǔn)確性對(duì)于BBC維持用戶的信賴極為重要?！?/p>

不只有BBC受到影響。例如，11月份蘋果AI功能摘取《紐約時(shí)報(bào)》APP的新聞，暗示以色列總理內(nèi)塔尼亞湖被捕。

RSF認(rèn)為，Luigi Mangione謀殺事件影響巨大，蘋果AI生成錯(cuò)誤信息，說明生成式AI服務(wù)遠(yuǎn)沒有成熟，它無法生成可靠信息。

為了解決問題，蘋果準(zhǔn)備升級(jí)AI功能，升級(jí)后會(huì)告知用戶新聞提示是AI生成的，但這樣做并不能解決所有問題。

RSF高管Vincent Berthier說：“蘋果只是將責(zé)任推給用戶，用戶早就被充滿困惑的信息搞得頭昏腦脹，現(xiàn)在還要檢查信息的真實(shí)性?！?/p>

蘋果聲稱是測(cè)試版本，未來會(huì)不斷優(yōu)化

蘋果稱，未來幾周就會(huì)對(duì)功能進(jìn)行更新。

蘋果AI的初衷很好，它會(huì)匯總多個(gè)新聞APP的通知內(nèi)容并進(jìn)行重寫，然后在蘋果的鎖屏上顯示，只需要一條通知就能顯示全部內(nèi)容。蘋果認(rèn)為，新聞提示摘要功能可以讓用戶查看更詳細(xì)的細(xì)節(jié)。

周一時(shí)，蘋果在聲明中表示：“Apple Intelligence目前仍是測(cè)試版本，我們會(huì)根據(jù)用戶的反饋不斷優(yōu)化?！彼€說，是否接收這些摘要通知由用戶決定，用戶不想要可以關(guān)閉。

蘋果稱：“未來幾周我們會(huì)升級(jí)軟件，當(dāng)展示的文本是由Apple Intelligence摘要而來時(shí)，我們會(huì)進(jìn)一步澄清說明。如果用戶發(fā)現(xiàn)存在意料之外的通知摘要，希望能及時(shí)報(bào)告?！?/p>

為了趕上AI潮流，蘋果推出很多AI功能，12月份這些功能正式進(jìn)入英國。新功能目前只支持iPhone 16、iPhone 15 Pro和Pro Max，而且系統(tǒng)必須達(dá)到ios 18.1，一些iPad和Mac也支持。

受挑戰(zhàn)的不止蘋果，AI幻覺難以根除

谷歌也推出了AI摘要功能，當(dāng)用戶在谷歌搜索查詢內(nèi)容時(shí)，結(jié)果頁最頂部會(huì)顯示摘要信息，這些內(nèi)容也不完美，經(jīng)常會(huì)顯示錯(cuò)誤信息。當(dāng)時(shí)谷歌新聞發(fā)言人曾表示，這些只是孤例，未來摘要功能會(huì)更好。

一些AI專家擔(dān)憂，蘋果AI功能出現(xiàn)的問題可能就是“幻覺”，AI在生成內(nèi)容時(shí)會(huì)保留錯(cuò)誤、誤導(dǎo)信息。

市場咨詢公司CCS Insights的分析師Ben Wood指出：“在AI生成內(nèi)容時(shí)，我懷疑遇到挑戰(zhàn)的不只有蘋果。我看到過無數(shù)案例，AI服務(wù)總是充滿自信地傳播不實(shí)信息，也就是所謂的‘幻覺’信息?！?/p>

蘋果AI只是將其它媒體的報(bào)道摘要一下，抽取一些基本信息，然后呈現(xiàn)給讀者。實(shí)際上，蘋果抽取的內(nèi)容是不準(zhǔn)確的，但在傳播時(shí)卻充滿自信，AI深信自己描述的就是事實(shí)。

Ben Wood稱：“蘋果試圖將內(nèi)容進(jìn)行壓縮，將它變成更簡短的摘要，這樣做會(huì)增加復(fù)雜性，最終可能輸出的是錯(cuò)誤信息。蘋果肯定會(huì)盡快解決問題，競爭對(duì)手肯定也會(huì)關(guān)注蘋果的做法?！?/p>

當(dāng)用戶向AI提問時(shí)，AI可能并不知道答案，但它會(huì)一本正經(jīng)胡說，裝出知道答案的樣子，實(shí)際上卻是在撒謊。

華盛頓大學(xué)信息科學(xué)教授Chirag Shah認(rèn)為，蘋果AI功能遇到挫折實(shí)際上反應(yīng)了更嚴(yán)重的問題，也就是“幻覺”，AI會(huì)生成內(nèi)容，但會(huì)犯錯(cuò)。你無法簡單通過調(diào)試解決此問題，因?yàn)椤盎糜X”是LLM的屬性之一，AI就是伴隨著“幻覺”運(yùn)行的。

Chirag Shah還說，蘋果如果只是提醒用戶內(nèi)容是AI生成的，這樣的補(bǔ)救遠(yuǎn)遠(yuǎn)不夠。他說：“大多人并不知道摘要、合成內(nèi)容是怎樣生成的，沒有什么快速的修補(bǔ)方法。最正確的選擇是不要使用，直到進(jìn)一步優(yōu)化、緩解問題后再讓它上線?！?/p>

美國東北大學(xué)AI顧問Michael Bennett認(rèn)為，充滿“幻覺”的AI摘要功能讓蘋果尷尬。在Apple Intelligence推出之前，市場普遍認(rèn)為蘋果在AI領(lǐng)域落后了，Apple Intelligence可以讓蘋果回到正軌，但現(xiàn)在看來問題還有很多。

生成海報(bào)

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。