Apple pozvan da ukloni AI značajku nakon kontroverze oko lažnih naslova

Glavni nadzornik novinarstva pozvao je Apple da povuče svoju generativnu AI značajku nakon što je alat pogrešno pripisao naslov o visokoprofilnom slučaju ubojstva BBC Newsu.

BBC je u četvrtak izvijestio da je nastala kontroverza nakon što je nova funkcija Applea, Apple Intelligence, netočno generirala naslov. Sugerirala je da se Luigi Mangione, osumnjičenik za ubojstvo izvršnog direktora zdravstvenog osiguranja Briana Thompsona, sam upucao. BBC takav članak nije objavio.

Reporteri bez granica (RSF), međunarodna organizacija koja se zalaže za slobodu tiska, kritizirala je Apple, naglašavajući da ovaj incident ističe rizike koje nezreli AI alati predstavljaju za kredibilitet medija i povjerenje javnosti.

Vincent Berthier, voditelj RSF-ovog odjela za tehnologiju i novinarstvo, osudio je ovaj propust, nazivajući ga “udarcem za kredibilitet medija” i prijetnjom javnom pristupu pouzdanim informacijama. RSF je zatražio da Apple odmah ukloni ovu funkcionalnost.

“Europski AI akt – unatoč tome što je najnapredniji zakon na svijetu u ovom području – nije klasificirao AI sustave koji generiraju informacije kao sustave visokog rizika, ostavljajući kritičnu pravnu prazninu. Ovaj jaz mora se odmah popuniti,” rekla je Berthier.

BBC je potvrdio da je podnio formalnu žalbu tech divu i zatražio rješenje, ali još uvijek nije jasno je li Apple odgovorio.

Nedostatak u AI sažetku nije bio ograničen samo na BBC News. Dvadeset prvog studenog, ta je značajka netočno sažela članak New York Timesa, lažno sugerirajući da je izraelski premijer Benjamin Netanyahu uhićen, kako je izvijestio BBC članak.

Ova obavijest, kasnije istaknuta od strane novinara Kena Schwenckea, zapravo se odnosila na Međunarodni kazneni sudovni nalog protiv Netanyahua.

Apple AI notification summaries continue to be so so so bad

[image or embed]

— Ken Schwencke (@schwanksta.com) November 21, 2024 at 9:22 PM

Apple Intelligence ima cilj smanjiti prekide uzrokovane obavijestima putem njihovog sažimanja i grupiranja. Dostupan na iPhoneima koji koriste iOS 18.1 i novijim modelima, kao i na odabranim iPadima i Macovima, alat je doživio kritike zbog pogrešnog prikazivanja informacija s uglednih medijskih izvora.

BBC-jev glasnogovornik naglasio je da, iako su neke grupirane obavijesti točno sažele priče o globalnim događanjima, dezinformacije koje uključuju Mangione pokazuju potencijal tehnologije da našteti i medijskim kućama i javnom razumijevanju.

RSF je upozorio da “Ova nesreća pokazuje da su generativne AI usluge još uvijek premlade da bi proizvele pouzdane informacije za javnost i ne bi smjele biti dopuštene na tržištu za takve namjene.”

Ars Technica recenzirala je Appleove sažetke obavijesti, ističući nekoliko problema koji se često javljaju. Prvo, iako su neki sažetci faktički točni, zvuče robotski i nezgrapno, posebno u osjetljivim temama poput odnosa ili mentalnog zdravlja. Drugi pogrešno shvaćaju sarkazam, žargon ili idiomatske izraze, često ih previše doslovno tumačeći.

Gubitak konteksta je još jedan veliki problem, posebno kada sažeci propuste ranije poruke u nizu ili ne uzmu u obzir multimedijalni sadržaj. U grupnim razgovorima s više tema, sažeci mogu postati preopterećeni, miješajući teme i dovodeći do netočnosti.

Na kraju, neki su sažeci jednostavno potpuno pogrešni, često zbog pokušaja sažimanja previše informacija u premalo riječi, što rezultira iskrivljenim prikazima. Sveukupno, ovi problemi, koji utječu na korisnost i točnost funkcije, česti su u svakodnevnoj upotrebi.

Mangione, sada optužen za ubojstvo prvog stupnja, postao je središnja točka u raspravi o rizicima povezanim s AI u novinarstvu. Javno povjerenje u vjerodostojne vijesti je na kocki dok Apple doživljava sve veći pritisak da se pozabavi problemom.