Spis treści:
- Błąd w powiadomieniach o Luigi Mangione
- Krytyka ze strony Reporterów bez Granic
- AI w strategii Apple
- Ryzyko związane z dezinformacją AI
Błąd w powiadomieniach o Luigi Mangione
Funkcja podsumowywania wiadomości od Apple, w ubiegłym tygodniu, dostarczyła użytkownikom powiadomienie zawierające nieprawdziwe informacje na temat Luigi Mangione, podejrzanego o zabójstwo dyrektora generalnego UnitedHealthcare. Faktycznie Mangione przebywa w areszcie i został oskarżony o morderstwo jako akt terroryzmu.
Błąd ten zwrócił uwagę na problem generowania fałszywych informacji przez sztuczną inteligencję, co często zdarza się w tego typu systemach. AI, opierając się na prawdopodobieństwach, czasem "wymyśla" dane i przedstawia je jako fakty.
Krytyka ze strony Reporterów bez Granic
Vincent Berthier, szef ds. technologii i dziennikarstwa w organizacji Reporterzy bez Granic, zaapelował o usunięcie problematycznej funkcji.
"Sztuczna inteligencja to maszyna prawdopodobieństw, a fakty nie mogą być ustalane poprzez rzut kostką." - Vincent Berthier
Organizacja wyraziła również poważne zaniepokojenie wpływem AI na rzetelność przekazywanych informacji. Według nich technologia ta jest jeszcze zbyt niedojrzała, aby można było na niej polegać w kontekście dostarczania wiarygodnych wiadomości.
BBC, którego raport został źle podsumowany przez AI Apple’a, również zareagowało. W oświadczeniu podkreślono, że zaufanie odbiorców do przekazywanych informacji jest kluczowe, zarówno w przypadku artykułów, jak i powiadomień.
AI w strategii Apple
Apple intensywnie rozwija technologie sztucznej inteligencji pod marką "Apple Intelligence". W ostatnich miesiącach firma zaprezentowała nowe modele iPhone’ów zintegrowane z systemami AI, które mają uprościć korzystanie z treści i zwiększyć efektywność użytkowników. W ramach tej strategii wprowadzono również funkcję grupowania powiadomień i tworzenia zwięzłych podsumowań wiadomości.
Firma stara się też budować wizerunek lidera dbającego o prywatność użytkowników. Na przykład integracja ChatGPT z systemem iOS ma być tak zaprojektowana, aby dane użytkowników nie były dostępne dla OpenAI. Jednak krytykowany błąd w funkcji podsumowań wiadomości wskazuje na istotną lukę, która może podważyć zaufanie do tej technologii.
Ryzyko związane z dezinformacją AI
Eksperci ostrzegają, że rozwój sztucznej inteligencji wiąże się z rosnącym zagrożeniem dezinformacją. Raport opublikowany podczas Światowego Forum Ekonomicznego w Davos uznał to za jedno z największych wyzwań krótkoterminowych.
"Sztuczna inteligencja ma również potencjał do wykrywania i ograniczania dezinformacji, analizując wzorce, język i kontekst." - Światowe Forum Ekonomiczne
Kontrowersje wokół Apple’a przypominają o odpowiedzialności firm technologicznych za jakość informacji dostarczanych użytkownikom.
Przypisy:
Luigi Mangione to podejrzany w głośnej sprawie zabójstwa dyrektora generalnego UnitedHealthcare. Początkowo błędnie przedstawiony w powiadomieniach Apple jako osoba, która zastrzeliła się po dokonaniu zbrodni, faktycznie przebywa w areszcie. Został oskarżony o morderstwo, które zakwalifikowano jako akt terroryzmu. Sprawa wywołała kontrowersje nie tylko z powodu przestępstwa, ale także błędów w funkcji sztucznej inteligencji używanej do podsumowań wiadomości.
Źródło: Inc
