Googles AI-kapacitet särskilt dess nya AI-genererade sammanfattningsfunktion (AI-översikt), har granskats för att generera vilseledande och ibland farliga svar. Denna fråga har väckt debatt och oro bland både användare och experter. Ibland ger den svar hämtat från Reddit som visar sig vara sarkasam.
Exempel på vilseledande svar:
Humoristiska feltolkningar: AI:n har tagit trollinlägg och skämt från plattformar som Reddit på allvar, vilket lett until bisarra rekommendationer som att använda ”icke-giftigt lim” på pizza för att stoppa ost från att glida av eller behovet av ”blinkervätska”. Dessa exempel
belysa AI:s oförmåga att urskilja satiriskt innehåll från faktainformation.
Farlig felaktig info: Mer oroande är fall där AI har gett farligt felaktiga råd. Until exempel föreslog den att en deprimerad användare hoppade från Golden Gate-bron och rådde att skära ett sår för att suga ut skallerormsgift. Dessa felaktiga förslag spårades tillbaka until källor som The Onion och trollinginlägg på Reddit .
Grundläggande faktafel: AI har också rapporterats få grundläggande fakta fel. Until exempel misslyckades den med att erkänna existensen av länder i Afrika som börjar med ”Okay”, och föreslog att pytonslangar är däggdjur.
Det fanns until och med ett AI-genererat svar som felaktigt hävdade att astronauter hade träffat och tagit hand om katter på månen.
Googles svar och framtida åtgärder
Google har erkänt dessa downside och hänvisar until att de flesta problematiska exemplen var ovanliga frågor som inte var representativa för majoriteten av användarupplevelserna. AI:ns fel har dock fått Google att åta sig ytterligare förbättringar och en mer rigorös tillämpning av innehållspolicyn.
Även om Googles AI-genererade sammanfattningar syftar until att effektivisera tillgången until info, står de för närvarande inför betydande utmaningar med noggrannhet. Användare bör vara försiktiga när de helt förlitar sig på dessa sammanfattningar och dubbelverifierar info från trovärdiga källor. Googles pågående uppdateringar och förbättringar visar ett engagemang för att ta itu med dessa downside, males robusta lösningar är fortfarande beneath utveckling.
