V začetku januarja je preiskava časnika The Guardian opozorila na resen problem: funkcija AI Overview v iskalniku Google je pri določenih zdravstvenih temah prikazovala napačne, v nekaterih primerih celo nasprotne dejanskim medicinskim priporočilom. Šlo je za izjemno občutljive vsebine, kot so prehranski nasveti za bolnike z rakom ali napačne razlage izvidov krvnih preiskav. Po mnenju strokovnjakov bi takšne informacije lahko imele resne posledice za zdravje uporabnikov.
V enem najbolj izpostavljenih primerov je umetna inteligenca bolnikom z rakom trebušne slinavke svetovala, naj se izogibajo mastni hrani. Onkologi so takšno priporočilo označili ne le za napačno, temveč celo potencialno življenjsko nevarno. V drugem primeru so bile razlage testov jetrne funkcije tako netočne, da bi lahko posameznike z resnimi obolenji zavajale v prepričanje, da so povsem zdravi.
V zadnjih urah so uporabniki opazili, da pri iskanjih, kot je “kakšne so normalne vrednosti jetrnih testov“, AI Overview ni več prikazan. Google odstranitve ni uradno komentiral, kar nakazuje, da gre prej za nujno korekcijo kot za načrtovan eksperiment.
To sicer ni prvič, da se je ta funkcija znašla pod plazom kritik. V preteklosti so AI Overview postali viralni zaradi absurdnih ali očitno napačnih priporočil, od nasvetov o uporabi lepila pri pripravi hrane do prehranskih trditev brez kakršnekoli znanstvene podlage. Nekateri od teh primerov so že privedli do tožb in pozivov k večji odgovornosti pri uporabi umetne inteligence.
Če je Googlov cilj vključiti umetno inteligenco kot podporno informativno orodje, takšni primeri jasno kažejo, da so potrebni bistveno strožji nadzorni mehanizmi, zlasti na področju zdravstvenih in medicinskih informacij.
