Google eemaldas osa oma tehisintellekti poolt genereeritud meditsiinilistest soovitustest pärast väljaande The Guardian uurimistööd, mis paljastas, et automaatsed vastused võisid kasutajaid ohtlikult eksitada.
Jutt käib funktsioonist AI Overviews – tehisaru abil loodud lühikokkuvõtted, mis paigutatakse otsingutulemuste ülaossa. Ettevõte nimetas neid kokkuvõtteid varem „kasulikeks“ ja „usaldusväärseteks“, kuid uurimine näitas, et mitmel juhul sisaldasid need ebatäpset meditsiinilist teavet.
Eelkõige avaldas Google’i tehisaru ekslikke andmeid vereanalüüside normväärtuste kohta, mis kajastavad maksa funktsiooni. Eksperdid iseloomustasid sellist infot kui „ohtlikku“ ja „ärevust tekitavat“, kuna see võis viia selleni, et tõsiste maksahaigustega inimesed pidasid end ekslikult terveks ja loobusid edasisest meditsiinilisest jälgimisest.
The Guardiani ajakirjanikud selgitasid välja, et päringute puhul „maksaanalüüside normväärtuste“ kohta pakuti kasutajatele numbrite kogumeid ilma selgitusteta ning arvestamata patsiendi sugu, vanust, etnilist kuuluvust või elukohariiki – tegureid, mis mõjutavad otseselt meditsiiniliste näitajate tõlgendamist.
Pärast uurimistulemuste avaldamist eemaldas Google tehisintellekti kokkuvõtted päringute juurest, mis olid seotud maksaanalüüside ja maksafunktsiooni testide normväärtustega.
Olukord tõstatas taas küsimuse tehisintellekti kasutamise piiridest tervishoiuvaldkonnas ja tehnoloogiaettevõtete vastutusest.
