Google удалил часть своих медицинских подсказок, сгенерированных ИИ, после расследования The Guardian, выявившего, что автоматические подсказки могли вводить пользователей в опасное заблуждение, сообщает издание.
Речь идет о функции AI Overviews — кратких обзорах, созданных с помощью искусственного интеллекта и размещаемых в верхней части результатов поиска. Компания ранее называла эти сводки «полезными» и «надежными», однако расследование показало, что в ряде случаев они содержали неточную медицинскую информацию.
В частности, ИИ Google публиковал ошибочные данные о нормальных показателях анализов крови, отражающих функцию печени. Эксперты охарактеризовали такую информацию как «опасную» и «тревожную», поскольку она могла привести к тому, что люди с серьезными заболеваниями печени ошибочно считали бы себя здоровыми и отказывались от дальнейшего медицинского наблюдения.
Журналисты The Guardian выяснили, что при запросах о «нормальных значениях печеночных анализов» пользователям предлагались наборы цифр без пояснений и без учета пола, возраста, этнической принадлежности или страны проживания пациента — факторов, напрямую влияющих на интерпретацию медицинских показателей.
После публикации расследования Google убрал AI-сводки для запросов, связанных с нормальными значениями печеночных анализов и тестов функции печени.
Ситуация вновь подняла вопрос о границах применения искусственного интеллекта в сфере здравоохранения и ответственности технологических компаний.
