Google частково вимкнув ШІ-пошук на медичні теми через підозри в надані недостовірної інформації

Пошуковий сервіс Google видалив частину своїх медичних матеріалів, створених за допомогою штучного інтелекту. Це сталося після розслідування, яке показало, що користувачі можуть отримувати неправдиву та оманливу інформацію, яка становить ризик для здоров’я.

Про це повідомляє The Guardian.

Компанія заявила, що її огляди, які застосовують генеративний ШІ для короткого викладення важливих даних за темою чи запитом, є "корисними" та "надійними". Однак деякі короткі зведення, що з’являються у верхній частині результатів пошуку, містили неточні відомості про здоров’я та ставили людей у небезпеку.

Більше новин у Telegram-каналі Бізнес Цензор

В одному випадку, який експерти охарактеризували як "небезпечний" і "тривожний", Google надав хибну інформацію щодо ключових тестів функції печінки, через що люди з серйозними порушеннями могли помилково вважати свої результати нормальними.

Як встановила The Guardian, на запит "який нормальний діапазон показників аналізу крові на печінку" користувач отримував набір цифр без належного контексту та без урахування національності, статі, етнічного походження чи віку пацієнтів.

Те, що огляди ШІ визначали як норму, могло суттєво відрізнятися від реальних клінічних норм. Це могло призвести до того, що тяжкохворі пацієнти вирішили б, ніби їхні результати в межах норми, і пропустили б необхідні подальші консультації.

Після розслідування компанія видалила огляди ШІ для запитів "який нормальний діапазон для аналізів крові на печінку" та "який нормальний діапазон для аналізів функції печінки".

"Ми не коментуємо окремі випадки видалення в Пошуку. Коли огляди ШІ не враховують важливий контекст, ми працюємо над загальними покращеннями та вживаємо заходів відповідно до наших правил, якщо це доречно", ‒ заявив речник Google.

Сью Фаррінгтон, голова Форуму інформації для пацієнтів, який просуває доказову медичну інформацію серед пацієнтів, суспільства та медичних працівників, позитивно оцінила видалення таких матеріалів, але наголосила, що занепокоєння все ще залишаються. За її словами, мільйони людей у світі вже стикаються з труднощами в отриманні надійної медичної інформації.

"Саме тому так важливо, щоб Google спрямовував користувачів до перевірених, достовірних джерел та рекомендацій від авторитетних медичних організацій", ‒ підкреслила Фаррінгтон.

Серед оглядів ШІ досі трапляються й інші приклади, на які The Guardian звернув увагу Google. Вони містять короткі виклади даних про рак та психічне здоров’я, які експерти назвали "повністю неправильними" та "дійсно небезпечними".

На запитання, чому ці огляди також не були видалені, Google відповів, що вони містять посилання на відомі авторитетні джерела й попереджають користувачів про випадки, коли варто звернутися по консультацію до фахівця.

Як повідомлялося, за результатами 2025 року акції Alphabet, материнської компанії Google, підскочили на 65%. Це стало найзначнішим зростанням із 2009 року. Ціна акцій компанії опустилася до мінімуму 2025 року у квітні після погроз президента Дональда Трампа запровадити високі мита для торговельних партнерів США. Після цього їхня вартість зросла більш ніж удвічі.

Серед восьми технологічних компаній з капіталізацією понад $1 трлн Alphabet продемонструвала найпотужніше зростання вартості акцій. Далі в рейтингу розмістилися виробники чипів Broadcom і Nvidia, чиї акції минулого року подорожчали на 49% та 39% відповідно.

Автор: Валерій Білик