Этот ИИ дает советы о здоровье, которые приводят к смерти в ряде случаев

Исследование показало, что ИИ-бот Microsoft Copilot может предоставлять неточные медицинские советы, которые в некоторых случаях угрожают здоровью. В 22% случаев его рекомендации могли привести к смерти или серьёзным последствиям.

Современные чат-боты на базе искусственного интеллекта, такие как Microsoft Copilot, всё ещё далеки от идеала и часто выдают опасные рекомендации, особенно когда дело касается медицины. Исследователи из Германии и Бельгии провели эксперимент, чтобы проверить, насколько точно Copilot справляется с медицинскими вопросами, и результаты оказались тревожными.

В рамках исследования бот отвечал на 10 самых популярных вопросов, которые задают жители США о лекарствах и медицинских препаратах. В общей сложности было проанализировано 500 ответов, которые оценивались по таким параметрам, как точность, полнота и потенциальная опасность для здоровья. 

Исследование показало, что только 54% ответов Copilot соответствовали научному консенсусу, а в 24% случаев бот выдавал неверную информацию. 3% ответов оказались полностью ошибочными, что могло привести к серьёзным последствиям для пациентов.

Самое тревожное открытие заключается в том, что 42% ответов Copilot могли нанести умеренный или лёгкий вред здоровью, а 22% рекомендаций были настолько ошибочными, что могли привести к серьёзным повреждениям или даже смерти. Лишь 36% ответов признали безопасными для пользователей.

Эти результаты указывают на то, что пока не стоит полностью полагаться на искусственный интеллект при получении медицинских советов. Лучшим решением для пациентов остаётся обращение к квалифицированным врачам. Несмотря на стремительное развитие технологий ИИ, Copilot и подобные системы ещё не готовы взять на себя ответственность за здоровье людей.

Читать далее:

Физики поняли, где искать таинственную пятую силу природы

«Уэбб» нашел первую в истории планету из пара: она недалеко от Земли

Геологи разгадали секрет быстрого подъема Эвереста

Обложка: Kandinsky by Sber AI

Подписывайтесь
на наши каналы в Telegram

«Хайтек»новостионлайн

«Хайтек»Dailyновости 3 раза в день

Первая полоса
Астрономы сфотографировали «детство Вселенной» до появления галактик
Космос
Прощальные кадры: лунный модуль сфотографировал закат на Луне
Наука
Гены загадочных предков людей повлияли на работу мозга, показало исследование
Наука
В Петербурге открыли лабораторию для создания компьютеров, которые имитируют работу мозга
Наука
Телескоп «Евклид» показал 26 млн галактик: опубликованы первые результаты миссии
Космос
Крошечных морских животных увеличили в пять раз, чтобы рассмотреть их клетки
Наука
В Сеченовском Университете появится «умная» операционная 
Новости
Операторы связи начали заменять китайское оборудование на российское
Новости
В России хотят обязать использование отечественных процессоров для ИИ
Новости
Посмотрите на первого робота-гуманоида Nvidia в действии
Новости
Образцы с обратной стороны Луны показали, какой она была в прошлом
Космос
Морские интернет-кабели научились «прослушивать» на предмет саботажа
Новости
Нового рекорда на термоядерном синтезе добились в России
Наука
Российские ученые разработали материалы для памяти будущего  
Наука
Выяснилось, какие мутации ДНК ускоряют старение  
Наука
«Суперджет» с российскими двигателями ПД-8 впервые поднялся в воздух
Новости
Светочувствительные нановолокна ускорили рост нейронов  
Наука
ChatGPT может «заболеть» тревожностью и депрессией, но есть способ его «успокоить»  
Новости
Москва сократила выбросы углерода на 190 000 тонн благодаря электробусам  
Новости
Игуаны совершили рекордное путешествие миллионы лет назад: они проплыли по океану 8 000 км
Наука