Медицинские эксперты обнаружили многочисленные примеры неправильных рекомендаций по лечению от искусственного интеллекта Watson компании IBM. Об этом пишет Gizmodo со ссылкой на внутренние документы компании.
Нейросеть, анализируя данные, обычно довольно верно ставит диагноз, но выбирает крайне нерациональные методы лечения. Одним из примеров стало лечение 65-летнего мужчины, больного раком легких с осложнением в виде кровотечения. Искусственный интеллект назначил ему химиотерапию и препарат «Бевацизумаб». При этом препарат нельзя выписывать с людям с сильным кровотечением, потому что он может его обострить вплоть до летального исхода.
По мнению врачей, нейросеть обучалась не на настоящих примерах из медицинской практики, а на гипотетических случаях и искусственных ситуациях. Пока неизвестно, сколько медицинских учреждений отказались от работы с Watson и как дальше будет развиваться проект.
Технический директор IBM Watson рассказал о трудностях обучения ИИ
Мнения
В середине июля компания IBM заключила сотрудничество с Департаментом по делам ветеранов США — Watson должен анализировать состояние солдат с раком, особенно пациентов на четвертой стадии, с июня 2019 года. Будет ли развиваться программа после этих новостей, также не уточняется.