Стоит ли спешить с ИИ в медицине: «ошибка робота» в дополнение к врачебной ошибке?

Вы когда-нибудь задумывались, почему таксисты до сих пор не любят навигаторы? Потому что навигатор однажды привёз их в реку. В медицине цена такого «бага» – не ругательства в чате поддержки, а тело на прозекторском столе.

Представим, что нейросеть в реанимации ошиблась, перепутав дозировку адреналина, пациент умер. Кто виноват? Я предвижу следующие ответы.

Разработчик программы: Наша модель обучалась на миллионе клинических случаев, но случилась редкая статистическая аномалия. Мы нигде не гарантировали 100% результат, читайте «Пользовательское соглашение». Да и вообще, нейросеть – это рекомендации, а не истина в последней инстанции.

Главврач больницы: Мы точно следовали инструкциям по внедрению. Интегрировали систему, подключили к мониторам, разработали протоколы и СОПы, обучили персонал нажимать кнопки в правильной последовательности.

Врач-реаниматолог: Я всего лишь нажал Enter. Алгоритм написал «уверенность 99,4%» и подсветил дозу зелёным. Кто я такой, чтобы спорить с Искусственным Интеллектом, который проанализировал миллион больных, пока я 26 часов на ногах? Если бы я не согласился, то меня бы и обвинили в игнорировании .

Никто не ответит, никто не сядет в тюрьму. Ведь, согласно Уголовному кодексу, нет субъекта, который убил, а значит и отсутствует состав преступления –  произошел просто «сбой системы».

Только вдумайтесь в абсурдность ситуации. Сейчас даже с антиплагиатом творится что-то невообразимое. Студенческие работы, написанные человеком, нейросеть считает плагиатом или «сгенерированным текстом». Студента отчисляют за то, что он сам писал! Что уж говорить про смерть в больнице? Пока будут решать, «чей ИИ убил», будет лежать второй, третий, десятый труп.

Почему руководство так любят ИИ (…и зря).

Давайте будем честны, я не технофоб и не ворчун, ностальгирующий по горчичникам, клизмам и йоду. Нейросети (которые любят называть искусственным интеллектом, хотя это не совсем так, что же в рамках этой статьи упростим и будем называть их ИИ как делает большинство людей)  – это действительно мощный медицинский инструмент. Нейросеть действительно может за секунду найти микрометастазы на снимке МРТ, которые человеческий глаз просто физически не заметит после 8 часов смены. Алгоритм предсказывающий сепсис за 6 часов до того, как у пациента подскочит температура, действительно может спасти жизнь.

ИИ молниеносно прогоняет через себя сотни томов медицинской литературы, которую живой врач не прочитал бы и за тысячу лет. В лабораториях сокращает разработку лекарств с десяти лет до полугода. В теории все выглядит как рассвет золотого века медицины.

Глаза у руководителей загораются: «Наконец-то мы уволим этих капризных, дорогих и вечно уставших людей в халатах!».

Вот уже и ФОМС предлагает прямо предлагает ввести KPI по внедрению ИИ в регионах. То есть, поставить финансирование государственного  здравоохранения в зависимость от того, используется ли в больнице или поликлинике ИИ. При этом, если верить новости, считать технологическую продвинуть планируется «по головам», то есть в зависимости от количества используемых ИИ-решений, а не по их качеству.

Я просто вижу картину – чиновников в галстуках, сидящих в высоких кожных креслах, спешащих прокричать: «Нейросеть! Мы прогрессивные! Мы в тренде!». Однако, боюсь, что им безразлично, что работает, а что нет. Главное поставить галочку. Точно так же партийные начальники во времена Хрущева требовали «давать посев кукурузы», не беря во внимание ни географию, ни климат.

И о том, что будет, когда «трендовый» ИИ накосячит, они, конечно, не подумали. И уж тем более не закладывали в бюджет. Похоже, что в случае, если алгоритм отправит бабушку не на МРТ, а в инфекционное отделение – это будут проблемы именно бабушки, а не чиновника требующего КПИ по внедрению ИИ.

— Алгоритм старой версии, — скажет чиновник.

— Мы закупим новую, — ответят коллеги.

И всё, никто не лишился премии, никто не пойдет под суд, железо не платит штрафы, а ответственный чиновник уже скроллит другой молодёжный тренд: чат-бот со смайликами или медицинский тикток.

Долгосрочность не для нейросетей?

Безусловно, многие мои читатели могут рассказать истории (в качестве юриста я слышал их не один раз) о том, как врач не мог решить проблему, а ИИ посоветовал лекарство и оно помогло. Я верю в эти истории. Но хочу обратить внимание на еще одни аспект нейросетей, который пока что так и не решен. ИИ – «гений мгновения», обладающий беспрецедентными знаниями и эрудицией. Но это абсолютный ноль в «долгосрочной терапии». Нейросеть не помнит пациентов годами, видя их только здесь и сейчас. У неё просто нет «вчера».

Допустим, вы приходите с жалобой на боль в колене. ИИ говорит: «Купите эти таблетки». Таблетки снимают боль за три дня. Свершилось чудо, и вы пользуетесь только ими! Но через полгода появляется желтуха и диагностируется лекарственный гепатит, потому что таблетки оказывали токсический эффект на печень. Живой врач знал бы риск и сказал: «Терпи, пока мы не найдем причину». А ИИ просто выполнил команду «Убрать боль».

Лекарства, которые творят чудеса в первую неделю, через год могут привести к инвалидности. Реабилитация после инсульта, подобранная алгоритмом, через 5 лет может закончится деменцией. Но к тому моменту нейросеть давно обновили, и «плевала она на последствия».

Обратите внимание, что в некоторых общедоступных нейросетях ответы на медицинскую тематику ограничены – и это не случайно. Даже IT-гиганты проявляют осторожность с массовым внедрением нейросетей.

Фатальный баг системы ИИ.

Почему мы лезем в медицину, когда даже в безобидных сферах нейросети допускают ужасающие ошибки?

Эталонный пример получился с кофейней за 21 тысячу евро. В Европе горе-бизнесмен решил, что «роботы наше всё». Уволив бариста, он купил ИИ-машину. Робот идеально взбивал пенку, знал 500 рецептов и не просил больничных и перекуров. Через месяц кофейня могла разориться, но ее вовремя остановили. «И кто же это всё сделал?». Робот не чувствовал запах горелого зерна, забывал заказывать хлеб и остальные продукты, не понимал, что молоко другой жирности, а яйца для тостов нельзя готовить в микроволновке.

Тут же есть отличная статистика: выяснилось, что 57% работодателей, заменивших персонал нейросетями, негласно увеличивают штат, чтобы выйти из производственного кризиса. Показатель возврата уволенных достиг 5,3 процента, а жалеют о скоропалительном расставании более половины работодателей. Причина проста, 95% организаций не получают отдачи от своих инвестиций в ИИ. Он идеальный исполнитель, но никчёмный менеджер. И если в бизнесе такой «бумеранг» приносит просто убытки, то в хирургии уволенного профессора с двадцатилетним стажем обратно не позовёшь, он уже эмигрировал.

Нейросети и увольнение опытных врачей.

Я хочу, чтобы читатели поняли одну простую вещь: ИИ сам по себе не заменит врача. Первыми «под нож сокращений» пойдут опытные профессора и диагносты от бога. Главврач больницы подумает: «Зачем платить Николаю Петровичу 300 тысяч, если нейросеть ставит тот же диагноз бесплатно?» Уволили, сэкономили, поставили табличку «IT-клиника будущего».

Проходит полгода, в реанимацию привозят пациента с редким синдромом, у него нестандартная реакция на препараты. Нейросеть выдаёт: «Данных недостаточно». Если пациент умрет, то это случится не от болезни, а от провальной кадровой политики.

Проблема в том, что это процесс не является чем-то особенным и характерным только для нашей страны, он идёт по всему миру. В 2025 году количество вакансий разработчиков упало на 70%, а американские программисты отправляют детей учиться на сварщиков. В банках Италии планируется сократить 9 тысяч человек ради ИИ. Вы только вдумайтесь! Это глобальная эпидемия «цифрового увольнения»! И если так пойдёт дальше, через 10 лет мы получим поколение докторов, которые только и умеют кликать мышкой, не зная, как измерить пульс и пропальпировать живот.

И я не говорю уже о том, что замена врачей на ИИ и нейросети может привести к отвратительной кастовой системе. Представьте мир через 5-10 лет. Условный олигарх с больной спиной поедет не в больницу с ИИ. Он полетит первым рейсом в Швейцарию к живому профессору Мюллеру, который руками, глазами и старым нюхом поставит диагноз. Как известно, богатые знают цену живой мысли.

А условный простой человек из Оренбурга, пойдет в городскую поликлинику, где выполняя распоряжения ФОМС, врача заменили на терминал. Он скажет –  «горло болит», а машина выдаст справку «вероятность ангины 87%» и выпишет антибиотики по протоколу. А потом окажется, что у пациента нестандартная форма инфаркта…

Как KPI может убить пациентов.

Теперь заглянем в голову бедного главврача, которого заставили выполнять план по цифровизации. Сверху дали указание: «К концу квартала 50%, а еще лучше – 90% диагнозов должны ставиться нейросетью».

Главврач мужик подневольный, все чего он добился: премия, должность, заветная «корочка» держатся на волоске. Ему нужно отчитаться, и плевать, что нейросеть сырая. А еще есть пресловутые госзакупки с тендерами, где побеждает предложивший самую низкую цену.  В подобной ситуации  ему проще закупить  дешёвый софт и приказать подчиненным врачам «не умничать, а назначать лечение как сказала программа».

Заключение.

Повторюсь, я не говорю, что ИИ зло. Сами по себе  нейросети – это великолепный инструмент – такой     же как микроскоп, швейцарский нож… если будет угодно, атомный реактор. Но внедрять ИИ в медицину можно только добровольно, когда практикующий врач может сказать «нет» — без всяких KPI и принудиловки.

Я также за то, чтобы любой пациент, вне зависимости от своего финансового состояния, мог выбрать «живого» доктора, я категорически против лишения человека альтернативы, даже под соусом «передовых технологий». Против того, чтобы больницы внедряли любые непроверенные программы, лишь бы отчитаться перед начальством. Против того, чтобы увольнять опытных врачей ради галочки в графе «цифровизация».

Хотите ставить ИИ? Ставьте, только пусть кто-то за него отвечает своей головой (причем не рядовой врач, которого эту нейросеть заставили использовать).

Пусть ИИ будет помощником врача, а не его заменой. Иначе вместо системы здравоохранения будущего мы получим конвейер  медицинских ошибок  … зато с красивым интерфейсом.

Автор статьи – Орленко Василий Васильевич, кандидат юридических наук, доцент

Статья написана 24.07.2026