Московский киберпанк: врачей заменит искусственный интеллект?

Позабыты хлопоты, остановлен бег,

Вкалывают роботы, а не человек.

Ю. Энтин.

На фоне приближающихся майских праздников, практически незамеченным прошло сообщение от Московского правительства, в котором сообщалось, что в поликлиниках Москвы искусственный интеллект будет анализировать рентгеновские снимки без участия врача. Более того, нейросети смогут самостоятельно выдавать заключения. По сообщению мэра Москвы Сергея Собянина для этого уже разработан специальный тариф ОМС.

С полным текстом этой новости можно ознакомиться на официальном портале Правительства Москвы.

Действительно, соглашусь с тем, что в некоторых областях медицинской диагностики (в том числе рентгенологии), технологии ИИ достигли уровня равного и даже превосходящего уровень обычного врача. Например, ИИ не подвержен усталости и не может ошибиться, допустив описку. У искусственного интеллекта не может «замылиться глаз» и он способен заметить мельчайшее отклонение от нормы, на которое человек может и не обратить внимание. Поэтому, внедрение использования ИИ для анализа диагностических исследований, проводимых в массовом порядке (таких как флюорография при профосмотрах и диспансеризации) – это естественный технический прогресс.

Однако в сообщении Правительства Москвы меня смущает одна фраза:

«До сентября результаты анализа ИИ будут перепроверять ведущие рентгенологи страны… В случае успешных результатов Правительство Москвы примет решение о внедрении автоматизированной интерпретации данных рентгенологических исследований с помощью технологий ИИ на постоянной основе без дополнительного пересмотра врачом.»

Таким образом, можно сделать вывод, что после сентября 2024 г. рентгенологическое заключение будет выдаваться ИИ самостоятельно, без перепроверки врачом. Допускаю, что я неправильно понял информацию, но тогда пресс-службе Правительства Москвы нужно поработать над стилем своих сообщений.

ИИ в контексте Основ охраны здоровья граждан РФ

Возможность ИИ самостоятельно формировать рентгенологическое заключение, без проверки врачом, вызывает множество юридических коллизий.

Проведение так называемых «профилактических» флюорографий (именно в них, по сообщению Правительства Москвы собираются задействовать искусственный интеллект) согласно ФЗ №3233 «Об основах охраны здоровья граждан в РФ» (далее – ФЗ 323) относится к первичной специализированной медико-санитарной помощи. Согласно ч.3 ст. 33 ФЗ № 323 первичная специализированная медико-санитарная помощь оказывается врачами-специалистами. Эта норма носит императивный, то есть категорический характер, и, по крайней мере в действующей редакции, не допускает оказание медицинской помощи искусственным интеллектом.

ИИ и права пациента

Идем далее. В информации, представленной тем же Правительством Москвы, указывается, что «точность диагностики ИИ-сервисов превышает 95 процентов». Однако, как быть в случае оставшихся 5%, если ИИ всё же ошибется и выставит неправильный диагноз – например, «не заметит» туберкулеза или новообразования. Промедление с лечением в подобных случаях способно привести к тяжелым последствиям – включая инвалидность или смерть пациента. А в случае с туберкулезом – это еще и неблагоприятные последствия для окружающих, которых такой пациент может инфицировать. В обычном случае у пациента и прочих пострадавших остается возможность подачи гражданского иска к медорганизации, в которой работал врач. Однако теперь медорганизация может резонно отметить, что ИИ не состоит с ней в трудовых правоотношениях и не являлся лечащим врачом пациента. Подать иск к разработчикам программы? Так они защищены лицензионным соглашением.

Представим теперь, что ошибка ИИ привела к смерти пациента. В отношении кого возбуждать дело о причинении смерти по неосторожности (ст. 105 УК РФ)? В отношении ИИ? Так Уголовный кодекс (по крайней мере пока мы не перешли в киберпанк) не предоставляет такой возможности. В отношении руководства медорганизации или, опять же, разработчиков ИИ? Но у них отсутствует вина, то есть субъективная сторона состава преступления.

Таким образом, введение в медицинскую практику искусственного интеллекта, чьи заключения не перепроверяются врачом, способно значительно ограничить пациентов в реализации своих прав.

Кстати, с формальной точки зрения права пациентов нарушаются и в случае, даже если ИИ правильно выставил диагноз. Согласно сообщению Правительства Москвы «если по результатам исследований не будут обнаружены патологии, то заключения ИИ автоматически поступят в электронные медицинские карты пациентов». То есть, «живые» врачи будут привлекаться только в том случае, если найдено заболевание или подозрение на него. Однако такое положение вступает в противоречие с пп.1 и 3 ч.5 ст. 19 ФЗ №323, согласно которому пациент имеет право на выбор врача и консультацию врача-специалиста. Прошу обратить внимание – согласно ФЗ «Об основах охраны здоровья» таким правом наделены все пациенты, а не только пациенты, у которых обнаружены патологии. При дословной реализации московской инициативы может получиться, что пациенты без выявленных патологий будут лишены права на получение консультации у врача-рентгенолога: «Будь благодарен, что ИИ твой снимок посмотрел. Ишь чего захотел, консультацию у живого врача ему подавай. Пока обойдёшься и роботом!».

Искусственный интеллект как медицинское изделие

Наконец, существует коллизия, проистекающая из статуса ИИ. С точки зрения закона ИИ, нейросеть и всё подобное – это компьютерные программы медицинского назначения. Согласно Правилам регистрации медицинских изделий, компьютерные программы медицинского назначения являются медицинским изделием. Согласно ч.3 ст. 38 ФЗ «Об основах охраны здоровья граждан РФ» применение медицинских изделий возможно только в соответствии с технической или эксплуатационной документацией производителя.

Соответственно, ИИ можно использовать для формирования рентгенологического заключения только в том случае, если это прямо предусмотрено технической документацией разработчика. Так ли это? Сильно сомневаюсь и предположу, что там, скорее всего, написано противоположное – что ИИ предназначен только для помощи врачу, что результаты работы программы являются предварительными и подлежат перепроверки и последующему утверждению «живым врачом».

Совместим ли искусственный интеллект с ОМС?

Есть юридические проблемы и с встраиванием ИИ в систему ОМС. Просто предусмотреть на это средства недостаточно. Ведь в соответствие с ч.1. ст. 37 ФЗ № 323 указано, что медицинская помощь оказывается с учетом стандартов медицинской помощи, утверждаемых Минздравом. В рамках ОМС стандарты обязательны (за исключением непереносимости препаратов, противопоказании и тому подобных исключительных случаев).  В действующих Стандартах предусмотрена оплата врача-рентгенолога, но не предусмотрены траты на искусственный интеллект.

Обратимся теперь к Правилам проведения рентгенологических исследований, утвержденным Приказом Министерства здравоохранения РФ от 9 июня 2020 г. № 560н. Согласно п. 9, 10 Правил «При проведении рентгенологических исследований рекомендуется применение информационных технологий (систем) поддержки принятия врачебных решений. Анализ результатов рентгенологических исследований проводится врачом-рентгенологом».  П. 16 уточняет, что Протокол рентгенологического исследования заверяется личной подписью врача-рентгенолога, проводившего анализ результатов рентгенологического исследования или в форме электронного документа, подписанного с использованием усиленной квалифицированной электронной подписи врача-рентгенолога. А п.17 Правил в качестве одного из обязательных реквизитов Протокола рентгенологических исследований определяет фамилию, имя, отчество врача-рентгенолога, проводившего анализ рентгенологического исследования.

Таким образом, заключение ИИ об отсутствии патологий, прикрепляемое в медкарты пациентов без проведения анализа врачом-рентгенологом, не соответствует Правилам проведения рентгенологических исследований, утвержденным Приказом Минздрава. Такое заключение не будет иметь юридического или медицинского значения.

Выводы

Какой можно сделать вывод из всего, проанализированного выше? Безусловно внедрение медицинского ИИ – это прогрессивный процесс. Однако на данном этапе отечественное законодательство совершено не готово к тому, чтобы полностью заменить врача искусственным интеллектом, даже в случае самых простых и рутинных исследований. ИИ можно и нужно применять в качестве ассистента врача, однако самостоятельное написание ИИ документов, имеющих юридическое значение (а протокол рентгенологического исследования относится к таким документам) – явно преждевременно.

К этому нет готовности – ни технологической (5% ошибок со стороны ИИ – это не так уж и мало, при массовом внедрении счет будет идти на тысячи), ни организационной (риск кратного сокращения числа врачей-рентгенологов, упадка отечественной рентгенологической школы – мы уже проходили подобное в инженерном деле и в промышленности, зачем наступать на те же грабли?), ни юридической (отсутствие у ИИ определенного правового статуса и имеющиеся противоречия с федеральным законодательством могут вызвать всплеск конфликтов с пациентами).

Автор статьи – Орленко Василий Васильевич, кандидат юридических наук, доцент

Статья написана 10.05.2024