ИИ в лучевой диагностике

Правовая база: как регулируется ИИ в медицине

Оборудование с ИИ по требованиям российского законодательства необходимо регистрировать в качестве медицинского изделия – после регистрации его можно применять в медицинской практике (ч. 1 ст. 38 Федерального закона от 21.11.2011 № 323-ФЗ, постановление Правительства РФ от 27.12.2012 № 1416, п. 15.1.1 приказа Минздрава от 06.06.2012 № 4н, Приказ Минздрава России от 20.03.2020 № 206н).

Большинство зарегистрированных медизделий с ИИ (список МИ можно увидеть на сайте Росздравнадзора) предназначены для анализа флюорограмм, рентген-снимков, обработки результатов других исследований и обработки электронных медкарт (системы поддержки врачебных решений).

На федеральном уровне стандарты внедрения ИИ в клиническую практику закреплены в нацстандартах, среди них:

• ГОСТ Р 71673–2024 устанавливает требования к системам ИИ для анализа медицинских изображений, включая критерии оценки их точности;
• ГОСТ Р 71738-2024 определяет методы испытаний систем искусственного интеллекта на способность и устойчивость работы;
• ПНСТ 873-2023 регулирует общие цели и задачи использования ИИ в лучевой диагностике, требования к системам ИИ;
• ГОСТ Р 59921.1-2022 устанавливает подходы к клинической оценке ИИ – ПО, являющемуся медизделием;
• ГОСТ Р 71671-2024 фиксирует цели, задачи и требования к системам ИИ для поддержки принятия врачебных решений.

Два сценария использования ИИ: автономность vs ответственность врача

Специалисты определяют два подхода к использованию технологий ИИ в лучевой диагностике:

1. Автономный инструмент, когда ИИ самостоятельно генерирует заключение по результатам исследования, не требуя заверения врачом.
2. Система поддержки принятия врачебных решений, когда заключение формирует врач-рентгенолог, принимая или не принимая результаты, предложенные ИИ.

На законодательном уровне автономная работа ИИ без заверения результатов врачом сейчас не закреплена. Таким образом, врач-рентгенолог по-прежнему несет ответственность за формирование заключения, даже если его изначально генерирует нейросеть.

Автономное использование ИИ и четкое определение ответственности за конечное заключение —актуальный вопрос, который требует скорейшего решения. Особенно остро он стоит в свете перспектив массового внедрения ИИ в скрининговые программы диагностики.

Главные вызовы при внедрении ИИ

Несмотря на очевидные плюсы, массовое использование ИИ сталкивается с рядом серьезных проблем:

• Качество данных. Алгоритмы эффективны только при обучении на качественных и репрезентативных базах данных.
• Интеграция и обучение врачей. ИИ должен быть полностью интегрирован в рабочий процесс врача. Это требует технической совместимости, сертификации и регулярного обучения персонала.
• Устаревшее оборудование. Для полноценной работы ИИ необходимо обновлять устаревшую технику, на что нужны значительные финансовые ресурсы.
• Единый цифровой контур. Глобальная задача — объединить клиники по всей стране в единую сеть, чтобы обмениваться данными и использовать возможности телемедицины и ИИ на полную мощность в интересах пациентов.

— Игорь Евгеньевич, какие программы с искусственным интеллектом используют сегодня в рентгенологии?

— Рентгенология — это исторически та область медицины, в которой искусственный интеллект появился раньше всех. Чаще применяются программы для медицинской визуализации.

В этой сфере можно выделить несколько направлений:

1. Настройка техники, предназначенной для визуализации. Прежде всего речь идет о компьютерных и магниторезонансных томографах, ангиографических установках, даже участковых аппаратах, в которых ИИ настраивает сложные программы проведения диагностических процедур.ИИ синхронизирует выполнение различных компонентов программ и, что чрезвычайно важно, помогает совмещать потенциальные возможности оборудования с теми задачами исследования, которые стоят перед врачом для конкретного пациента.Самые востребованные функции – это выбор напряжения, программы сканирования, выбор силы тока или экспозиции, ограничение дозовой нагрузки на пациента, увеличение скорости получения изображений, правильное позиционирование пациента.

   Программы ИИ уже встроены в современные аппараты, поэтому сегодня сложно представить работу такого оборудования без ИИ. Человеческий ум зачастую не поспевает за возможностями современной техники в этой области.

2. Логистика. ИИ помогает организовать процесс диагностических исследований: совместить несколько исследований для одного пациента, распределить исследования, при которых контрастные вещества вводятся в разные полости. И сделать это так, чтобы одно не мешало другому, пациент мог выдержать процедуры, не испытывал дискомфорт, а медорганизации было удобно.
3. Диагностика. В последние годы появляются программы, предназначенные для участковой диагностики и для магнитно-резонансной или позитронно-эмиссионной томографии.

Функции этих программ чрезвычайно разнообразны: распознавание патологически измененных участков, выявление скрытой патологии, попытка интерпретации выявленных изменений с точки зрения нозологии. Это вопросы дифференциальной диагностики и многое другое. Пожалуй, это самая частая область применения ИИ в современной рентгенологии.

— Как врачи обучаются работе с такими программами?

— Можно выделить три основных формы обучения специалистов работе с ИИ.

Первая, самая распространенная: обучение на рабочем месте, когда программы искусственного интеллекта устанавливаются на рабочих станциях и приборах, предназначенных для визуализации программ, а также в радиологических информационных системах, в госпитальных информационных системах.

В этом случае производители систем или оборудования, в которых есть такого рода программы, обучают персонал навыками правильного использования подобного ПО.

Вторая: обучение в вузах. Ряд вузов уже разработали программы повышения квалификации, в которых вопросы диагностики различных заболеваний и повреждений связаны в том числе с использованием программ ИИ. Это не так широко распространено сегодня, как хотелось бы. Тем не менее процесс запущен. Врачи имеют возможность и очно, и дистанционно слушать лекции, посещать практические занятия на таких циклах, где простым, понятным, доступным языком пользователи и производители программ объясняют, в чем их смысл и как их применять.

Третья форма получения знаний – это конференции, семинары, вебинары, конгрессы и другие мероприятия, на которых проводятся мастер-классы, школы, обучающие семинары для ознакомления врачей и среднего медицинского персонала с работой искусственного интеллекта.

Я ожидаю, что такие мероприятия и особенно циклы повышения квалификации, в которые встроены вопросы обучения работе с программами ИИ, будут проводиться чаще, чем сейчас.

Это очень важно, потому что и профессорско-преподавательский состав кафедр, и научные сотрудники научно-исследовательских центров тоже должны обучаться и готовиться обучать своих коллег.

— С какими сложностями врачи сталкиваются при работе с ИИ? Как часто случаются ошибки?

— Конечно, программы, которые используются сегодня в практическом здравоохранении, очень сильно отличаются по своим возможностям.

Мы видим это по результатам московского эксперимента и по результатам применения отдельных таких программ в регионах. К сожалению, не все программы с одинаковым успехом распознают патологию или создают какие-то измерительные данные для того, чтобы улучшить работу врача-рентгенолога или любого врача, занимающегося диагностикой. Простор для совершенствования этих программ огромен.

Есть программы, которые уже сегодня отлично справляются со своими задачами, например, с выявлением очагов в легочной ткани при компьютерной томографии пневмотораксов на рентгеновских снимках. Это хорошие программы, которым рентгенологи уже могут доверять и опираться на них в принятии диагностических и лечебных решений. Но таких программ пока немного, и они не очень разнообразны.

Другие области охвачены буквально единичными программами. Есть отдельные разработки в области изучения головного мозга, выявления геморрагических инсультов, скопления крови в желудочках мозга. Отдельные программы посвящены патологии печени или костно-мышечной системы. Но их не так много, опыта работы с ними и уверенности в точности существенно меньше.

— Какую наибольшую пользу от ИИ в диагностике Вы можете выделить?

— Очень важная часть программы искусственного интеллекта − выявление или подсчет патологических изменений, обнаружение патологических изменений за пределами легких и плевры. То есть за пределами того основного объекта, для которого вообще проводится рентгенографическое или компьютерно-томографическое исследование легких. Сейчас все это выводится в протоколе рентгенологического заключения в виде числовой информации.

Мы видим в наших шаблонах заключений диаметр легочной артерии, диаметр аорты, высоту позвонков, наличие изменений патологических в ребрах и так далее. То есть то, что рентгенолог обычно в своих протоколах описывает только с качественной точки зрения: есть остеопороз, есть расширение аорты.

С помощью программы искусственного интеллекта мы легко получаем количественную характеристику, степень выраженности остеопороза, количество атеросклеротических бляшек в коронарных артериях и многое другое. Это добавляет в протокол диагностических исследований надежности и точности. Такие данные становятся важным ориентиром для лечащих врачей в принятии дальнейших лечебных решений и определении диагностической тактики.

Однако необходимо расширить спектр программ искусственного интеллекта, чтобы в эту работу были вовлечены не только легкие, но и другие анатомические области, органы и ткани, другие заболевания, которые позволили бы в большей степени реализовать возможности ИИ.

— ИИ необходимо обучать, чтобы его работа была максимально корректной. Это происходит постоянно или только на начальном этапе перед масштабным внедрением в практику? Принимают ли участие в обучении ИИ специалисты, работающие с визуализацией?

— Перед нами стоит глобальная задача: использовать базы данных лечебных учреждений правильно, чтобы обучать программу искусственного интеллекта с максимальной эффективностью. Только так мы можем получить надежный, хороший, достоверный результат работы программ. Пока это несколько хаотичный процесс, и он не очень хорошо регулируется: не совсем понятны ответственность сторон в этом вопросе и конечный результат.

Мы далеко не всегда знаем, на каких именно базах, в каких условиях, с помощью каких специалистов была получена та или иная программа искусственного интеллекта. Но когда мы сталкиваемся с очевидными ошибками или несоответствиями в их работе, это становится принципиально важным. Поэтому нужна более строгая регламентация процесса.

Есть еще один важный момент: нам чрезвычайно необходима обратная связь. То есть мы представляем себе, сколько программ установлено сегодня в регионах, как они функционируют на базе медицинских информационных систем, какое количество изображений просматривает та или иная программа в час, в день, в год. Мы даже представляем себе примерный уровень ошибок, которые совершает программа внутри просмотра диагностических изображений.

Но, к сожалению, сейчас обратная связь от конечных пользователей, лечащих врачей и врачей-рентгенологов, очень ограничена. В буквальном смысле не хватает времени и ресурсов для того, чтобы эта обратная связь была. Она должна быть очень простой и понятной: работает ПО или не работает, ошибается или не ошибается, и в каких случаях ошибается.

И обязательно должны быть понятные адресаты для такой обратной связи: центры, куда эти данные направляются для того, чтобы их анализировать и исправлять. Это не может быть один или два центра в Российской Федерации – их требуется значительно больше.

Не менее важна последующая работа с производителями оборудования. Когда они будут знать результаты использования программ в реальной клинической практике, то смогут вносить необходимые коррективы в их работу.

— Каково соотношение иностранных и российских программ? Какими сейчас больше пользуются медучреждения?

— Это зависит от того, где именно они применяются. Если говорить об оборудовании, например, компьютерных и магнитно-резонансных томографах, то в большинстве из них действительно установлены зарубежные программы ИИ, которые встроены туда изначально. Естественно, у нас очень мало возможностей как-то на них воздействовать. Мы пользуемся ими в том виде, который заложил производитель.

Что касается отдельных самостоятельных программ искусственного интеллекта, предназначенных для анализа диагностических данных (прежде всего, визуализации), то здесь преобладает отечественное ПО. Сейчас уже больше 30 российских программ, имеющих регистрационное удостоверение и разрешение на применение в практическом здравоохранении. Я думаю, что количество этих программ будет увеличиваться. Это один из плюсов ковида: пандемия стала мощным стимулом для отечественных компаний ускорить процесс создания новых программ для искусственного интеллекта.

— Можно ли говорить о сложностях в закупке программного обеспечения с искусственным интеллектом?

— Я не думаю, что есть какие-то сложности в отношении закупок программ искусственного интеллекта. Скорее наоборот. Сейчас политика государства направлена на то, чтобы регионы в максимально возможном количестве устанавливали программы ИИ в свои информационные системы, адаптировали их для работы в МИС и радиологических информационных системах для отработки механизма взаимодействия программы, потока диагностических изображений и электронных медицинских кадров, и вообще всего цифрового оборота, документа оборота внутри системы здравоохранения каждого региона.

Это сложная задача, потому что совершенно разные оборудования, разные программы, разные диагностические изображения. И все это требует стандартизации, унификации и налаживания взаимосвязей.

Поэтому я вижу трудность не столько в закупке самих программ, сколько в их установке, отладке их работы, повседневной работы и, конечно же, в надежности использования или функционирования такого рода систем в каждом регионе.

Вторая проблема, конечно же, заключается в том, что каждая программа должна быть востребована. Мы пропагандируем искусственный интеллект и требуем от регионов установки этих программ не для галочки: они ориентированы на конкретный вид оказания медицинской помощи на конкретные диагностические исследования. То есть ими необходимо пользоваться. Потому нужна заинтересованность конечного потребителя: врачей, занимающихся диагностикой и лечением заболеваний, врачей амбулаторно-поликлинического заведения, стационаров и научно-медицинских центров. А сформировать эту заинтересованность тоже непросто.

— Все чаще мы видим в СМИ заголовки о том, что ИИ постепенно заменит врачей. Как Вы считаете, возможен ли такой сценарий?

— Я думаю, что это невозможно, да и не нужно. Врача не надо заменять, особенно в области рентгенологии и радиологии.

Сейчас программы искусственного интеллекта, как правило, не превосходят уровень среднестатистического врача, скажем, рентгенолога или специалиста любой другой специальности.

Поэтому основная цель – именно практическая помощь. А для этого программы искусственного интеллекта должны содержать очень понятные конкретные функции.

Первая – это взять на себя весь арсенал измерений в области медицинской визуализации. Сейчас это огромный груз, который лежит на плечах рентгенологов, потому что фактически каждое исследование связано с необходимостью тех или иных измерений.

Например, если речь идет об онкозаболевании, то это измерение опухолевого очага. И его нужно измерить так, чтобы сравнить с предыдущим исследованием, следовательно, работы больше.

Если проводится исследование пациента с воспалительным процессом, то нужно посмотреть, что было тогда, что стало сейчас, измерить и оценить динамику количественно.

Если речь идёт об остеопорозе, то предполагается измерение позвонков, высоты тел позвонков, измерение аорты и так далее − их можно считать до бесконечности. В результате работа врача-специалиста превращается в бесконечный поток измерительных данных. Это совершенно не врачебная, а механическая работа, связанная, прежде всего, с использованием алгоритмов. И с ней искусственный интеллект сегодня реально может помочь и диагностам, и лечащим врачам.

Вторая, конечно же, сортировка: но в помощь рентгенологу, а не без него. Например, чтобы разделить норму и патологию, и врачу-рентгенологу было проще ориентироваться в объеме исследования: в потоке маммографических исследований, рентгенографических исследований, компьютерной томографии легких или головного мозга и так далее.

По опыту с коронавирусной инфекцией мы помним, что сортировка – это очень важное преимущество доврачебного взгляда на диагностические изображения.

И третья, самая сложная функция, которую можем сегодня предложить искусственному интеллекту – анализ самой патологии.

Человеческий глаз, к сожалению, не всегда способен различить или разграничить все нюансы изображения патологического очага, которые есть на изображениях.

Искусственному интеллекту это доступно благодаря особым внутренним механизмам. Он может выявить дополнительные признаки, связать их с клиническими симптомами, лабораторными данными, анамнестическими данными и множеством других вещей, на которые у рентгенолога просто нет интеллектуальных возможностей.

Человеку нереально удержать в голове такое количество информации, а компьютерные программы с этим справляются.

Отсюда появляется очень интересное направление, которое называется радиомика.

В его основе − текстурный анализ диагностических изображений и более широкое применение в плане сопоставления диагностических изображений с клинической картиной.

Это представление о так называемой виртуальной биопсии, когда на основании диагностических изображений мы можем найти признаки, указывающие на тот или иной тип морфологических изменений еще до проведения морфологических исследований или биопсии, скажем, патологически измененных тканей.

Конечно, пока это только будущее, но уже сейчас ведется огромное количество научных исследований и разработок. Я думаю, что в ближайшие 5-7 лет здесь произойдет прорыв.

Искусственный интеллект − это форма компьютерных программ, которые могут разгрузить врача диагностики от технической рутины и освободить его время для пациента, лечащего врача, консилиума, обсуждения и другой более интеллектуальной работы.

То есть, речь об инструментах, способных дать специалисту возможность осмысленно интерпретировать диагностические данные. Ведь врач, который занимается радионуклидными или рентгенологическими исследованиями, − это прежде всего врач. И он должен не измерять миллиметры, углы и единицы плотности, а уметь общаться с лечащим врачом и клинически интерпретировать полученные данные: что происходит в легких, что происходит в мозге.

Главную задачу я вижу именно в этом, а не в замене врача-рентгенолога на искусственный интеллект или робота, который будет вместо него вести прием, анализировать изображение или делать еще что-нибудь в этом роде.

Такие разговоры только раздражают профессиональное медицинское сообщество своей неуместностью и не вносят никакой позитивной ноты в важный процесс цифровизации здравоохранения.