Как и почему изменилось отношение врачей к искусственному интеллекту: интервью с рентгенологом

За последние пять лет системы искусственного интеллекта для анализа цифровых медицинских снимков прошли большой путь – от недоверия и опасений со стороны медицинского сообщества до внедрения в клиническую практику. Последнее касается, прежде всего, столицы: с 2020 года все отделения лучевой диагностики Москвы применяют ИИ-сервисы в рамках эксперимента Департамента здравоохранения. А в 2021 году Росздравнадзор зарегистрировал первую в РФ систему искусственного интеллекта для анализа маммографии и флюорографии («Цельс») в качестве медицинского изделия.

Но что по этому поводу думают сами врачи? О первом «знакомстве» с искусственным интеллектом и о том, как изменилось его восприятие с тех пор, о преимуществах для врача и возможных рисках от применения ИИ – рассказал Бронов Олег Юрьевич, врач-рентгенолог высшей категории, кандидат медицинских наук, научный руководитель компании, разрабатывающей ИИ-систему для рентгенологии.

– Олег Юрьевич, когда вы впервые соприкоснулись с искусственным интеллектом для рентгенологии и какие у вас были впечатления?

– 6-7 лет назад я был на ежегодной конференции в США – RSNA (Radiological Society of North America), это одна из крупнейших и известнейших в мире конференций по радиологии. Особенность RSNA заключается в большом количестве выставочного материала, в том числе и от производителей рентгенологической техники. И где-то с 2016 года там стали активно появляться разработчики программного обеспечения, в том числе связанного с технологиями ИИ. Тот же известный IBM Watson там тоже был представлен – по рентгенологической тематике.

Впечатления были смешанные. Как и, возможно, у многих врачей, были мысли о том, что в ближайшем будущем рентгенологов заменит искусственный интеллект. Потому что рентгенолог – это на 100% цифровая профессия: любой снимок, с которым мы работаем, будь то КТ, МРТ, УЗИ – это всё цифровые данные. Отсюда и возникает вопрос: а зачем тогда человек, если все эти данные может теперь обрабатывать система?

Потом я вернулся в Россию, здесь на тот момент тоже уже начиналось движение к разработке искусственного интеллекта в медицине. Я познакомился с представителями нескольких компаний-разработчиков (часть из них сейчас продолжает работу, а часть уже не работает), стал больше узнавать об этом. 

Важно сказать, что за последние шесть лет понимание сценариев применения искусственного интеллекта в медицине поменялось, и опасения врачей по большей части ушли. Риторика в профессиональном сообществе по этому поводу изменилась: не «искусственный интеллект заменит врача», а «врач с искусственным интеллектом заменит врача без искусственного интеллекта».

– А как изменилось понимание сценариев применения ИИ?

– Раньше это представляли так, что искусственный интеллект делает за тебя практически всю работу. В этом «идеальном» мире ты по нажатию кнопки получаешь всё: описание исследования, заключение, все метрики, которые только возможны. И при таком сценарии действительно непонятно, зачем вообще нужен человек, врач-рентгенолог.

Но от таких глобальных идей отрасль приходит к более узким, специализированным задачам. Здесь искусственный интеллект не сделает за вас вашу работу – не напишет заключение за рентгенолога, не поставит диагноз за врача. Такие сервисы неспроста называют системами поддержки принятия врачебных решений. Именно врачебных! Только врач принимает конечное решение и только врач несёт за него ответственность. 

Искусственный интеллект помогает ему в определённых, прежде всего, рутинных задачах, на которые врач-рентгенолог тратит уйму времени. А помимо рутинных, помогает и в некоторых сложных: когда нужны какие-то расчёты, измерения – что тоже занимает много времени.

Я допускаю (и почти уверен), что в будущем задачи медицинского искусственного интеллекта будут масштабироваться обратно. Когда мы научимся с помощью него хорошо решать узкие задачи (и, что не менее важно, встраивать это в общий процесс), можно будет совмещать такие наработки и переходить к более глобальным задачам.

– Все говорят о плюсах применения искусственного интеллекта в рентгенологии. А есть ли минусы или потенциальные опасности?

Во-первых, возможно излишнее доверие к искусственному интеллекту. Рентгенологу нельзя на 100% на него полагаться. Даже если у системы высокие метрики (чувствительность, специфичность и т.д.), врач должен перепроверить – потому что отвечать за результат будет он, а не искусственный интеллект. 

Это опасение идёт из других сфер применения ИИ – например, беспилотного управления автомобилем. Робомобили Uber перестали ездить в крупных городах США после ДТП, повлекшего смерть велосипедистки. Она пыталась пересечь дорогу в неположенном месте, и человек, который сидел на месте водителя и должен был перехватить управление, не успел отреагировать. Опыт других производителей таких автомобилей – Google и Waymo – тоже показывает, что люди слишком доверяют технологиям, не следят за дорогой, иногда даже засыпают во время движения.

В случае с рентгенологом это не значит, что ему всё нужно измерять и пересчитывать заново. Нужно хотя бы посмотреть, какие области система выделила на снимке, какие объекты нашла – и если ты согласен с предварительным заключением, значит, всё в порядке. Перепроверка всё равно будет занимать меньше времени, чем если бы ты делал всё это вручную – поэтому ты уже выиграл во времени.

Во-вторых, важно обеспечить информационную безопасность. Здесь, в свою очередь, можно выделить два аспекта. Первый – безопасность персональных медицинских данных. Хочется иметь уверенность в том, что исследования, которые загружаются в облачное хранилище для последующей обработки, действительно обезличены и что после обработки они никуда не уходят. К тому же, медицинский искусственный интеллект – не обязательно рентгенологический: некоторые решения используют текстовые данные, включая историю болезни, результаты анализов и так далее. И эти данные о пациенте важно обезопасить.

Второй аспект касается безопасности применения самого программного обеспечения – в том смысле, что необходимо исключить возможность внесения в него каких-либо изменений третьими лицами. 

2-3 года назад в Израиле была довольно показательная история: исследователи кибербезопасности разработали вредоносное ПО, чтобы продемонстрировать уязвимости в оборудовании для обработки медицинских изображений. Вирус «пририсовывал» рак почки на данных компьютерной томографии с «нормой» и удалял признаки патологии с исследований, на которых они изначально были. Когда рентгенологам предложили проанализировать эти исследования, они сделали неверное заключение в 99% случаев с «пририсованными» патологиями и в 95% случаев с удалёнными. Это ещё раз показывает важность обеспечения информационной безопасности в отношении медицинского ПО.

– Вы сказали, что отношение рентгенологов к ИИ меняется, что стало меньше опасений. Результаты московского эксперимента по применению сервисов в клинической практике тоже показывают, что отношение врачей улучшилось. С чем связано это изменение?

– В первую очередь, с улучшением самих сервисов. Когда в 2020 году многие разработчики начали участвовать в московском эксперименте, были нюансы с удобством использования. Рентгенолог ведь хочет, чтобы всё было быстро, чтобы исследование отправлялось на проверку искусственным интеллектом в один клик. 

Если вы придёте со своим ПО к группе рентгенологов, первый вопрос, который они вам зададут – это «сколько на это потребуется времени?» Потому что когда тебе нужно исследования выгрузить из PACS-системы, заархивировать, анонимизировать, открыть ИИ-сервис в браузере, перетащить исследования в облако… Это отнимает и время, и желание использовать сервис.

Другое дело – когда сервис встроен в тот же самый интерфейс, в котором ты работаешь, и там есть кнопка «отправить ИИ». Так сейчас реализовано в Москве, и я уверен, что удобство использования – один из ключевых пунктов, которые формируют лояльность врачей к искусственному интеллекту.

К тому же, ИИ-сервисы в целом стали лучше работать: лучше анализировать, лучше считать. Когда врач что-то предполагает, а ИИ ему это подтверждает – это, безусловно, вызывает больше доверия к сервису, даёт врачу ощущение, что он не один, что есть дополнительная опора. 

Особенно это важно для рентгенологов с опытом (от 3-5 лет), потому что они более скептически настроены, их доверие действительно надо заслужить. А человек без опыта настроен менее скептически, он нуждается в советах – поэтому на искусственный интеллект он будет больше опираться, чем опытный специалист.

А ещё на отношение врачей к искусственному интеллекту, по моим наблюдениям, влияет их осведомлённость. Это нормально для людей – опасаться того, о чём они мало знают. И наоборот: чем больше такие системы применяются в клинической практике, тем они становятся привычнее для врачей и тем меньше вызывают опасения.

– Когда, на ваш взгляд, применение ИИ в клинической практике станет повсеместным?

– Если говорить про Россию, где значительная часть медицины представлена государственными медучреждениями, то здесь масштабы внедрения искусственного интеллекта в работу врачей во многом зависит от инициативы властей. Сейчас, как мы видим, масштабно технология применяется только в Москве. 

А чтобы распространить эту практику на всю страну, нужны соответствующие инициативы. Один из вариантов (который, как я знаю, уже обсуждается) – это включение услуг обработки медицинских снимков искусственным интеллектом в тариф обязательного медицинского страхования. Кроме того, для повсеместного применения ИИ в государственной медицине необходимо создать общую централизованную инфраструктуру (как это, опять же, сделали в Москве).

В конечном счёте, использование искусственного интеллекта врачом станет обычным делом. Такой привычный симбиоз приведёт к меньшей нагрузке на врача, исследования будут просматриваться более детально, а процент ошибок уменьшится. Появится время на самообразование, на банальный отдых. С точки зрения государства основными плюсами мне видятся снижение затрат как на саму диагностику, так и на лечение – заболевания будут диагностировать на ранних этапах, что в итоге приведёт к снижению смертности и увеличению продолжительности жизни. Ну а пациенты получат более качественный, во всех смыслах, медицинский сервис. Снизится время ожидания результата исследования, а удовлетворённость пациентов повысится – и конечно же, медицина для пациентов станет по-настоящему высокотехнологичной.