За последние несколько лет исследования показали, что инструменты искусственного интеллекта помогли врачам лучше выполнять свою работу: они помогли им выявлять рак, позволили им быстрее ставить диагнозы, а в некоторых случаях – более точноспрогнозируйте, кто подвержен риску осложнений.
Но новые исследования показывают, что сотрудничество с ИИ может иметь скрытые издержки.
Исследование, опубликованное в журнале The Lancet “Гастроэнтерология и гепатология”, показало, что после всего лишь трех месяцев использования инструмента искусственного интеллекта, предназначенного для выявления предраковых новообразований во время колоноскопии, врачи значительно хуже справлялись с их обнаружением самостоятельно.
Это первое доказательство того, что использование инструментов искусственного интеллекта может подорвать способность врача выполнять фундаментальные навыки без использования технологии – явление, известное как “дескиллинг”.
“Это двусторонний процесс”, – сказал доктор Омер Ахмад, гастроэнтеролог из больницы Университетского колледжа Лондона, опубликовавший редакционную статью вместе с исследованием. “Мы вводим данные в ИИ, которые влияют на результаты, но, похоже, это также влияет на наше поведение”.
Исследование началось так же, как и многие испытания искусственного интеллекта в медицине. Врачи четырех эндоскопических центров в Польше получили доступ к инструменту искусственного интеллекта, который отмечал подозрительные новообразования во время колоноскопии, обводя их рамкой в режиме реального времени. Несколько других крупных клинических испытаний показали, что эта технология значительно повышает частоту выявления врачами предраковых новообразований, что является общепризнанным показателем работы эндоскописта.
Затем, в отличие от предыдущих исследований, исследователи измерили, что произошло, когда инструмент был изъят.
За три месяца до внедрения этой технологии врачи выявляли новообразования примерно в 28 процентах случаев при колоноскопии. В настоящее время уровень выявления снизился примерно до 22 процентов, что значительно ниже их исходного уровня.
Это было наблюдательное исследование, а значит, мы не можем ответить на вопрос, вызвала ли технология снижение производительности. Этому эффекту могут быть и другие объяснения: например, после внедрения искусственного интеллекта врачи провели примерно в два раза больше колоноскопий, чем до этого, что, возможно, означало, что они уделяли меньше внимания каждому сканированию.
Но эксперты говорят, что тот факт, что возникает эффект дескиллинга, вряд ли можно назвать неожиданным. Это явление хорошо изучено в других областях: пилоты, например, проходят специальную подготовку, чтобы усовершенствовать свои навыки в эпоху автопилота.
“Я думаю, главный вопрос будет заключаться в следующем: ну и что? Это важно?” – сказал доктор Роберт Вахтер, заведующий кафедрой медицины Калифорнийского университета в Сан-Франциско и автор книги “Гигантский скачок: как искусственный интеллект трансформирует здравоохранение и что это значит для нашего будущего”.
С одной стороны, по словам доктора Вахтера, существует множество безобидных примеров того, как новые технологии делают старые навыки устаревшими. Например, благодаря изобретению стетоскопа многим врачам было бы трудно исследовать сердце и легкие пациента без него, как это было принято в 1700-х годах.
Но, по мнению доктора Ахмада, ИИ отличается тем, что нуждается в долгосрочном контроле со стороны людей. Алгоритмы обучаются на определенный момент времени, и по мере того, как мир вокруг них меняется, они работают по—другому — иногда в худшую сторону – и нуждаются в мониторинге и обслуживании, чтобы убедиться, что они по-прежнему функционируют так, как задумано. Иногда неожиданные факторы, такие как изменение верхнего освещения, могут привести к тому, что результаты AI. “будут совершенно неправильными и выйдут из строя”, – сказал он.
Предполагается, что врачи должны быть вовлечены в этот процесс, чтобы защитить пациентов от подобных возможностей.
“Если я потеряю навыки, как я буду выявлять ошибки?” Спросил доктор Ахмад.
Даже если бы инструменты были идеальными, Вахтер предупредил, что десквалификация может быть опасной для пациентов в нынешний переходный период, когда инструменты искусственного интеллекта доступны не во всех системах здравоохранения, и новый работодатель может попросить врача, привыкшего ими пользоваться, работать без них.
И хотя снижение квалификации очевидно для любого, кто просматривает данные о тысячах процедур, сказал доктор Вахтер, он сомневается, что каждый отдельный врач заметил изменение в своих способностях.
До сих пор не совсем ясно, почему навыки врача могут так быстро снижаться при использовании искусственного интеллекта. Одно небольшое исследование, посвященное отслеживанию движения глаз, показало, что при использовании искусственного интеллекта врачи, как правило, меньше смотрят на края изображения, что позволяет предположить, что некоторые из мышечная память, задействованная при просмотре снимка, была изменена с помощью этого инструмента.
Доктор Ахмад сказал, что это также может быть связано с тем, что после нескольких месяцев работы с помощником когнитивная выносливость, необходимая для тщательной оценки каждого сканирования, атрофировалась.
В любом случае, эксперты в области медицинского образования и руководители здравоохранения уже рассматривают способы борьбы с этим эффектом. Некоторые системы здравоохранения, такие как UC San Diego Health, недавно инвестировали в симуляционное обучение, которое может быть использовано для того, чтобы помочь врачам практиковать процедуры без искусственного интеллекта и повышать свою квалификацию, сказал доктор Крис Лонгхерст, главный специалист по клиническим вопросам и инновациям в системе здравоохранения.
Доктор Адам Родман, директор программ искусственного интеллекта в Медицинском центре диакониссы Бет Израэль в Бостоне, сказал, что некоторые медицинские школы также рассматривают возможность запрета искусственного интеллекта на первые годы обучения студентов.
Если всего три месяца использования инструмента искусственного интеллекта могут подорвать навыки опытных врачей, участвовавших в исследовании (в среднем врачи практиковали около 27 лет), что произойдет со студентами-медиками и ординаторами, которые только начинают развивать эти навыки?
“Мы все чаще называем это ”никогда не умеющим работать”, – сказал доктор Родман.
(Тедди Розенблют – репортер New York Times, освещающий новости здравоохранения, уделяющий особое внимание медицинской дезинформации)
Первоначально эта статья была опубликована в “Нью-Йорк таймс”.