ИИ снижает навыки: врачи стали хуже диагностировать рак без помощи алгоритмов

Внедрение искусственного интеллекта (ИИ) в медицинскую практику, направленное на улучшение диагностической точности, может привести к непредвиденным последствиям. Недавнее исследование, опубликованное в журнале The Lancet Gastroenterology & Hepatology, выявило, что после периода работы с ИИ-системами, квалификация опытных врачей в самостоятельной идентификации предраковых изменений в кишечнике снизилась.

Исследование проводилось в Польше в конце 2021 – начале 2022 года. В нем участвовали 19 эндоскопистов, имеющих опыт проведения не менее 2 000 процедур. В четырех центрах колоноскопии они применяли систему ИИ для обнаружения полипов в режиме реального времени.

Данные были разделены на два периода: три месяца до внедрения ИИ и три месяца после. Результаты показали, что при стандартных колоноскопиях без использования алгоритмов показатель выявления аденом уменьшился с 28,4% до 22,4%. Это снижение на 6% пунктов, что составляет относительное уменьшение на 20%. Другими словами, врачи, привыкшие к поддержке ИИ, стали реже обнаруживать новообразования без его помощи.

Авторы предполагают, что систематическое применение алгоритмов повлияло на рабочий процесс медиков, снизив их концентрацию на деталях, поскольку часть ответственности была перенесена на машину.

«Эффект калькулятора» и когнитивная нагрузка

Согласно информации, предоставленной EurekAlert, ухудшение профессиональных навыков обусловлено перераспределением когнитивной нагрузки. В ситуациях, когда медики полагались на подсказки алгоритма, наблюдалось ослабление их внимания и снижение способности концентрироваться на детальных признаках заболевания. Данный феномен специалисты окрестили “эффектом калькулятора”, проводя аналогию с тем, как частое использование калькулятора негативно влияет на навыки устного счета. Аналогично, чрезмерная зависимость от ИИ может приводить к ухудшению способности специалистов диагностировать патологии без цифровой поддержки.

Специалисты выражают опасения, что даже незначительное снижение диагностической точности может иметь серьезные последствия. Многие аденомы развиваются постепенно и бессимптомно, поэтому пропуск таких новообразований увеличивает вероятность их злокачественного перерождения. В перспективе, утрата врачами своих профессиональных навыков может привести к увеличению смертности от колоректального рака.

Расширяющаяся проблема

По информации The Verge, данное исследование является одним из первых, представляющих количественную оценку “deskilling”, то есть потери профессиональных навыков, в реальной клинической практике. Специалисты полагают, что сходные последствия могут наблюдаться в таких областях, как радиология, дерматология, офтальмология и других, где искусственный интеллект уже широко используется в диагностике.

Полученные результаты представляют собой вызов для медицинских учебных заведений и систем здравоохранения: программы обучения врачей должны принимать во внимание данный риск и включать обязательную практику без использования алгоритмов, чтобы поддерживать навыки независимого принятия решений.

Согласно данным Национального института здоровья США (NIH), аналогичные угрозы существуют и в других профессиональных областях. В отличие от традиционных инструментов, которые оказывают помощь, но требуют активной умственной деятельности, ИИ берет на себя основную часть аналитической работы, уменьшая когнитивную нагрузку. Это может привести к постепенной утрате ключевых навыков специалистами различных областей, от юристов до инженеров, в случае чрезмерной зависимости от алгоритмов.

Исследователи акцентируют внимание на том, что Искусственный Интеллект (ИИ) представляет собой эффективное средство, которое в основном улучшает обнаружение колоректального рака. Однако для достижения оптимальных результатов важно найти золотую середину: доктора должны рассматривать алгоритмы как ассистентов, а не как альтернативу своим знаниям. Специалисты рекомендуют внедрение подхода “комбинированного обучения”, при котором часть практики осуществляется без участия ИИ, чтобы врачи не утратили умение самостоятельно диагностировать заболевания.

Центральный вопрос на перспективу – каким образом интегрировать алгоритмы в медицинскую практику таким образом, чтобы они укрепляли профессиональные компетенции, а не ослабляли их. От решения этой задачи зависит, станет ли ИИ подлинным прорывом в сфере здравоохранения или же породит новую опасность для точности диагностирования.