Врачей заменят машины: Опыт есть – ИИ "убил" 50% пациентов

Как присутствие искусственного интеллекта влияет на современную российскую медицину? Этот вопрос ведущая "Первого русского" Диана Сорокина обсудила с профессором, докторм медицинских наук Владиславом Шафалиновым в эфире программы "Вакцина правды".

Внедрение ИИ в медицину

Диана Сорокина: Владислав Анатольевич, какое значение сегодня искусственный интеллект имеет в медицине?

Владислав Шафалинов: Ну, он всегда имел значение. Но здесь, наверное, правильным ответом будет то, что ему, к сожалению, придаются некие большие возможности и способности, нежели то, на что искусственный интеллект способен. Потому что ИИ – это не интеллект, это машинный алгоритм, разработанный кем-то и загруженный в машину.

– А сами врачи как относятся к внедрению искусственного интеллекта в медицину?

– Все по-разному. В зависимости от уровня образования, воспитания и своей  доверчивости. Да, вау-эффект – он произведён словосочетанием "искусственный интеллект". Вот, скоро вас будет лечить искусственный интеллект и всё такое. А к людям, которые падки на вот эти вау-эффекты, относится, по-моему, подавляющее большинство в составе нашего правительства. Есть ощущение, что их по этому принципу подбирали, критичности мышления там нет вообще. Среди тех, кого я слушаю, включая некоторых министров, там есть падкие на это. Хотелось бы, чтобы они были первыми пассажирами того поезда, в котором направление будет определять искусственный интеллект. Чтобы они на себе испытали, что это такое.

Фото: Царьград

По данным американских врачей, при постановке диагноз "сепсис" их западный искусственный интеллект допустил ошибку в 50% случаев. То есть 50 из 100 пациентов он "похоронил". И тем товарищам, которые хотят лечиться с помощью искусственного интеллекта, я бы порекомендовал обратить на это внимание и подумать, прежде чем обращаться и вести к этому других людей.

Чем полезен ИИ для врачей? 

– А в нашей стране насколько эффективно искусственный интеллект помогает врачам в постановке диагнозов?

– Пока не особо. Вот, например, компьютерная томография. Это тоже машинный алгоритм. То есть компьютер обрабатывает данные томограммы, полученные гамма-излучением. Концептуально компьютерную томографию все знают. Это когда человека помещают в специальный аппарат, он катается туда-сюда. И это ничем не отличается от рентгенографии. И то и другое – гамма-излучение. Только там 0,2, условно, миллизиверта, а там 2,3. То есть КТ, конечно, мощнее, и она даёт нагрузку в десять раз больше, чем рентгеновский аппарат. Но КТ может обрабатывать. И вот обработка данных – это, по сути дела, тоже искусственный интеллект. И в этом плане интеллект машинного алгоритма, конечно, может помочь врачу с точки зрения интерпретации анализов.

Или ты, к примеру, получаешь из лаборатории анализ крови, а у тебя там повышенные значения красненьким показаны, или стрелочкой, или жирным. Это тоже всё ИИ выделяет на компьютере, на принтере. И мне как врачу это удобно, потому что я сразу вижу, где отклонения от нормы.

Если, например, машина выдаёт антитела, допустим, к описторхозу менее 0,85 или 0,01, а ты не знаешь, что это такое, то внизу написано: менее 0,85 – это, значит, норма. То есть ИИ как бы подсказывает. И когда у врача, особенно в системе ОМС, уважаемой или неуважаемой, всего 15 минут на приём пациента, и больше половины этого времени он должен заполнять документацию, то, конечно, здесь бы ИИ помог и подсказать, на что обратить внимание. Вот тут у пациента в общем анализе отклонения в биохимии, а ещё есть антитела повышенные к тому-то и тому-то. Если пациент сдал, конечно. Вот это помощь. А ставить за врача диагноз и уж тем более назначать лечение – это очень спорная история.

– А если искусственный интеллект допустил ошибку, то кто несёт за это ответственность? Как вот в том примере, который вы рассказали ранее.

– Как по мне, то её должен нести программист-разработчик вместе с Минздравом, который это дело пропустил. Солидарную ответственность. Но вы знаете, ответственность работает, когда она персональная. А когда ответственность общая, то это не работает. Когда, условно, кто-то из чиновников допустил ошибку.

Фото: Царьград

Вот только сегодня  с одним из знакомых разговаривали, что какое-то из министерств допустило ошибку. Они говорят: ну как же так? Или: ну, ошиблись, извините. И ты никому не предъявишь. Вот, тесты. Я помню, как в первый раз столкнулся с тестированием идиотским. Это было в 1998 году, когда Минздрав разразился какими-то тестами по хирургии. Их точно составлял не хирург. И самый продвинутый уважаемый профессор из 100 баллов набрал, по-моему, у нас 63, а я набрал 56. Остальные – 40, 30 и так далее. Мы все смеялись: кто в Минздраве составлял эти тесты? И это тоже своего рода ИИ, который тебя оценивает по твоим ответам. Ну, глупость, смех, достойно!

Контроль работы медицинских нейросетей

– А кто вообще контролирует работу нейросетей, связанных с медициной?

– Работу чего-либо контролирует всегда тот, кто это создал. Очень сложно, я думаю, будет найти персональных ответственных. Простите, я почти в каждой передаче вспоминаю ковид. Так вот, там было 16 или 17 изданий методических рекомендаций. И в 9-м издании по лечению ковида уже полностью исключали препараты, которые были в первом. И никто персональную ответственность за это не понёс. Более того, до сих пор неясно, кто их создал, кто это написал вообще.

– А обучают ли сегодня студентов работе с искусственным интеллектом?

– Когда я учился, то обучали. Но только на начальных этапах. Тогда мы учили только языки программирования. Но, конечно, обучают. Здесь самое главное – не обучить работе с машинными алгоритмами, а понять, где они возможны и допустимы, а где нет.

– Но всё равно времена меняются, какие-то новые технологии внедряются. Проходят ли уже состоявшиеся врачи какую-то переподготовку в связи с этим?

– Врачи обязаны проходить переподготовку раз в несколько лет. Раз в три года или в пять лет. Возможно, это надо делать чаще.

Сейчас появилась новая система, по которой врач должен получать непрерывное медицинское образование. Но уважающий себя врач и так учится постоянно. Но такая система должна быть.

Роботы заменят врачей?

– А когда, на ваш взгляд, работа с искусственным интеллектом станет повсеместной, в том числе в медицине?

– Ну, надеюсь, что повсеместно на том уровне, на который они хотят его пропихнуть, никогда. Потому что это будет приводить к ошибкам, за которые опять же никто не будет отвечать. А с точки зрения подсказки врачу в тех же анализах, в тех же лучевых методах исследования, то это есть и сейчас. Но, наверное, будет как-то усовершенствоваться, внедряться. Я надеюсь, что аккуратно.

– А вот не сместит ли искусственный интеллект врачей с их рабочих мест?

– Сместит. И я надеюсь, что многие специалисты, которых он может сместить, это понимают. Но я надеюсь, что этого не произойдёт.

Фото: Царьград

Потому что вердикт всё равно не за искусственным интеллектом, не за машинным алгоритмом, а за врачом. В роли помощника он, безусловно, может быть полезен. Но есть риск того, что кто-то попытается поменять врача на машину.

– А кто это может сделать?

– Разработчики. Тот, кто полезет в это.

– Если, не дай Бог, это произойдёт, то какая общая картина может сложиться?

– Как в те времена после ковидобесия, когда пациенты перестанут доверять медицине. Точно так же они перестанут доверять и этому ИИ. Хотя он, как я уже сказал, может быть применим в определённых областях.

– Ну, будем надеяться, что глобально этого не произойдёт.

– Будем надеяться, что всё будет хорошо.