— Я, откровенно говоря, только недавно начал пользоваться банковской картой, — говорит работник компании «Свободный сокол» Александр Капцанов. – Я не доверял, да и сейчас до конца не доверяю этой технологии хранения денег. Когда они лежат у тебя в кармане, это как-то надёжней и привычней. И это не потому, что я дремучий человек, а как раз потому что я уже давно работаю с такого рода технологиями и имею ясное представление об их слабых сторонах и уязвимости. Что касается искусственного интеллекта в медицине, то он, можно сказать, делает только первые шаги и именно поэтому я не очень хотел бы у него лечиться. У меня жена – врач, и я лучше попрошу её найти мне хорошего специалиста и доверюсь ему.

Это недоверие к искусственному разуму имеет, по крайней мере, две причины. Несмотря на то, что о внедрении ИИ в медицине у нас много пишут и говорят, большинство людей не совсем хорошо представляет как это будет выглядеть и как выглядит там, где ИИ уже применяют. С одной стороны, они сильно преувеличивают его роль в лечебном процессе и думают, что обследовать и принимать решения о назначении лечения будет исключительно искусственный интеллект, с другой, — они справедливо ему не доверяют. Поэтому все доктора, с кем не заведи речь об искусственном интеллекте в медицине, в первую очередь говорят о том, что там, где его применяют, окончательное решение принимает не он, а врач.

— Я хочу в первую очередь сказать и повторить несколько раз, что окончательное заключение при работе, скажем так, в тандеме с искусственным интеллектом, выдаёт врач, — говорит заместитель главного врача «Липецкого областного онкологического диспансера» Александр Нарижний. — Искусственный интеллект только помогает доктору, но ничего не решает. Как это происходит? У нас в диспансере есть мамографический кабинет. Там проводят рентгенологические исследования молочных желез, искусственный интеллект при помощи встроенных алгоритмов оценивает снимки на наличие злокачественных или доброкачественных изменений. Участки с доброкачественными изменениями обводятся зелёной линией, красной линией обводятся места, где, с точки зрения ИИ, есть подозрение на злокачественные новообразования(ЗНО). Искусственный интеллект, разрабатывался и обучался для решения задач скрининга и настроен на гипердиагностику, поэтому может обвести красной линией участок, где он не до конца уверен, — есть там злокачественное образование или нет. Дальше врач-рентгенолог оценивает результаты работы искусственного интеллекта и если он согласен с его выводами, то выдаёт заключение, если не согласен, или посчитает, что ИИ преувеличивает опасность просто примет его информацию к сведению.

— Искусственный интеллект, это хороший помощник врача и не больше того, — говорит Оксана Фатеева. — Заменить человека он не способен.

Искусственный интеллект может что-то подсказать врачу в каких-то рядовых, стандартных ситуациях. Например, в диагностическом поиске, при каких-то массовых исследованиях или при чтении рентгеновских или мамографических снимков. Их прочтение по приказу Минздрава должно осуществляться двумя врачами — сначала один врач читает, потом — другой. Вот здесь на первом этапе снимки может читать искусственный интеллект, на втором — врач. Но оставить пациента один на один с искусственным интеллектом нельзя. ИИ просто не справится с теми задачами, которые решает врач, потому что каждый человек, это супер-экземпляр со своими патологическими процессами, со своими процессами сано- и патогенеза (патогенез-развитие патологического процесса, саногегез — развитие выздоровления — примечание ред.) и к нему невозможно во всех случаях применить те стандартные данные, которые заложены в нейросети.

Такой ли ИИ умный?

Как пишут специалисты в этой области, искусственный интеллект по состоянию на сегодняшний день может играть в шахматы, генерировать изображения и текст, диагностировать заболевания, если, конечно, человек сам заложит в память ИИ их симптомы. Но вот универсальный разум (AGI), пишут эксперты, «способный выполнять умственную работу на человеческом уровне, до сих пор не покинул страниц научной фантастики и философских трактатов». Джеффри Хинтон, которого считают крёстным отцом искусственного интеллекта, считает что AGI появится через 5–20 лет, а гипероптимистичный Илон Маск говорит, что уже в следующем году «искусственный интеллект будет умнее любого отдельно взятого человека, а к 2029-му станет умнее всех людей, вместе взятых». Правда, большинство экспертов и просто здравомыслящих людей в этом очень сильно сомневается.

— Ну послушайте, — говорит Оксана Фатеева, — ведь наш мозг — это бездна неизвестного. Несмотря на наличие института мозга, это ещё такая terra incognita, которую, я даже не знаю, можно ли будет когда-нибудь изучить до конца. Человеческому разуму вообще нет предела и там, где машина пасует, человек справляется и, собственно говоря, справляется неплохо. И, я думаю, человеческий интеллект всегда будет превосходить умственные способности машины.

Они ещё ошибаются

Если говорить о существующих программах ИИ, то на сегодняшний день есть много достаточно совершенных нейросетей для медицины, но они в своём большинстве ещё далеки от того идеала, к которому Илон Маск мечтает приблизить человечество уже в следующем году. В их числе, например, ChatGPT-4, разработанная OpenAI.

Поскольку этим чат-ботом могут пользоваться не только врачи, но и все болящие люди, многие с его помощью, как можно понять из публикаций в сети, занимаются самолечением или ставят диагнозы своим больным животным. Один мужчина, например, спас от смерти свою собаку, воспользовавшись помощью ChatGPT-4 после того, как ветеринары не смогли поставить ей правильный диагноз. Однако Исаак Кохан в своей книге «Революция ИИ в медицине» советует не принимать всё, что говорит ChatGPT-4 за чистую монету и после общения с программой обратиться к врачам, чтобы те подтвердили или опровергли достоверность информации, которую она выдала.

По словам Кохана, ChatGPT-4, «не способен понимать медицинскую информацию и концепции, он просто генерирует ответы на основе имеющихся данных». В экспериментах, которые Кохан проводил вместе с вице-президентом по исследованиям Microsoft Питером Ли, «ChatGPT допустил множество вычислительных ошибок и иногда „галлюцинировал“, то есть выдумывал ответы, если ему не хватало данных».

Наши программы ИИ

В Липецкой области в прошлом году, как я уже говорил, завершили внедрение искусственного интеллекта «Цельс», который, как говорят разработчики, «может использоваться, как система поддержки принятия врачебных решений». Это, собственно говоря, был эксперимент, который, как сообщается в пресс-релизе облздрава, был «призван проверить, может ли сервис повысить качество диагностики патологий и сократить время, затрачиваемое врачом на обработку». Естественно, к нему присматривались и с той точки зрения, насколько хорошо он знает своё дело.

— У нас на текущий момент обработано порядка четырёх тысяч снимков, и пока мы не получили такую информацию, чтобы искусственный интеллект что-то обработал неверно, — говорит Олег Бондарев. — Но по информации организации интеграторов, которые создавали этот искусственный интеллект, мы знаем, что у него может быть какой-то небольшой процент ошибок, связанных с тем, что он может, скажем так, перестраховаться. Он может поставить патологию там, где на самом деле её нет. Это сделано для того, чтобы «Цельс» ничего не пропустил. Разработчики посчитали, что пусть он лучше покажет что-то лишнее, а человек потом его поправит, чем что-то пропустит. Что касается отношения врачей к искусственному интеллекту. У нас в прошлом году был небольшой простой системы, связанный с обеспечением безопасности нашего центрального архива, и врачи тут же начали звонить и спрашивать, что случилось и почему они не получают интерпретацию снимков искусственным интеллектом. Поэтому, я думаю, им нравится работать с ИИ. Для них он стал хорошим подспорьем.

Следующий этап

В этом году искусственный интеллект возможно начнёт помогать липецким докторам искать патологии на рентгеновских и флюорографических снимках и КТ грудной клетки. Не исключается возможность, что ИИ будет определять инсульт на основе КТ головного мозга.