Российские медиа внезапно обратили внимание на статью недельной давности в британском таблоиде о новом и «прорывном» ИИ, который научился «предсказывать смерть» от сердечно-сосудистых заболеваний. О том, что это за технология, насколько она результативна, что действительно и с какой долей вероятности она «предсказывает» и почему ничего принципиально нового в ней на самом деле не наблюдается, читайте в материале «Сенсаций.Нет».
Сразу несколько российских федеральных СМИ вышли сегодня с материалами, где заголовки звучат примерно следующим образом:
«В больницах Великобритании начали использовать «калькулятор смерти».
Речь идет об экспериментальном внедрении искусственного интеллекта в несколько британских клиник, в частности, в систему диагностики по результатам ЭКГ. По мнению ученых-разработчиков, система под названием AI-ECG или AIRE позволит на основе данных электрокардиограммы человека, как выявлять осложнения в его здоровье, так и указывать предполагаемую дату его смерти, если с этими осложнениями пациент ничего делать не будет. Результативность системы, как указывает Daily Mail равняется примерно 76%.
Судя по всему, первыми, кто в России написал про этот пресловутый «калькулятор», стали РИА-Новости. Это уважаемое издание, в свою очередь ссылается на текст в британском Daily Mail, таблоиде, который известен своей определенной «желтизной» и, что называется, «продающими заголовками». Собственно, словосочетание «сверхчеловеческий калькулятор смерти на основе искусственного интеллекта», по всей видимости, первыми в заголовке использовали именно британские журналисты. И, к слову, статью на эту тему издание опубликовало еще 24 октября этого года.
При этом, со ссылкой на куда более интересный, но специфический материал уже из научного журнала The Lancet, правда с куда более спокойным названием:
«Электрокардиограмма с использованием искусственного интеллекта для оценки смертности и сердечно-сосудистого риска: исследование по разработке и валидации модели».
Почему мы здесь так заостряем внимание именно на заголовках? Ну, потому что это прямо «высший пилотаж этики» — писать про «калькулятор смерти» для целевой аудитории, у которой потенциальные проблемы с сердцем.
Впрочем, это все лирика, а по факту, статья в Daily Mail очень похожа на откровенно рекламную. Чтобы заподозрить такую «джинсу», достаточно в этом тексте обратить внимание на комментарии кардиолога-ординатора в фонде Imperial College Healthcare (про этот фонд в тексте указывается только то, что он один из участвующих в программе развития и внедрения новой нейросети) Арунашиса Сау, который заявляет:
«Одним из ключевых отличий является то, что целью здесь было сделать что-то сверхчеловеческое.
То есть не заменить или ускорить то, что может сделать врач, а сделать то, что врач не может сделать, глядя на сердечную кривую.
Мы обнаружили, что ИИ может собирать информацию, касающуюся структуры и функционирования сердца пациента, и даже такую глубокую информацию, как генетическая информация».
Характерно, что уважаемый доктор не только сотрудник одного из фондов, которые развивают данную программу, но и основной автор научной статьи в The Lancet по поводу новой «чудодейственной системы». То есть, скорее всего, он один из непосредственных разработчиков системы AIRE.
Есть и еще одна проблема уже с изданием The Lancet. Заключается она в том, что несколько раз этот журнал писал не просто недостоверную, а политизированную информацию, которая вызывает очень большие вопросы.
И второй немаловажный момент, который настораживает уже «ИИ-скептиков», это ряд последних независимых западных же исследований, которые показывают, что интеллект искусственного интеллекта (простите за невольную тавтологию) во всех сферах вообще, а не только в медицине, довольно сильно переоценен. Об этом подробно «Сенсаций.Нет» писали ранее.
Помимо этого, есть и определенная особенность в подаче информации из Daily Mail уже нашими, отечественными медиа. Они пишут о «калькуляторе смерти» в восторженных тонах, как будто это небывалый прорыв в британской системе здравоохранения, где и так все замечательно.
Но если дочитать до конца текст в оригинале, то становится понятно, что англичане запускают новую кардио-нейросеть совсем не от хорошей жизни. Как пишет все та же Daily Mail (а российские СМИ почему-то не заостряют на этом внимания):
«Ранее издание MailOnline сообщало о росте числа молодых людей в возрасте до 40 лет, проходящих лечение от сердечных приступов в Национальной службе здравоохранения Англии…
Также причиной стали медленное реагирование бригад скорой помощи на вызовы категории 2 в Англии, включающие подозрения на сердечные приступы и инсульты, а также длительное ожидание тестов и лечения».
То есть, внедрение ИИ в данном случае – это попытка заткнуть огромную и летальную дыру в национальном здравоохранении. При этом позиция «это уже нечто сверхчеловеческое», то есть, отдание на откуп нейросети настолько серьезной диагностики не может не настораживать.
Если обратиться к российским реалиям, то наиболее подробный (хотя уже неполный) список медицинских нейросетей, используемых и тестируемых в России был представлен на портале Webiomed 17 июня 2024 года и состоит из 66 пунктов. На текущий момент четыре таких системы работают именно с профилактикой и выявлением сердечно-сосудистых заболеваний на основе ЭКГ.
Самая известная от Сбербанка. Но есть и другие, которые сейчас работают, например, в медучреждениях Тюмени и Пензы (кстати, результативность этой нейросети по открытым данным достигает 90 процентов, а не 76, как у британского аналога).
Пензенский опыт, кстати, еще и экстраполируется на ЕАЭС, поскольку эта сеть разрабатывалась совместно с учеными из Казахстана. Работают эти нейросети примерно в том же русле, что и британская AIRE, только вот ни «сверхчеловеческим интеллектом», ни «калькулятором смерти» это программное обеспечение никто не называет.
Ну, и более того, если обратиться даже к российским нейросетям с открытым доступом, то очень показателен сам подход к их использованию. Вот, например, что встречает пользователей на сайте нейросети Spina Bifida (ИИ, который помогает диагностировать по УЗИ порок развития позвоночника у еще не рожденных детей):
«Информация в данном веб-сервисе предназначена исключительно для использования специалистами с медицинским образованием, практикующими специалистами в области УЗ диагностики, перинатологии в научных целях и не должна рассматриваться как профессиональный совет или замена консультации с квалифицированным врачом или другим специалистом в области здравоохранения.
Результат работы сервиса не является диагнозом, за консультацией обратитесь к врачу».
Аналогичный подход в России уже сформирован в отношении практически всех ИИ. Если характеризовать его максимально просто, то нейросеть – это просто программа, которая предоставляет дополнительную информацию. А последнее слово за оператором-человеком.
И применительно к истории с британской системой диагностики и прогнозирования, а также её вот такой рекламе, можно сделать два предположения: либо с медицинской этикой в Королевстве все уже очень и очень нехорошо, либо настолько же нехорошо всё с системой здравоохранения, как таковой. Потому, что давать на откуп ИИ настолько серьезную диагностику и прогнозирование срока жизни – это нужно или фанатично верить в «большую цифру» или дойти до совсем уж отчаянного состояния в сфере медицинских кадров.
