Нейросети больше не будут давать советы по лечению — в России появился ГОСТ на искусственный интеллект в медицинской сфере. Выделены две категории: медицинские изделия с ИИ и голосовые помощники. Можно ли доверять свое здоровье чат-боту, каким рекомендациям можно следовать и в чем их опасность — в материале 360.ru.

ГОСТ для ИИ

Государственный стандарт устанавливает термины и определения для систем ИИ в здравоохранении, а также классифицирует эти системы. Подобный ГОСТ в России ввели впервые, закон уже вступил в силу.

«В настоящее время технологии искусственного интеллекта являются одним из ключевых инструментов цифровой трансформации различных секторов экономики и социальной сферы, в том числе здравоохранения. Однако интеграция этих технологий в здравоохранение требует четкого регулирования, стандартизации и соблюдения этических принципов. Это обеспечит безопасность пациентов, сохранит высокий стандарт медицинских услуг и минимизирует риски ошибок или злоупотребление такими системами», — следует из национального стандарта РФ ГОСТ «Системы искусственного интеллекта в здравоохранении. Термины и определения. Классификация».

Все системы искусственного интеллекта (СИИ) в области медицины подразделяются на две основные категории: медизделия с технологиями ИИ и сервисы на основе ИИ.

К первой категории относятся системы для профилактики, диагностики, лечения и медицинской реабилитации заболеваний, мониторинга состояния организма человека, проведения медицинских исследований. Ко второй — голосовые сервисы, чат-боты и сервисы видеоаналитики.

В документе также указано, что СИИ делятся на две группы: предназначенные для пользователей без специальной подготовки и для пользователей, прошедших подготовку. Автономные СИИ способны самостоятельно принимать решения и выполнять медицинские процедуры без непосредственного участия человека, они должны обладать высоким уровнем надежности.

ИИ и здоровье

Недавно компании OpenAI и Google запретили GPT-чатам давать консультации по праву и медицине на основе пользовательского опыта. Российский голосовой помощник «Алиса» при запросе рекомендаций при аллергии тоже направил пациента к врачу и выдал «петицию», почему нельзя обращаться за лечением к ИИ.

Можно ли доверить нейросети свое здоровье, 360.ru рассказала врач-иммунолог-аллерголог высшей категории Оксана Шабалина. Она отметила, что довольно часто наблюдает испуганных пациентов, которые «полечились по интернету», но зашли в тупик.

«Дальше начинается испуг, тупик, а иногда побочные эффекты, а иногда они вообще не в том направлении движутся. Кто-то быстро приходит к врачу за советом, кто-то затягивает, и иногда это может сказываться неблагоприятно на здоровье», — отметила Шабалина.

Врач добавила, что ИИ чаще всего обобщает информацию, найденную в интернете, и выдает общие рекомендации о диете, образе жизни и медикаментах. И всегда советует обратиться к врачу, но не все следуют этому совету, посетовала Шабалина.

Иммунолог рассказала, что часто к ней обращаются пациенты, которые уже принимают какие-то лекарства, зачастую, уже с побочными эффектами. И часто такие препараты покупают, следуя рекомендациям в Сети.

«Опасность в том, что не учитывается коморбидность. Например, у человека с простудой или с аллергией есть еще заболевания сердечно-сосудистой системы. Некоторые антигистаминные опасно пациентам с сердечно-сосудистыми заболеваниями, им надо подбирать специальные препараты», — пояснила врач.

Интересно

Коморбидность — сосуществование у одного пациента двух или более заболеваний, синдромов или психических расстройств, связанных между собой единым патогенетическим механизмом или совпадающих по времени.

У нейросети можно спросить какие-то общие рекомендации по аллергии или другим заболеваниям — по образу жизни, какие-то опорные моменты, отметила врач.

Шабалина также затронула тему ответственности. ИИ не несет никакой ответственности за свои рекомендации, в отличие от врачей, которые регламентированы законодательством РФ и имеют соответствующую аккредитацию.

Мы отвечаем за то, что рекомендуем конкретному человеку с его индивидуальными особенностями. Ну и эмпатию никто не отменял — поговорить с пациентом, успокоить его, направить его к другому специалисту.

Все это невозможно, если человек один на один общается с искусственным интеллектом о своем здоровье, заключила врач.