Интеграция ИИ в медицинские устройства под пристальным вниманием после резкого роста сбоев

Мир - Информационное агентство Эхбари

Интеграция ИИ в медицинские устройства под пристальным вниманием после резкого роста сбоев

В эпоху, когда искусственный интеллект стремительно интегрируется во все аспекты нашей жизни, включая такие критически важные секторы, как здравоохранение, острая необходимость найти баланс между инновациями и безопасностью стала первостепенной. Недавнее расследование, проведенное агентством Reuters, выявило тревожную закономерность: эскалацию сбоев и нежелательных явлений, связанных с медицинскими устройствами, улучшенными ИИ, что бросает тень на революционные обещания этих технологий. В отчете указывается, что ошибки, приводящие к перфорации черепа, повреждению артерий и инсультам, становятся «кошмарами, ставшими реальностью» для пациентов, полагающихся на эти системы.

В центре этого спора находится система TruDi от Acclarent — устройство, разработанное для помощи хирургам в лечении хронического синусита путем упрощения планирования операций и предоставления обратной связи в реальном времени. В течение трех лет на рынке устройство, как сообщается, имело всего восемь сбоев. Однако после «усовершенствования» алгоритмами ИИ число сбоев и нежелательных явлений резко возросло, достигнув как минимум 100. Эти инциденты включали утечки спинномозговой жидкости, перфорацию основания черепа, серьезные повреждения артерий и инсульты, что подчеркивает потенциально катастрофические риски.

Подробности двух ужасающих случаев пациентов подчеркивают серьезность ситуации. В одном случае в иске утверждается, что система TruDi неверно направила врача к размещению хирургических инструментов рядом с сонной артерией Эрин Ральф. Это привело к тромбозу и инсульту, потребовав пяти дней в реанимации, отека мозга и удаления части черепа. Год спустя Ральф продолжает проходить физиотерапию. Другой случай касается Донны Фернихоу, которая также получила повреждение сонной артерии во время операции, при этом артерия, как сообщается, «разорвалась», и «кровь разбрызгивалась по всей» операционной, что привело к еще одному инсульту. Адвокаты Фернихоу утверждают, что система, улучшенная ИИ, «непоследовательна, неточна и ненадежна», заявляя, что Acclarent «снизила свои стандарты безопасности, чтобы ускорить вывод новой технологии на рынок», и установила «целью только 80% точности для некоторых из этих новых технологий» до интеграции.

Обеспокоенность не ограничивается только системой TruDi. В отчете также упоминаются другие одобренные FDA устройства, такие как анализатор фетальных изображений Sonio Detect и имплантируемые кардиомониторы Medtronic LINQ. Анализатор Sonio Detect обвиняется в использовании неисправного алгоритма, предположительно ошибочно идентифицирующего структуры плода, хотя о вреде для пациентов от его использования пока не сообщалось. Аналогичным образом, мониторы Medtronic LINQ, как утверждается, не смогли распознать аномальные ритмы, однако инцидентов вреда для пациентов не известно.

Эти инциденты ярко демонстрируют значительные проблемы, с которыми сталкивается Управление по санитарному надзору за качеством пищевых продуктов и медикаментов США (FDA) в попытке не отставать от стремительного темпа инноваций в области ИИ. Отчет Reuters отмечает, что одобренные FDA медицинские устройства с ИИ имели в два раза больший процент отзыва по сравнению с базовым уровнем. Кроме того, ресурсы FDA находятся под давлением, ситуация, как сообщается, усугубляется сокращениями в рамках инициативы DOGE, в результате которой 15 из 40 ученых в области ИИ в Отделе визуализации, диагностики и надежности программного обеспечения (DIDSR) были уволены или ушли.

Reuters выражает обеспокоенность по поводу процесса проверки одобрения устройств ИИ FDA, предполагая, что ведомство склонно сильно полагаться на предыдущую репутацию устройства, фактически «позиционируя новые устройства как обновления существующих». Хотя такой подход может ускорить вывод на рынок машин, улучшенных ИИ, он кажется недостаточно тщательным, когда на кону стоит здоровье человека. Эта ситуация призывает к срочной переоценке нормативно-правовой базы с акцентом на строгое, независимое тестирование, чтобы гарантировать, что эти революционные технологии, в своем стремлении к прогрессу, непреднамеренно не причиняют вреда тем самым пациентам, которым они призваны помочь.

Ekhbary.com