Искусственный интеллект все активнее внедряют в здравоохранение: он помогает анализировать снимки, ставить диагнозы и прогнозировать течение болезней. Например, ИИ уже умеет создавать планы лечения рака на уровне современных медицинских стандартов.
Однако новое исследование показало тревожную тенденцию — многие разработчики таких систем плохо знакомы с требованиями безопасности для медицинского ИИ, сообщает ComputerWeekly.com со ссылкой на журнал npj Digital Medicine.
Ученые из Наньянского технологического университета опросили 122 разработчиков медицинского ИИ из Сингапура, Китая, Гонконга, Великобритании и других регионов.
Многие участники не знакомы с рекомендациями
Выяснилось, что только 57% участников знали хотя бы об одной системе регулирования нейросетей, например европейском AI Act или сингапурских рекомендациях по использованию ИИ в здравоохранении.
При этом почти две трети разработчиков работают в организациях, где вообще не применяются какие-либо регуляторные требования к созданию медицинского ИИ.
Лучше всего в нормативных требованиях разбирались опытные разработчики и сотрудники коммерческих компаний. Молодые специалисты и ученые, работающие в академической среде, гораздо реже были знакомы с правилами.
При этом разработчики готовы нести ответственность
Несмотря на результаты, большинство участников считают, что ответственность за работу медицинского ИИ должны нести не только государственные органы, но и сами разработчики. По их мнению, в обеспечении безопасности также должны участвовать пользователи систем, этические комитеты и организации, предоставившие данные для обучения алгоритмов.
Авторы исследования отмечают, что именно разработчики лучше других знают свои модели. Они понимают, насколько качественными были данные для обучения и в каких случаях ИИ способен выдавать недостоверные ответы.
Если специалисты не знакомы с требованиями безопасности, это может привести к ошибкам при внедрении таких технологий в клиническую практику, что создает риски для пациентов и подрывает доверие к медицинскому ИИ.
По мнению авторов, безопасное внедрение искусственного интеллекта в здравоохранение требует повышения знаний разработчиков о правилах, которым эти технологии должны соответствовать.
Что уже умеет искусственный интеллект в медицине и в каких сферах применяется — читайте в материале «Курсива».
