Кто несёт ответственность за ошибку при использовании ИИ-инструментов врачом⁉️
Издательство Springer Nature опубликовало дискуссионный топик, посвященный правовым и этическим аспектам применения искусственного интеллекта в медицине. Авторы рассматривают вопрос об ответственности в случаях, когда ИИ-система допускает ошибку при диагностике или назначении лечения.
🔎🏥 Сегодня алгоритмы используются для расшифровки медицинских изображений, мониторинга пациентов и управления терапией. При этом логика работы нейросетей во многом неочевидна для врача, что ограничивает его возможность полного контроля, а действующее законодательство не определяет, кто несет ответственность в таких случаях - разработчик, медицинское учреждение или врач.
📋👾 По данным опросов, 93% врачей называют юридическую неопределенность основным барьером для внедрения ИИ. В качестве решения эксперты предлагают внедрить ИИ классификацию по уровням автономности - по аналогии с уже принятыми стандартами для беспилотных автомобилей и авиационных систем. Каждый уровень учитывает, насколько система самостоятельна в принятии решений, какие задачи автоматизирует и в какой клинической среде применяется. Это позволит заранее распределять зоны ответственности между участниками процесса и подобрать
В свою очередь, регулирующим органам предстоит установить четкие требования к проверке ИИ-систем, включая порядок аудита их работы и критерии вмешательства человека, особенно для высокоавтономных систем с непрозрачной логикой. Медицинским организациям необходимо внедрить внутренние процедуры мониторинга эффективности инструментов, ведения журналов решений и информирования персонала об ограничениях ИИ. Судам предлагается адаптировать правовые подходы для оценки дефектности сложных алгоритмов, а также рассмотреть возможность введения обязательного страхования ответственности за вред, причиненный ИИ, для всех участников процесса. 👨⚖️🤝
👉🏻 Читать подробнее об уровнях классификации: ссылка.
