Был сегодня на выступлении Алины Губановой, она руководит медицинским блоком в СберЗдоровье. Они активно внедряют ИИ в телемедицину, как co-pilot и помощник с рутинными задачами для врачей. Тема была про «человечность и ИИ», я не мог такое пропустить.
Начали с эксперимента. На экране два ответа одному и тому же пациенту, который нащупал у себя шишку на руке. Первый: скорее всего доброкачественное, нужно УЗИ, запишитесь на этой неделе. Второй: понимаю, как тревожно такое заметить, скорее всего доброкачественное, давайте сделаем УЗИ и посмотрим вместе. Зал голосует руками. Примерно две трети выбирают второй, тёплый.
А оказалось, что оба ответа написал ИИ.
Зал думал, что выбирает между ответом машины и человека, а выбирал между двумя промптами. Поле выбора закрылось раньше, чем началось голосование, и никто этого не заметил, включая меня.
Но дальше было интереснее.
74, 76, 92
Алина рассказала про исследование 2024 года. Врачам дали диагностические кейсы. Без ИИ точность рассуждений 74%. С доступом к GPT 76%, разница статистически незначима. А сам GPT без человека даёт точность 92%.
Посидите с этими цифрами минуту. Связка «человек плюс машина» работает хуже, чем машина без человека. На шестнадцать пунктов.
Мы привыкли к идее кентавра: сильный человек плюс сильный инструмент дают ещё более сильный результат. Данные говорят, что по умолчанию так не выходит. Слабое место не в человеке и не в модели. Оно в шве между ними.
Недавно я писал про мысль Анастасии Хрисанфовой о том, что завтрашний объект управления это не люди и не процессы, а конфигурация: кто что делает, где границы, как устроены интерфейсы между человеком и ИИ-агентом. Тогда мне это показалось точным, но абстрактным. Теперь у этой абстракции есть цена. Шестнадцать процентных пунктов.
В зале, кстати, версии посыпались сразу: врач не умеет задавать вопрос, врачу нужно пощупать пациента, врача просто никто не учил пользоваться ИИ. Алина добавила своё: система обучения устроена как «внедрили, пользуйтесь, вы молодцы». Точка перехода от информации к навыку выпадает почти всегда. Инструмент выдали, конфигурацию не собрал никто.
А теперь то, чего в докладе не прозвучало прямо
В тех же материалах был контрпример, и он переворачивает картину.
Волонтёрам службы психологической поддержки дали ИИ. Но не так, как врачам. Модель не писала ответы вместо волонтёра. Волонтёр писал сам, а ИИ предлагал переформулировать. Эмпатия в переписке выросла. И, что мне кажется куда важнее цифры, выросла уверенность самих волонтёров. Инструмент их незаметно обучил.
То же с транскрипцией медицинских консультаций: ИИ не ставит диагноз, он забирает расшифровку и заполнение полей карточки. Выгорание врачей упало с 52% до 39%.
Складывается простое правило, которым я теперь буду делиться с клиентами:
Когда ИИ работает как оракул (я спрашиваю ответ и верю ответу) прибавки нет, а навык постепенно пропадает.
Когда ИИ работает как коуч (я делаю сам, ИИ возражает и понемногу обучает) прибавка есть, и навык растёт.Про пропадающий навык, кстати, тоже есть цифра, и она отрезвляет. Опытные эндоскописты, у каждого больше двух тысяч процедур за плечами. Внедрили ИИ. Через три месяца попросили поработать без него: выявляемость аденом упала с 28,4% до 22,4%. Авторы честно пишут, что о причинно-следственной связи говорить рано. Но мышца, которой не пользуешься, ведёт себя предсказуемо.
Здесь начинается тема, которую я понемногу копаю
Я последние месяцы собираю модель власти в горизонтальных организациях, и в этой истории для меня всё сошлось.
В социократии есть понятие домена: область, внутри которой роль решает сама, с явно проведённой границей и понятным конечным результатом. Мы описываем домены для людей и команд. Для агента почему-то не описываем, хотя он давно сидит внутри процесса.
А в СберЗдоровье, судя по рассказу, домен как раз есть, просто не назван этим словом. Помощник пациента отвечает на простые вопросы, и обращений к дежурным терапевтам стало на 16% меньше. Copilot делает транскрипцию консультации и заполняет черновик заключения, врач проверяет, уточняет и подписывает. И главная граница: любой снимок с результатом «не норма» обязательно пересматривает человек. Вот это и есть описанный домен, только на языке медицины, а не оргдизайна.
И ещё одна вещь, от которой мне до сих пор неуютно. Был алгоритм распределения медицинской помощи, в коде которого стоял критерий «расходы». Доля пациентов, реально получавших помощь, была 17%. Слово в коде поменяли на «потребность». Стало 46%.
Никакого восстания машин. Просто кто-то выбрал другое слово, и это перераспределило доступ к медицине до половины людей. У меня в исследовании есть элемент, который я называю властью вносящего метод: тот, кто предложил формат, определил результат, оставаясь при этом технически нейтральным. Обычно я иллюстрирую это тем, как фасилитатор выбирает групповой процесс. Оказывается, можно иллюстрировать строчкой в продакшене.
Что с этим делать
Возьмите один процесс, где у вас уже работает ИИ, и ответьте письменно на четыре вопроса:
Что он решает сам.Где нужно моё явное согласие.Чего он не касается вообще.Что мы делаем, когда он ошибается, и кто конкретно это заметит.Если на все четыре ответа находятся за минуту, у вас есть домен. Если нет, у вас есть привычка, которая просто ещё не предъявила счёт.
И отдельно проверьте, в какой роли он у вас работает. Оракул или коуч. Вы просите ответ или просите возражение на свой черновик. Разница между этими двумя режимами, судя по всему, и есть та самая разница между 76 и 92.
Технология ИИ освобождает место и время для человека. Чем его заполнить, решаем мы сами.
Ваня Социократ
См. "Внедрение ИИ меняет объект управления"
