ГОЛОС БЕЗ ДОЛЖНОСТИ
Лет пять назад мне позвонил банковский робот и старательно изображал человека. Меня тогда задела даже не его деревянная способность поддерживать разговор. Задело ощущение мелкого обмана. Я писал: представься в начале виртуальным оператором — и мы нормально поговорим. Мне не нужно, чтобы программа притворялась живой. Мне нужно понимать, с кем я имею дело и чего от этого собеседника ждать.
С 2 августа в Евросоюзе это перестало быть вопросом хорошего тона. Вступили в действие требования статьи 50 закона об ИИ: если система напрямую ведёт с человеком двусторонний разговор — например, в чате, голосом или через цифрового персонажа, — человек должен с самого начала получить ясное уведомление, что общается с машиной. Исключение — случаи, когда это и так очевидно. Для программ, которые работают в фоне и с человеком не разговаривают, такого требования нет.
На первый взгляд — очередная обязательная плашка, юридический родственник надписи мелким шрифтом. Но меня здесь интересует другое. Имя собеседника определяет саму конструкцию разговора. От сотрудника мы ждём, что он поймёт исключение, имеет какие-то полномочия, может позвать руководителя и несёт ответственность хотя бы внутри компании. У программы нет должности. Есть сценарий, доступ к данным, предел разрешённых действий и владелец, который всё это настроил.
Когда компания делает голос машины неотличимым от человеческого и не предупреждает об этом, она заимствует доверие к сотруднику, не передавая машине его обязательств. Клиент продолжает объяснять контекст, сообщать данные, соглашаться и принимать обещания так, будто на другом конце есть человек, способный понять последствия своих слов. А когда возникает ошибка, собеседник внезапно превращается обратно в «алгоритм». Очень удобная должность: доверие получаешь как человек, отвечаешь как калькулятор.
Поэтому настоящее содержание новой нормы — не в маркировке технологии, а в границе полномочий. Простого сообщения «с вами говорит робот» недостаточно, если дальше человек попадает в бесконечный лабиринт кнопок. Честно спроектированный разговор должен показывать, что система умеет решить сама, какие данные использует, в какой момент остановится и как передаст ситуацию сотруднику вместе с уже собранным контекстом. Иначе уведомление становится не прозрачностью, а индульгенцией: мы предупредили, теперь терпите.
Экономика здесь тоже не такая простая. Машина делает один разговор дешевле и позволяет обслуживать больше клиентов без пропорционального роста команды. Но чем шире её полномочия, тем дороже становятся контроль, журнал действий, защита данных, проверка обещаний и разбор ошибок. А обязательное представление может снизить краткосрочную конверсию: часть людей положит трубку, услышав слово «робот». Соблазн замаскировать программу под человека понятен. Просто эта локальная экономия оплачивается доверием ко всему каналу.
В России пока обсуждается более узкая конструкция. В Госдуму внесён законопроект, по которому при массовом автоматическом звонке человеку должны сообщить в первые пять секунд, что с ним говорит голосовой робот или используется синтезированная речь. Это пока именно предложение, а не действующая обязанность. Но проблема у нас будет даже острее: банки, клиники, торговля, службы доставки и государственные сервисы автоматизируют общение ещё и потому, что людей не хватает. В регионе готовое решение может появиться быстрее, чем зрелый процесс контроля за ним.
Я регулярно вижу при внедрении технологий одну ошибку: проектируют то, как машина начнёт разговор, но не проектируют, как она из него выйдет. Кто подхватит нестандартный случай? Кто имеет право отменить ошибочное действие? Увидит ли сотрудник предыдущий диалог или заставит клиента рассказывать всё заново? По какому показателю оценивают систему — по числу разговоров без человека или по числу вопросов, действительно решённых без ущерба для клиента? От ответа зависит, автоматизировали мы сервис или просто спрятали очередь за приятным голосом.
В новой конструкции человеку остаётся не чтение скрипта. Это как раз машина делает всё убедительнее.
