Почему AI-продуктам разрешили быть с плохими интерфейсами? Мы… — Pattern AI

Pattern AI@pattern_ai · 403 subscribers Open in TelegramOpen

Почему AI-продуктам разрешили быть с плохими интерфейсами?

Мы десятилетиями учились проектировать интерфейсы так, чтобы пользователь понимал, что происходит, мог контролировать систему и исправлять ошибки.
С появлением ИИ эти принципы никуда не исчезли, но сама природа ошибок изменилась, и многие привычные UX-паттерны перестали справляться с ними.

И когда мы добавляем к продукту слово ИИ, то многие из тех же проблем почему-то начинают восприниматься как «особенности технологии».

ИИ слишком уверенно говорит то, чего не знает.
Для пользователя интерфейс часто никак не различает «Я точно знаю» и
«Это наиболее вероятный вариант, который я сгенерировал».
Одинаковый шрифт. Одинаковый цвет. Одинаковая структура ответа.
Но природа информации совершенно разная.

Пользователь гораздо быстрее разочаровывается в алгоритме.
После того как люди видели ошибку алгоритма, они быстрее теряли к нему доверие, чем к человеку, даже в ситуациях, где алгоритм в целом показывал более высокую точность.
И здесь UX может либо помочь восстановить доверие, либо окончательно его разрушить.

AI-интерфейсы плохо умеют говорить «я не смог»
При обработке запроса системой могут возникнуть три различных проблемы:
▪️техническая ошибка, такая как тайм-аут,
▪️отказ в соответствии с политикой контента,
▪️ фундаментальное непонимание запроса.
Большинство ИИ-продуктов объединяют все три в одно общее сообщение об ошибке. Это приучает
Для пользователя это нередко выглядит одинаково «Что-то пошло не так. Попробуйте еще раз».
Но это три разных проблемы и у каждой должен быть свой путь восстановления.
Нужно определить источник ошибки, объяснить пользователю, что произошло, и дать ему понятный путь вперед.

Цена плохого UX уже измеряется не только раздражением.
61% пользователей не доверяют AI-системам. 3 из 5 человек испытывают настороженность или прямое недоверие к интерфейсам AI, указывая на непрозрачность решений и риски безопасности данных.
44% сотрудников используют AI «вслепую» и без разрешения. Из-за отсутствия точного UX-контроля и понятной фильтрации данных 46% работников загружают чувствительную корпоративную информацию в публичные AI-сервисы.
58% слепо полагаются на выводы AI. Люди не проверяют результат работы нейросети, потому что интерфейсы не выводят метрики уверенности (confidence scores) или ссылки на первоисточники.
Можно сколько угодно писать пользователю в Terms of Use, что ИИ «может ошибаться».
Но если интерфейс визуально и поведенчески создает впечатление надежного эксперта, пользователь будет ориентироваться прежде всего на сам опыт взаимодействия, а не на юридический дисклеймер.

А иногда плохой UX превращается в юридическую проблему.
Как, например, в известном кейсе Moffatt v. Air Canada, когда чат-бот Air Canada сообщил пассажиру неверную информацию о возможности получить компенсацию по тарифу для поездки в связи со смертью родственника. Когда пассажир попытался получить обещанную компенсацию, авиакомпания отказала. Air Canada, среди прочего, пыталась утверждать, что чат-бот является отдельной сущностью, ответственной за свои действия.
Суд указал, что чат-бот является частью сайта Air Canada и компания отвечает за информацию, которую предоставляет ее сайт независимо от того, находится она на обычной странице или поступает через чат-бот.

Если чат-бот выдал неправильный ответ, то пользователь может ошибиться.
Если ИИ-агент самостоятельно выполнил неправильное действие, то ошибка уже становится изменением реального мира. Агент, который забронировал не тот рейс или отправил неправильное сообщение, приводит к тому, что пользователь перестает предоставлять системе автономию. Восстановление требует не исправления, а перепроектирования модели взаимодействия, которая восстанавливает отозванные пользователем разрешения. Это более сложная задача, чем предполагают большинство команд.

📝Что делать:
▪️ Уберите антропоморфизм и «постфактум-рассуждения». Фразы вроде «Я подумал над вашей задачей...» или пошаговые «цепочки мыслей» часто создают лишь иллюзию человеческого разума и логики, маскируя ошибки модели. Используйте фактологический и нейтральный язык.
▪️Не прячьте дисклеймеры в футер. Предупреждения вида «AI может ошибаться» мелким серым шрифтом внизу страницы никто не читает. Размещайте их в фокусе внимания рядом с полем ввода и сопровождайте конкретным действием (например, «Перепроверьте цифры по ссылке»).
▪️Сделайте источники контекстными и интерактивными. Не закапывайте ссылки на источники внизу полотна текста. Размещайте интерактивные плашки с понятными названиями рядом со спорным утверждением.

❕ Но пока в этой гонке оценка происходит по критерию насколько впечатляюще ИИ умеет это делать, а не насколько хорошо человек понимает, что именно сейчас делает ИИ. А это уже совсем другой UX....