В 2024 году клиент Air Canada спросил у чат-бота о тарифах на случай смерти родственника. Бот уверенно выдумал несуществующую политику возврата. Авиакомпания отказалась её соблюдать. Суд вынес решение в пользу клиента. Бот ничего не решал — он предсказал ответ на основе закономерностей в своих обучающих данных. Компания восприняла это предсказание как политику.

Вот настоящий риск сегодня: вероятностные системы, обёрнутые в детерминированные интерфейсы. ИИ предлагает догадку. Интерфейс подаёт её как истину. Пользователь — или, что хуже, организация — действует на основе этой догадки.

Люди предпочитают определённость

Мы устроены так, чтобы верить, что прошлые действия определяют будущие результаты. Подбросьте монету 999 раз — и каждый раз выпадет орёл: детерминированный ум решит, что монета подделана. Вероятностный ум признаёт, что 1000-й бросок всё ещё может пойти по-другому. Второе мышление удержать сложнее — но именно оно сейчас нужно дизайнерам. Продукты работают в сложных, нелинейных средах, а ИИ ускоряет эту сложность. Когда команды дизайнеров воспринимают результаты ИИ как единственный ответ вместо одного из множества, они создают хрупкие пользовательские сценарии — а в таких областях, как медицинская диагностика или финансовое прогнозирование, — откровенно опасные.

Это руководство — о проектировании на основе вероятностей с ИИ как партнёром. Оно показывает, как использовать ИИ для заточки мышления, а не для его аутсорсинга — с учётом смещения модели, человеческих настроений и воспринимаемого риска.

Вероятностное мышление + ИИ

Большинство вопросов, которые мы задаём ИИ, не дают двоичных ответов. Они выдают вероятности на основе закономерностей в данных. Спросите «Существуют ли инопланетяне?» — и ответ окажется где-то между правдоподобным и неопределённым. Учёные считают жизнь в других мирах вероятной; конкретных доказательств нет. Ответ не разрешает вопрос — он формулирует его как вероятность. Дизайнерам следует читать результаты ИИ так же: как сигналы, а не выводы. Возможные сценарии, которые нужно интерпретировать в рамках целей продукта, поведения пользователей и бизнес-ограничений.

Многие цифровые продукты уже так работают. Netflix не знает, что вам понравится «Супермагазин», потому что вы смотрели «Офис» — он оценивает вероятность и показывает название. Интерфейс реагирует на предсказание.

Дизайнерские решения могут следовать той же логике. Модели ИИ объединяют поведенческую аналитику с исследовательскими данными, чтобы оценить вероятность результатов. Эти вероятности служат мерилом для стратегии дизайна. Представьте, что аналитика показывает 60% уверенности в том, что пользователи завершат покупку, против 90% уверенности. При 60% дизайн должен выполнять убеждающую работу — отзывы, сравнения, сигналы доверия. При 90% пользователь уже мотивирован — дизайн должен убрать препятствия, чтобы действие произошло быстро. Один и тот же экран — совершенно разные дизайнерские задачи.

ИИ также может моделировать результаты до того, как вы выберете направление — используя исторические данные и поведенческие модели. Ценность таких симуляций сильно зависит от структуры запроса, контекста, гипотезы, мотивации пользователя и граничных случаев, которые вы хотите проверить.

Вот один практический пример: оценка ранних дизайнов с помощью структурированных запросов, особенно когда у вас нет прямого доступа к целевой группе пользователей. Запрос ниже — отправная точка для оценки дизайна с точки зрения нейроотличных пользователей. Воспринимайте его как шаблон — адаптируйте группу пользователей, критерии и формат вывода под ваш продукт. Используйте его как начало для обсуждения в команде, а не как вердикт.

Оцените [файл дизайна или веб-ссылку] на юзабилити, доступность и релевантность контента с точки зрения нейроотличных пользователей, таких как люди с расстройствами аутистического спектра, СДВГ, нарушениями обучаемости и т.д. Учтите: интуитивно ли понятны макет и навигация для нейроотличных пользователей? Соответствует ли язык и контент их потребностям и вовлекает ли? Есть ли какие-либо барьеры — технические, когнитивные или сенсорные — с которыми может столкнуться эта группа? Насколько хорошо сайт удовлетворяет их конкретные потребности или цели? Предоставьте SWOT-анализ, оценку вероятности успешного использования нейроотличными пользователями и любые рекомендации по улучшению.

Примечание: Это упрощение. Учитывайте тонкие детали вашего продукта и вносите соответствующие изменения.

Тем не менее, симуляции не заменяют эксперименты. Модели обучаются на исторических данных — они отражают прошлое поведение сильнее, чем предсказывают будущие изменения. Представьте, что вы проектируете голосовой интерфейс для пожилых пользователей, у которых возникают трудности с сенсорными экранами. Модель, обученная на данных мобильного взаимодействия, может предсказать низкую вовлечённость — не потому, что идея лишена ценности, а потому что набор данных отражает другое поведение пользователей. Симуляции всегда должны вскрывать допущения, а не препятствовать инновациям.

Остерегайтесь искажённого вероятностного мышления

Системы ИИ построены на исторических данных — точнее, на наборах данных, на которых они обучаются. Эта основа формирует результаты, которые мы получаем. На саммите по ИИ во Франции премьер-министр Индии Нарендра Моди привёл пример: попросите модель ИИ сгенерировать изображение человека, пишущего левой рукой — результат всё равно может показать правшу. Причина статистическая — большинство людей правши, и обучающие данные это отражают. Возможно, со временем это улучшилось, но суть остаётся. Я всё ещё иногда наблюдаю такое поведение при генерации изображений с помощью аналогичных моделей.

То, что вы получаете, — не истина. Это наиболее статистически вероятный результат, учитывая доступные данные. Всегда спрашивайте: Предсказывают ли прошлые данные значимо будущее, для которого я проектирую? Для кипрского и европейского бизнеса, управляющего электронной коммерцией или CRM-системами, это имеет реальные последствия. Модель, обученная на поведении пользователей Западной Европы, может неверно оценить местные предпочтения в Лимассоле, Никосии или мультикультурных рынках, где пересекаются английский, русский и греческий языки. Проектируйте на основе вероятности — но проверяйте на реальных пользователях.