A/B Тестирование: Основы
Что, Зачем, Когда и Как
Какой из цветов, розовый или голубой, поспособствует тому, чтобы больше людей кликали на кнопку регистрации на сайте? Стоит ли использовать Gif вместо статичного изображения для Главной страницы? Сколько должно быть опций меню для привлечения клиентов, пять или семь? Какая версия больше способствует доведению клиентов до последнего этапа воронки?
Вы можете продолжать вносить изменения наугад или попробовать А/В тестирование!
А/В тестирование используется для определения наиболее эффективной версии продукта на рынке.
Компании самых разных масштабов от стартапов до крупных высокотехнологичных предприятий прибегают к А/В тестированию, чтобы сделать более осознанный выбор. Даже самое простое тестирование может помочь в принятии важных решений.
Что такое А/В тестирование?
А/В тестирование — это метод исследования, при котором разным группам посетителей сайта одновременно показаны две версии одной и той же веб-страницы для определения, какая из них работает эффективнее.
Если вкратце, то исследование показывает, какая из версий (А) или (В) лучше?
A/B тестирование, также известное как сплит-тестирование (split testing) или групповое тестирование (bucket testing), по сути, представляет собой эксперимент, в котором пользователям случайным образом показываются два или более варианта рекламы, маркетингового емэйла или веб-страницы, а затем используются различные методы статистического анализа для определения какой вариант дает больше конверсий.
Как правило, при A/B тестировании вариант, который дает более высокую конверсию, является выигрышным, т.е. этот вариант может помочь вам оптимизировать ваш сайт для получения более высоких результатов.
Для чего нужно A/B тестирование?
При емэйл-рассылках пользователям отправляется два варианта письма, и таким образом, маркетинговая команда узнает, какое письмо дало больший эффект с точки зрения прочтения и кликабельности.
Но они не знают, что именно заставило пользователя открыть письмо: предварительный текст, тема, визуальные эффекты или содержание письма? Какой из элементов емэйла является наиболее привлекающим внимание можно определить с помощью A/B теста.
Он может помочь вам изучить поведение посетителей и клиентов на вашем сайте, прежде чем принимать важные решения об изменениях, и повысить ваши шансы на успех. Иными словами, A/B тестирование помогает избежать ненужных рисков, позволяя целенаправленно использовать свои ресурсы для достижения максимальной отдачи и эффективности.
В каких случаях следует использовать A/B тестирование?
Платформа для онлайн-обучения хочет внести изменения в свою главную страницу, чтобы новый, более привлекательный дизайн увеличил количество пользователей, проходящих их курсы. Или, например, они хотят сфокусировать внимание клиентов на более подробном описании карьеры на странице обзора курса, и это изменение потенциально может побудить большее количество пользователей зарегистрироваться и пройти курс — A/B тестирование может проверить так ли это.
Все, что отображается на веб-странице и может повлиять на поведение посетителя при просмотре сайта, можно протестировать с помощью A/B тестирования.
При проведении A/B тестирования сравнения должны быть как можно проще. Например, не сравнивайте две совершенно разные версии своего веб-сайта, потому что вы не поймете, какие факторы действительно имели значение. Точно так же, если на сайт добавляется новый модуль или меню, он не может быть протестирован с помощью A/B тестирования, поскольку в этом случае у нас нет основ для сопоставления.
Как проводится A/B тестирование?
Идеальная воронка продаж для интернет-магазина выглядит следующим образом:
Домашняя страница → Список категорий/Поиск продукта → Просмотр страницы продукта → Корзина → Оформление заказа
Магазин теряет своих пользователей по мере того, как они проходят этапы этой воронки. Затем проводится A/B-тестирование, чтобы опробовать изменения, которые, как мы надеемся, повысят коэффициент конверсии от одного этапа к другому.
A/B тестирование проводится в четыре этапа:
Определение изменения и метрики
Для начала решите, какую информацию вы сможете собирать и анализировать. Мы не просто предполагаем, а используем соответствующие аналитические инструменты, чтобы в первую очередь удостовериться, что у вас действительно есть проблема, и определить, где именно она находится.
Аналитика часто дает представление о том, что вы можете попробовать усовершенствовать. Например, мы решили изменить кнопку с призывом к действию (CTA) на странице продукта с «Buy Now» на «Shop Now», чтобы увеличить количество пользователей, которые добавляют товары в корзину.
Затем выбираются метрики для измерения уровня вовлеченности пользователей. В нашем примере метрикой будет служить кликабельность кнопки «Buy Now». Коэффициент кликабельности (Click through rate, CTR) — это количество кликов уникальных пользователей, разделенное на количество просмотров уникальными пользователями. Вы можете выбрать столько метрик, сколько захотите, и чем больше вы оцениваете, тем выше вероятность того, что вы заметите существенные различия.
Определение гипотезы
Проверка гипотез в статистике — это способ проверить результаты исследования, чтобы понять, есть ли у вас какие-либо существенные результаты. Наиболее важные и запутанные аспекты проверки гипотез — это определение нулевой и альтернативной гипотез.
Проще говоря, утверждение, которое истинно до того, как мы собираем какие-либо данные, является нулевой гипотезой. При A/B тестировании основная нулевая гипотеза будет заключаться в том, что новая версия не лучше или даже хуже старой. Для нашего примера это утверждение, что новый коэффициент кликабельности (CTR) меньше или равен старому.
Альтернативой является конкурирующая гипотеза, зачастую являющаяся логическим отрицанием нулевой гипотезы. Утверждения, которые мы пытаемся доказать, всегда появляются альтернативой. Итак, при A/B тестировании альтернативная гипотеза состоит в том, что новая версия лучше старой. В нашем примере это утверждение о том, что новый CTR будет больше старого.
Создание эксперимента (размер выборки, факторы воздействия, время выполнения, участники)
Обычно пользователи выбираются случайным образом и распределяются либо в контрольную группу, либо в экспериментальную группу. Затем мы запускаем эксперимент, в котором контрольная группа видит старую версию, а экспериментальная группа — новую.
Каждый пользователь видит только один вариант дизайна (A или B), даже если обновляет интерфейс. Таким образом, каждую из версий будет просматривать одинаковое количество людей, и вы сможете проанализировать, какая версия обеспечивает улучшение метрики, которое вы считаете существенным.
Размер выборки, который вы выберете, позволяет приблизительно определить, сколько времени займет сбор достаточного количества данных.
Анализ результатов A/B тестирования
После завершения исследования мы можем проанализировать результаты. На этом этапе больше всего сконцентрировано внимание аналитиков. Мы рассчитываем значения показателей как для контрольной, так и для экспериментальной группы.
Затем применяются различные статистические методы, такие как распределение выборок (Sampling Distribution) с применением бутстреппинга, регрессии и различных других алгоритмов машинного обучения, для оценки метрики и демонстрации разницы между работой двух версий вашей веб-страницы и наличия статистически значимой разницы.
Трудности при A/B тестировании
При планировании A/B тестирования и составлении выводов по его результатам необходимо учитывать множество факторов. Перечислим несколько самых распространенных:
Эффект новизны и отторжение изменений, когда старые пользователи впервые сталкиваются с изменениями.
Достаточный трафик и конверсии для значимых и повторяемых результатов.
Последовательность среди испытуемых в контрольной и экспериментальной группе.
Выбор лучших показателей для принятия окончательного решения. Например, измерение дохода в сопоставлении с количеством кликов.
Практическая значимость коэффициента конверсии, стоимость запуска новой фичи по сравнению с прибылью от увеличения конверсии.
Продолжительность времени исследования, чтобы учесть такие факторы, как изменения в настроении людей в зависимости от времени дня/недели или сезонных событий.
При написании этой статьи я старалась выражать мысли как можно проще, чтобы люди, не знакомые с A/B тестированием, могли получить общее представление о нем. Существуют различные аналитические инструменты, которые используются для A/B тестирования в крупных отраслях, такие как Google Analytics и Google Optimize, Vwo, Optimizely, набор для A/B тестирования HubSpot, Crazy Egg и т. д.
A/B — это не роскошь для маркетологов, у которых есть свободное время; это — источник жизненной силы «взлома роста».
Один из самых популярных примеров A/B тестирования — 41 оттенок синего, когда Google не могли решить, какой из двух синих цветов они предпочитают для определенного элемента дизайна. По некоторым данным, они использовали A/B тестирование для оценки привлекательности 41 различных оттенков синего. Кроме того, ознакомьтесь с 7 невероятными примерами A/B тестов, проводимых реальными компаниями — примеры A/B тестирования промышленного уровня.
Точный подход к A/B тестированию может привести к огромным преимуществам и более эффективному взаимодействию с пользователями, повышению коэффициента конверсии, простоте анализа и увеличению продаж — это беспроигрышный вариант!!
Приглашаем всех желающих записаться на бесплатный демо-урок, в рамках которого рассмотрим потоковую обработку больших данных. Подходы, архитектуры, фреймворки, сравнение, обзор и выбор. Основных игроков и перспективных новичков. А также реальные проекты, интересные связки и многое другое!
Администратор. Модули. Служебные модули
1. Для защиты веб-проекта на высоком уровне безопасности необходимо:
+ настроить стандартный уровень безопасности, а затем выполнить настройку параметров для высокого уровня
— настроить только параметры высокого уровня безопасности
— настроить стандартный уровень безопасности, а затем настроить параметры использования одноразовых паролей и контроля активности
2. При master-slave репликации в модуле «Веб-кластер»
— если разрешено использования одноразовых паролей
+ для которых в правах доступа к модулю «Проактивная защита» разрешена операция «Обход проактивного фильтра»
— если включен механизм хранения данных сессий пользователей в базе данных
— добавленных в стоп-лист
4. Сразу после создания подключения к облачному хранилищу
+ старые файлы останутся на » target=»_blank»>сервер, » target=»_blank»>хостинге, а новые будут автоматически сохраняться в «облаке»
— старые файлы автоматически будут перенесены в «облако», а новые сразу будут сохраняться там
— на » target=»_blank»>сервер, » target=»_blank»>хостинге будут размещаться как старые файлы, так и вновь создаваемые
5. Просмотреть содержимое подключенных контейнеров облачных хранилищ можно на странице
— Облачные хранилища (Настройки > Облачные хранилища)
+ Облачные хранилища (Контент > Облачные хранилища)
— Управление структурой (Контент > Структура сайта > Файлы и папки)
6. Где указывается » target=»_blank»>сервер, на котором размещен почтовый ящик?
— в любом из перечисленных
— в настройках модуля «Почта»
— в настройках главного модуля
+ в настройках почтового ящика
7. Чтобы защита осуществлялась на повышенном уровне необходимо:
— настроить параметры повышенного уровня: систему одноразовых паролей и механизм контроля целостности
— настроить защиту на стандартном и высоком уровне
+ настроить защиту на стандартном и высоком уровне, а затем настроить параметры повышенного уровня
8. Импорт пользователей из AD/LDAP осуществляется:
— автоматически
+ из выбранного администратором » target=»_blank»>сервера (вручную)
— для всех » target=»_blank»>серверов
9. Чтобы правило применялось к почтовым сообщениям автоматически, в поле «Применять при событиях» (форма редактирования правила, модуль «Почта») следует выбрать значение:
+ при получении
— при принудительном вызове
10. Если стандартный уровень не настроен полностью, то:
— защита сайта будет осуществляться на начальном уровне, без учета настроенных параметров на стандартном, высоком и повышенном уровнях
— защита сайта будет осуществляться на базовом уровне
+ защита сайта будет осуществляться на начальном уровне, но с учетом настроенных параметров на стандартном, высоком и повышенном уровнях
11. Если пользователь удален из списка пользователей корпоративной сети, то:
— он сохранит прежний доступ к сайту.
+ при попытке получить доступ к ресурсам сайта он получит отказ в авторизации.
+ его аккаунт будет сохранен в системе управления сайтом.
12. Изменить место хранения кеша при установленном модуле веб-кластер можно
— в настройках главного модуля
+ в административной части сайта на странице «Memcached»
— в настройках модуля веб-кластер
+ в файле «\bitrix\modules\cluster\memcache.php»
13. После подключения » target=»_blank»>сервера memcached с помощью модуля веб-кластер
— » target=»_blank»>сервер будет использоваться в кластере совместно с файлами кеша
+ » target=»_blank»>сервер будет использоваться в кластере вместо файлового кеша
+ в случае отказа всех memcached-» target=»_blank»>серверов подсистема кеширования снова начинает использовать файловый кеш
14. При входе на подключенный к контроллеру сайт через логин на контроллере
— Происходит прозрачная авторизация без создания локального пользователя
+ На сайте создается локальный пользователь с соответствующим именем и правами
15. Передача файлов через контроллер сайтов:
— возможна на отдельный сайт или и на группу при условии совпадении имен директорий для загрузки
— невозможна
— возможна только на отдельный сайт
+ возможна как на отдельный сайт, так и на группу
16. Если сведения о группах пользователей корпоративной сети хранятся в базах данных нескольких » target=»_blank»>серверов или в нескольких базах данных одного » target=»_blank»>сервера, то следует:
— Создать универсальную запись и указать все возможные » target=»_blank»>сервера и базы данных.
+ Создать несколько записей, регламентирующих доступ к ним.
17. Администратор может выполнять следующие действия с почтовыми ящиками:
+ создать новый почтовый ящик
+ просмотреть или добавить новое правило для почтового ящика
+ изменить параметры учетной записи
+ просмотреть все сообщения, пришедшие на этот ящик
+ удалить учетную запись
+ посмотреть журнал событий по данному ящику
18. Если перед удалением сайта из контроллера он был предварительно отсоединен, то:
— запись будет удалена, а сам сайт будет работать с теми настройками, которые были установлены контроллером.
+ после удаления на сайте будут возвращены настройки, установленные до подключения к контроллеру.
19. При подключении сайта к контроллеру
+ На подключенном сайте создается локальный пользователь-администратор, пароль от которого в зашифрованном виде хранится на контроллере
— На подключенном сайте хранится зашифрованный пароль администратора контроллера
20. Страница «Веб-