Яндекс эксперименты как настроить

В Директе появилась возможность тестировать не только разные варианты объявлений или посадочных страниц — мы запустили эксперименты, которые позволяют на основе статистики сравнивать между собой любые настройки, типы кампаний и даже медиапланы. Новый инструмент А/В-тестирования доступен по запросу — рекламодателям, которые уже уверенно работают с аналитикой, накопили в кампаниях достаточно данных и готовы тестировать разные сценарии работы с рекламой.

UPD: с марта 2020 года эксперименты доступны всем рекламодателям без запроса.

Сравнить эффективность автостратегии и ручного управления ставками, измерить результаты рекламной кампании с показами только на поиске и с размещением на поиске и в сетях — для таких и более сложных тестов в Директе появился специальный инструмент. Для корректной работы потребуются данные — мы рекомендуем проводить эксперимент, если в рекламной кампании не меньше 200 конверсий в месяц. Поэтому открываем доступ к новым экспериментам в Аудиториях и Директе по запросу — пожалуйста, обратитесь к своему менеджеру в Яндексе.

С помощью новых сегментов в Аудиториях и новых отчётов в Директе и Метрике можно узнать, какая реклама эффективнее. Например, эксперименты помогут понять, как размещение в Рекламной сети Яндекса или выбор стратегии влияет на результат размещения, оценить, как влияют показы медийной рекламы на конверсии на сайте, и так далее.

Как устроены эксперименты в Директе

Директ делит аудиторию на случайные непересекающиеся сегменты, так что каждый пользователь попадёт в тестовую или контрольную группу. Размер этого сегмента в виде доли от аудитории вы определяете самостоятельно — от 1 до 99%, сегментов может быть два или больше, причём необязательно выборки должны быть одинаковыми.

Нацелить показы определённых кампаний на экспериментальный сегмент можно в настройках. Экспериментальные сегменты живут параллельно с другими таргетингами, так что если вы настроили показы на женщин 18-25 лет и запускаете тестовый сегмент на 20% аудитории, то в него попадёт 20% женщин 18-25 лет из вашей аудитории.

Как запустить эксперимент

Создать эксперимент в Аудиториях — завести сегменты пользователей на долю аудитории.
В Директе привязать сегменты к тестируемым кампаниям.
Сравнить статистику по тестовым сегментам и всем остальным пользователям с помощью Мастера отчётов Директа и данных Метрики.

Для правильного эксперимента вам потребуются:

Настроенные цели или Ecommerce действия в Метрике — источник информации о конверсиях.
Счётчик Метрики, привязанный ко всем кампаниям, которые вы будете тестировать.
Накопленная статистика — не менее 200 конверсий в месяц в кампании, которую вы хотите протестировать. Это может быть оформление заказа на сайте, просмотр определённых страниц, заявка на тест-драйв, скачивание брошюры, звонок и так далее.
Доступ к экспериментам в Аудиториях и Директе. Получить его можно у вашего менеджера в Яндекса или обратившись в отдел клиентского сервиса.
Гипотеза, которую вы хотите проверить — например, насколько эффективнее стала обновлённая стратегия для сетей.

Зайдите в Аудитории под тем же логином, что и в Директе, и создайте новый эксперимент:

В Директе заведите кампании для эксперимента, к каждой из них подключите счётчик Метрики, привяжите к каждой экспериментальный сегмент и нацельте кампании на них.

В примере с тестированием стратегий нужно создать 2 клона первоначальной кампании и поменять стратегии. Тестовые кампании привязываем каждую к своему сегменту. Исходную кампанию останавливаем, а 2 новые кампании — запускаем. Эксперимент заработал!

Подробнее шаги настройки экспериментов описаны в помощи Директа и Аудиторий. Освоить их поможет и обучающее видео.

Важно:

Проводить любой A/B-тест следует не менее 2 недель, лучше — больше. Главное, чтобы за этот период успела накопиться статистика.
Тестировать гипотезы лучше на таких кампаниях, которые успеют собрать за месяц не менее 200 конверсий, которые вам нужны.
Кампании в эксперименте нужно одновременно начинать и так же одновременно останавливать. То есть кампании, участвующие в тесте, должны в одно время или показываться, или не показываться.
После эксперимента не забудьте отвязать сегменты от кампаний.

Какие данные анализировать

Переходим к самому интересному. Для анализа понадобятся затраты из Мастера отчётов в Директе и конверсии из Метрики. Именно они помогут понять, какое размещение рентабельнее. Другие показатели — скажем, клики, показы или CTR — в рассмотрении не участвуют.

Выбираем эксперименты в качестве условия фильтрации в Директе:

И смотрим расходы по сегментам из эксперимента:

В отчётах Метрики нужно кликнуть на «Группировки», выбрать нужный эксперимент, а затем в окне кликнуть «Метрики» и выбрать конверсии (то есть достижение целей или Ecommerce действие) в интересующей вас воронке. Например, добавление в корзину, посещение карточки продукта или оформление заказа:

Если экспериментальные кампании занимают малую долю рекламного бюджета (менее 50%) — стоит в фильтрах Метрики указать кампании, участвующие в эксперименте.

Пример: сравнение стратегий

Один из рекламодателей Директа решил сравнить, какая стратегия в кампаниях со смарт-баннерами выгоднее. Для этого аудиторию разделили на две части:

Сегмент A — оптимизация количества кликов.

Сегмент B — средняя рентабельность инвестиций.

Сегмент	Размер сегмента	Расходы в сегменте	Конверсии
Оптимизация количества кликов	50%	100 000 руб.	200
Средняя рентабельность инвестиций	50%	100 000 руб.	500

Вывод: при том же бюджете вариант с автостратегией принёс на 150% (± 29%) больше конверсий, чем стратегия на сохранение CPС, при этом CPA уменьшился на 60% (± 5%).

Что ещё можно проверять с помощью экспериментов

Сценариев для экспериментов бесконечное множество — всё зависит от ваших задач. Один из самых простых кейсов — тестирование новых продуктов или функциональностей Директа. Чтобы посмотреть, как новый тип объявлений или стратегия работает в вашей тематике, заведите экспериментальную кампанию с новинкой только на небольшую долю аудитории.

Или вы хотите привлечь больше конверсий и рассматриваете два варианта решения этой задачи: поднять ставки на поиске или включить дополнительную кампанию в Рекламной сети Яндекса. Тут тоже поможет эксперимент в Директе.

Третья распространенная задача: у вас есть два медиаплана, которые хочется сравнить, прежде чем направлять бюджет на один из них.

Какой бы сценарий для эксперимента вы ни выбрали, важно соблюдать простые условия:

Выбирайте один и тот же временной интервал в Метрике и Директе.
В этом временном интервале эксперимент должен работать.
Нужно ограничить статистику на тот регион, в котором вы проводили тест (то есть и в Метрике и в Директе указать фильтр на регион).

Придумывайте свои гипотезы, проверяйте их, пробуйте опции, в которых сомневались или с которыми просто пока не знакомы. Эксперименты позволят вам на основе данных оценить, какой вклад в общие результаты размещения даёт брендовая или видеореклама, объявления в РСЯ и на поиске и многое другое — теперь возможности для разных сценариев практически неограничены. О том, как анализировать результаты экспериментов, мы скоро расскажем в продолжении этого материала. Оставайтесь на связи!

Источник

Эксперименты

Эксперименты позволяют протестировать различные предположения о работе рекламы, комбинации настроек кампаний, типы кампаний и даже медиапланы.

Чтобы провести тестирование, создайте эксперимент в Аудиториях. На том же Яндекс ID настройте рекламные кампании для эксперимента в Яндекс.Директе. Статистику можно будет посмотреть в отчетах Яндекс.Директа или Яндекс.Метрики.

Подробнее о том, как проводить эксперименты, читайте в Справке Яндекс.Директа.

Как создать эксперимент

На вкладке Эксперименты нажмите кнопку Создать эксперимент . Укажите название и выберите счетчик Яндекс.Метрики, который хотите использовать для эксперимента. Всего можно добавить не более 5 счетчиков.

Укажите, на сколько сегментов и в каких долях нужно разделить аудиторию. По умолчанию добавляется сегмент Остальное , в который попадут пользователи, не вошедшие в другие сегменты. Аудитория будет случайным образом разделена на сегменты в пропорциях, соответствующих заданным долям. Сумма всех долей должна составлять 100%. В эксперименте можно создать не более 100 сегментов.

Например, вы хотите узнать, принесет ли рост конверсий на сайте включение показов в сетях. Для этого можно половине пользователей показывать объявления на поиске и в сетях, а остальным — только на поиске. Соответственно, аудиторию нужно разделить пополам.

Доли могут быть неравными. Например, если вы боитесь сильного увеличения расходов из-за подключения сетей, можно показывать рекламу в них только 30% вашей аудитории, а остальным 70% — только на поиске.

Всего можно создать не более 200 экспериментов. Эксперименты можно использовать в Яндекс.Директе сразу же после создания.

После окончания эксперимента, вы можете проанализировать его статистику. Чтобы просмотреть статистику по сайту, нажмите кнопку Результаты рядом с нужным счетчиком. Вы будете перенаправлены к отчету по соответствующему эксперименту в Яндекс.Метрике. Подробнее об отчете смотрите в Справке Яндекс.Метрики. Статистику по кампаниям вы сможете посмотреть в Яндекс.Директе.

Редактирование и удаление экспериментов

После создания вы можете отредактировать только названия эксперимента или сегментов. Невозможно удалить счетчики Яндекс.Метрики, заданные на этапе создания эксперимента, но можно добавить новые.

В созданном эксперименте невозможно удалить сегмент или добавить новый. Удалить можно только эксперимент, который не используется в рекламной кампании в Яндекс.Директе.

Эксперименты

Подробнее о том, как проводить эксперименты, читайте в Справке Яндекс.Директа.

Как создать эксперимент

Редактирование и удаление экспериментов

Источник

Яндекс эксперименты как настроить

Возможность запускать эксперименты в Яндекс.Директе и сравнивать самые разные настройки кампаний стала доступна для всех рекламодателей. А в Яндекс.Метрике появился специальный отчёт, который поможет оценить результаты теста, даже если у вас небольшой опыт веб-аналитики. Рассказываем, как с ними работать.

Эксперименты в Директе позволяют сравнивать на основе статистики любые настройки рекламы: в том числе, стратегии управления ставками, любые типы кампаний и даже медиапланы разных рекламных агентств. Проще говоря, эксперименты — это А/Б-тесты с широкими возможностями.

Прежде этот инструмент был доступен по запросу — рекламодателям, которые уже уверенно работают с аналитикой. С появлением нового отчёта в Метрике для проведения теста больше не нужны специальные навыки, и провести эксперимент сможет бизнес любого размера. Сделать выводы теперь несложно: система автоматически проверит, накопилось ли достаточно данных для анализа, и выделит более выигрышные значения показателей зелёным, а менее удачные — красным. Но не будем забегать вперёд и расскажем обо всём по порядку.

Как это работает

Для начала нужно запустить эксперимент. Например, с помощью этого инструмента можно:

выбрать наиболее эффективную стратегию управления ставками,
сравнить размещения на поиске и в сетях,
протестировать разные типы кампаний или любые их настройки — например, попробовать запустить видеорекламу, чтобы проверить, насколько это выгодный формат.

Запуская эксперимент, важно иметь ввиду несколько важных моментов:

Тестировать только одну гипотезу за раз.
В идеальном случае в эксперименте должно набираться минимум 200 конверсий для статистически значимого результата. Если данных меньше, лучше исследовать цель, которая находится выше по воронке продаж и достигается чаще.
Если нужно сравнить эффективность ручной и автоматических стратегий, важно, чтобы за время эксперимента кампании потратили одинаковое количество средств.

О том, как устроены эксперименты в Директе, как их запустить, и о самых распространенных сценариях мы рассказывали в отдельной статье. Подробное руководство можно найти также в Помощи Яндекс.Аудиторий и Директа.

Где оценивать результат

Новый отчёт появится в интерфейсе Метрики в разделе «Источники → Директ» сразу после создания эксперимента. Чтобы оценить статистику по эксперименту, переключите отчёт в режим сравнения:

Обычно после запуска тестирования нужно подождать около двух недель, чтобы накопилось достаточно статистики. Если данных окажется слишком мало, невозможно будет уверенно сделать вывод о том, какой из вариантов оказался лучше. Как с подкидыванием монетки: если из десяти бросков «орёл» выпал два раза, а «решка» — восемь, это вовсе не значит, что «орёл» всегда выпадает гораздо реже.

Как понять, что данных достаточно

Чтобы узнать, достаточно ли данных для сравнения, нужно оценить их статистическую значимость. Иными словами, убедиться, что текущий результат будет незначительно отличаться от того, который мы бы получили, если бы подкидывали монетку бесконечно много раз.

Вручную считать ничего не придётся — Метрика рассчитывает статистическую значимость эксперимента автоматически.

Данных достаточно, когда показатели, по которым вы решили оценивать эксперимент, выделены в отчёте цветом:

Зелёный означает, что экспериментальный вариант оказался значимо лучше контрольного — то есть того, с которым вы его сравниваете.
Красный — значимо хуже.
Серый — данных достаточно, но показатели контрольной кампании не отличаются от экспериментальной.

Отсутствие цвета может означать две вещи:

Данных ещё недостаточно. Нужно подождать ещё какое-то время или запустить новый эксперимент с другими настройками, позволяющими собрать больше трафика.
Для показателя недоступно сравнение. Список всех показателей, которые можно сравнивать, есть в Помощи Метрики.

Вместе с отчётом в Метрике можно использовать калькулятор проверки достоверности теста

Отчёт в Метрике даёт быстрый ответ на вопрос «достаточно ли данных для оценки», а ещё позволяет сравнить конверсионные метрики контрольных и экспериментальных кампаний. Например, если вы тестируете разные варианты лендингов, отчёт в Метрике покажет, какой из них показывает более высокую конверсию. Сравнение конверсии также пригодится, если вы проверяете разные аудиторные таргетинги: например, хотите понять, кто лучше откликается на ваш контент — мужчины или женщины.

Если с помощью эксперимента вы хотите проверить, какой из вариантов покажет лучший показатель CPA (стоимость целевого действия), поможет наш новый Калькулятор достоверности теста. Например, если вы сравниваете разную величину корректировок ставок, в калькуляторе можете вручную ввести расходы по каждому из вариантов, количество конверсий и кликов — а система сама рассчитает CPA, проверит, достаточно ли данных, и покажет более выгодный вариант.

Чтобы вам было проще проводить эксперименты, мы составили небольшую шпаргалку:

Подробности о работе с отчётом Метрики по экспериментам Директа есть в Помощи Метрики. А если у вас останутся вопросы, пожалуйста, напишите в отдел клиентского сервиса. Будем рады помочь!

Источник