Статья, в которой автор Fareed Mosavat (ex. Dir of Product в Slack) рассказывает о разнице между хорошими и плохими тестами:
https://www.reforge.com/blog/good-experiment-bad-experiment
via @ABtesting
https://www.reforge.com/blog/good-experiment-bad-experiment
via @ABtesting
Reforge
Good Experiment, Bad Experiment | Reforge Blog
Reforge drives team performance, with the most actionable learning from vetted operators that your team will actually use and apply.
Forwarded from Product Analytics
Новая книга Нассима Талеба доступна для чтения в оригинале (EN):
"Статистические последствия тяжелых хвостов: преасимптотика, эпистемология и приложения."
https://arxiv.org/abs/2001.10488
via @ProductAnalytics
"Статистические последствия тяжелых хвостов: преасимптотика, эпистемология и приложения."
https://arxiv.org/abs/2001.10488
via @ProductAnalytics
Forwarded from BigQuery Insights
Шаблон SQL-запроса для подсчета основных метрик A/B-теста в Firebase по данным в BigQuery.
Конверсии по каждому из вариантов:
• в покупку,
• во второй запуск,
• в целевое действие.
via @BigQuery
Конверсии по каждому из вариантов:
• в покупку,
• во второй запуск,
• в целевое действие.
via @BigQuery
Advanced A/B Testing Panel with Top Experts [Video]
https://cxl.com/blog/advanced-testing-panel-with-top-experts-video/
via @ABtesting
https://cxl.com/blog/advanced-testing-panel-with-top-experts-video/
via @ABtesting
CXL
Advanced A/B Testing Panel with Top Experts [Video]
At CXL Live 2015 we had an amazing a/b split testing panel featuring statistics and testing gurus Lukas Vermeer from Booking.com, Matt Gershoff from
10 статистических ловушек в А/Б тестировании:
https://cxl.com/blog/testing-statistics-mistakes/
via @ABtesting
https://cxl.com/blog/testing-statistics-mistakes/
via @ABtesting
CXL
10 Statistics Mistakes and Traps in A/B Testing: The Guide for Optimizers
Learn the 10 most important statistical traps to avoid when doing A/B testing if you want to have statistically significant results.
Появились видеозаписи с Experiment Fest x Яндекс.Практикум:
https://www.youtube.com/watch?v=KvIJ8FCJzr4&list=PL6Wui14DvQPz-s7nng8Sedzj1Q5xLOs69&index=1
via @ABtesting
https://www.youtube.com/watch?v=KvIJ8FCJzr4&list=PL6Wui14DvQPz-s7nng8Sedzj1Q5xLOs69&index=1
via @ABtesting
YouTube
001. Методы сокращения дисперсии, и зачем это нужно — Анатолий Карпов
Доклад с совместного митапа Expfest x Яндекс.Практикум. Про эксперименты
Хороший гайд по Байесовскому А/В-тестированию:
https://towardsdatascience.com/bayesian-a-b-testing-with-python-the-easy-guide-d638f89e0b8a
via @ABtesting
https://towardsdatascience.com/bayesian-a-b-testing-with-python-the-easy-guide-d638f89e0b8a
via @ABtesting
Medium
Bayesian A/B Testing with Python: the easy guide
If you landed on this page, you already know what an A/B test is, but maybe you have some doubt on how to analyse the results within a…
Доступно и просто о статистике A/B-тестов.
Несколько примеров:
https://medium.com/@rezwan.islam99
via @ABtesting
Несколько примеров:
https://medium.com/@rezwan.islam99
via @ABtesting
Прямо сейчас выступление Анатолия Карпова на Матемаркетинге-2019 на тему анализа А/В-тестов (Ссылка).
Анатолий Карпов рассказывает какие подводные камни ожидают аналитиков при проведении экспериментов и как научиться их избегать. Вы глубже поймете статистику и разберетесь в том, каких ошибок можно избежать при проведении A/B тестов.
По окончании трансляции в закрытом чате появится ссылка на Zoom-конференцию, где в течение 20 минут Анатолий ответит на заданные вопросы. В чате, во время лекции можно будет задать вопросы спикеру, а также сразу получить презентацию и расшифровку доклада.
Ссылка на telegram-чат (будет удален по окончании лекции)
via @ABtesting
Анатолий Карпов рассказывает какие подводные камни ожидают аналитиков при проведении экспериментов и как научиться их избегать. Вы глубже поймете статистику и разберетесь в том, каких ошибок можно избежать при проведении A/B тестов.
По окончании трансляции в закрытом чате появится ссылка на Zoom-конференцию, где в течение 20 минут Анатолий ответит на заданные вопросы. В чате, во время лекции можно будет задать вопросы спикеру, а также сразу получить презентацию и расшифровку доклада.
Ссылка на telegram-чат (будет удален по окончании лекции)
via @ABtesting
YouTube
Анатолий Карпов - A/B-тестирование: как сделать так, чтобы оно заработало
Совсем скоро Матемаркетинг-22, 17-18 ноября
Подробности: https://matemarketing.ru/
Программа: https://clck.ru/y6jEV
Купить билет: https://matemarketing.ru/
A/B-тесты - главный двигатель развития продукта. В крупных компаниях ежедневно проводятся сотни экспериментов…
Подробности: https://matemarketing.ru/
Программа: https://clck.ru/y6jEV
Купить билет: https://matemarketing.ru/
A/B-тесты - главный двигатель развития продукта. В крупных компаниях ежедневно проводятся сотни экспериментов…
Как оценить качество системы A/B-тестирования:
https://habr.com/ru/company/hh/blog/321386/
via @ABtesting
https://habr.com/ru/company/hh/blog/321386/
via @ABtesting
Хабр
Как оценить качество системы A/B-тестирования
Вот уже более полугода в компании используется единая система для проведения A/B-экспериментов. Одной из самых важных частей этой системы является процедура проверки качества, которая помогает нам...
Forwarded from BigQuery Insights
@AnalyzeCore - новый канал про аналитику, данные и их визуализацию от Сережи Брыля, автора блога analyzecore.com.
@BigQuery
@BigQuery
Forwarded from Product Analytics
Как проводить ухудшающие А/Б-тесты, проводить проверку согласованности с более высокоуровневыми метриками, а также измерять чувствительность метрик и проверять корректность своей системы расчёта статистической значимости: https://www.youtube.com/watch?v=KswPj6MVvD4
via @ProductAnalytics
via @ProductAnalytics
YouTube
Игорь Яшков, Яндекс.Поиск - Как валидировать и развивать метрики
Совсем скоро Матемаркетинг-22, 17-18 ноября
Подробности: https://matemarketing.ru/
Программа: https://clck.ru/y6jEV
Купить билет: https://matemarketing.ru/
Лекция заставляет задуматься об области применимости метрик, которые используют слушатели. Представлены…
Подробности: https://matemarketing.ru/
Программа: https://clck.ru/y6jEV
Купить билет: https://matemarketing.ru/
Лекция заставляет задуматься об области применимости метрик, которые используют слушатели. Представлены…
Краткое руководство по реализации A/B тестов на Python:
https://medium.com/@robbiegeoghegan/implementing-a-b-tests-in-python-514e9eb5b3a1
Github Repository: https://github.com/RobbieGeoghegan/AB_Testing
via @ABtesting
https://medium.com/@robbiegeoghegan/implementing-a-b-tests-in-python-514e9eb5b3a1
Github Repository: https://github.com/RobbieGeoghegan/AB_Testing
via @ABtesting
Medium
Implementing A/B Tests in Python
A quick guide to experiment design and implementation
Альтеранитива A/B тестам - байесовские многорукие бандиты. Суть в том, что при обычном A/B мы льем много трафика на неоптимальные варианты и теряем в доходе и пользователях во время эксперимента. Многорукий бандит отлично подходит, когда нужно проверить эффективность большой подборки вариантов, которые не имеют серьезного принципиального отличия:
https://habr.com/ru/company/ods/blog/325416/
via @ABtesting
https://habr.com/ru/company/ods/blog/325416/
via @ABtesting
Хабр
Байесовские многорукие бандиты против A/B тестов
Здравствуйте, коллеги. Рассмотрим обычный онлайн-эксперимент в некоторой компании «Усы и когти». У неё есть веб-сайт, на котором есть красная кнопка в форме прямоугольника с закругленными краями. Если...
Виртуальное учебное пособие по A/B-тестированию в R от Elea McDonnell Feit:
Видео: https://www.youtube.com/watch?v=QXpYtM-Zlxg
Материалы воркшопа: https://eleafeit.github.io/ab_test/
via @ABtesting
Видео: https://www.youtube.com/watch?v=QXpYtM-Zlxg
Материалы воркшопа: https://eleafeit.github.io/ab_test/
via @ABtesting
YouTube
A/B Testing in R with Elea McDonnell Feit
A/B testing is a simple controlled experiment conducted in user experience research as part of marketing research. The randomized experiment consists of variants A and B where a change in one can influence the user experience in a measurable way. It is similar…
Математика A/B-тестирования с примером кода на Python:
https://towardsdatascience.com/the-math-behind-a-b-testing-with-example-code-part-1-of-2-7be752e1d06f
via @ABtesting
https://towardsdatascience.com/the-math-behind-a-b-testing-with-example-code-part-1-of-2-7be752e1d06f
via @ABtesting
Medium
The Math Behind A/B Testing with Example Python Code
While taking the A/B testing course by Google on Udacity, I had some questions about some of the mathematical steps that were not clearly…