Présentation du cours
Ce cours s'adresse aux product managers qui veulent savoir si un changement produit a vraiment eu un effet, grâce à l'A/B test. Vous apprenez à décider s'il faut tester, à écrire un protocole solide, à analyser le résultat et à trancher par écrit. Le fil rouge est un produit B2B, où le volume limité complique souvent l'exercice.
Objectif de la leçon
À la fin de cette présentation, vous saurez ce que vous allez produire (le protocole d'une expérience sur votre produit, son analyse et un mémo de décision), quelles deux questions Atelio va trancher tout au long du cours et par quels quatre modules vous y arriverez.
Thèmes abordés
- A/B test
- expérimentation produit
- protocole d'expérience
- analyse statistique
- décision produit
Dans quel module
Vue d'ensemble
Que vais-je savoir faire à la fin de ce cours, et dans quel ordre ?
Leçons du module
- Présentation du cours (cette leçon)
Ce que vous apprendrez dans la formation
Cette leçon fait partie de la formation Concevoir et analyser un A/B test
- Décider si un A/B test est la bonne méthode (volume, B2B, réversibilité, délai, éthique) et choisir une alternative adaptée sinon.
- Formuler une hypothèse testable, choisir une métrique principale sensible et attribuable, des garde-fous et l'événement d'exposition à enregistrer.
- Choisir l'unité de randomisation et prévenir les interférences entre groupes, y compris en B2B.
- Calculer une taille d'échantillon et une durée à partir du taux de base, de l'effet minimal détectable, du seuil de significativité et de la puissance.
- Analyser un résultat (p-valeur, intervalle de confiance, significativité pratique, garde-fous) et lire une sortie bayésienne ou fréquentiste d'un outil.
- Détecter et éviter les pièges d'analyse (regards répétés, comparaisons multiples, effet de nouveauté, déséquilibre des groupes, paradoxe de Simpson).
- Décider à partir de règles écrites avant le test et documenter l'expérience dans un mémo réutilisable.
Formations liées
- Concevoir et valider une expérience produit avec l'IAJunior · ~2 h 30 min
- Écrire des specs que les développeurs et les agents IA comprennentConfirmé · ~2 h 30 min
- Instrumenter un produit et utiliser les données pour déciderConfirmé · ~3 h 30 min