본문 바로가기

PM의 일/데이터

(3)
A/B 테스트의 모든 것 by. 핵클 2021.12.02 힙데비와 핵클에서 진행한 A/B 테스트 강의 정리 👉 노션으로 좀 더 편하게 볼 수 있습니다 :) 배경 왜 A/B test를 해야할까? Agile 개발을 하는 이유: 빠른 성장 속도 빠르게 변화하는 환경에서 고객들의 요구 사항을 받아 반영하기 위해 우리의 목적? 고객들이 필요한 것을 제공하고, 불편한 것은 적용하지 않음 📌 A/B test는 빠른 성장을 위해 고객들이 원하는 서비스를 제공하기 위한 테스트 방법 1. 실험은 무엇인가요? 우리가 배웠던 실험을 되돌아보면? 강낭콩 예시 강낭콩을 더 잘 키우기 위해(output) 강낭콩이 원하는 요소(input)를 어떻게 찾을 수 있을까? 햇빛이 중요하지 않을까? → 변수(햇빛)의 영향도를 파악하는 것 = 실험 가설 빛의 양이 많으면 강낭콩이..
A/B 테스트와 p-value A/B 테스트는 뭘까? 앞선 글에서 A/B 테스트를 정리하면서도 여러 질문이 떠올랐다. 지표 개선을 위해 과연 매번 A/B 테스트를 해야 하는 걸까? A/B 테스트는 결국 화면 설계 이상의 문제를 검증하긴 하는 걸까? 결과에 영향을 미치는 외부 변수는 어떻게 통제하는 걸까? 통계 분석에 필요 가정들을 실무 단계에서 어떻게 지키는걸까? 등등 그래서 A/B 테스트가 어떨 때 활용되는지 좀 더 자세히 찾아보았다. 보통 A/B 테스트의 목적은 사이트 최적화와 전환율(conversion)을 높이는 것이라고 한다. 콘텐츠나 배너의 배치에 따른 유저 클릭수의 변화 측정이 A/B 테스트의 전형적인 예시이다. 보통 두 집단 비교가 많지만, 여러 변수를 비교하고 싶을 경우 multivariate testing을 실시하기도..
PM의 데이터분석 데이터…….통계.…GA…….SQL…?!!!! 데이터 분석을 떠올리면 머리가 뒤죽박죽이 된다. 왜인지는 잘 모르지만 데이터가 중요하다는 이야기가 맴돌고, 뭔지는 모르지만 어디선가 주워들은 파이썬과 SQL만 떠오르기 때문이다. 뒤죽박죽이 된 머리를 정리하기 위해, 실제 프로덕트가 운영되면서 쌓이는 데이터란 무엇인지, 어디부터 어디까지 어떻게 데이터가 흐르는 것인지, 데이터 관련해서 사람들이 뭘 하고 있는지, 도대체 실무에서 쓰는 통계 분석은 뭐고 그놈의 GA와 SQL은 뭔지!부터 정리해보았다. (다만, 이 질문에서는 기획자의 데이터 설계 역할(어떤 데이터를 어떻게 수집할 지 범위를 정의하고, 어떻게 사용할 지 운영 정책을 세우는 일 등)은 제외했다. 넷플릭스나 왓챠의 추천 알고리즘처럼 데이터 자체가 프로덕트..