A/B test
Percobaan yang membagi orang jadi dua kelompok acak untuk melihat versi mana yang lebih baik.
Separuh pengunjung melihat tombol biru, separuh melihat tombol hijau.
Dipakai:- Data Analyst
- Data Scientist
Sampel
Sebagian kecil yang diambil untuk mewakili keseluruhan.
Sering tertukar
Sampel besar
Banyak orang yang mengisi.
≠berbeda denganSampel yang mewakili
Cara memilih orangnya tidak berat sebelah.
Sampel besar tidak menolong kalau cara mengambilnya berat sebelah. Survei kepuasan yang cuma diisi orang yang marah akan tetap salah walau diisi sepuluh ribu orang.
Dipakai:- Data Analyst
- Data Scientist
RCT
Randomized controlled trial, yaitu percobaan yang membagi kelompok secara acak. Untuk menguji sebab-akibat, inilah cara yang paling kuat.
Sekolah diundi untuk menerima program atau tidak, lalu hasilnya dibandingkan.
Dipakai:- Data Analyst
- Data Scientist
Randomisasi
Membagi peserta ke kelompok dengan undian, supaya kedua kelompok setara sejak awal.
Pembagian kelompok memakai lempar koin, supaya pilihan manajer tidak ikut menentukan.
Dipakai:- Data Analyst
- Data Scientist
Control group
Juga disebut: kelompok kontrol
Kelompok yang tidak mendapat perlakuan, sebagai pembanding untuk kelompok yang mendapat perlakuan.
Cabang yang tidak ikut program diskon, dibandingkan dengan cabang yang ikut.
Dipakai:- Data Analyst
- Data Scientist
Balance check
Mengecek apakah kelompok perlakuan dan kontrol sudah mirip sebelum perlakuan diberikan, misalnya dengan membandingkan rata-ratanya.
RCT gaji guru: semua selisih variabel sekolah dan guru sebelum perlakuan di bawah 0,1 standar deviasi.
Dipakai:- Data Analyst
- Data Scientist
Signifikansi statistik
Ukuran seberapa kecil kemungkinan sebuah selisih muncul cuma karena kebetulan.
Sering tertukar
Signifikan secara statistik
Selisihnya kecil kemungkinan muncul karena kebetulan.
≠berbeda denganPenting bagi bisnis
Selisihnya cukup besar untuk layak ditindaklanjuti.
Signifikan secara statistik tidak berarti penting bagi bisnis. Selisih 0,1 persen bisa signifikan pada data sejuta orang, dan tetap tidak layak ditindaklanjuti.
Dipakai:- Data Analyst
- Data Scientist
Standard error
Seberapa besar satu angka hasil hitungan bisa bergoyang karena kebetulan kalau datanya diambil ulang dari orang lain.
Dua headline Upworthy dengan sekitar 12.000 tampilan per headline: selisih CTR -0,42 poin persen, standard error-nya sekitar 0,19 poin persen.
Dipakai:- Data Analyst
- Data Scientist
Distribusi normal
Bentuk sebaran seperti lonceng: kebanyakan nilai dekat ke tengah, makin jauh makin jarang. Sekitar 95% nilai ada dalam jarak 1,96 standard error dari tengah.
Angka 1,96 di rumus confidence interval 95% berasal dari distribusi normal.
Dipakai:- Data Analyst
- Data Scientist
Z-score
Juga disebut: skor z
Selisih yang diukur dalam satuan standard error: berapa kali goyangan wajar. Makin jauh dari 0, makin kecil kemungkinan selisih itu kebetulan.
Z = -2,26 untuk dua headline Upworthy, lebih jauh dari batas 1,96.
Dipakai:- Data Analyst
- Data Scientist
P-value
Juga disebut: nilai p
Kalau sebenarnya tidak ada beda, seberapa sering selisih sebesar ini atau lebih besar tetap muncul karena kebetulan. Jadi p-value tidak sama dengan peluang hipotesis benar.
P-value 0,0235 untuk dua headline Upworthy: sekitar 2 dari 100 kali.
Dipakai:- Data Analyst
- Data Scientist
Confidence interval
Juga disebut: selang kepercayaan
Rentang nilai yang masuk akal untuk angka sebenarnya. Kalau rentang selisihnya mencakup nol, belum tentu ada beda.
Dua headline Upworthy: selisih CTR -0,06 poin persen, rentang 95%-nya -0,60 sampai 0,49, jadi belum beda.
Dipakai:- Data Analyst
- Data Scientist
Multiple testing
Makin banyak uji yang dilakukan, makin banyak "pemenang" yang muncul hanya karena kebetulan.
Arsip Upworthy mencatat 32.487 eksperimen headline. Kalau uji sebanyak itu dijalankan, sebagian "pemenangnya" hampir pasti hasil kebetulan.
Dipakai:- Data Analyst
- Data Scientist