Salah satu “kesaktian” dari statistika, khususnya statistika inferensial, adalah dapat memberikan suatu kesimpulan mengenai keseluruhan populasi yang sedang dipelajari berdasarkan hasil sampling. Dalam hal ini kita dapat mempertanyakan berapa besar kemungkinannya hasil sampling ini benar-benar mencerminkan keadaan populasi sesungguhnya. Juga kita dapat mempertanyakan berapa besar peluang hasil sampling ini “meleset jauh” dari keadaan populasi yang sesungguhnya. Pertanyaan-pertanyaan ini berkenaan atau berkaitan dengan konsep distribusi penarikan contoh (sampling distribution, distribusi sampling) dalam statistika.
Ada beragam distribusi sampling, namun kali ini akan diuraikan distribusi sampling dari rata-rata. Pada keadaan sesungguhnya, biasanya populasi yang dipelajari memiliki banyak sekali atau bahkan tak berhingga banyaknya anggota. Namun untuk memudahkan pembahasan, anggaplah populasinya hanya beranggotakan 5 orang, bernama A, B, C, D, dan E. Tabel berikut menyatakan berat badan masing-masing anggota populasi tersebut, dalam satuan kg.
Tabel 1
Misalkan kita tidak mengetahui data berat badan tersebut, sehingga kita tidak mengetahui berapa rata-rata populasi berat badan tersebut. Namun, kita akan melakukan penaksiran/estimasi terhadap rata-rata populasi berat badan berdasarkan hasil sampling. Kita akan meninjau dua kasus, yaitu sampling tanpa pengembalian dan sampling dengan pengembalian.
Bagian I: sampling tanpa pengembalian dengan ukuran sampel 3
Dalam sampling tanpa pengembalian (sampling without replacement), sampel yang telah diambil datanya/diukur tidak dikembalikan lagi/tidak bergabung lagi ke populasi asalnya, sehingga sampel tersebut tidak mungkin terpilih lagi sebagai sampel. Apabila di antara 5 orang anggota populasi tersebut dipilih 3 orang sebagai sampel, ada 10 kemungkinan kelompok sampel, yaitu ABC, ABD, ABE, BCD, BCE, CDE, ACD, ACE, ADE, BDE. Dengan penulisan kelompok sampel tersebut, ABC menyatakan bahwa dalam sampel berukuran 3 tersebut, yang kebetulan terpilih menjadi sampel adalah A, B, dan C. ABD menyatakan bahwa dalam sampel berukuran 3 tersebut, yang kebetulan terpilih sebagai sampel adalah A, B, dan D. Demikian pula selanjutnya.
Jika yang terpilih sebagai sampel adalah A, B, dan C maka rata-rata berat badan yang diperoleh adalah