Fleiss'in kappa katsayısı

Bu konu şöyle daha genişletilebilir: Sabit n sayıda değerleyici vardır; bunların inceledikleri değerlendikleri haller N sayıdadır; her bir değerleyici her bir hal için k sayıda kategori sayısı verecektir. Eğer bir hal için iki değişik değerleyici aynı kategori sayısı vermişlerse, bu iki değerleyicinin uyuştuğunu gösterir; eğer kategori sayısı değişikse verilen kategori sayıları arasındaki farka dayanarak değişik derecede uyuşmazlık bulunur. Bu uyuşma ya rastgelelik sonucunda doğmuştur yahut da değerleyicilerin inanç ve davranışları birbirine benzemektedir. Fleiss'in kappa katsayısı tek bir hal için iki tane değerleyiciyi değil; n tane değerleyici tarafından N tane hal için yapılan değerlendirmelerle ilgilidir ve bu değerlendirmeler arasındaki uyuşmanın ne derecede rastgelelikten ayrıldığının sayısal ifadesidir.

Fleiss'in kappa katsayısı şöyle tanımlanmıştır:

${\displaystyle \kappa ={\frac {{\bar {P}}-{\bar {P_{e}}}}{1-{\bar {P_{e}}}}}}$

Burada ${\displaystyle 1-{\bar {P_{e}}}}$ faktorü rastgelelik ötesinde ne derece uyuşma olabilmesinin mümkün olduğunu gösterir; ${\displaystyle {\bar {P}}-{\bar {P_{e}}}}$ gözümlenen gerçekte ne derecede rastgelelik ötesinde uyuşma derecesinin ortaya çıktığını açıklar.

Aşağıda Fleiss'in kappa katsayısını bulmak için hesaplar için örneğinde şu araştırma sorunu ele alınmaktadir:

Büyük bir psikiyatri kliniği olan bir hastanede 10 hasta için 14 tane doktor ve psikiyatrist tedavi için hastaları 5 kategoride değerlendirmektedirler. Her hasta için her doktor/psikiyatrist beş kategoriden birini seçmektedir. Bu değerlendirmeler bir tabloda aşağıda verilmiştir. Fleiss'in kappa katsayısı bulunup doktor/psikiyatristlerin değerlendirmelerinde kendi aralarında, şans eseri olmayan bir şekilde, ne ölçüde uyuştuklari incelenecektir.

N değerlendirilecek hallerin sayısı; n toplam değerleyici sayısı ve k ise degerlemede kullanılacak kategori sayısı olsun. Haller i indeks sayısı ile belirlensin i=1,...,N; değer kategorileri j ile indekslensin j=1,...,k. n_ij i-inci hali j-inci kategoriye koyan değerleyici sayısını temsil etmektedir.

• Önce j-inci kategoriye koyulmuş değerlendirme oranı, ${\displaystyle p_{j}}$ olarak, hesaplanır:

(1)

${\displaystyle p_{j}={\frac {1}{Nn}}\sum _{i=1}^{N}n_{ij},\quad \quad 1={\frac {1}{n}}\sum _{j=1}^{k}n_{ij}}$

• Sonra i-inci hal için değerleyicilerin ne derece uyuştuklarını gösteren ${\displaystyle P_{i}\,}$, hesaplanir:

(2)

${\displaystyle P_{i}={\frac {1}{n(n-1)}}\sum _{j=1}^{k}n_{ij}(n_{ij}-1)}$

${\displaystyle ={\frac {1}{n(n-1)}}\left(\sum _{j=1}^{k}(n_{ij}^{2}-n_{ij})\right)}$

${\displaystyle ={\frac {1}{n(n-1)}}\left(\sum _{j=1}^{k}n_{ij}^{2}-n\right)}$

• Simdi ${\displaystyle P_{i}\,}$lerin ortalaması olan ${\displaystyle {\bar {P}}}$ hesaplanır:

(3)

${\displaystyle {\bar {P}}={\frac {1}{N}}\sum _{i=1}^{N}P_{i}}$

${\displaystyle ={\frac {1}{Nn(n-1)}}\left(\sum _{i=1}^{N}\sum _{j=1}^{k}n_{ij}^{2}-Nn\right)}$

• En son toplam ortalama ${\displaystyle \sum _{j=1}^{k}p_{j}^{2}}$ olan ${\displaystyle {\bar {P_{e}}}}$ hesaplanır:

(4)

${\displaystyle {\bar {P_{e}}}=\sum _{j=1}^{k}p_{j}^{2}}$

• Sonuç olarak bunlar yukarıda verilen formüle konulup Fleiss'in kappa katsayısı bulunur:

(5)

${\displaystyle \kappa ={\frac {{\bar {P}}-{\bar {P_{e}}}}{1-{\bar {P_{e}}}}}}$

Fleiss'in kappa katsayisi için şu değerler hemen yorumlanır:

• κ=1 : Tum değerleyiciler hep birlikte birbirine uyuşmaktadırlar.
• κ=0 : Değerleyiciler aralarinda uyuşmalar sadece şans ile belirlenmiştir ve diğer hallerde hiçbir uyuşma yoktur.

Landis ve Koch (1977) [4] elde edilen ${\displaystyle \kappa }$ değerlerini yorumlamak için şu tabloyu sunmuşlardır.

${\displaystyle \kappa }$	Yorum
< 0	Hiç uyuşma olmaması
0.0 — 0.20	Önemsiz uyuşma olması
0.21 — 0.40	Orta derecede uyuşma olması
0.41 — 0.60	Ekseriyetle uyuşma olması
0.61 — 0.80	Önemli derecede uyuşma olması
0.81 — 1.00	Neredeyse mükemmel uyuşma olması

Verilen örneğinde

${\displaystyle \kappa =0.211}$

bulunduğu için ancak orta dereceli bir uyuşma olduğu sonucu çıkarılabilir.

Ancak bu tabloda verilen yorumlar ve hatta verilen aralıklar hakkında istatistikçiler arasında anlaşmazlık vardır. Landis ve Koch yazılarında verdikleri aralıklar ve yorumlar için teorik delil vermemişlerdir ve bu ifadeler ancak birer şahsi inanç olarak kabul edilebilirler. Bazı istatistikçilere göre bu aralıklar ve yorumlar araştırmacılara zararlı olabilirler.[5] [6]. Bu aralıklar ve yorumlar araştırıcılara Kappa değerinin değişken kategori sayısından da (yani Cden) etkilendiği gerçeğini unutturabilir. Bilinmektedir ki kategori sayısı ne kadar küçük olursa kappa değeri de büyük olmaktadır.

• Cohen'in kappa katsayısı
• Pearson'un çarpım-moment korelasyon katsayısı

• Kappa: Pros and Cons Katsayı hakkında kapsamlı bir makaleler bibliyografyası vermektedir.