Tanım
Yanlılık, İngilizce Bias kavramının Türkçe karşılığıdır. Veri, model, algoritma, ölçümleme veya karar süreçlerinde belirli grup, sonuç, davranış ya da örüntülerin sistematik biçimde hatalı, eksik veya dengesiz temsil edilmesi durumudur.
Yapay zekâ bağlamında yanlılık, modelin eğitim verisindeki dengesizlikleri veya geçmiş karar hatalarını öğrenerek belirli gruplar için adaletsiz ya da hatalı sonuçlar üretmesine neden olabilir.
Veri analitiğinde yanlılık, örnekleme hatası, ölçüm yöntemi, eksik veri, geçmiş davranışların yanlış temsil edilmesi veya yanlış metrik seçimi nedeniyle oluşabilir.
Kökeni
Yanlılık kavramı istatistik, psikoloji, veri bilimi ve etik alanlarından gelir. İnsan kararları gibi veri ve algoritmik sistemler de tarafsız olmak zorunda değildir; kullanılan veri ve tasarım tercihleri sonucu etkiler.
Makine öğrenimi sistemleri geçmiş veriden öğrenir. Geçmiş veri dengesiz, hatalı veya adaletsizse model bu örüntüleri tekrar edebilir.
AI sistemlerinin işe alım, kredi, sağlık, reklam hedefleme ve içerik önerisi gibi yüksek etkili alanlarda kullanılması, yanlılık konusunu AI governance ve responsible AI çalışmalarının merkezine taşımıştır.
Nerelerde Kullanılır?
Yanlılık; machine learning, model evaluation, data science, reklam hedefleme, müşteri segmentasyonu, anket analizi, işe alım algoritmaları, kredi skorlama ve AI güvenliği süreçlerinde değerlendirilir.
Bir lead scoring modeli yalnızca geçmişte satış ekibinin tercih ettiği müşteri türlerini başarılı kabul ediyorsa yeni ve değerli segmentleri düşük puanlayabilir. Bu model yanlılığına örnek olabilir.
Pazarlama analitiğinde yalnızca dönüşen kullanıcıları analiz etmek, dönüşmeyenlerin ihtiyaçlarını görmezden gelerek stratejik yanlılık yaratabilir.
Örnek Kullanım
Bir model belirli bir müşteri segmentini geçmiş veri eksikliği nedeniyle sürekli düşük potansiyelli tahmin ediyorsa yanlılık riski vardır.
Bir veri bilimci, “Model performansını yalnızca genel doğrulukla değil, segment bazlı yanlılık açısından da incelemeliyiz” diyebilir.
Karıştırılan Kavramlar
- Yanlılık ve Hata: Hata tekil yanlış tahmin olabilir. Yanlılık sistematik ve tekrarlayan sapmadır.
- Yanlılık ve Varyans: Yanlılık sistematik hata eğilimidir. Varyans modelin veri değişimlerine hassasiyetini ifade eder.
- Yanlılık ve Fairness: Fairness adil sonuç üretme ilkesidir. Yanlılık fairness risklerinden biridir.
- Yanlılık ve Önyargı: Önyargı günlük dilde insan tutumunu ifade edebilir. Yanlılık veri ve model bağlamında daha teknik kullanılır.
İlgili Terimler
- Bias
- Fairness
- Responsible AI
- AI Governance
- Model Evaluation
- Training Data
- Sampling Bias
- Data Quality
- Algorithm
Büyüme Mimarisi Notu
Yanlılık, büyüme mimarisinde veri ve AI kararlarının yanlış yönlendirme riskini gösterir. Model veya metrik yanlıysa büyüme stratejisi de yanlış optimize edilebilir.
Sağlıklı AI ve analitik sistemlerinde yanlılık düzenli olarak segment, veri kaynağı, model çıktısı ve iş etkisi düzeyinde kontrol edilmelidir.