Tanım
Önyargı, İngilizce Bias kavramının Türkçe karşılığıdır. Veri, algoritma, model, ölçüm veya karar süreçlerinde belirli gruplar, örüntüler ya da sonuçlar lehine sistematik sapma oluşması durumudur.
Yapay zekâ bağlamında önyargı, modelin eğitim verisindeki dengesizlikleri veya toplumsal kalıpları öğrenerek bazı kullanıcı grupları için daha hatalı, adaletsiz veya eksik sonuçlar üretmesine neden olabilir.
Önyargı yalnızca etik bir konu değildir. Model performansı, kullanıcı güveni, marka riski, karar kalitesi ve regülasyon uyumu açısından da kritik öneme sahiptir.
Kökeni
Önyargı kavramı istatistik, psikoloji, sosyal bilimler ve makine öğrenimi alanlarında farklı biçimlerde kullanılır. Veri analitiğinde bias, sonuçların gerçek durumu sistematik biçimde yanlış yansıtması anlamına gelebilir.
Makine öğrenimi sistemleri geçmiş verilerden öğrenir. Geçmiş veri eksik, dengesiz veya toplumsal önyargılar içeriyorsa model bu sorunları sürdürebilir veya büyütebilir.
AI sistemlerinin işe alım, kredi, sağlık, reklam hedefleme ve içerik önerisi gibi yüksek etkili alanlarda kullanılması bias konusunu daha da önemli hale getirmiştir.
Nerelerde Kullanılır?
Önyargı; AI ethics, model evaluation, data quality, sampling, recommendation system, reklam algoritmaları, içerik moderasyonu ve kullanıcı araştırmalarında dikkate alınır.
Bir reklam algoritması yalnızca geçmiş dönüşüm verisine bakarak belirli demografik grupları sürekli dışlıyorsa, bu durum performans odaklı görünse bile önyargı riski taşıyabilir.
Bir model belirli dil, bölge veya kullanıcı türlerinde daha kötü yanıt veriyorsa veri temsili ve model değerlendirme süreçleri incelenmelidir.
Örnek Kullanım
Bir işe alım modelinin geçmiş işe alım verilerindeki dengesizlikleri öğrenerek belirli aday gruplarını sistematik olarak düşük puanlaması AI bias örneği olabilir.
Bir AI governance uzmanı, “Modeli yayına almadan önce önyargı ve fairness testleri yapmalıyız” diyebilir.
Karıştırılan Kavramlar
- Önyargı ve Örnekleme Yanlılığı: Örnekleme yanlılığı veri seçimi kaynaklı özel bias türüdür. Önyargı daha geniş sistematik sapma kavramıdır.
- Önyargı ve Hata: Hata rastgele veya tekil olabilir. Önyargı sistematik sapmadır.
- Önyargı ve Hallucination: Hallucination modelin uydurma bilgi üretmesidir. Önyargı belirli yönde sistematik sapmadır.
- Önyargı ve Fairness: Fairness adil sonuç üretme hedefidir. Önyargı fairness’i bozabilecek problemlerden biridir.
İlgili Terimler
- Bias
- Sampling Bias
- Fairness
- AI Ethics
- Responsible AI
- Data Quality
- Model Evaluation
- AI Governance
- Algorithmic Bias
Büyüme Mimarisi Notu
Önyargı, büyüme mimarisinde veri ve AI kararlarının güvenilirliğini etkileyen temel risktir. Yanlı veriyle kurulan sistemler hızlı çalışabilir ama yanlış ve adaletsiz sonuçlar üretebilir.
Sağlıklı AI ve growth sistemleri, model performansını yalnızca ortalama başarıyla değil, farklı kullanıcı gruplarındaki etki ve adaletle birlikte değerlendirir.