Tanım
Inference, eğitilmiş bir yapay zekâ veya makine öğrenimi modelinin yeni bir girdi üzerinde çalışarak tahmin, sınıflandırma, skor, öneri, yanıt veya çıktı üretmesi sürecidir. Türkçede çıkarım olarak açıklanabilir.
Model training aşamasında model veriden öğrenir. Inference aşamasında ise öğrenilmiş model gerçek veya yeni veriye uygulanır. Örneğin bir churn modeli müşterinin terk etme olasılığını tahmin eder, bir dil modeli prompta yanıt üretir, bir görsel model fotoğraftaki nesneyi sınıflandırır.
Inference, AI sistemlerinin kullanıcıya veya iş sürecine değer sunduğu çalışma anıdır. Modelin hızı, maliyeti, doğruluğu ve güvenilirliği inference aşamasında kritik hale gelir.
Kökeni
Inference kavramı, istatistik ve makine öğrenimi alanlarında modelin gözlemlerden sonuç çıkarması fikrine dayanır. Yapay zekâ sistemlerinde bu kavram, eğitilmiş modelin yeni veriler üzerinde çıktı üretmesini ifade eder.
Derin öğrenme ve büyük dil modellerinin yaygınlaşmasıyla inference maliyeti ve performansı daha önemli hale gelmiştir. Büyük modeller yüksek hesaplama kaynağı gerektirebilir ve kullanıcıya hızlı yanıt vermek için optimize edilmelidir.
AI ürünleri ölçeklendikçe inference altyapısı stratejik bir teknoloji konusu haline gelir. GPU kullanımı, model boyutu, latency, caching, batching ve maliyet yönetimi inference tasarımında dikkate alınır.
Nerelerde Kullanılır?
Inference, AI Assistant, Chatbot, öneri sistemi, fraud detection, churn prediction, görsel tanıma, ses tanıma, arama sıralaması, reklam hedefleme ve kişiselleştirme sistemlerinde kullanılır.
Dijital pazarlama tarafında bir modelin kullanıcının satın alma olasılığını tahmin etmesi, en uygun kampanya mesajını seçmesi veya ürün önerisi üretmesi inference örneğidir.
Generative AI sistemlerinde inference, kullanıcının promptuna karşılık metin, görsel, kod veya analiz çıktısı üretilen aşamadır. Bu aşamada guardrails, kaynak kontrolü ve yanıt kalitesi önem kazanır.
Örnek Kullanım
Bir kullanıcı AI asistana “Bu raporu özetle” dediğinde, model eğitilmiş bilgisi ve verilen bağlam üzerinden özet üretir. Bu süreç inference olarak adlandırılır.
Bir AI mühendisi, “Model doğruluğu iyi ama inference süresi yüksek; yanıt gecikmesini azaltmalıyız” diyebilir. Bu kullanım, üretim ortamındaki performans sorununu anlatır.
Karıştırılan Kavramlar
- Inference ve Training: Training modelin öğrenme aşamasıdır. Inference modelin yeni girdilere çıktı üretme aşamasıdır.
- Inference ve Prediction: Prediction bir çıktı türüdür. Inference tahmin, yanıt veya sınıflandırma üretme sürecinin genel adıdır.
- Inference ve Fine-Tuning: Fine-Tuning modeli ek eğitimle uyarlamadır. Inference bu modelin çalıştırılmasıdır.
- Inference ve Output: Output üretilen sonuçtur. Inference bu sonucu üretme sürecidir.
İlgili Terimler
- Model Training
- Prediction
- Output
- LLM
- Latency
- GPU
- Fine-Tuning
- AI Assistant
- Model Evaluation
Büyüme Mimarisi Notu
Inference, büyüme mimarisinde AI modellerinin iş değerine dönüştüğü noktadır. Eğitimde başarılı görünen model, gerçek kullanıcı koşullarında hızlı, ekonomik ve güvenilir çalışmalıdır.
AI destekli büyüme sistemleri tasarlanırken yalnızca model kalitesi değil, inference maliyeti, gecikme, ölçeklenebilirlik ve çıktı güvenliği de değerlendirilmelidir. Kullanıcı deneyimi bu aşamada belirginleşir.