BroadRouter
Başlayın

Halüsinasyon (yapay zeka halüsinasyonu)

Güncellendi

Halüsinasyon, bir dil modelinin kulağa makul gelen ama yanlış, uydurma ya da kendisine verilen girdiyle desteklenmeyen çıktısıdır; örneğin uydurma bir kaynak, yanlış bir sayı veya var olmayan bir API. Modelin gerçekleri kontrol etmek yerine olası metni tahmin etmesinden kaynaklanır.

Diğer adları: halüsinasyon, yapay zeka halüsinasyonu, LLM halüsinasyonu, uydurma yanıt, konfabulasyon, AI hallucination, LLM hallucination, confabulation

Bir halüsinasyon, doğru bir yanıtla tıpatıp aynı görünür. Onu pahalı kılan da budur.

Nasıl çalışır

Bir dil modeli, eğitimine ve isteme göre en makul sonraki token’ları yazar. Bu döngüde hiçbir şey bir olguyu dünyaya karşı kontrol etmez. Modelin yanıtı bilmediği durumda bile makul görünen bir yanıt yine de elindedir.

Kalai ve arkadaşları 2025 tarihli bir makalede halüsinasyonların sürmesinin nedeninin “training and evaluation procedures reward guessing over acknowledging uncertainty” (çeviri: eğitim ve değerlendirme prosedürlerinin belirsizliği kabul etmek yerine tahmin yürütmeyi ödüllendirmesi) olduğunu savunur. Çoğu kıyaslama doğru bir tahmine puan verir, yanıt vermemeye hiç vermez; bu yüzden modeller iyi sınav çözücü olacak şekilde ayarlanır. Yazarlar hataları istatistiksel bir kaynağa da bağlar: bir model doğru ifadeleri yanlışlardan güvenilir biçimde ayıramıyorsa ön eğitim yanlış ifadeler üretecektir.

API işlerinde sık görülen biçimler:

  • uydurma kaynaklar, URL’ler veya alıntılar
  • doğru bir belgenin özetinde yanlış rakamlar
  • var olmayan API metotları veya parametreleri
  • verilen bağlamın kapsamadığı sorulara verilen yanıtlar

Neden önemli

Maliyet sonradan ortaya çıkar: iade politikası uyduran bir destek botu, toplamı yanlış bir rapor, olmayan bir fonksiyonu çağıran kod. Buna kıyasla çözümler ucuzdur:

  • Yanıtı dayandırın. Kaynak metni isteme koyun ya da RAG ile getirin. Lewis ve arkadaşları, erişimle artırılmış üretimi yalnızca parametrik bir temel modelden daha “factual” (çeviri: olgulara dayalı) bulmuştur. Dayandırma (grounding) maddesine bakın.
  • “Bilmiyorum” demeye izin verin. Anthropic, belirsizliği kabul etmek için açık izin vermeyi temel bir adım olarak listeler.
  • Alıntı isteyin, sonra doğrulayın. Modelden her iddia için destekleyici bir alıntı vermesini isteyin; alıntısı olmayan iddiaları atın.
  • Ölçün. Bağlamda yanıtı olmayan sorular içeren bir eval oluşturun ve modelin ne sıklıkla yanıt uydurduğunu izleyin. API döndürüyorsa logprobs düşük güvenli yanıtları işaretleyebilir.
  • Kodda kontrol edin. Toplamlar, tarihler ve kimlikler bir model olmadan doğrulanabilir.

Sıcaklığı düşürmek uzun metindeki kaymaya yardımcı olur, kendinden emin hatalara değil.

BroadNet Inference’ta

BroadNet’in belgeleri modelleri için halüsinasyon oranları yayımlamaz ve korkuluk (guardrail) veya doğruluk kontrolü özellikleri listelemez; bu yüzden bu kontroller uygulamanızda yer alır. Büyük bir bağlam dayandırmaya yardımcı olur: DeepSeek V4.1 Flash ve GLM 5.3 istek başına 1.048.576 token kabul eder; bu, kaynak belgelerin tamamını eklemeye yeter. Arapça erişim işlem hatları için Arapça RAG yazısına, çıkarılan alanları görsele karşı kontrol etmek için fatura rehberine bakın.

Sık sorulan sorular

LLM'ler neden halüsinasyon görür?

Olası metin üretmek üzere eğitilirler; Kalai ve arkadaşları da eğitimin ve kıyaslamaların belirsizliği kabul etmek yerine kendinden emin bir tahmini ödüllendirdiğini savunur. Tahmin puan kazandırabilir; "bilmiyorum" hiç kazandırmaz.

Halüsinasyonlar tamamen ortadan kaldırılabilir mi?

Hiçbir yöntem onları tamamen yok etmez. Belgelere dayandırma, "bilmiyorum" demeye izin verme, kaynak gösterme ve koddaki kontroller onları azaltır. Anthropic'in rehberi de bu tekniklerin halüsinasyonları azalttığını ama ortadan kaldırmadığını söyler.

Daha düşük sıcaklık (temperature) halüsinasyonları durdurur mu?

Rastgele kelime seçimlerini azaltır ama kendinden emin hataları azaltmaz. Bir model temperature 0'da her seferinde aynı yanlış yanıtı verebilir.

Markdown olarak okuChatGPT asistanına sorClaude asistanına sorPerplexity asistanına sor