Yapay zekâ ile çalışan hemen herkes bir gün şu anı yaşar: cevap o kadar düzgün yazılmıştır ki kontrol etmek aklınıza gelmez, sonra içindeki bir bilginin tamamen uydurma olduğunu fark edersiniz. Buna yapay zekâ halüsinasyonu deniyor. Bu yazıda halüsinasyonun neden oluştuğunu, hangi işlerde daha tehlikeli olduğunu ve bir işletmenin doğruluk kontrolünü nasıl sistemli hale getirebileceğini anlatıyoruz.
Halüsinasyon neden olur?
Dil modelleri bir bilgi bankası gibi çalışmaz. Eğitildikleri çok büyük metin kümesinden öğrendikleri örüntülere göre, bir cümlenin devamında en olası kelimeleri üretirler. Çoğu zaman bu olası devam doğru bilgiyle örtüşür. Ama model bir konuda yeterli bilgiye sahip olmadığında da susmak yerine en makul görünen cevabı üretmeye eğilimlidir.
Halüsinasyon riskini artıran tipik durumlar:
- Çok spesifik ya da az bilinen konular (küçük bir firmanın ürün kodu, yerel bir yönetmelik maddesi)
- Güncel bilgi gerektiren sorular (modelin eğitim tarihinden sonra değişen fiyat, mevzuat, kur)
- Kesin rakam, tarih, kaynak ve alıntı istenen sorular
- Uzun ve çok adımlı hesaplamalar
- Soruda yanlış bir varsayım bulunması ("şu yasanın 12. maddesine göre…" gibi)
Her hata aynı derecede tehlikeli değil
Doğruluk kontrolünü her iş için aynı sıkılıkta yapmak hem gereksiz hem de sürdürülemez. Kontrol düzeyini işin riskine göre ayarlamak daha akıllıcadır.
| Risk seviyesi | Örnek iş | Kontrol |
|---|---|---|
| Düşük | Başlık önerisi, iç yazışma taslağı, fikir listesi | Göz gezdirme yeterli |
| Orta | Blog yazısı, ürün açıklaması, müşteri mail taslağı | Rakam, isim ve iddialar tek tek kontrol |
| Yüksek | Teklif, sözleşme özeti, finansal rapor, teknik şartname | Kaynakla satır satır karşılaştırma, ikinci göz |
| Çok yüksek | Mevzuat yorumu, sağlık bilgisi, ödeme işlemi | Yapay zekâ yalnız yardımcı; karar ve metin uzmanda |
Yöntem 1: Modeli kaynağa bağlayın
Halüsinasyonu azaltmanın en etkili yolu, modeli kendi hafızasından değil sizin verdiğiniz kaynaktan cevap vermeye zorlamaktır. Soruyla birlikte ilgili belgeyi, tabloyu ya da kaydı verirsiniz ve talimat açıktır: "Yalnız bu metne dayan, metinde yoksa bilmediğini söyle."
Bu yaklaşımın sistemli hali, şirket belgelerini aranabilir hale getirip her soruda ilgili parçaları modele sunan kurulumlardır. Ayrıntısını belgelerle konuşan yapay zekâ yazımızda anlattık. Kaynağa bağlamak riski büyük ölçüde azaltır ama sıfırlamaz; model kaynağı yanlış okuyabilir ya da iki parçayı hatalı birleştirebilir.
Yöntem 2: Kaynak gösterilmesini isteyin
Modelden her önemli iddianın yanında, dayandığı belge ve bölümü göstermesini isteyin. Bu, kontrol eden kişinin işini hızlandırır: "Bu bilgi nereden geldi?" sorusunun cevabı hemen oradadır. Kaynak gösteremeyen iddia, doğrulanmamış iddia olarak ele alınmalıdır.
Dikkat: modelin gösterdiği kaynak da uydurma olabilir. Özellikle genel sohbet araçlarında verilen web bağlantıları ve makale adları mutlaka açılıp kontrol edilmelidir.
Yöntem 3: Hesabı modele bırakmayın
Dil modelleri metinde iyidir, aritmetikte güvenilmezdir. Toplam, ortalama, yüzde, vade hesabı gibi işlemler bir hesap aracına, tabloya ya da doğrudan veritabanı sorgusuna bırakılmalıdır. Model, sonucu yorumlamak ve anlatmak için kullanılır.
Finans ve ERP raporlarında bu ayrım özellikle önemlidir. Rakamlar doğrudan kaynak sistemden gelmeli, yapay zekâ ise soruyu anlamak ve sonucu sade dille açıklamakla sınırlı kalmalıdır. ERP raporlama tarafında kurduğumuz yapıların temel ilkesi budur.
Yöntem 4: İnsan onayını sürecin parçası yapın
"Çıktıyı kontrol edin" demek kolaydır ama yoğun bir günde atlanır. Kontrolü bir alışkanlığa değil sürece bağlayın:
- Yapay zekâ çıktısı doğrudan yayınlanmaz, gönderilmez; önce taslak olarak düşer.
- Kimin onaylayacağı bellidir.
- Onaylayan kişi, çıktıda neyi kontrol edeceğini bilir (rakam, isim, tarih, taahhüt).
- Bulunan hatalar kayda alınır; tekrar eden hata türleri talimat ya da kaynak iyileştirmesiyle giderilir.
Kontrol listesi
- İş, risk seviyesine göre sınıflandırıldı.
- Model mümkün olduğunca sizin kaynağınıza bağlı çalışıyor.
- Önemli iddialar için kaynak gösterimi isteniyor.
- Rakamlar hesap aracından ya da sistemden geliyor.
- Onay adımı ve onaylayan kişi tanımlı.
- Hata kayıtları tutuluyor ve düzenli gözden geçiriliyor.
Globya'da nasıl yapıyoruz
Kurduğumuz yapay zekâ çözümlerinde doğruluk kontrolünü sonradan eklenen bir uyarı değil, tasarımın parçası olarak ele alıyoruz. Modeli şirket kaynaklarına bağlıyor, rakamları doğrudan sistemden çekiyor, önemli çıktıları onay adımına bağlıyoruz. Gerekirse bunu özel yazılım olarak kendi sistemlerinizle bütünleşik kuruyoruz. İhtiyacınızı netleştirmek için iletişim sayfasından bize ulaşabilirsiniz.
Sık sorulan sorular
Daha yeni ve güçlü modeller halüsinasyon yapmaz mı?
Model geliştikçe hata oranı düşebilir, ancak bugün hiçbir dil modeli için halüsinasyonun tamamen ortadan kalktığı söylenemez. Kontrol ihtiyacı devam eder.
Modele "uydurma" demek işe yarar mı?
Talimatlar yardımcı olur; özellikle "bilmiyorsan bilmiyorum de" ve "yalnız verilen metne dayan" talimatları riski azaltır. Tek başına bir güvence değildir.
Halüsinasyonu otomatik yakalayan araçlar var mı?
Kaynakla çıktıyı karşılaştıran ya da ikinci bir modelle kontrol eden yöntemler vardır ve faydalıdır. Yine de yüksek riskli işlerde son kontrolün bir insanda olmasını öneririz.
Globya asistanı 7/24 çevrimiçi; sorunuzu hemen yanıtlar, gerekirse ekibe iletir.