"Bu ürünün montaj talimatında tork değeri kaçtı?", "Bayi sözleşmesinde iade süresi ne yazıyor?", "Yeni personel izin talebini nereden yapıyor?" Bu soruların cevabı şirketinizin bir klasöründe, bir PDF'inde ya da bir e-postasında duruyor. Sorun, bulmak. Şirket belgeleriyle konuşan yapay zekâ, teknik adıyla RAG (Retrieval-Augmented Generation, yani "bulup getirerek üretme"), bu soruları doğrudan belgelere dayanarak cevaplamayı hedefler. Bu yazıda nasıl çalıştığını, kurulumda nelere dikkat etmek gerektiğini ve gerçekçi beklentileri anlatıyoruz.
RAG nasıl çalışır?
Sistem iki aşamada çalışır:
- Bulma. Soru geldiğinde sistem, önceden hazırlanmış belge arşivinde soruyla en ilgili parçaları arar. Bu arama yalnız kelime eşleşmesine değil, anlam benzerliğine de dayanır; "iade süresi" diye sorduğunuzda "cayma hakkı" geçen paragrafı da bulabilir.
- Üretme. Bulunan parçalar soruyla birlikte dil modeline verilir. Model cevabı bu parçalara dayanarak yazar ve hangi belgeden aldığını gösterir.
Bu yapının iki büyük avantajı var: model bilmediği şeyi uydurmak yerine sizin belgenize bakar, ve belgeler güncellendiğinde modeli yeniden eğitmek gerekmez, arşivi güncellemek yeter. Genel doğruluk kontrolü konusunu ayrıca halüsinasyon ve doğruluk kontrolü yazımızda ele aldık.
Kurulumun asıl işi: belgeleri hazırlamak
RAG projelerinde zamanın büyük kısmı yapay zekâya değil belgelere harcanır. Sistem ancak ona verdiğiniz belgeler kadar iyidir.
- Güncellik. Aynı prosedürün üç farklı sürümü arşivde duruyorsa sistem eski olanı da bulabilir. Geçersiz belgeler ayıklanmalı ya da işaretlenmelidir.
- Okunabilirlik. Taranmış ve metin katmanı olmayan PDF'ler, karmaşık tablolar ve el yazısı notlar sorun çıkarır. Bunlar için metin tanıma (OCR) ve kontrol gerekir.
- Yapı. Başlıkları düzgün, bölümleri belli belgeler çok daha iyi sonuç verir. Uzun belgeler anlamlı parçalara bölünerek arşive alınır.
- Sahiplik. Her belge grubunun güncel tutulmasından sorumlu biri olmalıdır.
Erişim yetkisi: herkes her belgeyi görmemeli
En çok atlanan konu budur. İnsan kaynakları dosyaları, maaş tabloları, yönetim kurulu notları ve müşteri sözleşmeleri aynı arşive girip yetki kontrolü yapılmazsa, yapay zekâ bu bilgiyi soran herkese özetleyebilir.
Doğru kurulumda sistem, soruyu soran kişinin hangi belgeleri görmeye yetkili olduğunu bilir ve yalnız o belgeler içinde arama yapar. Bu yetkiler mümkünse mevcut dosya sunucusu ya da doküman yönetim sistemindeki yetkilerle eşleştirilir. Kişisel veri içeren belgeler için KVKK açısından ayrıca değerlendirme gerekir; bu konuyu yapay zekâ araçlarına şirket verisi vermek yazımızda anlattık.
Nerede çalışacak?
RAG sisteminin üç parçası vardır: belge arşivi, arama katmanı ve dil modeli. Belge arşivi ile arama katmanı kendi sunucunuzda ya da seçtiğiniz bir bulut ortamında tutulabilir. Dil modeli için iki yol vardır: bulut tabanlı bir yapay zekâ servisi ya da kendi sunucunuzda çalışan açık kaynak bir model. Bulut servisleri genellikle daha güçlü cevap kalitesi sunar; yerel modeller ise veriyi tamamen içeride tutar ama donanım ve bakım ister. Seçim, belgelerinizin hassasiyetine ve bütçenize göre yapılır. Sistemin sürekli güncel ve güvenli çalışması için barındırma ve bakım planı da baştan düşünülmelidir.
Kurulumda sık yapılan hatalar
| Hata | Sonuç | Çözüm |
|---|---|---|
| Bütün klasörleri olduğu gibi yüklemek | Eski ve çelişkili cevaplar | Önce belge ayıklama |
| Yetki kontrolü yapmamak | Gizli bilginin yayılması | Kullanıcı bazlı arama sınırı |
| Kaynak göstermemek | Cevaba güvenilmemesi | Her cevapta belge ve bölüm bağlantısı |
| Test sorusu hazırlamamak | Kalitenin ölçülememesi | Cevabı bilinen soru listesiyle düzenli test |
| Tek seferlik kurulum | Arşivin eskimesi | Belge güncelleme akışı |
Test sorusu listesi özellikle önemlidir. Ekibinizden cevabını kesin bildikleri 30-50 soru toplayın; sistemi her değişiklikten sonra bu sorularla deneyin. Böylece kalitenin iyileşip iyileşmediğini sezgiyle değil ölçüyle görürsünüz.
Gerçekçi beklenti
Belgelerle konuşan yapay zekâ, aranan bilgiyi bulma süresini kısaltmakta çok başarılıdır. Ancak belgelerde olmayan bilgiyi üretemez, birbiriyle çelişen belgeler arasında hangisinin doğru olduğuna karar veremez ve karmaşık tablolarda hata yapabilir. En sağlıklı kullanım, sistemin cevabı ve kaynağı birlikte vermesi, kullanıcının da önemli konularda kaynağa bir tık ile bakmasıdır.
Globya'da nasıl yapıyoruz
Bu tür projelere küçük bir belge grubuyla başlıyoruz: örneğin yalnız teknik föyler ya da yalnız iç prosedürler. Belgeleri sizinle birlikte ayıklıyor, yetki yapısını kuruyor, test sorularını hazırlıyor ve sonuç ölçüldükten sonra kapsamı genişletiyoruz. Sistemi mevcut dosya sunucunuz, intranetiniz ya da CRM'inizle bağlamak entegrasyon ve özel yazılım işimizin parçası; kurulumdan bakıma kadar tek muhatabınız biziz.
Sık sorulan sorular
RAG için modeli kendi verimizle eğitmek gerekir mi?
Hayır. RAG'in avantajı, modeli eğitmeden belgelerinizi soru anında modele sunmasıdır. Belgeler değiştiğinde arşivi güncellemek yeterlidir.
Hangi dosya türleri kullanılabilir?
Word, PDF, metin dosyaları, web sayfaları ve e-postalar genellikle sorunsuz işlenir. Taranmış belgeler ve karmaşık tablolar ek hazırlık gerektirir.
Sistem Türkçe sorulara iyi cevap verir mi?
Güncel dil modelleri Türkçeyi iyi anlar ve yazar. Cevap kalitesini asıl belirleyen, Türkçe belgelerinizin düzgün ve güncel olmasıdır.
Çalışan ayrıldığında erişimi nasıl kapanır?
Yetkiler şirketin kullanıcı yönetimine bağlı kurulursa, hesap kapatıldığında yapay zekâ erişimi de kapanır. Ayrı bir kullanıcı listesi tutmak bu yüzden önerilmez.
Globya asistanı 7/24 çevrimiçi; sorunuzu hemen yanıtlar, gerekirse ekibe iletir.