Şirket belgeleriyle çalışan yapay zekâ: RAG nedir, ne zaman gerekir?

RAG, bir soruyla ilgili kaynakları arayıp bunları yanıt üretirken modele sunan bir yaklaşımdır. Şirket belgelerinden yararlanmak için modelin her değişiklikte yeniden eğitilmesi gerekmez. Ancak kaynak eklemek, yanıtın otomatik olarak doğru veya kullanıcının o kaynağa yetkili olduğu anlamına gelmez.

Microsoft’un RAG açıklaması, arama ile üretimi birleştiren bu yapıyı ve kaynakların bağlam olarak kullanılmasını anlatır. Bu yazı belirli bir bulut ürününü satın alma önerisi değil, ihtiyacı değerlendirme rehberidir. Microsoft — RAG overview.

Belge yüklemekten daha geniş bir iş

Belgelerin okunabilir olması başlangıçtır. Başlık, tarih, sahiplik, sürüm ve erişim bilgisi de korunmalıdır. Eski bir prosedürle yeni bir prosedür aynı konuda farklı şey söylüyorsa sistemin hangisini esas alacağı belirlenmelidir. Aynı belgenin birçok kopyası da arama sonuçlarını gereksiz yere doldurabilir.

Bir soruyu yanıtlamak için kabaca üç kontrol gerekir: doğru kaynak bulundu mu, gerekli bölüm seçildi mi, yanıt bu bölümün söylediğini doğru aktarıyor mu? Kaynak bulma ve yanıt oluşturma ayrı ayrı değerlendirildiğinde sorunun yeri daha kolay anlaşılır.

Arama, RAG ve eğitim aynı ihtiyacı çözmez

Yaklaşım	Temel kullanım	Kullanıcının yaptığı iş
Belge araması	İlgili belgeyi veya bölümü bulmak	Kaynağı okuyup sonucu çıkarmak
RAG	Bulunan kaynakları soruya yönelik yanıtta kullanmak	Yanıtı ve dayandığı kaynağı kontrol etmek
Model uyarlama/eğitimi	Belirli davranış veya görev örüntülerini geliştirmek	Ayrı veri ve değerlendirme sürecini yönetmek

Bu seçenekler birlikte de kullanılabilir. Ancak şirket rehberindeki bir adresi güncellemek gibi bir ihtiyaç için ilk sorulacak soru “modeli nasıl eğitiriz?” olmayabilir. Önce kaynakların nasıl güncellendiğini ve aramada nasıl bulunduğunu incelemek daha doğrudan bir adımdır.

Örnek: yeni ekip üyesinin ilk günü

Bir çalışan “İlk gün hangi araçlara erişim istemeliyim?” diye soruyor. İzinli ekip rehberindeki ilgili bölüm bulunur ve kısa bir liste hazırlanır. Yanıtta belgenin adı, bölümü ve mümkünse sürümü gösterilir. Bu, gerçek bir kurulum sonucu değil, açıklayıcı bir senaryodur.

Belgelerde sorumlunun adı yoksa yanıt onu uydurmamalı; eksik bilgi olduğunu söylemelidir. İki kaynak çelişiyorsa belirsizlik görünür kalmalıdır. Belgeye bağlantı eklemek tek başına yeterli değildir: verilen cümlenin gerçekten o kaynakta desteklendiği de denetlenmelidir.

Erişim kontrolünü yanıtın önüne koyun

Bir kullanıcının normalde açamadığı belge, soru sorduğu için erişilebilir hâle gelmemelidir. İzin filtresini yalnızca ekrandaki kaynak bağlantısına değil, aramaya ve modele verilen bağlama uygulamak gerekir. Yanıttan belge adını silmek, içerik zaten modele sunulmuşsa doğru bir erişim modeli oluşturmaz.

Belgeler ayrıca sisteme komut verme yetkisi olan kişiler değildir. Belge içindeki yönlendirmeler kaynak içeriği olarak ele alınmalı; sistemin araç veya erişim kurallarını değiştirmemelidir. RAG ile dış işlem yapan ajan birleştirilecekse bu sınır ayrıca test edilmelidir.

Başarılı bir pilot nasıl değerlendirilir?

Gerçek ekip sorularından izinli bir test seti hazırlayın. İçinde yanıtı bulunan soruların yanında yanıtı olmayan, yanlış varsayım içeren ve kullanıcının yetkisini aşan sorular da olsun. Doğru kaynak seçimini, yanıt desteğini ve gerekli durumda yanıt vermeme davranışını ayrı ölçün.

İlk pilotta küçük ve sahibi belli bir belge kümesi kullanmak, veri sorunlarını görmeyi kolaylaştırır. Sonraki adım için pilot seçim rehberini ve hazırlık giderlerini anlamak için maliyet rehberini inceleyebilirsiniz.