Yapay zekâ ajanlarında insan onayı nasıl tasarlanır?

İnsan onayı, sistemin önerdiği belirli bir işlemin yetkili kişi tarafından incelenip kabul edilmesidir. Kontrolün işe yaraması için onaylanan içerik ile gerçekten uygulanan işlem aynı olmalıdır. Ekranda “Onayla” düğmesi göstermek bu koşulu tek başına sağlamaz.

Bu yazı bir mimari tasarım rehberidir. Sitedeki Tales ajanı canlı model bağlantısıyla tanıtım ve ihtiyaç keşfi yapar; dış sistemlerde işlem yürütmez. WhatsApp bağlantısı yalnız kullanıcı seçtiğinde açılır; mesaj gönderimini kullanıcı tamamlar.

Hangi adımda onay gerekir?

Her küçük işlemde onay istemek ekipte dikkat kaybına yol açabilir. Önce işlemin etkisini ve geri alınabilirliğini değerlendirin. Örneğin bir metni özetlemek ile müşteriye bağlayıcı bir teklif göndermek aynı kontrol seviyesini gerektirmeyebilir.

Başlangıç için dışarıya mesaj gönderme, kayıt silme, erişim verme ve mali sonuç doğuran işlemleri ayrı ele alın. Bu liste bütün işletmelere uygulanacak kesin politika değildir; her sürecin iş sahibi sınırları belirlemelidir.

Onay ekranı karar için yeterli bilgi vermeli

Bir teklif örneğinde yalnızca oluşturulan metni göstermek yetmez. Alıcı, ekler, kapsam, kullanılan kaynak ve işlem türü de görünmelidir. Onaylayan kişi neyi değiştirebileceğini ve onay sonrasında ne olacağını anlamalıdır.

Alan	Yanıtlaması gereken soru
İşlem	Sistem tam olarak ne yapacak?
Hedef	Hangi kişi veya kayıt etkilenecek?
İçerik	Hangi metin ve ekler kullanılacak?
Dayanak	Hangi veri veya kaynak esas alındı?
Sonuç	İşlem geri alınabilir mi, neyi değiştirecek?

Eksik bilgi varsa “Reddet” veya “Düzeltmeye gönder” yolu bulunmalı. Kullanıcının yalnızca onay vermesine izin veren bir ekran gerçek bir inceleme süreci oluşturmaz.

Taslak değişirse onay yenilenmeli

Örnek bir durum zinciri şöyledir: taslak → inceleme → onay → uygulama → sonuç. Onaydan sonra alıcı veya içerik değişirse önceki onay yeni işlemi kapsamamalıdır. Sunucu, onayı belirli bir işlem ve içerik sürümüyle eşleştirmelidir.

Uygulama anında kişinin yetkisi yeniden kontrol edilmelidir. Çok önce verilmiş veya artık geçerli olmayan bir onayla işlem yapılmaması için süre sınırı düşünülebilir. Bu kontroller yalnızca tarayıcıdaki duruma bırakılmaz; gerçek işlemi yapan bileşende uygulanır.

LangGraph’ın kesinti mekanizması, yürütmenin durdurulup dış girdiden sonra sürdürülmesine bir teknik örnek sunar. Bu tür bir mekanizma bekleme/devam etme altyapısı sağlar; işletmenizin yetki ve onay politikasını kendiliğinden tanımlamaz. LangGraph — Interrupts.

Hata, tekrar deneme ve iptal

Kullanıcı iki kez tıklarsa aynı işlem iki kez yapılmamalıdır. Ağ bağlantısı koptuğunda “başarısız” ile “sonucu bilinmiyor” ayrılmalıdır. Sonucu belirsiz bir gönderimi körlemesine tekrarlamak ikinci bir mesaj oluşturabilir. İşlem kimliği, durum kaydı ve hedef sistemin doğrulaması bu nedenle birlikte düşünülür.

Onay beklerken iptal edilen bir iş yürümemelidir. İşlem tamamlandıktan sonra “iptal” düğmesi göstermek de gerçek geri alma imkânı yoksa yanıltıcıdır. Geri alma, düzeltme işlemi veya insan müdahalesi arasındaki fark kullanıcıya açıkça anlatılmalıdır.

Yayına almadan önce test edilecek durumlar

• Onay vermeye yetkisi olmayan kişi denediğinde işlem reddediliyor mu?
• Onaydan sonra içerik veya hedef değişince yeniden inceleme gerekiyor mu?
• Aynı onay tekrar kullanıldığında ikinci işlem engelleniyor mu?
• İptal ve zaman aşımı durumlarında sistem güvenli biçimde duruyor mu?
• Kullanıcı hangi işlemin gerçekleştiğini kayıt üzerinden görebiliyor mu?

Bu soruların yanıtı tasarımın parçasıdır; ekrana sonradan eklenecek bir ayrıntı değildir. Entegrasyon rehberi dış araçlara yazma sınırlarını, ajan ve otomasyon karşılaştırması ise özerklik seviyesini seçmeyi ele alır.