Bir çalışan yapay zekâya şunu soruyor: "Yurt dışı seyahatte günlük harcırah üst sınırı ne kadar?" Cevap hızlı ve akıcı geliyor. Ama doğru mu? Hangi yönetmelikten, hangi tarihli sürümden?
Akıcılık doğruluk değildir
Dil modelleri, bilmedikleri bir şeyi de akıcı biçimde anlatabilir. Genel sohbette bu küçük bir sorundur; kurumsal kararda büyük bir risktir. Yanlış bir yönetmelik bilgisiyle verilen karar, bütün süreci etkileyebilir.
Kaynak göstermek nasıl çalışır?
Kurumun belgeleri önce parçalara ayrılır ve aranabilir hâle getirilir. Bir soru geldiğinde sistem önce ilgili parçaları bulur, cevabı yalnız bu parçalardan kurar ve her bilginin yanına geldiği belgeyi ve sayfayı yazar. Kullanıcı kaynağa dokunduğunda belge o sayfada açılır.
Bu yaklaşımın üç sonucu var:
- Doğrulanabilirlik. Kullanıcı cevabı birkaç saniyede kontrol edebilir.
- Dürüstlük. Belgelerde cevap yoksa sistem bunu söyler, tahmin yürütmez.
- Yetkiye saygı. Sistem yalnız kullanıcının erişebildiği belgelerden cevap verir.
Tablolar ve taranmış belgeler
Kurum belgelerinin önemli bir kısmı düz metin değildir: tablolar, taranmış sözleşmeler, formlar. İyi bir sistem bu sayfaları da okuyabilmeli; zor sayfaları görsel modellerle yeniden okuyabilmelidir. Aksi hâlde en kritik bilgi, en zor okunan sayfada kalır.
Güven bir özellik değil, sonuçtur
Çalışanlar yapay zekâya ilk günden güvenmez. Güven, birkaç kez kaynağa bakıp cevabın doğru olduğunu görmeleriyle oluşur. Kaynak göstermek, bu güvenin kurulabilmesinin tek yoludur.