Kurumsal Yapay Zekânın Benimsenmesinde Güven Neden Belirleyicidir?

Bir çalışan, yönetişim belgesini özetlemek için onaylı bir yapay zekâ aracını açıyor. Yanıt akıcı. Ancak çalışanın aklında hâlâ üç soru var: Bu belgenin girdi olarak kullanılmasına izin var mıydı? Öneriyi hangi kaynak destekliyor? Öneri yanlışsa kim sorumlu?

Bir lansman duyurusu bu soruları yanıtlayamaz. Benimseme, insanların hizmeti sınırlarını gerçekçi biçimde anlayarak kullanabilmesine bağlıdır. Güven, ne zaman durmaları, kontrol etmeleri veya yanıtı reddetmeleri gerektiğini bilmeleri de dâhil, hizmete uygun ölçüde güvenmelerini sağlamalıdır.

Bu konu çalışan deneyiminin ötesine geçer. Bilgilerin özenle işleneceğine dair müşterilere verilen bir söz, kurum içinde kimsenin anlamadığı bir iş akışı nedeniyle boşa çıkabilir. Kurum içi yapay zekâ iletişimi, teknik değerlendirme ve yönetimin hesap verme sorumluluğuyla birlikte ele alınmalıdır.

Güveni sınanabilir hâle getirin

NIST’in Yapay Zekâ Risk Yönetimi Çerçevesi; güvenilirliği, hesap verebilirliği, şeffaflığı ve mahremiyeti de içeren çeşitli özelliklerle güvenilir yapay zekâyı tanımlar. Kullanım bağlamının ve özellikler arasındaki ödünleşimlerin önemini de açıklar. Dolayısıyla güven, rahatlatıcı bir arayüzden veya bir hizmetin özel olduğu iddiasından daha kapsamlıdır. NIST: Yapay zekâ riskleri ve güvenilirlik.

Bir benimseme programında bu geniş kavramı dört somut taahhüde dönüştürün. Hesap veren sorumlular, bu taahhütleri kurumlarında onaylanmış düzenlemelere uyarlamalıdır.

İnsanlar hangi girdilere izin verildiğini anlayabilir. Rehber; onaylı hizmeti, hesap türünü, kullanım senaryosunu ve izin verilen bilgi sınıflarını belirtir. Çalışanların tedarikçi sözleşmesini kendi başlarına yorumlamasını beklemeden kısıtlamaları açıklar.

İnsanlar önemli çıktıların dayanağını inceleyebilir. İş akışında kurumsal belgeler kullanılıyorsa incelemeciler ilgili kaynakları bulabilmeli, bunların güncelliğini anlayabilmeli ve kaynak içeriğiyle yapay zekânın ürettiği çıkarımı ayırt edebilmelidir. Kaynağın görünür olması, çıktının doğru olduğunu tek başına kanıtlamaz.

Karar yetkisi insanlarda kalır. Bir öneri taslağı, özenli bir ekranda göründüğü için onaylanmış bir kontrole, politikaya veya yönetim yanıtına dönüşmez. İlgili uzman bunu kabul edebilmeli, değiştirebilmeli, reddedebilmeli veya yetkili değerlendirmesine iletebilmelidir.

İnsanlar endişelerini iletebilir ve yanıt alabilir. Geri bildirim kanalının bir sorumlusu olmalıdır. Yanlış bir yanıtın bildirilmesi değerlendirmeye yol açmalıdır. Çalışana, benimseme hedefine ulaşmak için aracı kullanmaya devam etmesi yönünde baskı yapılmamalıdır.

Uygulamalı örnek: Bir politika önerisini incelemek

Gözden geçirilmiş bir erişim politikasını değerlendiren örnek bir uyum ekibini ele alalım. Yapay zekâ asistanı, ayrıcalıklı hesapların üç ayda bir incelenmesini öneriyor. Öneri politikaya atıf yapıyor; ancak mevcut incelemenin işlediğini gösteren kanıtı bulamıyor.

Belirsiz bir deneyim yalnızca öneriyi ve onay düğmesini sunar. İşe yarayan bir deneyim ise eksik bilgiyi açıklar: Politika bir incelemeden söz ediyor, asistan bağlantılı bir kontrol kaydı bulamamış ve mevcut kayıtlarda bulunmaması, uygulamanın kurumda hiç bulunmadığını kanıtlamıyor.

İncelemeci, kontrol sorumlusuyla görüşür. İnceleme zaten yapılmaktadır; ancak kaydı ilişkilendirilmemiştir. Yetkili uzman, kayıtlar arasındaki bağlantıyı düzeltmeye, kanıt istemeye veya kontrolü değiştirmeye karar verir. Bu, uygun incelemeyi anlatan kurgusal bir örnektir. Kullanıma sunulmuş bir SONO arayüzünü veya müşteri sonucunu anlatmaz.

İletişim açısından çıkarılacak ders somuttur. Eğitimde, yapay zekâ önerisinin değiştirildiği veya reddedildiği bir örnek gösterilmelidir. Aksi hâlde çalışanlar, öneriye katılmamalarının aracı yanlış kullandıkları anlamına geldiğini düşünebilir.

Yapay zekâyı sınırları belirli bir iş akışıyla devreye alın

Kurum içi bir politika özetinin ilk taslağını hazırlamak gibi tek bir iş seçin. Pilot grubu davet etmeden önce hangi bilgilerin girdi olarak kullanılabileceğini, beklenen çıktıyı, incelemecinin sorumluluğunu ve alternatif yöntemi açıklayın. Eğitimde sentetik veya kullanımına izin verilmiş başka örnekler kullanın.

Kullanıcılara hangi noktaları kafa karıştırıcı bulduklarını sorun. Veri izinleri konusunda tereddüt ettiler mi? Kaynağı bulabildiler mi? İnceleme beklenenden uzun sürdü mü? Destek kanalı yanıt verdi mi? Bu sorular, kullanım panosunun açıklayamayacağı güçlükleri ortaya çıkarır.

Üretilen yanıt sayısını güvenin göstergesi olarak kullanmaktan kaçının. Yararlı bir pilot; incelenmiş çıktıların kalitesini, tekrarlayan hataları, çözümlenmemiş soruları ve çalışanların hangi durumlarda işi kendilerinin yapması gerektiğini anlayıp anlamadığını değerlendirmelidir. Kabul edilebilir performansı ve iş akışının genişletilip genişletilmeyeceğini, hesap verme sorumluluğunu taşıyan iş birimi sorumlusu belirler.

Kurum içi ve dışı taahhütleri uyumlu tutun

Pazarlama, teknoloji, gizlilik ve yönetişim ekipleri, hizmeti anlatmak için kullanılan dili birlikte incelemelidir. “Bilgileriniz gizli kalır” gibi bir ifadenin açık bir tanımı ve kuruluma ilişkin kanıtı olmalıdır. Çalışanlara, müşterilere verilen taahhüdü destekleyen açıklamayla aynı kesinlikte bilgi sunulmalıdır.

İlk değerlendirmede şu soruları sorun:

• Kullanıcılar bu iş akışında hangi bilgilere izin verildiğini açıklayabiliyor mu?
• İncelemeciler ilgili kanıtları bulabiliyor ve sınırlamalarını fark edebiliyor mu?
• Nihai karardan kimin sorumlu olduğu açık mı?
• Kullanıcılar sonraki adımı tahmin etmek zorunda kalmadan durabiliyor ve konuyu yetkiliye iletebiliyor mu?
• Kurum dışına yapılan açıklamalar, doğrulanmış işletim koşullarıyla örtüşüyor mu?

Bu soruların gözlemlenebilir yanıtları olduğunda güven işe yarar hâle gelir. Amaç, uygun ölçüde güvendir: Çalışanlar işlerinde destek alırken mesleki değerlendirme ve kurumsal hesap verebilirlik korunur.

Onaylı bir yapay zekâ iş akışı seçin. Bu iş akışını kullanacak kişilerin hangi bilgileri girebileceklerini, çıktıyı kimin inceleyeceğini ve endişelerini nereye ileteceklerini anlayıp anlamadığını kontrol edin. Kullanımı genişletmeden önce geri bildirimlerinden yararlanarak rehberi iyileştirin.