Kamu kurumları yapay zekâ karar süreçlerini bağımsız denetime açmalı mı?
Kamu kurumları kaynak dağıtımı, başvuru değerlendirmesi ve denetim gibi süreçlerde yapay zekâdan giderek daha fazla yararlanıyor. Bağımsız denetim, kararların kamu yararına uygunluğunu ve güvenliğini inceleyebilir; ancak maliyet, ticari sırlar ve denetimin kapsamı konusunda soru işaretleri doğurur.
Denetimin kapsamı, sistemin kamu kararları üzerindeki etkisine göre değişebilir.
Ayrıntı
Bir bilgilendirme aracının riskiyle kişilerin haklarını veya kamu kaynaklarının dağıtımını etkileyen bir sistemin riski aynı değildir. Bu nedenle denetimin sıklığı, bağımsızlığı ve kamuya açıklanacak bilgilerin düzeyi belirlenirken kullanım amacı ve olası etkiler dikkate alınabilir.
EVET
E · 1
Gerekçe
Kurum içi kontroller, sistemi geliştiren veya kullanan birimlerin varsayımlarını ve kör noktalarını gözden kaçırabilir. Dışarıdan uzman incelemesi veri kalitesini, güvenlik risklerini ve sistemin amaçlandığı gibi çalışıp çalışmadığını değerlendirmeye yardımcı olur.
Bağımsız denetim, kamu kararlarında hataları ve güvenlik açıklarını ortaya çıkarabilir.
Kamu kurumları toplum adına yetki kullandığı için, kullandıkları sistemlerin sonuçlarını ve risklerini gerekçelendirebilmelidir. Bağımsız denetim bulgularının uygun bir özetinin yayımlanması, güveni destekleyebilir ve sorunların giderilmesini sağlayabilir.
Düzenli dış inceleme, kurumların yapay zekâ kullanımını kamuya karşı hesap verebilir kılar.
Denetim için uzman, zaman ve teknik kapasite gerekir; özellikle küçük kurumlar bu kaynakları bulmakta zorlanabilir. Süreçler iyi tasarlanmazsa sistemlerin güncellenmesini veya hizmetlerin devreye alınmasını yavaşlatabilir.
Zorunlu bağımsız denetim, kamu hizmetlerinde maliyet ve gecikme yaratabilir.
H · 2· Kaynaksız
Gerekçe
Denetçiler sistemin hassas teknik bilgilerine ve zafiyetlerine erişmek zorunda kalabilir. Bu bilgilerin korunması güçleşirse güvenlik riski doğabilir; ayrıca kamuya açıklama yükümlülükleri tedarikçilerin meşru ticari sırlarını etkileyebilir.
Denetimin aşırı ayrıntılı olması güvenlik ve ticari sır risklerini artırabilir.