bukonu

Felsefe & EtikYapay Zeka Etiği

Kamu kurumları yapay zekâ karar süreçlerini bağımsız denetime açmalı mı?

Kamu kurumları kaynak dağıtımı, başvuru değerlendirmesi ve denetim gibi süreçlerde yapay zekâdan giderek daha fazla yararlanıyor. Bağımsız denetim, kararların kamu yararına uygunluğunu ve güvenliğini inceleyebilir; ancak maliyet, ticari sırlar ve denetimin kapsamı konusunda soru işaretleri doğurur.

eur-lex.europa.euoecd.orgYapay zekâ ile hazırlandı; hatalı bir bilgi görürsen bize yaz.

Denetimin kapsamı, sistemin kamu kararları üzerindeki etkisine göre değişebilir.

Ayrıntı

Bir bilgilendirme aracının riskiyle kişilerin haklarını veya kamu kaynaklarının dağıtımını etkileyen bir sistemin riski aynı değildir. Bu nedenle denetimin sıklığı, bağımsızlığı ve kamuya açıklanacak bilgilerin düzeyi belirlenirken kullanım amacı ve olası etkiler dikkate alınabilir.

EVET

E · 1

Gerekçe

Kurum içi kontroller, sistemi geliştiren veya kullanan birimlerin varsayımlarını ve kör noktalarını gözden kaçırabilir. Dışarıdan uzman incelemesi veri kalitesini, güvenlik risklerini ve sistemin amaçlandığı gibi çalışıp çalışmadığını değerlendirmeye yardımcı olur.

Bağımsız denetim, kamu kararlarında hataları ve güvenlik açıklarını ortaya çıkarabilir.

eur-lex.europa.eu

E · 2

Gerekçe

Kamu kurumları toplum adına yetki kullandığı için, kullandıkları sistemlerin sonuçlarını ve risklerini gerekçelendirebilmelidir. Bağımsız denetim bulgularının uygun bir özetinin yayımlanması, güveni destekleyebilir ve sorunların giderilmesini sağlayabilir.

Düzenli dış inceleme, kurumların yapay zekâ kullanımını kamuya karşı hesap verebilir kılar.

oecd.org

HAYIR

H · 1· Kaynaksız

Gerekçe

Denetim için uzman, zaman ve teknik kapasite gerekir; özellikle küçük kurumlar bu kaynakları bulmakta zorlanabilir. Süreçler iyi tasarlanmazsa sistemlerin güncellenmesini veya hizmetlerin devreye alınmasını yavaşlatabilir.

Zorunlu bağımsız denetim, kamu hizmetlerinde maliyet ve gecikme yaratabilir.

H · 2· Kaynaksız

Gerekçe

Denetçiler sistemin hassas teknik bilgilerine ve zafiyetlerine erişmek zorunda kalabilir. Bu bilgilerin korunması güçleşirse güvenlik riski doğabilir; ayrıca kamuya açıklama yükümlülükleri tedarikçilerin meşru ticari sırlarını etkileyebilir.

Denetimin aşırı ayrıntılı olması güvenlik ve ticari sır risklerini artırabilir.