bukonu
Soru ara

Yapay Zeka Etiği5 argüman · 2 kaynak

Derin öğrenme kararları için açıklama sunmak zorunlu olmalı mı?

Derin öğrenme modelleri kredi, işe alım ve sağlık gibi alanlarda kişileri etkileyen tahminler üretebiliyor. Bu modellerin karmaşık yapısı, kararın hangi gerekçelerle verildiğini anlamayı güçleştiriyor; tartışma, etkilenen kişilere açıklama sunmanın zorunlu olup olmaması üzerine kurulu.1

Yapay zekâ ile hazırlandıKonu ve argümanlar yapay zekâ ile yazıldı; kaynaklar her argümanın altında. Hatalı bir bilgi görürsen iletişimden bildir.

Senin kadranın0/4 tartıldı

Henüz tartmadın

Topluluk ibresi 10 tartıda açılır · şimdi 0

Henüz tartmadın

L1

Açıklama zorunluluğu, kişilerin kararlara itiraz etmesini kolaylaştırır.

Bir kişi kredi, işe alım veya sağlık hizmetiyle ilgili olumsuz bir sonuçla karşılaştığında kararın temel gerekçesini bilmek, hatalı verileri düzeltmesine ve karara itiraz etmesine imkân verir. Gerekçe sunulması, kararların yalnızca teknik bir çıktı olarak kabul edilmesini önler.1

1artificialintelligenceact.eu

L2

Gerekçe sunma yükümlülüğü, ayrımcı sonuçların tespitini destekler.

Modelin kararında etkili olan temel etkenlerin incelenebilmesi, belirli grupları sistematik biçimde dezavantajlı kılan örüntülerin araştırılmasına yardımcı olur. Böylece kurumlar yalnızca sonuçları değil, kullandıkları verileri ve karar süreçlerini de gözden geçirmek için teşvik edilir.1

1artificialintelligenceact.eu

Tarafsız bilgi ibreyi oynatmaz; tartının zeminidir.

D1

Açıklamanın kapsamı, kararın kişi üzerindeki etkisine göre değişebilir.

Her algoritmik çıktı aynı ağırlığı taşımaz: öneri sistemlerindeki düşük etkili tercihlerle kredi veya sağlık alanındaki sonuçlar aynı düzeyde inceleme gerektirmeyebilir. Tartışmada, açıklamanın hangi kararlar için ve ne ayrıntıda sunulacağı da belirleyici olacaktır.1

1artificialintelligenceact.eu

A1

Karmaşık modellerin her kararını anlaşılır biçimde açıklamak teknik olarak güçtür.

Derin öğrenme sistemleri çok sayıda parametre ve etkileşime dayanabilir; belirli bir sonucun tek ve sade bir gerekçeye indirgenmesi yanıltıcı olabilir. Üretilen açıklamalar, modelin gerçekte nasıl çalıştığını tam yansıtmayıp kullanıcılara olduğundan fazla güven verebilir.2

2arxiv.org

A2

Zorunlu açıklamalar, ticari sırları ve sistem güvenliğini riske atabilir.

Ayrıntılı açıklama gereklilikleri model tasarımına veya kötüye kullanılabilecek karar eşiklerine ilişkin bilgileri açığa çıkarabilir. Bu durum işletmelerin rekabetçi sırlarını korumasını zorlaştırabileceği gibi, kişilerin sistemi manipüle etmesini de kolaylaştırabilir.1

1artificialintelligenceact.eu

Kaynakça

  1. 1artificialintelligenceact.eu /
  2. 2arxiv.org /abs/1702.08608

Sıradaki soru · Özgürlük

Güvenlik tehdidi gerekçesiyle temel özgürlükler olağanüstü hâl dışında kısıtlanmalı mı?