Algoritma öldürünce kim yargılanır?

Bir düşünce deneyi yapın: Bir silah, hedefini kendisi seçiyor, ateşleme kararını kendisi veriyor ve yanılıyor. Karşısında bir sivil var. Hayatını kaybediyor. Mahkeme salonunda sanık sandalyesi boş. Savcı kime dava açacağını bilmiyor. Yazılımcı, “Ben sadece kodu yazdım” diyor. Komutan, “Ben sadece sistemi devreye aldım” diyor. Şirketin hukuk müşaviri ise muhtemelen tatilde. Otonom silah sistemleri çağına hoş geldiniz. IEEE Standartlar Birliği bünyesinde bir araya gelen bağımsız uzmanlar geçtiğimiz yıllarda bir rapor yayımladı. Belge, “otonom silah sistemlerinin etik ve teknik zorlukları” başlığını taşıyor ve aslında son derece nazik bir dille şunu söylüyor: Bu işi nasıl yapacağımızı bilmiyoruz, kimin sorumlu olduğunu bilmiyoruz ve ne…