Yapay zeka destekli otonom silahlar insan denetimi olmadan trajik sonuçlara neden olabiliyor

Stop Killer Robots Kampanyası Başkanı Peter Asaro, Minab'daki ilkokula yönelik saldırıda ABD ordusunun yapay zekayla oluşturduğu hedef listelerinin insan denetiminden geçirilmemesinin 150'den fazla çocuğun ölümüne yol açtığını söyledi. Cumhurbaşkanı Recep Tayyip Erdoğan, Azerbaycan Cumhurbaşkanı İlham Aliyev'in davetine icabetle geldiği Karabağ'da Hocalı Soykırım Anıtı'nı ve müzeyi ziyaret etti

Stop Killer Robots (Katil Robotları Durdurun) Kampanyası Başkanı Peter Asaro, İran'ın Minab kentindeki bir ilkokulun hedef alındığı saldırıda ABD ordusunun yapay zekayla oluşturduğu hedef listelerinin bir insan tarafından incelenmesi gerektiğine dikkati çekerek, "Böyle bir protokol bulunmadığı için 150'den fazla çocuk öldürüldü." dedi.

TRT tarafından 2017'den bu yana düzenlenen ve bu yıl "Merkezsiz Dünya: Kurallar Geçersiz Kaldığında Kim Liderlik Eder?" temasıyla dünyanın önde gelen isimlerini bir araya getiren TRT World Forum, 6-7 Kasım'da İstanbul'da gerçekleştirildi. Forum kapsamında otonom silah sistemlerinin hukuki sorumluluğu, siviller üzerindeki etkileri ve bu sistemlerin denetlenmesine yönelik uluslararası düzenleme ihtiyacına ilişkin AA muhabirine değerlendirmelerde bulunan Stop Killer Robots (Katil Robotları Durdurun) Kampanyası Başkanı Peter Asaro, robot veya yapay zeka hatası nedeniyle bir insanın ölümü halinde hangi hukuki kuralların uygulanacağını anlattı.

Olayın sivil ya da askeri nitelikte olmasının hukuki açıdan farklılık taşıdığını belirten Asaro, ölüme neden olanın sivil bir robot veya yapay zeka olması durumunda ilgili iç hukuk, ürün sorumluluğu ve ticaret hukuku kurallarının geçerli olacağını söyledi.

Asaro, silahlı çatışmalarda ise uluslararası insancıl hukuk ve Cenevre Sözleşmelerinin geçerli olduğunu, devletlerin güç kullanımı sonucunda meydana gelen ölümlerden sorumlu tutulduğunu ifade etti. Bazı durumlarda savaş suçu işleyen askerlerin veya komutanların da bireysel olarak sorumlu tutulabileceğini dile getiren Asaro, bunun için suç işleme kastının/iradesinin kanıtlanması gerektiğini kaydetti.

Asaro, karar alma sürecinin tam olarak anlaşılamayacağı otonom veya yapay zeka sistemlerinin söz konusu olduğu durumlarda, operatörleri bu sistemlerin eylemlerinden ya da sonuçlarından hukuken sorumlu tutmanın oldukça zor olduğunu anlattı. Bu kişilerin olayın gerçekleşeceğini beklememiş veya sonuçlarını anlamamış olabileceklerini ya da olayın gerçekleşeceğini öngöremediklerini iddia ederek bunun arkasına sığınabileceklerini belirten Asaro, bu nedenle askeri alanda bu tür hesap verilemeyen kararların alınmasını "son derece tehlikeli" olarak nitelendirdi.

Asaro, sivil alanda ise şirketleri ve mühendisleri sorumlu tutulabilecek taraflara örnek gösterdi. Askeri alanda sivillere çok büyük zararlar verme potansiyeli taşıyan yapay zekaya bağlı otonom silah sistemlerine mutlaka düzenleme getirilmesi gerektiğini dile getiren Asaro, şunları söyledi:

"Nitekim bunu Gazze'de ve İran'da, İsrail Savunma Kuvvetleri (IDF) ile ABD güçlerinin hedef sayısını ciddi ölçüde artıran yapay zeka kullanımıyla zaten gördük ve bu durumun siviller üzerinde çok büyük etkisi oldu. Bu konuda proaktif olmak zorundayız. Makinelerin insanlar hakkında ölüm kalım kararı vermesine izin verirsek insanı sadece bir 'veri' olarak görmek ve insan hayatının değerini askeri gerekliliklere ya da başka şeylere göre hesaplamak zorunda kalırız. Bu da insanı temelde insanlıktan çıkarmaktır. Bunlar, ancak insan hayatının kıymetini hesaba katan, o kıymetin ne anlama geldiğini anlayan insanların vermesi gereken kararlardır. Makineler hesaplamalar yapabilse de bunu gerçekten kavrayamaz. Dolayısıyla böyle bir şey yaparsak insan onurunu zedelemiş oluruz ve sadece bu makinelerin kurbanları için değil, herkes için insan hayatının değerini düşürürüz."

Asaro, ABD/İsrail'in, İran'ın Minab kentindeki bir ilkokulu hedef aldığı saldırıyı anımsatarak, "ABD ordusunun hedef listeleri oluşturmak için yapay zeka kullandığı artık bir bakıma ortaya çıktı. Belirlenen hedeflerden biri de buydu. Eski bilgilere dayanıyordu, yani suçu bir bakıma veri tabanına atıyorlar ama sonuç olarak bir insanın bunları incelemesi gerekirdi. Normal şartlarda insanlar o hedef listelerini gözden geçirir, verinin eski olduğunu ve buranın bir okul olduğunu gösteren daha yeni, daha doğru veriler bulunduğunu tespit ederdi. Böyle bir protokol bulunmadığı için 150'den fazla çocuk öldürüldü." değerlendirmesinde bulundu.