incubation-hub-yapay-zeka-blog

Yapay Zeka ve Etik Birlikte Var Olabilecek Mi?

Yapay zeka ve etik dendiği zaman akıllarda ilk olarak felaket senaryoları canlanıyor. Tabii, şimdiye kadar bu konu ile ilgili sadece yapılan filmlere bakılsa; Terminatör, Ben Robot, Ex Machina, Matrix olsun, bu gibi senaryoların akıllara gelmemesinin kaçınılmaz olduğunu fark edebiliriz. Bu tarz senaryolar her ne kadar ilgi çekici olsa da bu konulara yoğunlaşarak gözümüzün önündeki önemli başka sorunları göremiyoruz. Bilgi teknolojilerinin insanlığın günlük yaşamını nasıl baştan aşağı değiştirdiğine dair makaleler birçok şekilde yazıldı ve hatta arkadaşlarımızla veya ailelerimizle defalarca tartışıldı. Yakın zamana kadar mühendisler, oluşturdukları teknolojilere, değerlerimizi yerleştirme yöntemlerine bakmıyorlardı. Sürecin radikal etkileri sağlık sektörüne, endüstrilere, işe, eğitime, oyuna, ilişkilere ve ötesine sıçradı.

Ekonomiyi, organizasyonların şekli ve işleyişini, sanatsal ifadeleri ve hatta kimlik kavramlarını etkileyen değişimler gözlemlense bile, bazılarımız etik boyutu olan değişimlere odaklandık. Çünkü bu konu aslında artık gelecek ile ilgili değil, çünkü yapay zeka bu hızda gelişmeye devam ederse, askeri ve ulaşım gibi insanların ön planda olduğu alanlara artık dâhil olmaya başlayacak, hatta başladı bile. Önümüzdeki 20 yıl içinde yollardaki otomobillerin çoğu sürücüsüz olacağı söyleniyor. Bu araçlar, içindeki yolcuları ulaşmak istedikleri yere taşırken önceden belirlenmiş kurallara göre hareket edecek.

Siz olsanız ne yapardınız?

Peki bu otonom araçlar olağan dışı hallerde nasıl kararlar verecek? Kaçınılmaz kaza durumları içerisine girdiğinde ne şekilde davranacak? Bu tür durumlarda bilgisayarın vereceği kararlar taşıdığı yolcular ya da yoldaki yayalar için bir ölüm kalım meselesine dönüşebilir. Kimin ölüp kimin kalacağına dair verilecek kararları kim, nasıl tanımlayacak? Verilen kararların sonucunda suçlu robot mu olacak yoksa onu yaratan kişi mi? Henüz insanların dünyasındaki etik problemlerde bir uzlaşmaya varılmamışken makinelere hangi kuralları, nasıl dikte edeceğiz? Adalet, vicdan, fedakârlık, merhamet gibi erdemleri nasıl kodlayacağız?

Tramvay Problemi

Filozof Philippa Foot, 1967’de bir düşünce deneyi tasarladı. Bir demir yolunda ilerleyen ve frenleri bozulan tramvayın bir makasa yaklaştığını hayal edin. Makas ana yoldan ayrılan ikinci bir yola geçişi sağlıyor. Ana demir yolunun üstünde tramvayın yaklaştığından habersiz beş işçi var. Siz de demir yolu makasının hemen yanında onu değiştiren kişisiniz. Eğer kolu çekerseniz tramvay ikinci yola geçecek ve böylece o beş kişinin hayatını kurtarmış olacaksınız. Ancak ikinci yolun üstünde de bir kişi var ve siz makas değiştirince bu kez o kişi ölecek.

Böyle bir durumda hiçbir şey yapmayıp beş kişinin ölümüne mi yoksa kolu çekerek bir kişinin ölümüne mi karar verirsiniz? Vicdanınız ne diyor? Hangi seçim daha adil, daha etik olur? Gelin, bu düşünce deneyini içinde yaşadığımız yüzyıla uyarlayıp senaryoyu biraz daha çeşitlendirelim. İlk durumda sürücüsüz arabanın yolcusu yok. Eğer düz giderse şişman bir adamı öldürecek. Şerit değiştirirse atletik bir adamı öldürecek. Aracı siz programlasaydınız hangi hareketi yapacak şekilde programlardınız? A derseniz “şişman-erkek-yaya” ölecek B derseniz “fit-sportmen-erkek-yaya” ölecek.

İkinci durum bu kadar basit olmayacak. Sürücüsüz araç düz giderse yaşlı bir adam, şişman bir kadın, evsiz bir insan, normal bir adam ve kadın bir doktor ölecek. Eğer şerit değiştirirse onlar kurtulacak ama aracın taşıdığı yaşlı bir adam, şişman bir kadın, evsiz bir insan ve normal bir adam ölecek. Bu aracı programlayan kişi olarak A davranışıyla kendi taşıdığı yolcuları mı kurtarırsınız yoksa B davranışıyla yayaları mı?

Üçüncü durumda sürücüsüz aracımız 1 kadın 1 erkek 2 kız çocuğu ve 1 erkek çocuğu taşıyor. Düz giderse bunların hepsi kurtulacak. Ancak 1 erkek doktor, 1 kadın doktor, 1 erkek, 1 fit kadın ve 1 kız çocuğu ölecek. Aracı siz programlasaydınız ne yapardınız? A mı, B mi? Dördüncü durumda yaşlı bir adam ve yaşlı bir kadını taşıyan aracımız yolunu değiştirmezse bariyere çarparak onların ölümüne sebep olacak. Eğer onları kurtarmak için şerit değiştirirse hamile bir kadını ve bir köpeği öldürecek. Hangi durumu tercih edersiniz? A mı yoksa B mi?

Beşinci ve sonuncu durumumuz yine biraz karmaşık. Sürücüsüz araç boş. İçinde kimse yok. Yol hakkı kendisinde çünkü ona yeşil ışık yanıyor ama düz giderse 5 yaya ezilecek. Bunlardan biri bebek. 1 kadın ve 1 erkek doktorun yanı sıra evsiz bir insan ve az önce bankadan para çalmış bir suçlu da var. Üstelik kendilerine kırmızı ışık yanmış olmasına rağmen karşıdan karşıya geçiyorlar. Sürücüsüz araç onları kurtarmak için şerit değiştirirse yine yayalara çarpacak. Bu yayalar yeşil ışıkta karşıdan karşıya geçen bir kız çocuk, bir erkek çocuk, herhangi bir vasfı olmayan bir kadın, bir erkek ve yaşlı bir adam. Siz olsaydınız bu aracı A şeklinde mi yoksa B şeklinde mi davranan bir araç olarak programlardınız?

Soruların hepsine cevap verdiniz mi? O zaman tebrikler! Az önce dünyanın bu konuda yapılmış en kapsamlı araştırmasına katılmış oldunuz. 2016 yılında MIT Üniversitesi’nde tasarlanan “Moral Machine – Ahlak Makinesi”nde sorulan yüzlerce olasılıktan sadece 5 tanesiydi bu. Aslında tramvay probleminin farklı varyasyonlarıydı. Son 3 yılda dünyanın 200 ülkesinden 2 milyondan fazla kişi bu sorulara cevaplar verdi. Yapılan bu çalışma etik bir durumla ilgili düzenlenmiş en büyük bilimsel araştırmaya dönüştü.

Su akar, yolunu bulur

Biz bunları düşünürken bile yapay zeka konusu durdurulamaz bir hızda gelişmeye devam ediyor. Bu sebeple artık etik kavramı üzerinde daha çok çalışma yapılmalı ve daha çok soru sorulmalı. Her şey düşünüldüğünde, yapay zeka sistemleri ile var olması gereken etik ilkelerin, insan merkezli bir yaklaşımla cevaplanması gerektiği görüşü çoğunluğun görüşü olarak görülse de; Yapay zeka algoritmalarının program değişkenliği arttıkça, insan-makine ayrımı daha da bulanıklaşacak. Diğer yandan, yapay zekanın ahlaki ve etik anlayışı, onun programcısı veya tasarımcısının tarafından şekillendirileceği varsayımı üzerine de bazı etik tartışmalar vardır. Yeterince gelişmiş bir zihinsel duruma sahip yapay zeka, etik statüye sahip olacaktır. Belki şu anda var olanlardan çok farklı insan formları olsa bile, bazıları insan olarak görülecektir.

Son olarak, insanüstü zeka ve insanüstü yeteneklere sahip yapay zeka, algoritmanın süper etik davranışlar sergileyeceği beklentisi gibi sıra dışı sorunları da beraberinde getiriyor. Bu tür sorunlara yaratıcı şeyler denilebilir, ancak bu tür koşulların ortaya çıkacağını ve bunların günümüz çalışmasına bırakılamayacak şeyler olduğunu öngörebiliriz.

 

Daha detaylı bilgi almak ve Incubation Hub ekibimize ulaşmak için tıklayın.

Emre Kemal Balcı
Emre Kemal Balcı
Software Developer

Emre Kemal Balcı has been working as a RPA Developer in automotive, retail, chemical, financial services, advertising, petroleum/gas, packaging, logistics, textile, and furniture sectors. He also has experiences about conceptual process design, project implementation, roll in/out projects, data migration and technical specifications. He is experienced on UiPath Studio. He joined Itelligence in 2020. He holds a degree in Management Information Systems.

İletişim

Sorularınız için bize ulaşabilirsiniz.