GİRİŞ
Raymond Kurzweil, 20. yüzyılda yaşanan bütün gelişmelerin, 2000 yılındaki gelişme hızıyla yalnızca 20 yılda tamamlanabileceğini söylüyor — diğer bir deyişle, 2000 yılında gelişme hızı, 20. yüzyıldaki ortalama gelişme hızından beş kat daha hızlıydı. 20. yüzyıl değerinde bir gelişmenin 2000 ile 2014 arasında yaşandığına, ve 20. yüzyıl değerinde bir gelişmenin daha 2021’e kadar yaşanacağına inanıyor, yalnızca yedi yıl içinde. Birkaç on yıl sonra, 20. yüzyıl değerinde bir gelişmenin aynı yıl içinde birkaç kez yaşanacağına, biraz daha süre sonra ise, bir aydan kısa sürede yaşanacağına inanıyor. Yani neticede Kurzweil, 20. yüzyılda yaşanan gelişmenin 1,000 katının 21. yüzyılda yaşanacağına inanıyor.
Şüphesiz 20. Yüzyılın en büyük gelişmelerinden biri de “yapay zeka” teknolojisinde yaşanmış durumda. Oxford’lu filozof ve önde gelen Yapay Zeka düşünürlerinden Nick Bostrom, yapay zekayı “bilimsel yaratıcılık, genel bilgelik ve sosyal yetenekler dahil olmak üzere neredeyse her alandaki en iyi insan beyinlerinden çok daha akıllı olan bir zeka” olarak tanımlıyor. Yapay zekanın, giderek bir süper zekaya dönüşeceğini iddia ediyor. Bostrom, günü geldiğinde yapay zekanın bir insandan birazcık daha ama bir bilgisayardan milyarlarca kat daha akıllı olacağını düşünüyor.
Dünyanın önde gelen bilim insanlarından olan Profesör Stephen Hawking ise , “Yapay zeka, kendisini geliştirmeyi sürdürebilir ve hatta kendisini yeniden biçimlendirebilir. Son derece yavaş bir biyolojik evrimle sınırlı olan insanlar, bu tür bir güçle yarışamaz” diyor ve yapay zekaların giderek insanlığı tehdit edecek hale geleceğini iddia ediyor. [1]Yapay zekanın geleceği hakkında kaygılı olan ise sadece Stephen Hawking değil. Dünyaca ünlü teknoloji uzmanı Elon Musk , “yapay zekanın karşımızdaki en büyük varoluşsal tehlike” olabileceğini söylüyor[2]. Ancak yapay zeka konusunda bilim insanlarının hepsi Hawking ve Musk kadar karamsar değil. Nitekim aynı insanlar gibi sohbet edebilen Cleverbot adlı yazılımın yaratıcısı Rollo Carpenter’a göre, insanlar uzunca bir süre daha teknolojinin kontrolüne sahip olacak ve geliştirilen yapay zekalar insanlık için kullanılacak.
Kim bilir belki de Hawkins’in korktuğu şey, Descartes’in ünlü sözü“Düşünüyorum, öyleyse varım”ı bir gün bir yapay zekanın telaffuz etmesi ve ardından varlığının farkına varması ihtimalidir.
- YAPAY ZEKA KAVRAMI
Bilgisayar teknolojilerinin yeni ortaya çıktığı dönemde, “Makineler düşünebilir mi?” sorusunun Mathison Turing tarafından sorulması ile, hakkında ilk adımların atılmaya başlandığı yapay zeka, makinelerin karmaşık problemlere insanlar gibi çözümler üretmesini sağlama ile ilgilenen bir bilim dalıdır. Yapay zeka isminin babası ise, 1956 yılında Minsky, Shannon ve Rochester ile birlikte gerçekleştirdiği çalışma sürecinde yapay zeka adını ortaya atan Mc Carthy’dir.
Tanımsal olarak ifade etmek gerekirse yapay zeka, bir bilgisayarın veya bilgisayar kontrolündeki bir robotun çeşitli faaliyetleri zeki canlılara benzer şekilde yerine getirme kabiliyetidir. Bir başka ifade ile yapay zeka, herhangi bir canlı organizmadan faydalanılmaksızın, tamamen yapay araçlar ile oluşturulan, insan gibi davranışlar ve hareketler sergileyebilen makinelerin geliştirilmesi teknolojisinin genel adıdır. Yapay zeka çalışmaları genellikle insanın düşünme yöntemlerini analiz ederek bunların benzeri yapay yönergeleri geliştirmeye yöneliktir. Yapay zekâ uygulamaları gün geçtikçe gelişmeye ve insan zekâsını yakalamaya doğru adım adım ilerlemektedir. Hatta gelinen noktada etrafımızın zaten yapay zekalarla kuşatıldığını söylemek yerinde olacaktır. Hali hazır da basit yapay zekaya birçok örnek yaşamamızın içine yerleşmiş durumdadır. Bunlara örnek vermek gerekirse;
- Arabalar yapay zeka sistemleriyle doludur: ABS fren sisteminin ne zaman devreye gireceğini belirleyen bilgisayardan, yakıt enjeksiyonu parametrelerini ayarlayan bilgisayara kadar. Google’ın sürücüsüz arabası, çevresini algılayan ve ona göre tepki veren güçlü yapay zeka sistemlerini içermektedir.
- Telefonumuz adeta ufak bir yapay zeka fabrikasıdır. Harita uygulamasını kullanarak yol bulduğunuzda, Spotify’dan zevkinize uygun müzik tavsiyeleri aldığınızda, yarının hava durumuna baktığınızda, Siri’yle konuştuğunuzda, ya da başka düzinelerce günlük aktivitede yapay zeka hep bizimledir.
- Amazon’da bir ürün aradıktan sonra başkabir sitede o ürünü “sizin için önerilenler” kısmında görünce ya da Facebook kimi arkadaş olarak eklemenizi söylediğinde şaşırmıyor musunuz? İşte tüm bunlar yapay zeka sistemlerinden oluşan bir ağdır. Kim olduğunuz ve nelerden hoşlandığınız hakkında birbirlerini bilgilendirirler ve sonra da bu bilgilerle size ne göstereceklerine karar verirler. Amazon’un “Bunu alanlar bunları da aldı…” uyarısı da milyonlarca müşterinin davranışlarından bilgi toplayıp bu bilgileri sentezleyerek size daha fazla şey satmak olan bir yapay zeka sisteminin görevidir.
- Google Translate bir başka klasik yapay zeka sistemidir. Ses tanıma Google Translate iyi bir örnektir.
- Uçağınız indiğinde hangi kapıya gitmesi gerektiğini belirleyen bir insan değildir,hatta biletinizin fiyatın her dokuz koltuk satıldığında artıranın bir insan olmadığı gibi.
- Dünyanın en iyi dama, satranç, scrabble, tavla ve othello oyuncularının hepsi yapay zeka sistemleridir.
- Google, sayfaları sıralayıp size ne göstereceği konusunda inanılmaz derecede sofistike metodlara sahip büyük bir yapay zeka sistemidir.
- Yine Google, şirketin, bilgi işlem merkezilerinde yapay zeka teknolojisi DeepMind’ı kullanarak enerji tüketimini yüzde 15 oranında azalttığını açıklamış durumda. Yapay zeka teknolojisinin bu yıl sonuna kadar tüm Google bilgi işlem merkezlerinde devreye sokulması bekleniyor.
Teknoloji devleri yapay zeka ile ilgili olarak sık sık bir araya geliyor ve yapay zekayı insan yaşamının içine daha fazla adapte etmek üzere çalışmalar yapıyorlar. Örneğin Facebook, Google, Microsoft, Amazon ve IBM tarafından , Partnership on Artificial Intelligence to Benefit People and Society” (Yapay Zekanın İnsanlara ve Topluma Faydası İçin İşbirliği) komisyonu kurulmuş durumda. Teknoloji devleri bu komisyon aracılığıyla yapay zeka araştırmaları yapıyor ve bu konudaki akademik çalışmaları destekliyor. Komisyon amacını şu ifadelerle açıklıyor: “Yapay zeka teknolojilerinin insan hayatını geliştirmek için büyük potansiyel taşıdığına inanıyoruz. Yapay zeka sayesinde insanlık iklim değişikliği, gıda, eşitsizlik, sağlık ve eğitim gibi konulardaki önemli sorunlarının üstesinden gelebilir.”
Tüm bu yapay zeka çalışmaları ve hedefleri henüz varoluşsal bir tehdide yol açabilecek durumda olmasalar da yapay zekaların hızla gelişmesini yolda olan ve dünyayı değiştirecek teknolojik bir fırtınanın bir öncüsü olarak görebiliriz.
- YAPAY ZEKÂYA SAHİP ROBOTLARIN VE İNSANSIZ ARAÇLARIN HUKUKİ SORUMLULUĞU
Yapay zeka ve bilişim alanındaki gelişmelere bağlı olarak robotların sanayi, hizmet,sağlık tarım,savunma gibi sektörlerde kullanım yoğunluğu giderek artmaktadır. Bu gelişmeye bağlı olarak insan-robot etkileşimindeki etik ya da ahlaki sorunların, yakın gelecekte bilim kurgudan gerçek dünyanın meseleleri haline gelmesinin kaçınılmaz olduğu açıktır.
Robotların hayatın her alanına hızla yayılması, “yapay zekalarının” da giderek gelişmesi, bu cihazların giderek “özerk” hareket etmeleri, kimi zaman karar almak durumunda kalmaları anlamına geleceği için bu gelişmiş ürünlerin faaliyetlerine dair etik ve hukuki kuralların ne olacağına dair tartışmalarda giderek artmaktadır.
Bilgisayar uzmanı Donald Knuth, yapay zekaya ilişkin sözlerinde, “Yapay Zeka şimdiye kadar ‘düşünme’ isteyen neredeyse her şeyi yapmayı başardı, fakat insanlar ve hayvanların ‘düşünmeden’ yaptığı birçok şeyde başarısız oldu” demektedir. Knuth’un bahsettiği durumda yapay zekanın günlük hayatta düşünülmeden yapılması gereken şeylerde dahi kendine yüklenen yazılımlar dahilinde düşünerek bir karar alması ancak bu kararın sonuçları bakımından hatalı bir karar olması durumunda yapay zekaya bu hatasından dolayı nasıl bir hukuki sorumluluk yüklenebilecektir? Biyolojik bir varlık olmayan yapay zekaların ve yapay zekaya sahip robotların bir insan tarafından tasarlanması gerekmektedir. Yukarda bahsettiğimiz örnekten yola çıktığımızda yapay zekaya sahip bir robotun aldığı hatalı kararın sonucu onu tasarlayan ve meydana getiren insana mı yüklenecektir? Bu noktada sorumluluk üreticiye mi tasarımcıya mı operatöre mi yoksa yazılımcıya mı ait olacaktır? Ya da robotu meydana getiren insanlara herhangi bir sorumluluk yüklenmesi mümkün değil midir?
Robotların işlediği suçlardan ve vermiş olduğu zararlardan kimin sorumlu olacağına basit anlamda ve temel hukuk prensipleriyle cevap vermeye çalışırsak, robotu kendi lehine işleten kim ise, robotun vermiş olduğu zararlardan o sorumlu olacak denilebilecektir. Ancak, robot öngörülemeyen sebeplerle suç işlerse veya zarar verirse ne olacaktır, ya da onu işleten kimse yok yukarda da değindiğimiz üzere robot kendi bir karar almak durumunda kalıyor ise veya verdiği zarar bir üretin hatasından kaynaklanıyor ise sorusunun cevabı kolaylıkla verilemeyecektir. Hatta robotların yazılımlarına dışarıdan kötü niyetli müdahaleler olması halinde robotun bir zarara yol açması halinde sorumluluk kime yönlendirilecektir?
Yukarda işaret ettiğimiz “karar almak zorunda” kalma durumuna dair günümüzde kullanılan yapay zeka teknolojilerinden de hareket ederek bazı örneklerler vermek yerinde olacaktır;
- İnsan yerine yapay zekanın kontrol ettiği silahlı bir insansız hava aracı hedefin yanı sıra hedefin yanında sivillerin de bulunduğu bir eve ateş etmeli midir? Edebilir mi?
- Sürücüsüz bir otomobil yayalara çarpmamak için içlerinde insan olsun olmasın başka araçlara çarpmak pahasına yönünü değiştirmeli midir? Değiştirebilir mi?
- Sürücüsüz bir otomobil yayalara çarpmamak için bir köpeğe çarpmayı göze alabilecek midir? Anlık sonuç değerlendirmesi yapay zeka tarafından nasıl yapılacaktır?
- Felaket bölgesinde kurtarma operasyonu yürüten bir robot panik yaratma riskine karşın olup biteni olaya mahallinde bulunanlara anlatmalı mıdır?
- Felaket bölgesinde kurtarma operasyonu yürüten bir robot kurtaracağı kişiler arasından önce hamile bir kadını mı yoksa yetişkin bir erkeği mi tercih edecektir?
- Sürücüsüz bir tren, kendini raylara bağlamış ve intihar etme niyetinde olan bir kişiye çarpmamak için ani fren yapacak mıdır?
Bu ve bunun gibi onlarca sorunun hemen ardından sorulması gereken asıl soru ise şu olacaktır; “Bu soruların cevaplarında ki hukuki sorumluluk kime veya kimlere aittir?”
Robotların fillerinde hukuki sorumluluğun kime yükleneceği sorusunun cevabı verilmeye çalışılırken birçok kişi sayılabilecektir. Robota komut veren varsa komut veren kişi mi? Yoksa robotu satan mı? Programcı şirket mi? Yapay zekâsını geliştiren takım mı? Sensörlerini yapan şirket mi? Ya da açık kaynaklı işletim sisteminde emeği geçen insanlar mı?
Yukarda ifade ettiğimiz örneklerden de görüleceği üzere hızla özerkleşen robotların gündelik hayata nüfuzu arttıkça etik sorunları merkezine alan hukuki altyapıya dair tartışmalar giderek büyümektedir.
Robotların sorumluğuna dair tartışma ilk kez ünlü bilim kurgu yazarı Isaac Asimov tarafından gündeme getirilmiştir. Asimov bu doğrultuda “robot biliminin üç yasası” nı 1942 yılında kaleme almıştır
Asimov’a göre Robotların kesinlikle uymaları gereken ve bu kurallar dışında hareket etmelerini imkansız kılan üç ünlü yasa şu şekildedir;[3]
- Bir robot, bir insana zarar veremez ya da zarar görmesine seyirci kalamaz.
- Bir robot, birinci kuralla çelişmediği sürece bir insanın emirlerine uymak zorundadır.
- Bir robot, birinci ve ikinci kuralla çelişmediği sürece kendi varlığını korumakla mükelleftir.
Bu üç robot yasasının daha sonra gerçek anlamda işlevsel olabilmesi için bir başka yasanın gerekliliğini de düşünen yazar, bunlara bir tane daha yasa eklemiştir. İlk üç kuralda robotların insanlara karşı kötü davranma olasılıklarını yok etme kaygısı güden yazar; tüm insanlık söz konusu olduğunda robotların nasıl davranması gerektiği sorunsalına ise dördüncü bir yasa geliştirerek çözüm aramıştır. Yazar ilk başta kurguladığı üç robot yasasını değiştirmek istemediği için sonradan eklediği bu yasaya “Sıfırıncı Yasa” adını vermiştir.
Asimov’un sonradan eklediği sıfırıncı yasası şu şekildedir;
- Bir robot insanlığa zarar veremez ya da zarar görmesine seyirci kalamaz.
Bu yasanın literatüre girmesiyle birlikte, ilk yasa doğal olarak şu şekilde değişmiştir;
- Bir robot, sıfırıncı yasayla çelişmediği sürece bir insana zarar veremez ya da zarar görmesine seyirci kalamaz.
Görüldüğü üzere Asimov’un sıfırıncı yasasının varlığı bir robota, eğer söz konusu insanlığın esenliğiyse bir bireyi öldürebilme serbestliği tanımaktadır. Ancak bir robotun, “insanlık” gibi soyut bir kavramı nasıl anlamlandıracağı konusu ise tartışmalıdır.
Asimov’un yasalarının artık çoktan çiğnenmeye başladığı günümüzde yapay zeka ve robotlar ile ilgili olarak tartışmalar ve değerlendirmeler hızla artmaktadır. Yine bu konuda The Economist Dergisi’nin robot bilim etiği ile ilgili yapmış olduğu bir çalışmada önemli üç tespitte bulunulmuş ve üç tespit dahilinde gelişmenin şart olduğunu savunulmuştur[4]. Dergiye göre bu üç alandan ilk olarak özerk hareket eden bir silahlı insansız uçak saldırısının felakete yol açması ya da sürücüsüz otomobilin kaza yapması durumunda tasarımcının mı, programcının mı, üreticinin mi yoksa operatörün mü hatalı olduğunu belirleyecek yasalara ihtiyaç duyulmasıdır. İkinci olarak robotların yargılara varmak için gerekli olan etik sistemlerin netleştirilmesine ihtiyaç duyulduğuna dikkat çekiyor ve bu alanda insanların ahlaki ikilemlere nasıl yanıt verdiğini araştıran deneysel felsefenin yardımcı olabileceğini ifade ediyor. Son olarak mühendislerin, etik alanındaki otoritelerin, hukukçuların ve politikacıların beraber robot etiğini netleştirme konusunda ortak bir tartışma ve çalışma yürütmesi gerektiğini ve ancak bu şekilde bu yeni teknolojiden daha fazla fayda sağlanabileceğini iddia ediyor.
The Economist’in yaptığı tespitler arasında, ilk tespit olan robot bilimiyle ilgili olarak yapılacak yasal düzenlemelerin gerekliliği hususu bu üç tespit arasında en önemli tespit olarak göze çarpmaktadır.
Robotlar ile ilgili olarak Miami Hukuk Üniversitesi’nde, robotların yasal ve siyasal muhtemel sonuçlarını ele alan bir toplantıda “robotların bir çekice mi yoksa ata mı benzediği” sorusuna cevap aranmıştır. Bu sorunun cevabını araştıran fakülte, sorunun cevabının kendilerini “sorumluluk” sorunsalının da çözümüne ulaştıracağını düşünmektedir. Şöyle ki, robot eğer eğer bir çekice benziyor ise, onun yol açtığı her türlü zarardan kullanan sorumlu olacaktır. Fakat eğer bir ata benziyor ise, robot bağımsız hareket edebileceğinden dolayı sorumluluklar sınırlı olacaktır. Fakülteye göre, iyi eğitilmiş bir atın fırtınada birden şahlanıp birilerine zarar vermesi halinde sahibi nasıl ki sorumlu değilse özerk olarak hareket edebilen, karar alabilen bir robotun hatalı bir davranışından dolayı da insanın sorumluluğu sınırlıdır. Toplantıda söz alan Washington Üniversitesi’ndeki robotbilim programının yüksek mühendislik yöneticilerinden William Smart şöyle demektedir; “Bir robota başka bir odaya gitmesini söyleyebilirsiniz ki bu deterministik bir harekettir. Ama hangi yoldan gideceğini tahmin edemezsiniz”. Smart’a göre bu durumda robotlar bir çekiçten ziyade, bir at gibi davranmaya başlamaktadır. [5]
- SONUÇ
Çalışmamız da yapay zeka ve yapay zekaya sahip robotların hukuki anlamda sorumlulukları ile ilgili olarak henüz tam olarak yanıtlanamamış ve de giderek karmaşık hale getiren bir çok soruya yer verdik. Robotlar için şimdiye kadar özel anlamda kanuni bir düzenleme yapan ülke olmadı. Ancak, otonom çalışan sürücüsüz araçlar için bazı ABD eyaletleri ve bazı Avrupa ülkeleri taslak kanunlar oluşturmaya başlamış durumdalar. Bu taslaklarda, hem araç standartları hem de trafik düzenlemeleri yeni baştan insansız araçlara uygun olarak yazılıyor. Robotlar teknolojik evrimini sürdürdükçe, hukuk bilimine ve bu konuda çalışan hukukçulara giderek daha fazla ihtiyaç olacağı aşikar ancak robot hukukunun mevzuat açısından geldiği nokta şu an sadece trafik ile ilgili yapılan birkaç düzenlemeden ibaret.
Makalenin yazarı Av. Burak Temizer olup tüm telif hakları saklıdır. İnternet sitemizin URL’sine ve yazarın ismine doğrudan yer verilmeksizin makalenin hiçbir bölümünün/pasajının kullanılmasına iznimiz yoktur.
KONU HAKKINDA SORUNUZ VARSA SORUN CEVAPLAYALIM
KAYNAKÇA
- Michael Mills , Artificial Intellıgence In Law: The State Of Play 2016,Thomson Reuters Legal Executıve Instıtute
- Alan S. Brown, Mechanical Engineering (The Magazine of ASME), Eylül 2012, Çeviren Dilan Pamuk
- Tim Urban, The Artificial Revolution: The Road to Superintelligence, Ocak 2015
- Daniel Araya, Interview: Roman Yampolskiy Discusses AI, Killer Robots, and the Age of the Machine, Kasım 2015
- The Economist, Artificial İntelligence, Temmuz 2016
- Gökhan Ahi, Hukuk Dünyası Yapay Zeka Kullanmaya Hazırlanmalı, Digital Age, Ekim 2015
- Okan Umruk , Bağımsız Robota Etik Kontrolü, Dünya Gazetesi, Haziran 2012
- http://www.webrazzi.com/
- https://www.theguardian.com/
- http://www.bbc.com
- https://en.wikipedia.org
[1] https://www.theguardian.com/science/2016/oct/19/stephen-hawking-ai-best-or-worst-thing-for-humanity-cambridge
[2] http://www.bbc.com/turkce/haberler/2014/12/141204_yapay_zeka_insanligin_sonu
[3] https://en.wikipedia.org/wiki/Three_Laws_of_Robotics
[4] http://www.economist.com/blogs/economist-explains/2016/07/economist-explains-11
[5] Mechanical Engineering (The Magazine of ASME) dergisinin Eylül 2012 sayısında editör Alan S. Brown tarafından hazırlanan Input Output bölümünde yer alan bu yazının, Dilan Pamuk tarafından dilimize çevrimi