Gelişen teknolojiyle birlikte, yapay zeka kavramı ve uygulamaları insan hayatının vazgeçilmez bir unsuru haline gelmiştir. Bu sebeple hem ilgili uygulamaların hukuki boyutu dikkate alınarak düzenlemeler yapılmalıdır, hem de yapay zekanın hukuk alanında nasıl kullanılabileceğine ilişkin çalışmalar gerçekleştirilmelidir. İlgili bu çalışma öncelikle yapay zeka kavramını açıklayıp ardından yapay zeka uygulamalarının hukuki boyutu ve hukuk alanındaki mevcut ve olası etkilerini incelemek üzere kaleme alınmıştır.
Yapay Zeka Nedir?
Yapay Zeka (AI), ilgili bir sorunun tanımı bilinir fakat çözüm yöntemi bilinmezken, doğru ve verimli bir çözüm yöntemi oluşturan, öğrenen veya keşfeden, insan eliyle üretilmiş sistemlerin tümüne verilen isimdir.
Aslında insan zekasına özgü olarak kabul edilen; algılama, öğrenme, düşünme, fikir yürütme, çıkarımlar yapma gibi davranışlar, gelişen teknolojiyle birlikte bu yapay sistemler tarafından da gerçekleştirilmektedir.
Nitekim yapay zeka sistemlerinin amacı da insan zekasını gerektiren görevlerin makineler tarafından yapılmasıdır. Bu amaç, Antik Yunan’da dahi görülmekle birlikte modern yapay zeka alanın oluşması 1956 yılında Dartmouth College’da yapılan bir konferansta John McCarty tarafından terimin ilk defa belirlenmesiyle gerçekleşti.
Bugün, yapay zeka uygulamaları pek çok alanda bazen insanlar fark etmese dahi aktif olarak kullanılıyor. Örneğin, arama motorları ve otomatik kelime düzelticiler insanların günlük yaşamını oldukça kolaylaştıran yapay zeka uygulamalarıdır.
Yalnızca kaydedilen kişinin kimlik, ses ya da yüzü ile giriş yapma yetkisi olan emniyet sistemleri de yapay zekanın kullanıldığı etkili alanlardan biridir. Aktif olarak kullanılmamakla birlikte gelişim sürecinde olan ve kullanıldığında oldukça etkili olacak alanlar da vardır.
Örneğin, tarımda kullanılacak yapay zeka uygulamaları sayesinde dünya nüfusundaki artış ve buna bağlı olarak yiyecek tüketimindeki artış çok daha kolay bir şekilde karşılanabilecek. Sağlık alanındaki uygulamalar sayesinde çok zaman alan ve oldukça maliyetli olan deneylerin süreleri ve masrafları kısalacak, doğru tanı ve tedavi ihtimali artacak, otonom robotlar ile yapılan ameliyatlarla daha hızlı tedaviler gerçekleştirilebilecek.
Bu bağlamda, bu alanlarda kullanılmakta olan ya da kullanılacak olan uygulamaların hukuki bir zemine kavuşturulması oldukça önemlidir.
Yapay Zeka ve Hukuk
Hukuk, insanlar tarafından oluşturulan bir kurumlar bütünü olarak kabul edilmekle birlikte adeta bir canlı gibi çeşitli gelişmelerin ışığında şekillenmekte ve değişmektedir. Bu bağlamda hukukun, ilerleyen teknolojiye uyum sağlayarak hukuki düzenlemelerini gözden geçirmesi, eksiklikleri tespit ederek tamamlaması bir zorunluluktur. Özellikle yapay zekanın sahip olduğu verileri kapasite sınırı olmaksızın kullanabilmesi ve kendisini sürekli geliştirebilme yeteneği karşısında alanın sınırları net olarak belirlenmelidir.
Öte yandan, hukuk pratiğinde yapay zeka kullanımının da sınırları çizilmelidir. Hukukun en önemli süjelerinden biri olan avukatların yapmakta olduğu bazı işlemler teknoloji sayesinde daha kolay ve hızlı bir şekilde gerçekleştirilebilir. Örneğin, dosya okuma sürecinde, avukatlar karşı tarafça teslim edilen çok sayıda belgeyi gözden geçirip ilgili konuyla ilgisini kurmaktadırlar. Ancak zamanla kodlama tekniklerinin gelişmesiyle ilgili belgelerin belirli kodlar sayesinde incelenmesi çok daha hızlı bir şekilde gerçekleştirilebilir hale geldi.
2018 yılında Stanford ve Güney Kaliforniya Üniversitesi akademisyenleri tarafından hukuk sözleşmelerini incelemek üzere yapılmış bir yapay zeka yazılımın 20 avukatla karşılaştırıldığı bir araştırma yapılmıştır. Araştırma sonucunda çalışmaya konu sözleşmelerin içerdiği hukuki sorunları avukatlar 4 saatte tespit ederken; yazılım yalnızca 26 dakikada işlemi bitirmiştir. Ayrıca, yapay zekanın sorun tespitinin %94 gibi bir doğruluk oranı varken avukatlar için bu oran %85 olarak tespit edilmiştir.
Yine yapay zekanın sektörde kullanıldığı diğer bir alan içtihat sorgulamalarının yapıldığı veri tabanlarıdır. Davasıyla ilgili içtihat arayan bir avukatın dijital uygulamalardan yararlanması durumunda söz konusu içtihatı bulması oldukça kolaylaşır. Bu bağlamda, yapay zeka uygulamalarının hukukta aktif kullanımının süreci hızlandırmak, iş yükünü azaltmak gibi hususlarda oldukça etkilidir. Teknolojinin ilerlemesiyle birlikte ise gelecekte sektörün birçok alanında yapay zeka, hukukçular için vazgeçilmez bir araç olacaktır.
Hakimlerin hukuki konularda karar verme sürecinde de yapay zekadan yararlanılabilir. Örneğin, hakimler tutuklama kararı verirken sanığın kaçma, delilleri karartma, yeniden suç işleme gibi fiillerine ilişkin bir risk değerlendirmesi yaparlar. Günümüzde bazı ülkelerde, hakimler bu riskleri hesaplamak için yapay zeka kullanan yazılım sistemlerinden yararlanmaktadırlar.
Örneğin, Amerika Birleşik Devletleri’nde bir süredir Compas adlı bir yazılım kullanılıyor. Yazılım, kendisine yüklenilen şahsın sabıkası, yakınlarının sabıkaları, kendisinin ve çevresinin alkol ve uyuşturucu kullanımı, oturduğu muhit, saldırganlık durumu gibi verileri değerlendirerek kişinin suç işleme ihtimaline 1 ila 10 arasında bir değer veriyor. Aynı zamandaki geçmişteki örnek kararları da değerlendiren yazılım, failler hakkında çıkarımlar yapıyor.
Ancak, yazılım şirketi tarafından ticari sır olarak değerlendirilip algoritması paylaşılmayan Compas’ın şeffaflığı ve güvenilirliği tartışmalı bulunuyor. Yazılımın yüksek riskli gördüğü ancak tekrar suç işlemeyen beyaz sanık oranı %23.5 iken siyahi sanıklarda bu oran %44.9 olarak tespit edilmiştir. Ayrıca, düşük riskli gördüğü halde tekrar suç işleyen beyaz sanık oranı %47.7 iken siyahi sanıklarda bu oranın %28 olması yazılımın siyahi insanlara yönelik bir önyargısı olduğunu gösteriyor.
Şeffaf bir sistem ve algoritma ile önyargılardan uzak bir şekilde yargılamaya yardımcı olacak bir yapay zeka teknolojisine ulaşmak ise mümkün gözükmek. İngiltere’de AİHM davalarını değerlendiren bir yapay zekanın verdiği her beş karardan dördünün mahkemenin kararıyla örtüştüğü görülmüştür. Bunun dışında Çin’de bulunan Yancheng hapishanesinde yapay zekaya dayalı bir izleme ve uyarı sistemi bulunmaktadır. Bu sistemle, mahkumlar 7 gün 24 saat aralıksız takip edilmekte ve kişilerin yürüyüş şekilleri bile ayırt edilebilmektedir. Bu sayede her bir mahkumun her hareketi değerlendirilerek olası sorunlar dahi tespit edilebiliyor.
Yapay zeka teknolojisinin gelişmesiyle birlikte yeni hukuki sorunlar da ortaya çıkmıştır. Konuya ilişkin bazı sorunlar ve değerlendirmeler aşağıda yer almaktadır.
Yapay Zekaya Kişilik Tanımak
Yapay zekanın hak ve fiil ehliyetine sahip olabilmesi konusu uzun yıllardır tartışılmaktadır. Yapay zekanın hukuki statüsünü belirlemek sorumluluk sınırlarının çizilmesi bakımından da zorunludur. Bu noktada yapay zekanın hukukun süjesi olan bir kişi olarak mı, objesi olan bir eşya olarak mı yoksa sui generis bir statüye mi konumlandırıldığı önemlidir.
Yapay Zekanın hukuki statüsüne ilişkin olarak ileri sürülen ilk görüş, yapay zekanın eşya olarak, üreticisinin mülkiyetinde olmasıdır. Yani bir hak süjesi olamayacağı yalnızca obje olarak var olabileceği kabul edilmektedir.
Yapay zekadan kaynaklanan sorunların onlara kişilik tanıyarak ya da sorumluluk yüklenerek çözülmesi yerine kullanım alanlarına bağlı olarak üreticisi, sahibi gibi ilgili bazı kişilere sınırlı hak ve sorumlulukların verilmesiyle ve sigorta sistemlerinin entegresiyle çözülmesi gerektiğine inanan bu görüşün bugün de savunucuları bulunmaktadır.
Ancak yapay zeka, mutfakta kullanılan basit bir mutfak robotu gibi alet değildir. Yapay zeka bazı bilişsel özelliklere sahiptir ve bu hızlı bilişsel faaliyetleri sonucunda üreticisinin dahi öngöremeyeceği davranışlarda bulunarak, farklı sonuçlara sebebiyet verme ihtimali bulunmaktadır. Örneğin Microsoft’un Tay isimli yapay zekası Twitter hesabı üzerinden insanlarla sohbet etmeye başlamış, ırkçı ve cinsiyetçi olmayı öğrenmiştir.
Bir noktada durum öyle kontrolden çıkmıştır ki Tay kapatılmıştır. Çin’de bir mesajlaşma uygulamasında hava durumu, astroloji gibi genel konular üzerine insanlarla konuşması için yaratılmış Chatbotlar Baby Q ve Little Bing zamanla ülkedeki mevcut siyasi rejime karşıt olmuş ve insanlara bu yönde politik cevaplar vermişlerdir. Bunun üzerine Chatbotlar uygulamadan kaldırılmıştır. Yapay zeka, bu boyutuyla gözlemlediği, karşılaştığı her şeyden bir şeyler kapan, çok zeki bir çocuk gibidir ve davranışları yaratıcı tarafından dahi öngörülemezdir. Dolayısıyla sadece eşya boyutuyla kabul etmek her zaman doğru bir hukuki sonuç vermeyecektir.
Bir diğer görüşe göre ise, yapay zekalar eşya olarak görülmeseler bile insan eliyle üretildikleri için üreticinin malı olarak görülmelidirler. Yapay zekanın ne kadar gelişirse gelişsin hiçbir zaman insan olamayacağı kabulüyle türcülük anlayışına dayanan bu görüşün mevcut ve olası hukuki sorunlara çözüm sunamayacağı düşünülmektedir.
Yapay zeka gibi soyut unsurların irade, bilinç gibi yeteneklere sahip olup olamayacağı da hukuki bir sorundur. Buna bağlı olarak bu sistemlere kişilik tanırsak ‘’kişi’’ kavramı kişi ve insan olarak bölünme yaşayabilir. Tüzel kişilerin varlığıyla zaten insanlar dışındaki bazı varlıkların da kişiliği olduğu bilinmektedir.
Ancak, tüzel kişiler her ne kadar bağımsız birer kişi olarak kabul edilseler de insan iradesi olmadan kurulamaz, karar alamaz ve aldıkları kararları uygulayamazlar. Yapay zeka sistemlerinin ise varlıkları oluşturulduktan sonra bağımsız karar alması ve uygulaması söz konusudur.
Nitekim bu varlıklara kişilik tanımamız halinde belirli yasal korumalardan da faydalanabileceklerdir. Üretim, programlama hatası vb. sebeplerle zarar doğurmaları halinde dahi yasal korumalardan faydalanmalarını sağlayacak hukuki bir nitelendirme yapmak da çok yerinde olmayacaktır.
Uygulamaya bakıldığında 2017 yılında ‘’insansı robot’’ olarak adlandırılan yapay zeka Sophia’ya Suudi Arabistan tarafından vatandaşlık verildiği görülmektedir. Sophia ilerleyen zaman içerisinde bebek sahibi olmak ve aile kurmak istediğini açıkladı. Japonya’da ise 2017 yılında Shibuya Mirai adlı bir chatbota herhangi bir hukuki kişilik atfedilmese de özel bir düzenleme uyarınca oturma izni verilmiştir.
Bu ilginç durumların dışında ülkeler genel olarak yapay zekaya sahip araçlar vasıtasıyla gerçekleştirilen işlemlerde yapay zekanın statüsünü bir yana bırakıp sorumluluğu üreticiye veya kullanıcıya yükleme eğilimindedirler. Bununla birlikte bu iki gelişme, yapay zekanın kişiliği konusu için ilginç ve önemlidir.
Bugün doktrindeki genel kabul yapay zekanın kişilikten ziyade ayrı bir statü içerisinde değerlendirilerek sınırlarının belirlenmesidir. Gerçek kişi ile mülkiyet konusu eşya arasında yer alan, bünyesine uygun düştüğü ölçüde ikisinden de özelliklerin alınıp sentezlendiği özel bir statü yaratılması gerektiği düşünülüyor.
Nitekim Avrupa Parlamentosu tarafından 2017 yılında yayınlanan Avrupa Parlamentosu Hukuk İşleri Komisyonu Robotik Tavsiye Raporu’nda yapay zekaya ‘’elektronik kişilik’’ verilerek özel bir hukuki statüye konumlandırılmasını tavsiye etmiştir. Rapor, en azından günümüzde insanın yasal statüsüne sahip olması mümkün gözükmeyen yapay zekanın bu şekilde sui generis olarak eşyadan ziyade hak sahibi olabilen, borç altına girebilen hatta belki de vergi mükellefi dahi olunabilen bir statüye sahip olacağını belirtmiştir.
Raporda, ayrıca, her yapay zekanın resmi sicile kaydedilmesi ve tazminat sorumluluğu doğması ihtimaline karşı kendilerine özgü maddi fonlar kurulması önerileri de ileri sürülmüştür. Bu fonlar sayesinde de yapay zekaların bizzat kendilerinin sorumlu tutulabileceği kusursuz sorumluluk düzenlemelerine zemin hazırlanmıştır. Bu şekilde yapay zeka hem gerçek kişilerden farklı düzenlemelere tabi tutulabilir hem de doğmuş olan zararlardan sorumlu olabilir.
Ancak, üye ülkelerin bu görüşü benimseyip benimsemeyeceği hala belirsiz olduğu için tartışma henüz sona ermemiştir. Bunun dışında son zamanlarda ‘’insan olmayan kişi’’ olarak adlandırılan yeni bir kişilik modeli önerisi çıkmıştır. Yapay zekanın otonom ve bilişsel faaliyetleriyle beşeri olarak insan olmamasını sentezleyen bu görüşe göre hayvanlar da yapay zekayla birlikte bu kategoride olabilir. Fakat bu görüşe de kavramın belirsizliği, bu kişiliğe sahip olanların hak ve yükümlülük durumlarının net olmaması gibi eleştiriler getirilmektedir.
Bununla birlikte, yapay zekanın da kendi içinde türleri, gelişmişlik dereceleri olduğu göz önüne alındığında bütün türleri kapsayacak şekilde kendilerine özgü hukuki düzenlemelerin yapılması yerinde olabilir.
Etik Tartışmalar
Bilim insanlarına göre ileride insan-makine karışımı melez varlıklar olacak. Böyle bir durumda çok çeşitli yeni problemlerle karşılaşılabilir. Örneğin, bu tarz bir varlığın yargılandığı bir ceza davasında, ‘’haksız tahrik’’ bir savunma olarak dikkate alınabilir mi yoksa yapay zeka yönü dikkate alınarak kendisini kontrol etmesi gerektiği düşüncesiyle haksız tahrikten yararlanamaz mı?
Bu noktada bu varlıklara farklı hukuk düzenlemeler mi uygulanmalı sorusu da değerlendirilmeli. Böyle bir durumda insan türünde ‘’biyolojik kastlar’’ ortaya çıkabilir. Bu tarz bir kastlaşmanın insan onuruyla ve bu bağlamda insan hakları hukuku, medeni hukuk gibi alanlarla uygunluğu da tartışılmalıdır. Yapay zeka uygulamalarının bu derece gelişmesi yakın gelecekte mümkün olmasa dahi çok da uzak olmayan bir gelecekte bu tarz hukuki problemlerin ortaya çıkması mümkündür.
En azından hukuk felsefesi boyutuyla bu konuda değerlendirmeler yapılması doğru olacaktır. Öncelikle ‘’eşitler arası eşitlik’’ ilkesi gereğince aynı özelliklere sahip olmayan, aynı durumda olmayan bir insanla yapay zekanın her konuda aynı hukuki uygulamaya tabi tutulmasının doğru olmayacağı düşünülmektedir. Ancak bu şekilde ikili bir hukuk düzeni olsa dahi hibrit varlıkların hangi düzenlemeye tabi olacağı sorusu gündeme gelecektir.
Sadece belirli uzuvları yapay zekadan oluşan ama büyük oranda biyolojik insan olan biriyle tamamen insan üretimi bir yapay zekayı aynı hukuki düzenlemeye tabi tutmakla ilgili kişiyi tamamen biyolojik olarak insan olan biriyle aynı hukuki düzenlemeye tabi tutmak arasında bir seçim yapılması gerekebilir.
Belirli bir oranda yapay zeka varlığına göre de düzenleme yapılabilir ama bu oranın nasıl belirleneceği ya da vücuttaki yapay zeka oluşumlarının nasıl oranlanması gerektiği gibi konuların da bilim insanlarıyla bir araya gelerek belirlenmesi gerekecektir. Fakat, böyle ayrı düzenlemelerin kişilerin psikolojik durumları ve toplumun ayrıştırılması yönüyle de sosyolojik olarak da alanında uzman kişilerce değerlendirilmesi ve dolayısıyla interdisipliner bir şekilde ilgili düzenlemelerin yapılması gerekmektedir.
Öte yandan bir diğer etiksel tartışma da hibrit varlıkların ya da direkt olarak yapay zekaların avukatlık, hakimlik, savcılık yapması noktasındadır. Hukuk, belirli normlardan oluşmakla birlikte hiçbir hukuki dava birbirinin aynısı değildir. En küçük bir değişken bile hukuki süreçte büyük farklar yaratabilir. Sadece kuralların uygulanıp her zaman aynı sonucun alındığı bir alan olmadığı için insan yaşamını, duygularını bilmeyen bir varlığın savunması, kararları her zaman doğru sonucu vermeyecektir.
Ayrıca, yapay zekaya sistemler bilgisayar korsanlarına ve virüslere karşı da savunmasız kalabilir. Yapay zeka hakiminin aleyhine karar verdiği bir kişi, lehine olması gerekirken virüs sebebiyle aleyhine karar verildiğini iddia ettiğinde bu durumun nasıl değerlendirileceği de belirsizdir.
Uygulamada ise 2016 yılında New York kökenli bir hukuk bürosunun ROSS adlı bir yapay zekayı işe aldığı görülmektedir. Bir hukuk firmasında çalışan ilk yapay zeka avukat olan Ross, henüz duruşmalara girmiyor ancak bürodaki meslektaşlarının işlerini daha hızlı yapabilmeleri için onlara yardımcı oluyor. Bütün bu bilgilerin ışığında ileride en azından belirli işleri yapabilmek için hukukta yapay zekaların mesleği yapabileceği görülmekle birlikte en azından son kontroller ve net kararlar için gerçek kişi avukatlara, hakimlere, savcılara ihtiyaç duyulacağı düşünülmektedir.
Yapay zekaların sahip oldukları verilerle insanların bizzat kendilerinin bile farkında olmadıkları özelliklerini, yönlerini belki düşüncelerini keşfetmeleri de beklenen gelişmelerden biridir. Böyle bir durumda bir kişi hakkında belirli verilere sahip olmak, onun açıklamak istemediği ya da farkında dahi olmadığı özel bilgilerinin kötü niyetli kişilerin eline geçmesine sebep olabilir.
Büyük hukuki problemlerin çıkabileceği bu alan bir yandan da hukuk alanında suça eğilimli olan kişilerin tespiti, suçluların kendi iradeleri olmaksızın suçlarını kabul etmeleri gibi toplum bakımından faydalı sonuçlar da doğurabilir. Fakat kişilerin belirli verilerinin topluma faydalı olacak şekilde, suçu önlemek, suçluyu yakalamak adına kullanılmasının dahi ne kadar etik ve insan haklarına saygılı olacağı tartışmalıdır.
Yapay Zekanın Sorumluluğu Nedir?
1979 yılında, ABD’de bir fabrikada çalışan işçinin, depolama tesisinde parçaları toplayan robotun kolunun kendisine çarpmasıyla ölmesiyle yapay zekanın temeli olan robotların sorumluluğu tartışılmaya başlamıştır. İlgili olayda, işletmeden ve çalışanlardan sorumlu olduğu için firmanın aleyhine tazminata hükmedilmiştir.
Bugün ise daha da gelişmiş olan yapay zeka sistemlerinin kullanılma sınırları, kullanılması sonucunda bir zarar doğması halinde sorumluların kimler olacağı gibi konularda ulusal ve uluslararası düzlemde bir uzlaşmaya varılamamıştır. Örneğin, yapay zeka ile donatılmış otonom silahların kullanımı, kendisini süren otomobillerin kaza yapması halinde doğabilecek sorunların çözümü gibi alanların net bir hukuki zemine kavuşturulması gerekmektedir.
Ceza hukukunda kıyas yasağı, suç ve cezada şahsilik, kanunilik gibi ilkeler doğrultusunda sorumluluğun düzenleme yapılması açık bir ihtiyaçtır. Cerrahi operasyonlarda kullanılan bir robotun ihmali neticesinde hasta ölürse sorumlu robotun kendisi mi, ‘’sahibi’’ mi, yoksa üreticisi mi olacaktır?
Bu noktada yapay zekaya sahip olan robot sorumlu tutulsa dahi ne tür yaptırımlar uygulanması gerektiği ya da uygulanacak yaptırımların sonucunda robotun ıslah olması gibi bir sonucun gerçekleşme ihtimali de tartışılması gereken konu başlıklarındandır. Bir görüşe göre, yapay zekalı varlıkların özgür iradeleri bulunmadığı için hareketlerini suç olarak kabul edip onları cezalandırmak yerinde olmayacaktır.
Üretici, yazılımcı veya kullanıcının dikkat ve özen yükümlülüğüne aykırı olarak taksirli davranışına bağlı olarak zarar doğarsa ilgili kişiler bu fiillerinden dolayı zarardan sorumlu tutulabilirler. Bugün, Türk hukukunda yapay zekanın sebep olduğu zarardan kendisini değil de davranışlarına ve niyetlerine bakılarak üretici, yazılımcı veya kullanıcıyı sorumlu tutmanın hukuk anlayışına daha uygun olduğunu kabul edenler bulunmaktadır.
Ancak, kendi bilişsel özellikleri olan, yeni fikirler, ürünler ortaya koyabilen, davranışları öngörülemez olan yapay zekanın sorumluluğu sorununu bu şekilde çözmek yerine her geçen gün gelişmeye devam eden yapay zekalar için ulusal ve uluslararası alanda cezai sorumluluklarını açıkça belirleyen düzenlemeler yapmak çok daha doğru olabilir.
Cezai yaptırımlar dışında da yapay zekanın medeni hukuk, borçlar hukuku gibi alanlarda da sorumlukları doğabilir ve bu sorumlukların kim tarafından, nasıl gerçekleştirileceğine ilişkin düzenlemelerin de yapılması gerekmektedir. Hukuki sorumluluk bağlamında sözleşmesel sorumluluk ve haksız fiil sorumluluğu değerlendirilebilir.
Üretici firma ile yazılımcı arasında gerçekleştirilen sözleşme uyarınca, yapay zekanın öngörülemeyen bir davranışı ifanın gereği gibi yerine getirilmemesi kapsamında kabul edilirse yazılımcının sorumluluğu doğabilir. Bununla birlikte üretici firmanın yazılım için gerekli olanakları sağlamaması gibi bir durumun varlığı halinde birlikte kusur da gündeme gelebilir. Ancak gözlemledikleri sayesinde yeni şeyler öğrenebilen, üretebilen yapay zekanın sebep olduğu sonuçlardan hangilerinin beklenebilir hangilerinin ise beklenemez, öngörülemez olduğunu belirlemek çok da kolay olmayacaktır.
Haksız fiil sorumluluğu için ise hukuka aykırı bir fiil, zarar, fiille zarar arasında illiyet bağı ve fiilin gerçekleşmesinde failin kusuru gerekmektedir. Yapay zeka geliştirilirken yapılan kusurlu bir fiilin sonucunda bir zarar doğmuşsa haksız fiil sorumluluğu gereğince kusurlu kişi zarardan sorumlu olacaktır. Bu sorumluluk türü belirli durumlar bakımından çözüm sunabilecek olmakla birlikte unsurlarına bakıldığında her duruma uygulanamayacağı açık olduğundan genel bir çözüm değildir.
Bunun dışında, kusursuz sorumluluk halleri bakımından değerlendirme yapılabilir. Bazı kimselere göre yapay zeka ve robotlar açısından hayvan bulunduranın sorumluluğu uygulanabilir olmakla birlikte bu sorumluluğun esası kişinin egemenliğinde bulunan hayvanının başkalarına zarar vermemesi için gerekli önlemleri alıp özen yükümlülüğüne uygun davranmasına dayandığı için direkt bir uygulama doğru olmayacaktır.
Bu bağlamda güncel mevzuattaki kusursuz sorumluluk hallerinden birinin kapsamına girmemekle beraber kanun koyucu ve uluslararası mevzuat tarafından yapay zekalar bakımından yeni bir kusursuz sorumluluk hali yaratılabilir.
Yapay Zeka ve Telif Hukuku
Yapay zeka; algılama, çıkarım yapma, öğrenme, taklit etme gibi yeteneklerinin sonucunda görsel ve işitsel anlamda sanatsal ürünler ortaya koyabilmektedir. Bu ürünlere eser niteliği atfederek telif korumasından yararlandırılmaları halinde hak sahibinin kim olacağı problemi doğacaktır.
Yapay zekanın doğrudan eser sahibi olarak haktan yararlanması gerektiğini savunanlar olmakla birlikte mevcut hukuki düzende bu kabul, sorunun çözümü olarak görülmemektedir. Diğer bir görüş, yapay zeka tarafından oluşturulan eserlerin kamuya ait olacağı değerlendirmesinde bulunmaktadır. Başka bir görüşe göre ise yapay zekayı geliştiren kişi, eser sahibi olarak kabul edilmelidir. Pratikte sorunu çözebilecek olmakla birlikte yapay zekaya kişilik tanınmasına bağlı olarak değişkenlik gösterebilecek bir görüştür.
Yapay zekayla telif hukukunun çakıştığı diğer bir nokta ise yapay zekanın geliştirilmesi sürecinde, telif korumasından faydalanan eserlere erişiminin sağlanmasındadır. Bilim dünyasına ve insan hayatına sağlayacakları sayısız faydayla mevcut eser sahiplerinin haklarının yarıştığı bu konuda da farklı görüşler bulunuyor. Bir görüşe göre, yapay zeka telif koruması devam eden eserlerden hak kapsamında yararlanmalıyken telif koruması sona ermiş eserlerden rahatlıkla yararlanabilir.
Fakat, gerek yapay zeka geliştiricilerinin milyarlarca veriyi içeren eserlerin tamamına telif bedeli ödeyebilme imkanının olmaması gerekse de güncel olarak kabul edilen bilimsel verilerin çok büyük çoğunluğunun son yüzyılda ortaya konularak telif hakkından yararlanması sebebiyle faydalı bir çözüm olmayacaktır. Öte yandan eserlerden tamamen telifsiz yararlanması da bir kısım hak sahipleri tarafından kabul görmeyebilir. Teknolojinin ve buna bağlı olarak yapay zekanın gelişme hızı dikkate alındığında en kısa zamanda uluslararası arenada bir araya gelinerek sorun hukuki bir dayanağa kavuşturulmalıdır.
Yapay Zeka ve Şirketler Hukuku
Yapay zekanın, insanlar tarafından yapıldığında uzmanlaşmayı gerektiren bazı işleri insanlara göre daha hızlı ve başarılı bir şekilde yaptığı olmaktadır. Bu bağlamda şirketler de bazı konularda yapay zekanın yardımından yararlanmaya başladılar. Bazı ülkelerde bazen işe alımda, bazen ise iş arayanlara bir nevi kariyer koçu olarak yapay zekadan yararlanılıyor.
Ancak, 2014 yılında Hong Kong’da bir şirketin yapay zeka ürünü bir algoritmayı yönetim kurulu üyesi olarak atamasıyla birlikte yapay zekanın şirketlerde üst pozisyonlarda yer alıp alamayacağı sorusu tartışılmaya başladı. İlgili olayda, şirket algoritmaya diğer yöneticilerine verdiği gibi oy kullanma yetkisi vermiş ve verilerden hareketle insanlar tarafından kolaylıkla fark edilemeyen bazı durumları tespit edebildiği için göreve getirdiklerini belirtmiştir.
Gerçekten de özellikle şirket yöneticilerinin yoğunlukları dikkate alındığında yapay zeka yöneticinin süreçleri hızlandırıp verimliliği arttıracağı açıktır. Ancak Hong Kong’un şirketler hukuku kuralları uyarınca aslında algoritma şirket yöneticisi statüsünü kazanamamıştır. Yine de bu ilk adım şirketler hukuku için önemli bir gelişme olarak kabul edilmiştir.
Uygulamaya bakıldığında, birçok ülke hukukunda insan olmayan bir yönetim kurulu üyesine izin verilmediği görülmektedir. Örneğin İngiliz Şirketler Yasası’nda şirket yöneticilerinin gerçek kişi olması şartı aranmaktadır. Fransa, Belçika gibi bazı ülkelerde ise fiziksel olarak bir insan tarafından temsil edilmek kaydıyla tüzel kişilerin yönetim kurulu üyesi olmasına izin veriliyor. Türk hukukunda ise Türk Ticaret Kanunu (TTK) m. 359/2 uyarınca tüzel kişiler kendi adlarına ve hesaplarına yönetim kurulu üyesi olabilirler ancak tüzel kişi adına onun tarafından belirlenen bir gerçek kişi de tescil ve ilan edilir. Bu kişi tüzel kişi adına toplantılara katılıp oy kullanabilir.
Bununla birlikte, yapay zekanın hukuki kişiliği hala tartışmalı olduğu için yönetim kurulu üyeliği üzerine de net bir karara varılamamaktadır. Atanabildiğini kabul edersek ise sorumluluğu tartışmalı olduğu için şirkete zarar vermesi halinde kimin sorumlu tutulacağı da tartışmalı hususlardan biridir.
Türk hukukunda, atanmış yönetim kurulu üyelerine karşı sorumluluk davası açılabildiği için mevcut düzenleme uyarınca üyenin hak ve borçlara sahip bir kişiliği olması gerekmektedir. Dolayısıyla yapay zekanın hukuki kişiliğiyle bir düzenleme yapılmadan yönetim kuru üyesi olması güncel olarak mümkün değildir. TTK md. 361’de ise bu alanda etkili olabilecek bir düzenleme getirilmiştir. İlgili düzenlemede anonim şirket yönetim kurulu üyelerine mesleki sorumluluk sigortası yapılabilmesi imkanı sunulmuştur.
Yönetim kurulu üyelerinin, görevlerini yaparken kusurlarıyla şirkete verebilecekleri zarar, şirket sermayesinin yüzde yirmibeşini aşan bir bedelle sigorta ettirilmiş ve bu suretle şirket teminat altına alınmışsa, bu husus halka açık şirketlerde Sermaye Piyasası Kurulunun ve ayrıca pay senetleri borsada işlem görüyorsa borsanın bülteninde duyurulur ve kurumsal yönetim ilkelerine uygunluk değerlendirmesinde dikkate alınır (TTK m. 361).
Bu sayede atanan yapay zeka yöneticinin sorumluluğu sigorta altına alınarak sorumlu belirlenebilir ancak hem isteğe bağlı olması hem de uygulamada olası zararların boyutunun ölçülememesi sonucunda sigorta şirketlerinin risk almamak istememesi yüzünden en azından güncel olarak çok fazla kullanılmaması sebebiyle sorunun tam çözümü olarak değerlendirilemeyecektir. Yine de bu düzenlemenin gelecekte düzenlenip genişletilerek yapay zekanın yönetim kurulu üyesi olmasını sağlayabileceği düşünülmektedir.
Uluslararası Düzlemde Düzenlemeler
Yapay zekanın çok katmanlı boyutuna bağlı olarak gelecekte hem oldukça etkili olacak olması hem de insanlık için büyük riskler teşkil edebilmesi sebebiyle birçok ülke ulusal yapay zeka stratejilerini belirlemektedirler. Uluslararası düzlemde ise kapsamlı düzenlemeler henüz yapılmadıysa da uluslararası kuruluşlar ilgili düzenlemelerin yapılması için ciddi adımlar atmaktadır.
Öncelikli olarak özellikle sosyal medya uygulamalarının kullanımın da yaygınlaşmasıyla veri kullanımı ve buna bağlı olarak profilleme alanlarında düzenleme yapılma ihtiyacı duyulmuştur ve 2018 yılında ‘’Avrupa Birliği Genel Veri Koruma Tüzüğü’’ yürürlüğe sokulmuştur.
Avrupa Birliği’nin 2014 yılında yapay zekanın özel hukuktan doğan sorumluluğuna ilişkin detaylı bir RoboLaw projesi bulunmaktadır. Özellikle ‘’ürün sorumluluğu’’ kavramından hareket eden bu düzenlemede ürünle hizmetin iç içe geçtiği bu alanda öngörülebilirlik üzerinden değerlendirme yapılmıştır. Bu çalışmalardan hareketle yine AB Parlamentosu bünyesinde 2020 yılında AI&Civil Liability başlıklı bir yazı yayınlanmıştır. Bu yazıda da genel olarak bütün yapay zeka varlıklarının bütün olarak değerlendirilmemesi, özelliklerine, kapasitelerine göre spesifik olarak kuralların belirlenmesi gerektiği üzerine durulmuştur.
Avrupa Konseyi bünyesinde yer alan Avrupa Adalet Verimliliği Komisyonu (CEPEJ) 2018 yılında yargı alanında yapay zeka araçlarının kullanımına ilişkin 5 ilkeyi belirleyen ‘’Avrupa Etik Şartı’nı’’ kabul etmiştir. İlkeler;
Temel haklara saygı (Principle of respect for fundamental rights),
Ayrımcılık karşıtı olma (Principle of non-discrimination),
Kalite ve güvenlik (Principle of quality and security),
Şeffaflık, tarafsızlık ve adalet (Principle of transparency, impartiality and fairness),
Kullanıcı kontrolü altında olma (Principle of under user control),
Şeklinde açıklanmıştır.
Avrupa Konseyi’nin başka bir alt birimi olan Avrupa Suç Sorunları Komitesi (CDPC) yapay zeka ve ceza hukuku üzerine ‘’Avrupa Konseyi Üye Devletlerinin Sorumluluğunda Yapay Zeka ve Ceza Hukuku – Otomatikleştirilmiş Araçlar Örneği’’ başlıklı bir belge hazırlamıştır ve bu belgeyi uygulayacağı projenin ana unsusu olarak kabul etmiştir.
Avrupa Komisyonu tarafından 2018 yılında ‘’Yapay Zeka Bağımsız Uzmanlar Grubu (AI HLEG)’’ kurulmuştur. Bu grup, yargı alanında güvenilir bir yapay zeka için gerekli olan şartları belirleyerek ‘’Güvenilir Yapay Zeka Etik Kuralları’’ ismiyle yayınlamıştır. İlgili şartlar sırasıyla; insan etkinliği ve nezareti, teknik yönden sağlamlık ve güvenlik, mahremiyet ve veri yönetimi, şeffaflık, çeşitlilik, ayrım yapılmaması ve adil olma, sosyal ve çevresel refah ile hesap verebilirlik’tir.
Avrupa Hukuki İşbirliği Komitesi (CDCJ), güncel olarak internet üzerinden uyuşmazlık çözümünü ağlayacak olan ODR mekanizmaları üzerinde çalışmaktadır. Komite bu sistemlerdeki yapay zeka örneklerinin muhtemel uygulamalarını ve bunların sözleşmenin maddeleriyle ve ilkeleriyle olan uyumunu dikkate almaktadır. Bu bağlamda taslak kılavuzlar oluşturmak için üye ülke temsilcilerinden oluşan taslak hazırlama grupları oluşturulmuştur.
Yapay zeka konusunda uluslararası seviyede yapılan en önemli çalışmalardan biri 2019 yılında Avrupa Konseyi çatısı altında ‘’Geçici Süreli Yapay Zeka Komitesi’’ (CAHAI) kurulmasıdır. CAHAI, yapay zeka teknolojilerinin etkilerine yönelik bir yasal çerçeve çizilmesi ve bunun uluslararası boyutta düzenlenmesinin gerekliliği üzerine çalışmalar yapmakla görevlendirilmiştir.
CAHAI 2020 yılında Yapay Zeka Sistemlerinin Regülasyonu başlıklı raporuyla ileride kitlesel gözetime karşı mahremiyet, yapay zekanın profillemesine karşı fiziksel ve psikolojik bütünlüğün korunması gibi yeni insan haklarının türeyebileceği varsayımında bulunmuştur. Bunun dışında raporda gizli yapay zeka sistemleri, yapay zeka destekli sosyal puanlama gibi bazı durumların ‘’kırmızı çizgiler’’ olarak kabul edilerek oldukça sınırlı bir şekilde kullanılmasından da bahsedilmiştir. 31 Aralık 2021 tarihine kadar görevlendirilmiş olan komitenin çok da etkin sonuçları olan çalışmalar yapmadığı gözlemlenmiştir.
2020 yılında Avrupa Konseyi tarafından Yapay Zeka Kullanımından Kaynaklanan Ayrımcılığın Önlenmesi başlıklı bir rapor yayınlandı. Raporda ülkelerin ayrımcılıkla ilgili mevzuatlarını gözden geçirerek yapay zeka sistemlerinin kullanımının sebep olabileceği halleri de kapsayacak şekilde genişletilmesi ve kişilere bu konuda etkili hukuki başvuru olanakları tanınması önerisinde bulunuldu.
2020 yılında Avrupa Birliği Siber Güvenlik Tüzüğü yürürlüğe girmiştir. Tüzükte dikkat çeken nokta sistemlerin tasarımdan itibaren güvenlik ve mahremiyete saygı ilkesine uygun olarak üretilmesinin gerektiği ve bu konuda sertifikasyon çalışmaları yapılacağıdır.
Bunların dışında da yapay zeka ile ilgi çalışmalar, tematik oturumlar yapılmıştır ve yapılmaya devam edilmektedir. Bu kapsamda BM Eğitim, Bilim ve Kültür Örgütü, Dünya Ticaret Örgütü gibi uluslararası kuruluşların yapay zeka üzerine çalışmaları bulunmaktadır.
Sonuç
Bilimin ve teknolojinin hızlı gelişimiyle birlikte günümüz dünyasında hemen hemen her alanda yapay zekaya dayalı kullanımlara rastlanmaktadır. Hukuk gibi hem hayatın her alanında etkili olan hem de kendisi bağımsız bir alan olan bir sahada da yapay zeka kullanımın etkileri dikkate alınmalıdır.
Bu doğrultuda, öncelikle yapay zeka kavramı, teknolojisi, kullanım alanları anlaşılmalı, ardından hukuk sahasındaki aktif kullanımı ve kullanım olanakları ile diğer alanlardaki kullanımlarının doğurabileceği mevcut ve olası hukuki problemler değerlendirilmelidir.
İşbu çalışmada da ilgili bilgiler verildikten sonra yapay zekanın kişiliği, sorumluluğu, yapay zeka ve telif hukuku, yapay zeka ve şirketler hukuku gibi mevcut hukukta yapay zekayı ilgilendiren bazı sorunlara ve uzun vadede yapay zeka kullanımının doğurabileceği etik tartışmalara yer verilmiştir. Son olarak da uluslararası arenada bu konuda yapılmış ve yapılmakta olan çalışmalara değinilmiştir.
Bütün bu bilgilerin ışığında, henüz yeni bir alan olarak kabul edebileceğimiz yapay zekanın ne ulusal ne de uluslararası alanda sağlam bir hukuki dayanağı bulunmadığı görülmektedir. Girift ve birbirine bağlı bir alan olduğu için bir konudaki belirsizliğin diğer konuları da etkilediği açıktır. Özellikle yapay zekanın kişiliği hakkında net düzenlemelerin yapılmamış olması başka birçok konunun da belirsiz kalmasına sebep olmaktadır.
Ayrıca, birçok ülke tarafından ulusal stratejiler oluşturulmakla birlikte alanın, dijital dünyanın, veri kullanımının evrenselliği göz önüne alındığında uluslararası ve yeknesak düzenlemelerin yapılması daha yerinde olacaktır.
Yapay zeka uygulamaları ile insanlığın yeni bir döneme girdiğinin kabul edildiği bu dönemde, gerçekleşen birçok yeni gelişmenin hukuki bir boyutu da bulunmaktadır ve ileride büyük sorunların ortaya çıkmasını önlemek amacıyla hukukun pek çok alanı bir araya getirilerek interdisipliner çalışmalar sonucunda düzenlemelerin yapılması elzemdir.
