Yapay zeka (YZ), hayatımızın her alanını derinden etkileyen ve adeta direksiyonu ele geçiren bir güç haline geldi. Ancak bu teknolojik ilerleme, özellikle adalet gibi hassas sistemlerde, bizi büyük bir soruyla baş başa bırakıyor: YZ’nin kararları ne kadar güvenilir ve tarafsız?
Bu sorunun cevabı, Avrupa Birliği’nin teknoloji dünyasında yeni bir dönemin kapılarını aralayan Yapay Zekâ Yasası (EU AI Act) ile verilmeye çalışılıyor. Bu yasa, YZ’yi risk seviyelerine göre sınıflandırarak, geleceğin teknolojisini kontrol altına almayı hedefliyor.
Adaletin Kalbindeki Kara Kutu ve Algoritmik Önyargı Sorunu
Yasanın neden bu kadar önemli olduğunu anlamak için, YZ’nin bugüne kadar yol açtığı sorunlara bakmak gerekiyor. YZ modelleri, eğitildikleri verilerdeki önyargıları öğrenir ve pekiştirirler. Örneğin, adalet sisteminde kullanılan risk değerlendirme algoritmaları, geçmişteki ayrımcı uygulamalardan kaynaklanan veri önyargıları nedeniyle dezavantajlı gruplara karşı ayrımcılık yapabilir.
ABD’deki COMPAS algoritması bunun çarpıcı bir örneğidir. Bu algoritma, siyah sanıkları, benzer suç geçmişine sahip beyaz sanıklara göre neredeyse iki kat daha fazla yanlış bir şekilde “yeniden suç işleme riski yüksek” olarak işaretlemiştir.
Bu önyargı sorununun yanı sıra, YZ’nin “kara kutu” problemi de güveni zedelemektedir. Bir algoritma bir karar verdiğinde, bu karara nasıl ulaştığını açıklayamaz. Adalet sisteminde şeffaflık ve gerekçelendirme esastır. YZ’nin aldığı kararların gerekçesi anlaşılmadığında, hem kamuoyunun hem de meslek profesyonellerinin adalet sistemine olan güveni sarsılır.
Yapay Zekâ Yasası ile Risk Tabanlı Sınıflandırma
Avrupa Birliği Yapay Zeka Yasası, bu sorunlara çözüm getirmek amacıyla YZ sistemlerini risklerine göre dört kategoriye ayırıyor:
- Kabul edilemez risk: Bu kategori, sosyal puanlama sistemleri veya manipülatif teknikler gibi insan haklarını ve temel özgürlükleri ihlal eden YZ sistemlerini içerir ve tamamen yasaklanmıştır. Yasaklanan diğer sistemler arasında, bir kişinin sadece profil çıkarma veya kişilik özelliklerine dayalı olarak suç işleme riskini değerlendiren sistemler , halka açık alanlarda “gerçek zamanlı” biyometrik tanımlama (bazı istisnalar dışında) ve iş veya eğitim ortamında duygu çıkarımı yapan sistemler yer alır.
- Yüksek risk: Yüksek riskli YZ sistemleri, sağlık ve güvenlik veya temel haklar üzerinde önemli bir etki yaratır. Bu sistemler sıkı düzenlemelere tabidir ve geliştiricileri (sağlayıcılar) için çeşitli yükümlülükler getirir.
- Sınırlı risk: Bu sistemler daha hafif şeffaflık yükümlülüklerine tabidir. Geliştiricilerin, son kullanıcıların bir YZ ile etkileşimde olduklarını bilmelerini sağlaması gerekir (örneğin, chatbotlar ve deepfake’ler).
- Minimal risk: Bu sistemler, spam filtreleri ve video oyunları gibi yaygın uygulamaları kapsar ve düzenlemeye tabi değildir.
Hukuk Alanında Yüksek Riskli Yapay Zeka
Yasa, COMPAS gibi sistemlerin yol açtığı sorunları doğrudan hedef alarak, adalet sistemindeki YZ uygulamalarını “yüksek riskli” olarak sınıflandırır. Bu, özellikle kişilerin iş performansını, ekonomik durumunu, sağlığını veya davranışlarını değerlendirmek için kişisel verilerin otomatik olarak işlenmesi durumunda geçerlidir. Yüksek riskli sistemler için sağlayıcılar, yaşam döngüsü boyunca risk yönetimi sistemleri kurmalı, veri yönetimi süreçlerini uygulamalı ve teknik belgeler hazırlamalıdır.
İnsan Dokunuşunu Korumak
Bu yasa, teknolojiyi yasaklamak yerine, onun sorumlu bir şekilde kullanılmasını teşvik ediyor. Yasa, YZ’nin karar süreçlerinde bir araç olarak kullanılmasına izin verirken, nihai yargının ve insani takdirin her zaman insanda kalması gerektiğini de vurguluyor. Çünkü adalet, sadece verilerin mekanik bir şekilde uygulanması değil; empati, ahlaki muhakeme ve bireysel koşulların anlaşılmasını da içerir. Yapay Zekâ Yasası, teknolojik ilerlemenin temel insan haklarını ve adaletin özünü koruyarak ilerlemesini sağlamayı amaçlayan öncü bir adımdır.
Kaynakça
- Bernard, M. The Future of Lawyers: Legal Tech, AI, Big Data And Online Courts. Bernard Marr. https://bernardmarr.com/the-future-of-lawyers-legal-tech-ai-big-data-and-online-courts/
Collective Spark 