top of page

Yapay zekâ sistemleri adil ve hesap verebilir olmalı

KADINLAR GELECEĞİ ŞEKİLLENDİRİYOR - LBmag Kapak Dosyası - 5


Ayşe Baykut Dalal, Amazon, Luxembourg

Yapay zekanın insanlığı nasıl etkileyeceğiyle ilgili tartışmaların ana eksenini oluşturan regülasyonlar konusunu, Ayşe Baykut Dallal ile konuştuk.


Sorbonne’dan hukuk alanında yüksek lisans sahibi olan Dallal, halen Amazon’da, Avrupa Birliği’nde yapay zekanın hukuki düzenlemeleri üzerine çalışıyor.


Nasıl bir öğrenim hayatınız oldu?

Ankara’da doğdum ama çocukluğum Bursa’da geçti. Ortaokuldan itibaren yatılı olarak İstanbul’da okudum. Lisans eğitimimi Galatasaray Üniversitesi Hukuk Fakültesi’nde, yüksek lisans eğitimimi de Paris Pantheon Sorbonne Üniversitesi’nde yine hukuk alanında yaptım.



Kariyeriniz nasıl şekillendi? Hangi alanı seçeceğinize ne zaman ve nasıl karar verdiniz?

2004 yılında yüksek lisans eğitimimi tamamladıktan sonra İstanbul’a döndüm. O dönemde ne istediğimden çok emin değildim ama ne istemediğimi biliyordum. Öğrencilik dönemindeki yaz stajlarımdaki gözlemlerim sonucu dava avukatlığı yapmak istemediğime karar vermiştim. Böylece daha ziyade yabancı şirketlerin Türkiye’deki yatırımlarına ilişkin olarak ticaret hukuku alanında hukuk danışmanlığı veren bir hukuk bürosunda çalışmaya başladım. 2000’li yılların başları Türkiye’nin yabancı yatırımcıların gözdesi olduğu bir dönemdi. Birçok büyük şirket satın alması ve özelleştirme işleminde yer aldım. Mesleğimin ilk yılları çok yoğun çalıştığımız ama çok hızlı öğrendiğimiz bir dönemdi.


Keşke Amazon’da mühendislerle çalışsam diyordum

Ayşe Baykut Dallal, Amazon, Luxembourg

Mevzuat ve regülasyonlar alanında çalışmaya o dönemde mi başladınız? O yıllarda özellikle enerji sektöründe şirket satın almaları ve özelleştirmeler çok yoğundu. Bu nedenle ticaret hukukunun yanı sıra enerji hukuku alanında yoğunlaştım. Özellikle enerji piyasasının özelleştirilmesi ve piyasayı düzenleyen mevzuatın hazırlanması konuları son derece ilgimi çekiyordu. Böylece o dönemde Türkiye’ye yeni gelen ve hukuk bürosunda müvekkilimiz olan Almanya’nın önde gelen enerji şirketlerinden RWE’de çalışmaya başladım. Bir yandan RWE’nin Türkiye’deki yatırımlarına ilişkin hukuk müşavirliği görevini yürütürken bir yandan da RWE’nin başkanlığını yaptığı enerji sektör dernekleri ile Enerji Bakanlığı ile Türkiye’de adil ve serbest bir enerji piyasası kurulması için gereken hukuki çerçevenin konularında çalışıyordum. O dönemde mühendislerle teknik ve teknolojik konuların hukuki düzenlemelerinin çerçevesi konusunda çalışmanın ne kadar keyifli olduğunun farkına vardım. Yürürlükteki hukuk kurallarına göre hukuki görüş vermek yerine, gelişen teknolojinin hukuki çerçevesini belirlemek son derece ilginç bir alandı. ‘Keşke Amazon’da mühendislerle çalışsam diyordum’


Ayşe Baykut Dallal, Amazon, Luxembourg

Amazon'la yollarınız nasıl kesişti?

Amazon Türkiye kurulduğunda, hukuk müşaviri arayışına girmişti. Türkiye’deki enerji sektörünün uzun vadeli bir plana yönelik ve adil bir hukuki çerçeveye oturmayacağını gören RWE de Türkiye yatırımlarını neredeyse durdurmuştu, ben de artık kendime enerji sektörü dışında bir alan arıyordum. Amazon ile yollarımız bu noktada kesişti. Mülakat sürecinde Amazon’un liderlik prensipleri ve iş yapma şekline bayıldım, kendi kendime ben burada çalışmalıyım diyordum ama içimden de keşke Amazon’da makinelerden ve mühendislerden kopmayacağım bir imkân olsa diyordum. Bana teklif ettikleri pozisyon da tam bu oldu. Amazon perakendeci olmanın yanı sıra, lojistik operasyonlarını otomotize etmek için teknoloji geliştiren bir şirket. Depolarında kullanılan makine ve robotların birçoğunu da kendisi geliştiren bir şirket. Avrupa operasyonlarında regülasyonlara uyum alanında görevli hukuk müşaviri olarak Lüksemburg’da bir pozisyon önerdiler, teklifi büyük bir heyecanla kabul ettim. Eşimin de desteği ile tamam dedik, ailecek taşındık.


Şu andaki çalışma hayatınızdan bahsedebilir misiniz? Amazon'daki görevinizin kapsamı nedir?

AB Makine Direktifi’nin revizyonu alanında çalışırken Avrupa Komisyonu aynı günde hem AI Regülasyonu hem de Makine Regülasyonu taslağını yayınladı. Her iki metin birbirine atıf yapıyor ve birbirini tamamlıyordu. Böylece kendimi Makine Yönetmeliği’ne ek olarak AI

mevzuatı alanında çalışırken buldum. Amazon’da bu teknolojileri geliştiren mühendislerle beraber, mevzuat nasıl şekillenirse hem teknolojinin gelişmesine ket vurmaz hem de yapay zekanın insanların güvenliğine ve haklarına zarar vermesini engelleyecek önlemler alınmış olur konularında çalışıyoruz.


"Regülasyonlar katı kurallara bağlanmamalı ''


Avrupa Birliği yapay zekâ regülasyonu üzerinde çalışıyor. Bir hukukçu olarak okurlarımız için bu mevzuatın ne demek olduğunu anlatabilir misiniz?

AB AI Regülasyonu yapay zekânın insan odaklı ve etik bir şekilde düzenlemesini amaçlayan bir kanun taslağı. Hali hazırda taslak bir mevzuat, 2023 yazında triolog dediğimiz süreç başlayacak, yani ABKomisyonu, Konsey ve Parlamento kanun metni üzerinde müzakere edecekler, metnin 2024 yılında nihai hale gelmesi ve 2 yıllık geçiş süreci sonrasında 2026 yılı itibariyle yürürlüğe girmesi bekleniyor.Taslak AI sistemlerini risk seviyelerine göre kategorize eden bir yaklaşıma sahip. İngiltere’nin AI mevzuat taslağının aksine sektörel bir yaklaşım da benimsemiyor, yani bir AI sisteminin hangi sektörde kullanıldığını dikkate almaksızın, her türlü AI sistemini düzenliyor.


AB taslağı ayrıca AI tanımını da oldukça geniş tutuyor. Öyle ki bazı uzmanlar bu tanıma dayanarak; tüm AI sistemleri ve makine öğreniminin yanı sıra, gelişmiş her turlu yazılım ve hatta bir excel dosyasının dahi AI olarak kategorize edilebileceği eleştirisinde bulunuyorlar. Bu

AI’ın tanımı çok geniş şekilde yapması ve sektörel yaklaşım göstermemesi nedeniyle AB AI Regülasyonu taslağının kapsamı çok geniş.Ancak AI sistemlerine yüklenen yükümlülükler de sistemin risk değerlendirmesine göre farklılık gösteriyor. Taslak öncelikle her geliştiricinin risk değerlendirmesi yapmasını öngörüyor. AI sistemlerini risksiz, düşük riskli, yüksek riskli ve yasak AI sistemi olarak kategorize ediyor. Risk değerlendirmesi sonucuna göre, düşük risk kategorisindeki sistemlerin sadece bir uyumluluk beyanı yapması beklenirken, yüksek risk sistemlerin ise kuralları çok sıkı bir uyumluluk değerlendirmesi ve idarenin gözetimine tabi olması öngörülüyor. Bu sıkı kurallara ilişkin teknik kurallar, mevzuata paralel olarak düzenlenecek harmonize standartlar ile belirlenecek.Yasak AI sistemleri ise kişisel hak ve özgürlükler ve kişilerin sağlık ve güvenliğine karşı teşkil ettikleri risklerin kabul edilemeyecek derece yüksek olması nedeniyle AB sınırları içerisinde yasaklanacak olan sistemler. Örneğin kolluk kuvvetlerinin toplu yüz tanıma tekniklerini kullanması ya da subliminal teknikler kullanan sistemlerin yasaklanması öngörülüyor. Son dönemde generative AI alanındaki gelişmeler sonucunda generative AI’in da yüksek risk sistemler arasında yer alması konusu gündeme geldi.


Mevzuat taramada iyi ama henüz muhakeme yapamıyor


Yapay zekanın hukuk alanında da kullanımını sıkça görmeye başladık. Bu konudaki fikir ve öngörüleriniz neler? Birkaç mevzuat tarama, mahkeme kararı araştırma görevi verdim yapay zekaya ve son derece memnun kaldım. Ama muhakeme gerektiren konularda hata yapabiliyor, bu da henüz tamamen yapay zekaya güvenerek ve insan denetimden geçmeden kullanmanın mümkün olmadığımı gösteriyor. Aramızda ‘Stajyer avukat deneyimine sahip ama partner avukat özgüveni var’ diye şaka yapıyoruz. Şaka bir yana ilk derece araştırma, karşılaştırma, mevzuat analizinde şimdiden oldukça faydalı. Belirli bir olaya uygulama konusunda da kısa sürede gelişeceğini ve insanın yerini almayacağını ama el oyalayan işlerde bizleri kurtaracağını düşünüyorum.


Kadın olarak bu alanlarda çalışmanın zorlukları neler? Gerçekten üst düzey yöneticilerde ya da teknoloji profesyonelleri arasında kadın- erkek oranında ciddi bir eşitsizlik var. Burada ailede bakım veren ve evi çekip çeviren kişinin daha ziyade kadın olmasının getirdiği dezavantaj en aşikâr neden. Ama bir o kadar iş hayatının kuralları ve beklentilerinin erkekler tarafından ve erkeklere göre düzenlenmiş olmasının da etkisi var. Burada farkındalık sahibi olmak ve özel bir dikkat ve özen sarf etmenin önemine inanıyorum. İş ilanında kullandığımız kelimeler mesela önemli: daha çok erkeklere atfedilen hırslı, sonuç odaklı gibi kelimeleri iş ilanında kullanmanın ilana pek de bir katkısı yok ama kadınların başvurma oranını düşürdüğü araştırmalarla sabit. Ya da kadınların erkeklere oran çok daha yüksek oranda organizasyonel ya da not tutma gibi işlere gönüllü olduğu ortaya konulmuş. Kadınlar bu işlere vakit ayırırken erkekler kendilerine terfi getiren işlere vakit ayırıyor.

Bu tip yapılması gereken işlerin ekiplerde eşit dağılımına dikkat etmek önemli. Bu küçük görünen konular üst üste konunca etkisi büyük oluyor.



Not: Bu içeriğin orijinalini ve derginin tamamını aşağıdaki bağlantıdan PDF olarak görüntüleyebilir veya bilgisayarınıza indirebilirsiniz. https://www.linkingbridge.net/blog


Recent Posts

See All
bottom of page