top of page

Teknolojinin getirdiği gücü hesap verilebilir kılmak zorundayız

Updated: Mar 31

KADINLAR GELECEĞİ ŞEKİLLENDİRİYOR - Kapak Dosyası 4


Birleşmiş Milletler Kadının Statüsü Komisyonu’nda Birleşik Krallık delegesi olarak görev yapan Sinem Görücü (McInerney), yapay zeka, tasarım ve sosyal adalet konularının üzerinde çalışan bir avuç uzmandan biri. Görücü, yapay zekanın getireceği zararların Silikon Vadisi’ndeki bir grup teknoloji çalışanı tarafından tespit edilemeyeceğini, o teknolojiden etkilenen insanların özgün perspektiflerine ve deneyimlerine alan açılması gerektiğini söylüyor ve uyarıyor:

“Aksi halde halihazırda yaşanan eşitsizlik ve adaletsizlikler katlanarak dezavantajlı grupları daha da marjinalleştirir.”


Sinem Görücü (McInerney) - Birleşik Krallık

Nasıl bir öğrenim hayatınız oldu?

Küçük yaşlarımdan itibaren tasarlamaya ve matematiğe olan ilgim dolayısıyla kafamda hep tasarımla ilgili bir şeyler okuma fikri vardı. Fen lisesinden sonra mimarlığa yöneldim. Gazi Üniversitesi’ne başladım. Niyetim ikinci sınıfta Viyana Teknik Üniversitesi’ne geçiş yapmaktı ama sonra oraya ayıracağımız bütçeyle Avrupa’da kısa süreli farklı workshop’lara gidip farklı şeyler deneyimleyebilirim ve ufkumu genişletirim diye düşündüm. Üçüncü sınıfta Erasmus öğrencisi olarak Politenico di Milano’ya gittim. Akıllı şehirler üstüne yüksek lisans dersleri buldum ve Erasmus sayesinde lisans öğrencisi olmama rağmen o dersleri almama izin verildi. Kent, mimarlık, tasarım ve veri biliminin kesişiminde yaşananlarla ilgili vizyonum bu dönemde çok genişledi.


Lisanstan sonra ODTÜ’de kentsel tasarım yüksek lisans programına başladım ve ders yılımdan sonra Belçika KU Leuven’de bir hocayla anlaşarak tez araştırmamın bir kısmını yapmak için Belçika’ya gittim. Orada Milano’da öğrendiklerimden farklı olarak hem kentsel verinin katılımcı süreçlerle elde edilmesi üzerine yapılan araştırmaları asiste ettim hem de kendi tez araştırmamı sürdürdüm. Yüksek lisansa devam ettiğim sırada İngiltere’de UCL’de ikinci bir yüksek lisans yapmak için bir burs kazandım ve ODTÜ mezuniyetimden birkaç gün sonra Londra’ya taşınıp ikinci yüksek lisansa başladım. UCL’de bu kez daha feminist bir perspektifle tasarım süreçlerinde veri adaleti ve yapay zekâ üzerine çalıştım ve feminist veri bilimine ilgi duymaya başladım.


Sinem Görücü (McInerney) - Birleşik Krallık

Kariyeriniz bu süreçte nasıl şekillendi? Farklı disiplinler arasında seçim yapmak yerine onların buluştuğu farklı bir alana yönelmişsiniz…

Yüksek lisanstan pandemi döneminde mezun oldum. O dönem bütün konferanslar, seminerler, okuma grupları, kolektifler, inisiyatifler, atölye çalışmaları bir anda online ortama taşınmıştı. Kendi çalıştığım alanda ya da komşu alanlarda çalışan bütün networklere girmeye başladım. Birkaç ay içinde kendime online bir ağ kurdum ve ne yapmak istediğimi kafamda netleştirmeye başladım. Veri bilimi, yapay zekâ, sosyal adalet, feminizm, kent ve tasarım kesişimlerinde yaşanan hemen hemen her şey ilgimi çekiyordu. Aslında özellikle yapay zekâ ve veri biliminin sosyal adalet perspektifinden ele alınması hem hala yeni ve kritik eşikte duran bir konu olması açısından hem de risklerin bu kadar büyük olmasına rağmen toplum tarafından henüz çok da anlaşılmamış olmasından dolayı beni bir nevi tetikledi. Yavaş yavaş çeşitli fellowship’lere başvurmaya başladım. Oralardan kabul aldıkça ağım genişledi, sonrası nasıl oldu ben de farkına varamadım ama gerisi çorap söküğü gibi geldi. Proje, ders, konuşma, araştırma, etkinlik teklifleri gelmeye başladı ve devam etti.


Birleşmiş Milletler’de Britanya delegesiyim

Sinem Görücü (McInerney) - Birleşik Krallık

Birleşmiş Milletler'deki görevinizden ve orada ne tür çalışmalar yaptığınızdan bahsedebilir misiniz?

Birleşmiş Milletler Kadının Statüsü Komisyonu'nda (CSW) Birleşik Krallık'ı temsilen resmi delegeyim. CSW, toplumsal cinsiyet eşitliği ve kadınların güçlenmesi konusunda çalışan hükümetler arası bir BM organı. 1946'da kurulan ve her yıl belirli bir tema etrafında bir araya gelen komisyon, hükümet Credit: Egzona Acifi & Damian Klepel

yetkilileri, BM delegeleri, sivil toplum kuruluşları ve aktivistlerin bir araya gelerek politika dokümanları oluşturmasını sağlar. Komisyonun bu yılki teması, ‘teknolojik yenilikler ve dijital çağda eşitlik ve tüm kadın ve kız çocuklarının güçlenmesi için eğitim’ idi. Bu çerçevede, kendi çalışma alanlarım doğrultusunda Birleşik Krallık'ı temsilen katkı sağlıyorum ben de. Bunun yanında yine UN Women UK (Birleşmiş Milletler Kadın, Birleşik Krallık) ile bu yılki komisyonun ürünü olan bir feminist veri okuryazarlığı projesi üzerine çalışıyoruz ve bu projenin de koordinatörlüğünü yürütüyorum.


Sizi bu alanda çalışmaya yönlendiren nedenler arasında, kadınlar ve dezavantajlı toplulukların yaşadığı ayrımcılık ve temsiliyet sorunları da var galiba…

Dezavantajlı grupların özellikle teknoloji alanlarındaki temsiliyet eşitsizliği toplumsal düzenin bir yansıması olduğu gibi eşitsizlikleri topluma geri yansıtarak çoğaltma riski de taşıyor. Bugün teknoloji yoğun olarak beyaz, batılı, cis, hetero, erkekler tarafından geliştiriliyor ve daha önemlisi kontrol ediliyor. Teknoloji patronları bu ayrıcalıklı gruptan oluşuyor, teknoloji sermayesi bu ayrıcalıklı grubun elinde tutuluyor. Bu grup kadınlardan oluşsaydı ve bu sermaye kadınlar tarafından yönetilseydi tabii ki pek çok şey daha farklı olabilirdi ama dünyamız muhtemelen yine cennet olmazdı. Bunu şu sebeple söylüyorum; teknolojiyi üretenle teknolojiyi kullanan ve o teknolojiden etkilenenlerin çıkarlarının kesişmediği bir düzende, bu eşitsizlikleri liberal feminizmin izinden giderek bertaraf edemeyiz. Evet kadın CEO’lar, kadın yasa yapıcılar, kadın geliştiriciler olması çok önemli. Ancak bunlardan da önemlisi toplumun her kesimi için teknoloji okuryazarlığına ve dijital becerilere erişim imkânı sağlayarak teknolojinin getirdiği gücü bir avuç elitin elinden alabilmek ve hesap verilebilir kılmak. Dolayısıyla, teknolojide adalet ve hesap verilebilirlik sadece teknoloji çalışanlarının temsiliyet eşitsizliğinin giderilmesiyle sağlanamaz. Bütün teknoloji geliştirme sürecinin kesişimsel feminist bir çerçevede değerlendirilmesi, zararlar ve risklerin toplumun her kesiminden bireylerin ihtiyaçlarını, deneyimlerini ve perspektifleri dahil edilerek araştırılması gerekir. Bunun itici gücü de toplumun kendisi, sivil bilinç ve inisiyatiftir. Toplumun farklı kesimleri derken ırk, din, mezhep, sınıf, eğitim durumu, yaş, dil, engellilik, cinsiyet kimliği gibi pek çok şeyin kesişiminden bahsediyorum aslında.



"Ayrımcılık ve adaletsizliği daha da derinleştirebilir"


Yapay zekâ için de benzer bir sürecin işlemesi gerekiyor görüşündesiniz sanırım…

Evet, yapay zekanın işleyişi hakkında temel bilgiye sahip olmadan bize verdiği zararları keşfetmek pek çok insan için o kadar kolay değil açıkçası. Ve bu zararlar Silikon Vadisi’ndeki bir grup teknoloji çalışanı tarafından tespit edilecek kadar genel geçer yahut global şeyler de değil. Kuzey Amerika’da siyahların uğradığı bir teknoloji zulmü Türkiye’de örneğin Roman kadınlar için bambaşka bir şekilde yaşanıyor olabilir. Örneğin İsrail’in müslümanları gözetlemek için kullandığı bir teknoloji İran’da müslüman olmayanları gözetlemek için kullanılıyor olabilir. Dolayısıyla mutlaka o teknolojiden etkilenen insanların özgün perspektiflerine ve deneyimlerine alan açmak zorundayız. Bunun için de dediğim gibi herkes için temel düzeyde teknoloji okuryazarlığına ihtiyacımız var. Aksi halde halihazırda yaşanan eşitsizlik ve adaletsizlikler katlanarak dezavantajlı grupları daha da marjinalleştirir.


Sinem Görücü (McInerney) - Birleşik Krallık

Algoritmaların hangi verilerle oluşturulduğu tartışma yaratan konuların başında geliyor. Bunun yol açabileceği sonuçlarla ilgili öngörüleriniz neler?

Yapay zekanın eğitildiği veri setlerindeki ve geliştiricilerinin önyargı ve yanlılıklarını nasıl çoğalttığına dair geçtiğimiz beş altı yılda pek çok şey keşfettik. Buna en çarpıcı örneklerden biri suç tahmin algoritmalarının etnik azınlıkları hedef alması ve kriminalize etmesiydi. Bu teknoloji zulmünün yaratabileceği döngü o kadar korkunç ki. Kadınların teknoloji alanlarındaki temsiliyetinden ve yönetici pozisyonlarına gelmesinden bahsettik örneğin. Düşünün ki teknoloji alanlarında kadın katılımını artırmak istiyorsunuz. Bu alana giren kadınlar zaten çocukluk yıllarından itibaren toplumsal baskının, ayrımcılığın, cinsiyet kalıplarının altında ezilmemek için çırpınarak bu kariyer yolunu seçiyorlar. Kendilerini bunlara rağmen geliştiriyorlar ve bir teknoloji firmasına işe başvuruyorsunuz ve başvurunuz bir işe alım algoritmasına giriyor. Buraya kadar tamam, insanlar değerlendiriyor olsaydı muhtemelen kadın olduğunuz için yine ayrımcılık yapacaklardı, en azından yapay zekâ değerlendiriyor diyebilirsiniz. Ama öyle değil, zira o yapay zekâ da o bir avuç teknoloji biraderi tarafından geliştirildi ve örneğin Amazon'un işe alım algoritması gibi, birçok algoritma önyargı ve yanlılık içeriyor. Bu algoritmalar başvurunuzu geçmiş işe alımlar ve başvurulardaki kelime dizilimlerine ve desenlere bakarak değerlendirmek üzere modelleniyor ve örneğin sırf özgeçmişinizde “kadın voleybol takımı” yazdığı için bile bir anda kendinizi insanlarınkinden bile daha güçlü bir önyargı kafesinin içinde bulabiliyorsunuz çünkü yapay zeka modeli “kadın” kelimesinden hoşlanmıyor. Eğitildiği veri seti “kadın”lara aşina değil çünkü. E hani teknolojide kadın katılımını artıracaktık? Döndük mü başa? Bu yanlılıkların keşfedilmesinin akabinde kamuoyu tepkisiyle de pek çok şirket işe alım algoritmalarıyla ilgili aksiyon aldı almasına ama bu erken keşfedilen örneklerden sadece biri.


Bizim verilerimizle eğitildikleri için ücretsiz olmalı

Yapay zekadaki gelişmelerin nereye varacağını kestirmek elbette zor ancak yakın gelecekte ne tür değişimler yaşanacağını öngörüyorsunuz?

Özellikle son birkaç yılda yapay zekâ alanında çok büyük ve heyecan verici gelişmeler yaşandı. Ama yapay zekanın bugün bu kadar gündemimize oturmasının sebebi bu teknolojiyi yeni keşfetmiş olmamız değil. Aslında neredeyse 80 yıldır makinelerin de insanlar gibi düşünüp düşünemeyeceği üzerine kafa yoruyor ve bunun yollarını arıyoruz. Bugün geldiğimiz nokta özellikle no-code yani herhangi bir kodlama becerisine ihtiyaç duymadan temel dijital beceriler ile kullanılabilen yaratıcı yapay zekâ modellerinin toplumun daha büyük bir kesiminin erişimine açılmış olmasıyla mümkün oldu. Bu geniş kullanım alanı modellerin eğitilme hızını ve kapasitesini büyük ölçüde artırdı. En yaygın ve popüler uygulamalardan biri olan Midjourney’e baktığımızda bile 10-11 ayda görsel kalitesinde öngörülemez bir artış yaşandı. Ben özellikle bu tarz yaratıcı modelleri, tasarlama becerisi ve yaratıcılığın demokratik hale getirilmesi adına çok önemsiyorum açıkçası ve ücretsiz erişim hakkını savunuyorum zira bu modeller hepimizin verileriyle eğitildi. Tıp alanında, yapay zekâ sistemleri ilaç çalışmalarında, kanser türlerini erken aşamada tanıması konularında önemli ilerlemeler sağlıyor. Yine kişiselleştirilmiş sağlık hizmeti, epidemiyoloji ya da önleyici tıp çalışmalarında yeni kanallar açıyor. Ama tüm bunlar yaşanırken her zaman yapay zekanın mutlak zekâ olmadığını, algoritmik ve veri kaynaklı önyargılarla dolu olduğu ve tarihsel olarak göz ardı edilen gruplar ya da genetik çeşitlilikler için risk teşkil edebileceği, sağlık alanında veri gizliliği ve güvenliğinin bir toplumsal güvenlik sorunu olduğu, yahut bu teknolojilerin kullanımının toplumun farklı kesimleri için sağlık hizmetine erişim eşitsizlikleri doğurabileceği gibi konuları asla unutmamamız gerekiyor.


Sivil topluma büyük görev düşüyor

Google’dan Microsoft’a Facebook’a kadar sektörün önde gelen dev şirketlerinin yöneticilerinden regülasyonların bu hıza yetişemediği ve bunun da insanlık açısından ciddi riskler taşıdığı yönünde uyarılar gelmeye devam ediyor. Bu konudaki fikirlerinizi paylaşabilir misiniz?


İnovasyonun regülasyondan hızlı ilerlemesi aslında böyle çok hızlı gelişen alanlar için öngörülebilir bir durum. Bu konuda yasa koyucuların ve hükümetlerin atik davranması çok kritik olsa da her zaman mümkün olmuyor. Burada da en büyük görev sivil topluma düşüyor aslında. Yeni teknolojilerin beraberinde getirdiği risk ve zararların bilim dünyasıyla birlikte hızla değerlendirilmesi, elde edilen sonuçların kamuoyuyla erişilebilir, şeffaf ve anlaşılabilir bir şekilde paylaşılması, kamuoyunun bilgilendirilmesi ve bu teknolojiden etkilenecek toplulukların konuyla ilgili bilinç düzeyini artırılması yasa koyucular üzerinde baskı yaratarak sürecin hızlanmasında olumlu rol oynayabilir. Ancak tabii ki işin ucunu orada bırakmamak gerekiyor. Regülasyon sürecinde de farklı paydaşların görüş ve perspektiflerinin, çok katmanlı olarak dahil edilebileceği mekanizmalar kurmamız ve bunları toplum adına denetleyebilmemiz gerekiyor. Bu toplumsal olarak hepimizin sorumluluğu. Ben bu sebeple teknoloji ve veri okuryazarlığını bu denli önemsiyorum.



Not: Bu içeriğin orijinalini ve derginin tamamını aşağıdaki bağlantıdan PDF olarak görüntüleyebilir veya bilgisayarınıza indirebilirsiniz. https://www.linkingbridge.net/blog


Comentarios


bottom of page