KADIN KAFASI
Yapay Zeka Neden Cinsiyetçi Davranıyor?
01 Ağu 2023
2023 yılının en çok konuşulan konusu, yapay zeka teknolojisinin nefes kesen yükselişiydi. Google gibi dev şirketler adeta birbiriyle yarışırken bazı insanların dikkatini çeken bir detay oldu. Yapay zekalar, özellikle kadınlarla ilgili konuda cinsiyetçi davranıyordu. Peki suçlu kimdi? Yapay zekanın kendisi mi yoksa onu tasarlayanlar mı? Gelin bu önemli konuyu birlikte inceleyelim…
2 Bardak
İnsan ve robot etkileşimi üzerine araştırmalar yapan bilim insanı Dr. Kate Darling’in Popular Science dergisinde yayımlanan yazısında, yapay zekanın cinsiyetçi davranmasına dikkat çekiyor. Dr. Darling, örnek olarak Lensa AI isimli bir uygulamayı deneme amaçlı kullanıyor. Uygulama içerisinde yer alan “sihirli avatar” özelliğini aktifleştiren Dr. Darling, 20 fotoğrafını sisteme yüklüyor ve cinsiyetini “kadın” olarak işaretliyor. Böylece Lensa AI tarafından 50 adet sanatsal portrenin üretim süreci başlıyor. Sonuçlar ise oldukça ilginç.
Dr. Darling'e göre elindeki tasarımlar oldukça büyüleyici ve fantastik görünüyordur. Ancak dikkatini çeken asıl nokta neredeyse tüm fotoğraflarda Darling'in çıplak veya büyük göğüslü tasarlanmış olmasıdır. Oysa kendisi, sisteme profesyonel hayatta kullandığı bir vesikalığını yüklemiş ve beden ölçülerine dair hiçbir bilgi vermemiştir. Dahası yapay zekanın ona sunduğu tüm görsellerde gerçekte olduğundan çok daha güzel, ince ve kusursuzdur.
Bir başka örnekte ise Asyalı bir kadın ile sarışın ve mavi gözlü başka bir kadın aynı uygulamayı kullanıyorlar. İlginç şekilde Asyalı kadın, arkadaşına nazaran aldığı resimlerde çok daha seksi görünüyordur. Bu ve benzeri sonuçlar da kadınların ülkelerine, ten renklerine göre de belli kalıp yargılarla yapay zekanın belleğinde yer almış olduğunu gösteriyor.
İşte tam bu noktada Dr. Darling bir soru soruyor: Yapay zekanın cinsiyetçi olmasının arkasındaki gerçek suçlu kim?
Bu noktada Dr. Darling'in de dikkat çekmek istediği konu, yapay zekanın bunu tek başına yapmadığıdır. Bizler veya daha doğru tanımlamak gerekirse tasarımcılar, yapay zekaya ne verirse sonuçları da ona göre oluyor. Aslında bir bakıma çocuğun büyümesiyle benzer durumlar söz konusu. Yani siz kız ve erkek çocuklarınızı yetiştirirken belirli cinsiyet kalıplarını onlara öğretirseniz yetişkin birer insan olduklarında cinsiyetçi düşünmeleri veya davranmaları hiç de sürpriz olmayacaktır.
Çünkü OpenAI, ChatGPT veya Lensa AI gibi yapay zeka yazılımlarının hepsi internetteki milyarlarca görsel üzerinden makine öğrenmesini gerçekleştiriyor. Zamanla kendi içeriklerini üreten bu yapay zekalar ise zararlı, cinsiyetçi hatta saldırgan veriler sunabiliyor. Ancak buradaki dikkat çeken başka bir konuysa yapay zekaları üreten şirketlerin hiçbir sorumluluk kabul etmemeleri. Siz uygulamayı kullanmadan önce şirket sizi bu tip sonuçlar konusunda uyararak yaşanacak cinsiyetçi, ırkçı veya benzeri bir ayrımcı tutumda “biz yapmadık” diyebiliyorlar.
Oysa yapay zeka, her ne kadar otonom sisteminde kendi içeriklerini üretse de ilk girdileri tasarımcılar belirliyor. Dahası Amerika’daki bazı cezaevi yapay zekalarında kadınlara veya Afro-Amerikalı insanlara karşı ön yargılı sonuçlarla karşılaşılması, bu durumun toplumun yansıması olduğunu gözler önüne seriyor.
Tarihsel ön yargılar ve yüzyıllar boyunca toplum belleğine yerleşen adaletsizlikler internetin muazzam dünyasından yapay zekaların sistemlerine sızıyor. Böylece yapay zeka da bir kadının büyük göğüslerinin ve kırmızı dudaklarının olmasını, eğer kadınsa çıplak görünmesinin doğru olacağına dair veriler üretiyor.
Yapay zekaların cinsiyetçi davranmalarına dair Marvin Minsky tarafından yazılan bilimsel bir makale ise şu cümlelerle başlıyor:
“En temel ifadeyle, 'talimatlar kümesi' olarak tanımlayabildiğimiz algoritmaların kullanımı ile etkinleşen yapay zeka teknolojileri, Dördüncü Sanayi Devrimi'nin yapı taşlarından birisi ve gelecekteki teknolojik ilerlemelerin de en etkili itici güçlerindendir.”
Yapay zeka algoritmalarının oluşumunda insan müdahalesinin bir sorun olduğuna ve cinsiyetçi durumlara dikkat çeken Minsky, makalesinde Amazon'un 2018 yılındaki işe alım olayını hatırlatıyor. Amazon’un açtığı ilanı ilk etapta bir yapay zeka değerlendiriyor ve erkeklerin özgeçmişlerine kadınlara oranla daha yüksek puan veriyor. Kadın adaylar ise aldıkları düşük puanlarla eleniyor. Peki işe alımlardaki bu yapay zekayı kim programlıyor? Tabii ki Amazon yetkilileri!
Geldiğimiz noktada, bilimsel argümanlar yapay zekanın eninde sonunda insandan çok daha akıllı olacağını öngörüyor ve bizler de bu durumdan oldukça korkuyoruz. Ancak korkmamız gereken asıl konunun cinsiyetçi veya ırkçı davranan bir yapay zekanın geleceği olmalıdır. Hali hazırda iş alımlarında, reklamlarda, özel ve kamusal yaşamda kadınlara cinsiyetçi davranılıyorken geleceğin yapay zekalarının bu durumu çok daha kötü bir noktaya taşıması endişelerimizi arttırıyor.
Tam da bu nedenle yapay zeka tasarımcıları ve şirketler, ürettikleri içerikler konusunda daha fazla sorumluluk almalı ve etik kurallar konusunda küresel bir dil birliğine varılmalıdır.
Kaynak
Dr. Kate Darling, “Cinsiyetçi Olması Yapay Zekanın Suçu Değil”, Popular Science Türkiye, Sayı: 134, Haziran 2023.
İLGİNİZİ ÇEKEBİLECEK İÇERİKLER
©2022 Beyhan&Beyhan Business Solutions Tüm Hakları Saklıdır
Yukarı Kaydır
BUNU OKUMAK İSTER MİSİN?