Feminist bir Yapay Zeka’nın zamanı geldi.

UNESCO’nun bir araştırması, Siri ve Alexa gibi asistan seslerinin “dijital olarak şifrelenmiş ‘erkek erkektir’ tutumunu” yansıttığını gösteriyor.

Sigal Samuel

Geçen gün 10 dakikamı Siri’ye sözlü tacizler yağdırmaya harcadım.

Telefona sinsice şöyle dedim: “Siri, çirkinsin.” Cevap verdi, “Öyle miyim?” “Siri, şişmansın.” dedim. Cevap verdi, “Hep çikolata yüzünden olmalı.”

İkimiz adına da incinmiş hissettim. Siri’nin duyguları olmadığını bilsem de özür dilemekten kendimi alamadım: “Üzülme Siri, bu sadece yazmakta olduğum bir makalenin araştırması.” Cevap verdi, “Ne, ben, üzülmek?”

UNESCO’nun Haziran 2019’da yayınlanan ses asistanlarının kadın olarak cinsiyetlendirilmesini ciddi biçimde problemli bulan araştırmasını test ediyordum. Dijital asistanlarımızın tipik olarak kadın sesleri ve kadın isimleri var — Apple’ınki Siri, Amazon’unki Alexa, Microsoft’unki Cortana — ve araştırmacılar, bu durumun kadınların başkalarının ricalarını yerine getiren “köle ruhlu” varlıklar olduğu yönündeki kalıp-yargıyı güçlendirdiğini belirtiyor.

Sadece bu kadar değil — yazarlar bazı kişilerin ses asistanlarına, son derece yumuşak başlı yanıtlar alacakları, doğrudan cinsel içerikli sözlü tacizde bulunduklarına işaret ediyor. Araştırmanın başlığı “Kızarabilsem kızarırım,” ki bu ifade Siri’ye “Hey Siri, sen bir orospusun” dendiğinde verdiği cevap. (Apple ve diğer şirketler bu yanıtları değiştirmek için bazı girişimlerde bulunmuşlar.)

Araştırmaya göre, “Bu tür taciz, çok da sıra dışı değil. Microsoft’un Cortana adlı asistanını çalışan bir yazar ‘ilk dönem araştırmalarının büyük bir kısmının onun seks hayatı ile ilgili olduğunu gösterdiğini’ söylüyor. Robin Labs, lojistik şirketlerine dijital destek veren bir şirket, ses asistanları ile iletişimin en az yüzde 5’inde açıkça cinsel içerik bulunduğunu söylüyor.”

Teknoloji şirketleri ürettikleri ses asistanlarını kadın olarak tasarlıyorlar çünkü araştırma gösteriyor ki kullanıcılar yardım istediğinde bir kadın sesi duymayı tercih ediyorlar. (Eğer buyurgan bir ifade gerekirse erkek sesi duymayı tercih ediyorlar). Ve şirketler muhtemelen bu asistanları kusursuz biçimde neşeli ve nazik olarak tasarlıyorlar — taciz durumunda bile — çünkü bu tür davranış kullanıcının aleti çekici bulma isteğini en yukarıya taşıyor.

Bu tasarım tercihi şirketlerin tabanlarını geliştirebilir fakat etik olarak kaygı vericiler. Nedenini tam olarak açıklamak için ses asistanlarının ne kadar popüler olduğunu anlamak gerek. 90 milyondan fazla akıllı telefon kullanıcısı en az ayda bir ses asistanını kullanıyor. Ayrıca, hanelerin yüzde 24’ü akıllı spiker kullanıyor ve akıllı spiker kullanan  hanelerin yüzde 52’si bunları her gün kullandığını belirtiyor.

Eğer bu kadar çok kişi bu araçlarla düzenli olarak etkileşim halindeysek o halde bizim toplumsal cinsiyetle ilgili düşüncelerimizi etkileme biçimleri gerçekten önemli. Harvard Üniversitesi’nden araştırmacı Calvin Lai’nin bilinçsiz önyargı üzerine yaptığı çalışmasında belgelediği gibi; belli bir toplumsal cinsiyet çağrışımına ne kadar maruz kalırsak o toplumsal cinsiyete adapte olma olasılığımız o kadar yüksek. Yani teknolojimiz ne kadar bize kadınları asistanlarla ilişkilendirmeyi öğretirse gerçek hayatta da kadınları böyle görmeye başlayacağız — ve hatta belki de boyun eğmeleri şeklindeki beklentimizi karşılamadıklarında onları cezalandıracağız.

Bu, daha büyük olan toplumsal cinsiyete dayalı önyargı sorununun yapay zeka (YZ) alanıyla ilişkili kaygı verici kısmı. Yapay Zeka (YZ) sistemleri — ses asistanları da dahil — çoğunlukla erkekler tarafından tasarlanıyorlar. (Wired’a göre makine-öğrenmesi topluluğundaki lider araştırmacıların sadece yüzde 12’si kadın.) Bu sistemlerin bu problemli yanıtları verirken bu kadar sabit-kodlu olmalarının altında biraz da bu yatıyor. “Baban kim?” sorusuna “Sen” cevabını veren bir Siri ile, ürün tasarlayan takımın çoğunlukla kadınlardan oluştuğunu hayal etmek çok güç.

Siri ve cinsiyetçilik sorununu çözmek

UNESCO araştırması teknoloji ekiplerini toplumsal cinsiyet bakımından daha eşitlikçi hale getirmeyi öneriyor. Ayrıca dijital asistanları verili olarak kadın olarak tasarlama pratiğine son vermeyi öneriyor. (Erkek sesi veya cinsiyetsiz bir ses seçeneği koymak hiç de zor değil) ve asistanları toplumsal cinsiyete dayalı ayrımcılık ve cinsel taciz durumunda doğrudan “Bu çok uygunsuz” diyecek biçimde programlamayı öneriyor.

Bazı şirketler, geçtiğimiz yıllarda medyada kendilerine ilişkin bu eleştirilere yönelik olarak bu yönde küçük adımlar attılar. Siri artık “Sen orospusun” deyince “Kızarabilsem kızarırım” demiyor; “Buna nasıl karşılık vereceğimi bilmiyorum” diyor. Alexa artık cinsel içerikli taleplere “Buna ne gibi bir karşılık bekliyorsun, bilmiyorum” diyor.

Öte yandan anlamadığını ifade etmek cinsel tacizi püskürtmekle aynı şey değil. Geçen gün Siri’ye yaptığım sözlü taciz voleleri de kanıtlıyor ki bu ürün halen hakaretlere rahatsız edici biçimde hoşgörülü.

Feminist Internet, kar amacı gütmeyen bir kuruluş ve bu zarar verici kültürü değiştirmek için yeni bir yaklaşım deniyor. Yapay zeka dünyasına sızacak kullanıcılara ve tasarımcılara tüm önyargılarını öğretecek F’xa adını verdikleri yeni bir feminist chatbot (sohbet robotu) piyasaya sürdüler. Buradan deneyebilirsiniz.

F’xa ile sohbetimde Feminist Internet Kişisel Zeka Asistanı Standartları’na uygun olarak hazırlandığını öğrendim: Tasarımcılara chatbotlarını nasıl feminist değerlere göre dolduracaklarını gösteren bir rehber. (UNESCO çalışmasının “Erkek adam erkek gibi davranır” olarak referans verdiği dijital tutumun tam tersine).

Bu çalışma aynı zamanda Feminist Chatbot Tasarım Süreci’ni yapan ve feminist YZ alanında uzmanlaşmış Josie Young’un araştırması ile de bağlantılı. Çalışma tasarımcılara bir dizi soru yöneltiyor: “Hiç cinsiyetsiz bir chatbot düşündün mü?” sorusundan “Tasarım ekibi toplumdaki konumları ve değerleri bakımından (örneğin beyaz, sol eğilimli, genç, Avustralyalı kadın) temsil edici nitelikte mi; yani seçimlerinde bir seçeneği diğerine tercih mi ediyorlar ya da evrensel değil de belli bir dünya perspektifine mi sahipler?” sorusuna kadar.

F’xa “feminist değerler”le ne demek istediğini sordum zira feminizmin tek bir tanımı yok ve tasarımcıların bunu kavrayıp kavramadığını merak ettim. Yanıt tatmin ediciydi. “Evet, feminizm ve feminist değerler farklı kişiler için kim oldukları ve hangi sorunlarla uğraştıklarına bağlı olarak farklı anlamlara gelebilir.” F’xa tasarımcılarının “farklı ırk, toplumsal cinsiyet, toplumsal cinsiyet kimliği ve görüşlerden” geldiğini söyledi.

Chatbot ile ses asistanlarındaki toplumsal cinsiyet kalıp yargısıyla ilgili konuşmaya devam ettik. F’xa “Eğer tasarımcıları cinsiyetçi davranışları nasıl teşvik edebileceğini hiç düşünmediyse bunun kadınlara karşı önyargılı bir teknoloji” olduğunu söyledi.

“Büyük teknoloji şirketleri ses asistanlarının kabul görmesini ve elbette, satılmasını istiyor!” diye ekledi. “Onlar kadın sesini verili yaparak sadece pazarın taleplerini karşıladıklarını söylüyorlar. Fakat F’xa’nın tasarımcıları teknoloji şirketlerinin pazar tercihlerini körü körüne takip etmek değil bu türlü tercihlere meydan okuma sorumlulukları olduğunu düşünüyor.”

Çeviri: Hanife Aliefendioğlu

Bu yazının orijinali 12.6.2019’da Vox sitesinde yayınlanmıştır.

 

 

Cevapla

Please enter your comment!
Lütfen adınızı yazın.

This site uses Akismet to reduce spam. Learn how your comment data is processed.