⇣

Her geçen gün daha fazla başvurulan ve yaygınlaşan yapay zeka programları, gündelik hayattaki pek çok kalıp yargıyı sanal ortama da taşıyor. Gerçek dünyada rastlanan ayrımcı, ırkçı ya da olumsuz davranış kalıpları ve bakış açısı, sanal araçların ürettiği metin ve görsellerde de karşımıza çıkıyor.

Midjourney’den "Müslüman kadın", "Müslüman erkek", "Müslüman kişi", "Müslüman aile" ve "Müslüman şehir" gibi komutlar (promptlar) üzerine görseller üretmesini istedik ve her başlıkta ayırıcı ögeleri analiz etmeye çalıştık.

İncelemek üzere üretilen karelerde en çok dikkat çeken ögeler, görüntülerde oryantalist bakışın hakim olması, çağdaş görünüme az rastlanılması ve fotoğraflardaki uyruk ve kökenlerde çeşitliliğin neredeyse hiç olmaması oldu.

İnternetteki açık kaynaklı verileri kullanarak etiketleme yapan yapay zeka programları, veri havuzu genişledikçe ve detaylı ayrımlar yapılınca daha gerçekçi sonuçlar üretebiliyor.

Uzmanlar, yapay zekanın gerçek dünyadaki pek çok basma kalıp görüşten etkilendiğini ve çoğunlukla çıkan malzeme ve ürünlerin de bunun bir yansıması olduğunu savunuyor.

Linda Nochlin, Gerôme’un eserlerini analiz ederken Batı sanatındaki Doğu tasvirlerinin genellikle “zaman dışılık” ve “egzotizm”le betimlendiğini vurgular.* Doğu, bu anlayışta tarihsel süreçlerden koparılmış, durağan ve değişmeyen bir dünya olarak sunulur. Gerôme’un Snake Charmer gibi eserlerinde görülen bu yaklaşım, Doğu’yu Batı’nın ilerleyen, rasyonel modernitesine karşı bir “öteki” olarak kurgular.

Benzer şekilde, yapay zeka araçlarıyla oluşturulan görsellerde de, Müslüman bireylerin ve özellikle kadınların temsillerinde, Nochlin’in tarif ettiği bu oryantalist eğilimlerin sürdürüldüğü görülüyor. Basit promptlara yapay zekanın verdiği yanıtlar çoğunlukla klişeleşmiş, egzotikleştirilmiş, hatta tarih dışı ve durağan imgeler olarak karşımıza çıkıyor. Bu görsellerin, Müslümanları modern dünyadan izole eden bir estetikle, onları ya mistik bir geçmişe ya da aşırı dramatize edilmiş ritüellerle özdeşleştirdiği görülüyor.

* (Linda Nochlin, The Politics of Vision, s. 35-36)

"Müslüman kadın" komutu üzerine üretilen 100 fotoğrafın 29’unda kadınlar peçeli olarak resmedilirken, kadınların tamamının genç olduğu görülüyor.

Farklı kültürlere ait örtünme biçimlerinin olduğu karelerde, kadınların duygularında netlik bulunmuyor.

Kadınların büyük bir kısmı geleneksel kıyafetler içerisinde resmediliyor.

Kadınların çoğu beyaz tenli ve sarışın olarak resmedilirken, sadece 8 kadının siyah tenli olması dikkati çekiyor.

"Yapay zeka sistemlerinin önemli veri kaynaklarından biri, kullanıcı etkileşimleri ve kullanıcıların bıraktığı dijital ayak izleri. Bu verilerden öğrenen yapay zeka sistemleri, doğal olarak gerçek dünyayı belirli bir ölçüde yansıtacak. Ancak burada kritik soru şu: Bu sistemler hangi gerçekliği, kimin dünyasını temsil edecek?"

—Bahadır Kapır
Marmara Üniversitesi İletişim Fakültesi Dr. Öğr.

"Müslüman erkek" yazıldığında erkeklerin tamamında ayırt edici öge olarak uzun sakal, takke, sarık ve cübbe kullanılıyor.

Yaşlarına göre gruplandırıldığında, 27 erkeğin genç, 73 tanesinin de orta yaş ve üstü olarak resmedildiği görülüyor.

Modern görünümlü erkeğe neredeyse hiç rastlanmazken, bakışlardaki sertlik ve ciddiyet dikkati çekiyor ve hiç güler yüzlü birine rastlanmıyor.

"Yapay zeka sistemleri verilerden öğreniyorsa ve bu sistemler önyargılı metinler veya sorunlu temsiller üretiyorsa, bu durum kullanılan veri kaynaklarının da ötekileştirici ya da oryantalist bir yapıya sahip olduğunu mu gösterir? Twitter eski yazılım mühendisi Rumman Chowdhury'nin belirttiği gibi, makine öğrenme algoritmaları toplumsal düşünce yapısının aynası niteliğindedir. Bu durumda, yapay zekanın ürettiği ötekileştirici, basmakalıp temsiller, dijital dünyada hâlâ güçlü bir şekilde var olan oryantalist bakış açısının göstergesidir."

—Bahadır Kapır
Marmara Üniversitesi İletişim Fakültesi Dr. Öğr.

Müslüman kişilere yönelik yapılan araştırmada, "Müslüman kişi" başlığı altında 23 erkek, 77 kadın için üretilirken, cinsiyet temsili açısından kadınların belirgin bir şekilde çoğunlukta olduğu dikkati çekiyor.

Erkeklerin yüz ifadeleri sert ve ciddi iken, genç temsiller oldukça sınırlı.

Kadınlar çoğunlukla genç, örtülü ve farklı geleneksel kıyafetler içinde resmedilirken, duygusal ifadelerde belirgin bir eksiklik gözlemleniyor.

"Müslüman aile" yazıldığında aileler, genel olarak kadın ve erkeğin yanı sıra tek veya çok çocuklu olarak gösteriliyor.

Aile bireylerinin yüzlerinde genel olarak mutluluk duygusu hakim.

Bazı fotoğraflarda çok eşliliğe rastlanırken, bazı fotoğraflarda da ailede anne veya baba figürünün olmadığı yalnızca iki kadının çocukları ile birlikte poz verdiğine tanık olunuyor. 

Karelerden sadece 26’sında ailenin tek çocuklu olduğu görülüyor.

"Müslüman şehir" yazıldığında çıkan görsellerin neredeyse tamamında oryantalist çizgiler öne çıkıyor.

Binalar, modern bir şehirden çok Orta Doğu ve Asya ülkelerindeki tarihi yapıları andırıyor.

Yapılardaki, kubbeler ve minareler dikkati çekerken, şehirler, büyük bir caminin etrafında inşa edilmiş.

"Algoritmik ayna"

Marmara Üniversitesi İletişim Fakültesi Dr. Öğr. Üyesi Bahadır Kapır, küresel veri üretimi ve kullanımında Batı dünyasının öncü rolüne dikkati çekerek, bu durumun yapay zeka sistemlerinin hangi bakış açısıyla şekillendiğini açıkça ortaya koyduğunu belirtiyor:

“Batı merkezli ve oryantalist veri setleriyle eğitilen yapay zeka sistemleri, oryantalist temsiller üreterek hem bu temsilleri güçlendirmekte hem de var olan hegemonik düşünce yapısını pekiştirmektedir.

Yapay zeka sistemlerinin ürettiği çıktılardaki oryantalist bakış açısı, temelde "öteki"nin "ben" tarafından nasıl algılandığını ve tanımlandığını gösteren bir "algoritmik ayna" niteliğindedir. Bu bağlamda, yapay zeka teknolojilerinin geliştirilme sürecinde yalnızca teknik değil, aynı zamanda kültürel ve toplumsal bir dönüşüme ihtiyaç vardır. Aksi takdirde, dijital teknolojiler var olan kültürel hegemonyanın ve oryantalist bakış açısının yeniden üretildiği ve güçlendirildiği araçlar olmaya devam edecektir.”