Nöroblog | Yapay zeka önyargılı çıktı, şimdi ne olacak?
14 Nisan 2017 tarihli Science dergisinde bilim dünyasında çok ses getiren bir makale çıktı. Kısa sürede nbc'den The Guardian'a, LA Times'tan wired'a bilim haberlerinde makalenin yazarlarıyla yapılan söyleşiler ve makaleyle ilgili haberler yayınlandı. Makalenin ana mesajı şuydu: "Soğukkanlı ve tarafsızca kararlar vereceğini umduğumuz yapay zeka cinsiyetçi ve ırkçı, yani fena şekilde önyargılı olabilir."
yapay zeka, yapay ögrenme, derin ögrenme, sinirbilim, önyargi, distopya
504
single,single-post,postid-504,single-format-standard,ajax_fade,page_not_loaded,,select-theme-ver-3.4,wpb-js-composer js-comp-ver-4.12.1,vc_responsive
 

NöroBlog Podcast 5. Bölüm: Yapay Zekanın Önyargıları

NöroBlog Podcast 5. Bölüm: Yapay Zekanın Önyargıları

14 Nisan 2017 tarihli Science dergisinde bilim dünyasında çok ses getiren bir makale çıktı. Kısa sürede nbc’den The Guardian’a, LA Times’tan wired’a bilim haberlerinde makalenin yazarlarıyla yapılan söyleşiler ve makaleyle ilgili haberler yayınlandı.

Makalenin ana mesajı şuydu:

“Soğukkanlı ve tarafsızca kararlar vereceğini umduğumuz yapay zeka cinsiyetçi ve ırkçı, yani fena şekilde önyargılı olabilir.”
İnsanların önyargılı olduklarını biliyoruz. Ben önyargılıyım. Bu yazıyı okuyan herkes, yani siz de oldukça önyargılı bir insansınız. Hayır diyorsanız sizi Harvard Üniversitesi’nin önyargılarınızı ortaya çıkarmakta oldukça cevval Implicit Association Test (Örtük Çağrışım Testi) ismindeki testini yapmanızı ve bazı önyargılarınızla yüzleşmenizi tavsiye ederim. Test Türkçe ve bence oldukça eğlenceli.

Örtük Çağrışım Testi

Makaleye dönelim: Bu hem korkutucu hem de distopik sonuca nasıl ulaşıldı?
Araştırmacılar internette çeşitli kaynaklardan buldukları 840.000.000.000 (840 milyar) kelimelik bir veriyi bir yapay öğrenme programına yükleyerek yukarda bahsettiğimiz Implicit Association Test’in bir benzerini yapay zekaya uyguluyorlar.
Sonuçlar epey şaşırtıcı. Yapay zeka söz konusu veriler insanlar tarafından girilen sözel veriler olduğunda bunun çıktısı olarak kültürümüze ve dilimize yerleşmiş bütün önyargıları sahipleniyor. Örneğin erkek isimlerini daha fazla işle, kariyerle, profesyonellikle ilişkilendirirken kadın isimlerini daha çok ev işleriyle ve çocuk bakımıyla ilişkilendiriyor. Beyaz Avrupalı erkek isimlerini zenci erkek isimlerine tercih ediyor. Kısacası hoşumuza gitmeyecek fena bir ‘kafa’ yapısına sahip bir makine olup çıkıyor.
Yapay zekanın her geçen gün daha fazla hayatımıza girdiğine şahit oluyoruz, bu gelişim kaçınılmaz.

Yakın zamanda insan kaynakları departmanlarının ise alımlarda, üniversitelerin öğrenci ve akademik kadro seçimlerinde yapay zekanın rol oynayacağı konuşuluyor. Peki ya rasyonel kararlar vermesini beklediğimiz yapay zeka yukarda örneklerini verdiğimiz gibi bazı insanları kimliklerinden dolayı ayrımcılığa tabi tutarsa ne yapacağız?
Zihnimde bunlar uçuşurken bir de baktım ki bu oldukça ilginç makalenin ilk yazarı Türkiye kökenli bir bilim insanı,

Dr. Aylin Çalışkan. Hemen Aylin’le mailleşip bu ilginç konuyu bize Türkçe anlatmasını rica ettim, o da beni kırmayarak NöroBlog Podcast’e konuk oldu ve bizi aydınlattı.

Keyifli dinlemeler…

No Comments

Sorry, the comment form is closed at this time.