Akıllı araçlar ırkçı çıktı

OSMAN SAĞIRLI

Otonom araçlar ya da bilinen adıyla sürücüsüz otomobiller henüz test aşamasında. Ne kadar güvenli oldukları, yoldaki zorlu değişimlerle nasıl başa çıkacakları ve trafiği nasıl daha da kötüleştirebilecekleri tartışılırken bu defa da farklı renkteki insanlara zarar verebilecekleri konusu endişelere sebep oldu.

Sürücüsüz otomobillerin kamuya açık yazılımlarını kullanarak yeni bir araştırma yapan Georgia Teknoloji Enstitüsü, sürücüsüz araçların siyah tenli bir yayaya çarpma ihtimalinin beyaz tenli yayalara göre daha yüksek olduğunu belirledi. Enstitü araştırmacıları insanların ten tonlarını açıktan karanlığa sınıflandırmak için kullanılan Fitzpatrick skalasını kullanarak yaptıkları testlerde, sürücüsüz otomobillerin siyah tenli insanları beyaz tenli insanlara oranla algılamakta güçlük çektiklerini ortaya çıkardı. Günün farklı saatlerinde farklı ortamlarda yapılan çalışmalarda benzer eşitsizlik beş puanlık yanılmayla tekrar etti.

HAKEM HEYETİNE TAŞINABİLİR

Uzmanlar bu durumun algoritma yazılımı yapan kişinin ön yargılarını yansıtabileceği konusunda hemfikir. Bilim çevrelerinde ırksal eşitsizlik olarak değerlendirilen bu sonucun hakem heyetine taşınması gündemde.

Yine yapılan başka bir araştırmada da IBM, Microsoft ve Çin’in Megvii yüz tanıma sisteminlerinin koyu tenli insanların (özellikle de kadınların) açık tenli insanlara göre cinsiyetini yanlış tanıma ihtimalinin daha yüksek olduğu belirlendi.

28 kongre üyesi sabıkalı!

Yüz tanıma sistemleriyle ilgili skandallara bir yenisi de geçtiğimiz ağustosta Amazon tarafından eklendi. Amazon’un geliştirdiği yüz tanıma sistemi “Rekognition” Amerikan Sivil Özgürlükler Birliği tarafından test edildi. 535 kongre üyesinin fotoğrafları, 25 bin suçluya ait görüntülerin olduğu sistemde taratıldı. Yüz tanıma sisteminin verdiği rapor korkunçtu. Kongre üyelerinden 28’inin eldeki verilere göre daha önce tutuklanan suçlularla eşleştiği görüldü. Suçlu olarak rapor edilenlerden biri de Medeni Haklar Lideri John Lewis idi. Yanlış eşleşen kongre üyeleri arasında, ülkenin dört bir yanından Cumhuriyetçiler ve Demokratlar, erkekler ve kadınlar ve her yaştan yasama organı üyesinin yer alması ciddi tartışmaları da beraberinde getirdi. Zira ABD’de başta Detroit olmak üzere birçok eyalette bu yazılım polis tarafından suçlu avında kullanılıyor. Amazon’un suçlu (!) olarak tanımladığı kongre üyeleri veritabanı ile ilgili olarak Amazon CEO’su Jeff Bezos’a açık bir mektup yazarak bilgi istedi.

Google goril demişti

Google’ın görüntü tanıma sistemi de, 2015 yılında Afro-Amerikalıları “goriller” olarak etiketleyerek ırkçılık tartışmaları başlatan skandallarla imza atmıştı. Yazılım mühendisi olan Jacky Alciné’nin kız arkadaşıyla olan fotoğrafınının Google tarafından goril olarak etiketlendiğini fark etmesiyle başlayan tartışma sonrası Google, görüntü tanıma algoritmalarının gorilleri tanımlamasını tamamen engelledi, Alciné ve arkadaşından da özür diledi. Google, 12 Ocak’ta görüntü tanıma algoliratmalarında “alçı” sistemine geçtiğini duyurdu.

Yazılımcılar farklı ırktan olsun

Yapay zekâ üzerine çalışan araştırmacılar benzer örneklerle sıklıkla karşılaştıklarını belirterek, algoritmik sistemlerin beslendikleri örneklerden “öğrendiklerinden” hareketle sonuca gittiğini, skandalların son bulması için de yazılımcı ve geliştiricilerin ırksal olarak çeşitlendirilmesi gerektiğini savunuyor. İnsan hakları örgütleri ise şirketlerin algoritmalarını ön yargı için test etmelerini mecburi kılmak ve piyasaya sürülmeden önce bazı adalet standartlarını karşıladıklarından emin olmak gerektiğini dile getiriyor.