Google tarafından geliştirilen uygulamalardan bir tanesi diyebileceğimiz Google Fotoğraflar uygulaması, büyük bir skandala imza atmıştı. Uygulama yapay zekası ile fotoğraftaki hayvanlara otomatik etiket atma özelliğine sahip, hafta içerisinde pazartesi günü Afrikan-Amerikan çift, attığı resimler için belirlenen etiketi görünce, Google’a başvurdu.
Çift’in fotoğraf albümündeki “gorillas” etiketi dikkat çekti, Google’ın “ırkçılık” konusu sosyal medyada konuşulmaya başlanmıştı ki çok geçmeden Google’dan özür geldi.
Google, Fotoğraflar uygulamasında etiket tercihinin yapay zeka tarafından belirlendiğini belirterek, uygulamanın sorunlu bir dönemden geçtiğini, geliştirme sürecinde tüm insanları köpek olarak algılandığından da bahsederek konuyu yumuşatmaya çalıştı. Google, bu durumun şirketi dehşete düşürdüğünü, “gorillas” etiketinin veri tabanından tamamen silindiğini ve bu gibi durumların engellenmesi için çalışmalar başlatıldığını da belirtti.
