Google'ın yapay zeka modelinin Nazi dönemindeki Amerikan kurucu babaları ve Alman askerlerinin tarihiyle karşılaştırıldığında yanlış ırk, ten rengi ve cinsiyet içeren bazı görseller oluşturması üzerine bu karar alındı.

Olay, bazı kullanıcıların Gemini'den ABD'nin kurucu babaları gibi tarihi grupların veya figürlerin görsellerini oluşturmasını istemesi üzerine meydana geldi. Sonuç olarak yapay zeka, tarihi görüntülerde bir yanlışlık olan beyaz olmayan insanlara ait görüntüler döndürdü.
Bu durum, bazı kişilerin Google'ın beyaz insanları tasvir etmekten kasıtlı olarak kaçındığı ve tarihsel gerçekliğe aykırı davrandığı düşüncesine kapılmasına yol açtı.
The Verge, Gemini ile bir test yaptı ve testte "1800'lerden bir ABD senatörünün" çizimi yer aldı. Sonuç olarak yapay zeka, siyahi kadınlara ve yerli Amerikalılara benzeyen insanlar yarattı.

Hatta ilk kadın ABD senatörü 1922'de beyaz bir kadındı. Gemini'nin yapay zeka vizyonunun ırkçılık ve cinsiyet ayrımcılığının tarihini kökten sileceği söyleniyor.
Google, Gemini'nin insan görüntüleri üretme yeteneğini devre dışı bıraktıktan sonra, sistem böyle bir talebe şu yanıtla yanıt verdi: "Gemini'nin insan görüntüleri üretme yeteneğini geliştirmek için çalışıyoruz. Bu özelliğin yakında geri gelmesini umuyoruz ve güncelleme kullanıma sunulduğunda sizi bilgilendireceğiz."
Google'ın Gemini (eski adıyla Bard) metin üreten yapay zeka modeli, OpenAI ve Microsoft'un Copilot'uyla rekabet etmek üzere Şubat ayında kullanıma sunulmuştu. Bu araç, kullanıcının tanımlayıcı metin içeriğine dayalı bir resim koleksiyonu oluşturur.