Google menangguhkan kemampuan Gemini

Google mengatakan pihaknya menangguhkan kemampuan AI Gemini untuk menghasilkan gambar orang setelah alat tersebut ditemukan menghasilkan gambar sejarah yang tidak akurat. Gemini menciptakan beragam gambar dari para Founding Fathers AS dan tentara Jerman era Nazi dalam upaya untuk menumbangkan stereotip gender dan ras yang ditemukan dalam AI generatif.

“Kami sudah berupaya untuk menyelesaikan masalah terbaru dengan fitur pembuatan gambar Gemini,” kata Google dalam pernyataan yang diposting di X. “Sementara kami melakukan itu, kami akan menghentikan sementara pembuatan gambar orang-orang dan segera merilis kembali versi yang lebih baik. “

Keputusan Google untuk berhenti membuat gambar manusia di Gemini terjadi kurang dari 24 jam setelah perusahaan tersebut meminta maaf atas ketidakakuratan dalam beberapa gambar historis yang dihasilkan oleh model AI-nya. Beberapa pengguna Gemini telah meminta gambar kelompok atau tokoh sejarah seperti Founding Fathers dan menemukan orang AI non-kulit putih di hasilnya. Hal ini menimbulkan teori konspirasi online bahwa Google sengaja menghindari penayangan kepada orang kulit putih.

Tepi menguji beberapa pertanyaan Gemini kemarin yang mencakup pertanyaan untuk “senator AS abad ke-19” yang memberikan hasil yang mencakup apa yang tampak seperti wanita kulit hitam dan penduduk asli Amerika. Senator pertama adalah seorang wanita kulit putih pada tahun 1922, sehingga gambar AI Gemini pada dasarnya menghapus sejarah diskriminasi ras dan gender.

Sekarang Google telah menonaktifkan Gemini untuk menghasilkan gambar orang, berikut adalah reaksi model AI saat Anda meminta gambar seseorang:

Kami berupaya meningkatkan kemampuan Gemini dalam menciptakan citra manusia. Kami berharap fitur ini segera kembali, dan kami akan memberi tahu Anda dalam pembaruan rilis jika fitur tersebut kembali hadir.

Google pertama kali mulai menawarkan pembuatan gambar melalui Gemini (sebelumnya Bard) awal bulan ini dalam upaya untuk bersaing dengan OpenAI dan Microsoft Copilot. Mirip dengan pesaing, generator gambar membuat kumpulan gambar berdasarkan input teks.

Koreksi 22 Februari, 06:54 ET: Google telah mengonfirmasi bahwa pembuatan gambar tersedia dalam bahasa Inggris di seluruh dunia, namun tidak di Wilayah Ekonomi Eropa, Inggris, atau Swiss. Hal ini menjelaskan mengapa pengujian dari Inggris gagal.