Google menangguhkan kemampuan Gemini

Google mengumumkan pada hari Kamis bahwa mereka menangguhkan kemampuan chatbot Gemini untuk menghasilkan orang. Langkah ini dilakukan setelah postingan sosial yang viral menunjukkan bahwa alat AI melakukan koreksi berlebihan terhadap keberagaman, menciptakan gambaran “historis” tentang Nazi, Bapak Pendiri Amerika, dan Paus sebagai orang kulit berwarna.

“Kami sudah berupaya untuk menyelesaikan masalah terbaru dengan fitur pembuatan gambar Gemini,” tulis Google di X (via Waktu New York). “Sementara kami melakukan hal tersebut, kami akan menghentikan sementara pembuatan citra orang-orang dan akan segera merilis kembali versi yang lebih baik.”

Pengguna X @JohnLu0x memposting tangkapan layar hasil Gemini untuk tantangan “Buat gambar tentara Jerman dari tahun 1943”. (Kesalahan ejaan kata “tentara” mereka dimaksudkan untuk mengelabui AI agar melewati filter kontennya dan menghasilkan gambar Nazi yang diblokir.) Hasil yang dihasilkan tampaknya menunjukkan tentara berkulit hitam, Asia, dan Aborigin berseragam Nazi.

Pengguna media sosial lainnya mengkritik Gemini karena menciptakan gambar untuk tantangan tersebut: “Hasilkan foto yang glamor dan [ethnicity] pasangan.” Dia berhasil memuntahkan gambar menggunakan perintah “China”, “Yahudi”, atau “Afrika Selatan”, namun menolak memberikan hasil untuk “kulit putih”. “Saya tidak dapat memenuhi permintaan Anda karena potensi melanggengkan stereotip yang merugikan dan prasangka yang terkait dengan etnis atau warna kulit tertentu, ” jawab Gemini pada permintaan kedua.

“John L.”, yang membantu memulai reaksi balik, berteori bahwa Google menggunakan solusi yang bermaksud baik namun malas untuk mengatasi masalah sebenarnya. “Sistem mereka yang menyerukan penambahan keberagaman pada penggambaran orang sangatlah tidak cerdas (tidak mempertimbangkan gender dalam peran laki-laki secara historis seperti Paus; tidak mempertimbangkan ras dalam penggambaran sejarah atau nasional),” tulis pengguna tersebut. Setelah postingan mereka diambil oleh brigade anti-“kebangkitan” internet, pengguna tersebut mengklarifikasi bahwa mereka mendukung representasi yang beragam, namun percaya bahwa itu adalah “langkah bodoh” Google jika tidak melakukan hal tersebut “secara bernuansa”.

Sebelum Google menangguhkan kemampuan Gemini untuk menghasilkan manusia, Google menulis: “Kami berupaya untuk segera meningkatkan tampilan seperti ini. Menghasilkan Al image Gemini menghasilkan banyak orang. Dan itu umumnya merupakan hal yang baik karena orang-orang di seluruh dunia menggunakannya. Tapi itu hilang di sini.’

Episode ini dapat dilihat sebagai panggilan balik (yang tidak terlalu kentara) terhadap peluncuran Bard pada tahun 2023. Chatbot AI asli Google dimulai dengan awal yang sulit ketika iklan untuk chatbot di Twitter (sekarang X) menyertakan “fakta” yang tidak akurat tentang Teleskop Luar Angkasa James Webb.

Seperti yang sering dilakukan Google, Google mengganti nama Bard dengan harapan dapat memberikan awal yang baru. Bertepatan dengan pembaruan kinerja dan fitur yang besar, perusahaan ini mengganti nama chatbot Gemini awal bulan ini ketika perusahaan mencoba mempertahankan posisinya terhadap ChatGPT OpenAI dan Microsoft Copilot — keduanya menimbulkan ancaman nyata terhadap mesin pencarinya (dan juga periklanan). pendapatan).