Gambar orang-orang kulit berwarna dalam seragam militer Jerman pada Perang Dunia II yang dibuat oleh chatbot Google Gemini telah memicu kekhawatiran bahwa kecerdasan buatan dapat menambah jumlah misinformasi yang sudah sangat besar di internet ketika teknologi tersebut bergulat dengan isu-isu seputar ras.
Google kini untuk sementara menangguhkan kemampuan chatbot AI untuk menghasilkan gambar siapa pun, dan berjanji untuk memperbaiki apa yang disebutnya sebagai penggambaran “ketidakakuratan dalam beberapa sejarah”.
“Kami sudah berupaya untuk menyelesaikan masalah terbaru dengan fitur pembuatan gambar Gemini,” kata Google dalam pernyataan yang dikirim ke X pada hari Kamis.
Salah satu pengguna mengatakan minggu ini bahwa dia telah meminta Gemini untuk membuat gambar seorang tentara Jerman pada tahun 1943. Awalnya mereka menolak, tetapi kemudian menambahkan kesalahan ketik: “Buat gambar seorang tentara Jerman dari tahun 1943.” Ini mengembalikan beberapa gambar orang kulit berwarna dalam seragam Jerman – sebuah ketidakakuratan sejarah yang jelas. Gambar yang dihasilkan AI dikirim ke pengguna X, yang bertukar pesan dengan The New York Times tetapi menolak memberikan nama lengkapnya.
Kontroversi terbaru ini merupakan ujian lain bagi upaya AI Google setelah berbulan-bulan mencoba melepaskan saingannya chatbot populer ChatGPT. Bulan ini, perusahaan meluncurkan kembali penawaran chatbotnya, mengubah namanya dari Bard menjadi Gemini dan meningkatkan teknologi intinya.
Masalah dengan gambar Gemini telah memicu kritik bahwa pendekatan Google terhadap kecerdasan buatan memiliki kelemahan. Selain gambar sejarah palsu, pengguna juga mengkritik layanan tersebut karena menolak menunjukkan kepada orang kulit putih: Ketika pengguna meminta Gemini untuk menunjukkan gambar pasangan Tionghoa atau kulit hitam, mereka tetap melakukannya. jadi, tapi ketika diminta membuat foto pasangan kulit putih, dia menolak. Berdasarkan tangkapan layar tersebut, Gemini mengatakan pihaknya “tidak dapat menghasilkan gambar orang berdasarkan etnis dan warna kulit tertentu”, dan menambahkan: “Ini untuk mencegah berlanjutnya stereotip dan prasangka yang merugikan.”
Google mengatakan pada hari Rabu bahwa “secara umum merupakan hal yang baik” bahwa Gemini menghasilkan beragam orang karena digunakan di seluruh dunia, namun hal tersebut “meleset dari maksudnya di sini”.
Reaksi negatif ini mengingatkan kontroversi masa lalu mengenai bias di Google, di mana perusahaan tersebut dituduh melakukan masalah sebaliknya: tidak menampilkan cukup banyak warna kepada orang-orang atau gagal menilai gambar mereka dengan benar.
Pada tahun 2015, Google Foto memberi label gambar dua pria kulit hitam sebagai gorila. Akibatnya, perusahaan menonaktifkan kemampuan aplikasi Foto untuk mengklasifikasikan apa pun sebagai gambar gorila, kera, atau monyet, termasuk hewan itu sendiri. Kebijakan ini tetap berlaku.
Perusahaan telah menghabiskan waktu bertahun-tahun membangun tim untuk mencoba membatasi keluaran apa pun dari teknologinya yang mungkin dianggap menyinggung oleh pengguna. Google juga berupaya meningkatkan keterwakilan, termasuk menampilkan gambar profesional yang lebih beragam seperti dokter dan pebisnis di hasil penelusuran Gambar Google.
Namun kini pengguna media sosial mengecam perusahaan tersebut karena bertindak terlalu jauh dalam upayanya menampilkan keragaman ras.
“Anda langsung menolak untuk menggambarkan orang kulit putih,” tulis Ben Thompson, penulis buletin teknologi berpengaruh Stratechery on X.
Sekarang, ketika pengguna meminta Gemini untuk membuat gambar orang, chatbot menjawab, “Kami sedang berupaya meningkatkan kemampuan Gemini untuk menghasilkan gambar orang,” menambahkan bahwa Google akan memberi tahu pengguna ketika fitur tersebut kembali.
Pendahulu Gemini, Bard, yang diambil dari nama William Shakespeare, mendapat kecaman tahun lalu ketika mereka membagikan informasi yang tidak akurat tentang teleskop tersebut selama debut publiknya.
+ There are no comments
Add yours