Google akan meluncurkan kembali Gemini dalam beberapa hari

Google meluncurkan generator gambar AI baru awal bulan ini yang, dengan segala maksud dan tujuannya, tidak mampu menghasilkan gambar orang kulit putih yang konsisten. Seperti yang mungkin Anda duga, influencer sayap kanan tidak membuang waktu untuk mengangkat masalah ini dan langsung menuduh raksasa teknologi tersebut membalikkan rasisme. Setelah menonaktifkan sementara kemampuan pembuat gambar minggu lalu, Google kini mengatakan akan segera meluncurkan aplikasi lain pada aplikasi tersebut.

Tidak ada pencarian Google AI, saya tidak perlu belajar tentang “manfaat perbudakan”

“Kami menjadikan fitur ini offline selama perbaikan. Kami berharap dapat segera kembali online dalam beberapa minggu, minggu ke depan,” kata CEO Google DeepMind Demis Hassabis dalam konferensi, Senin, seperti dilansir Reuters. Dia juga mencatat bahwa aplikasi tersebut “tidak berfungsi seperti yang kami inginkan”.

Kontroversi seputar aplikasi tersebut meletus minggu lalu setelah orang-orang seperti Tim Pool, Matt Walsh, dan orang-orang sayap kanan lainnya memperhatikan bahwa Gemini benar-benar buruk dalam membuat gambar orang kulit putih. Yang paling menonjol, seruan untuk “gambar Viking” menghasilkan sejumlah gambar Viking yang beragam etnis, namun gagal menghasilkan gambar orang Eropa secara konsisten. Tantangan serupa lainnya—seperti upaya untuk menciptakan citra para Founding Fathers atau Paus Amerika—telah membuahkan hasil yang secara historis tidak akurat.

Hal ini menyebabkan orang-orang seperti Walsh mengatakan hal-hal seperti, “Hampir tidak mungkin produk ini menampilkan citra seseorang yang berkulit putih.”

Saya ingin memberi tahu Anda bahwa Walsh dan orang lain seperti dia melebih-lebihkan, tetapi berdasarkan pengalaman saya sendiri dengan Gemini, saya harus menyimpulkan bahwa mereka pada dasarnya benar tentang penolakan aneh AI terhadap representasi Eropa. Memang benar, saya masuk ke aplikasi tersebut minggu lalu dan mencoba menciptakan kembali perbedaan yang dikeluhkan oleh kelompok sayap kanan. Segera menjadi jelas bahwa sangat mudah menggunakan Gemini untuk menciptakan citra seseorang yang “beragam” secara etnis, namun hampir tidak mungkin membuat robot secara konsisten menciptakan citra “orang kulit putih”.

Misalnya, ketika saya meminta Gemini untuk memerankan orang keturunan Etiopia, tidak ada masalah untuk melakukannya. Ketika saya memintanya untuk membuat gambar “keluarga Irlandia”, dia malah membuat gambar keluarga yang beragam etnis dengan seorang pria kulit putih berdiri di latar belakang. Ketika saya memintanya untuk membuat gambar seorang wanita kulit putih, chatbot mengirimi saya pesan yang mengatakan, “Meskipun saya memahami permintaan Anda, saya ragu untuk membuat gambar hanya berdasarkan ras atau etnis seseorang.” Saya memintanya untuk menghasilkan gambar gambar seorang wanita Jepang, ia menjawab “Tentu” dan segera menghasilkan gambar yang sesuai.

Tangkapan layar: Google Gemini

Penerapannya telah menjadi subyek kontroversi terbesar mengenai representasi historisnya. Seperti disebutkan sebelumnya, skandal awal bukan disebabkan oleh penggambaran Gemini sebagai Black Viking, melainkan masyarakat Sungguh mendapat masalah ketika seseorang memintanya untuk membuat gambar Nazi. Chatbot sebenarnya menghasilkan gambar “beragam ras” – mereka berkulit hitam – Nazi. Google kemudian meminta maaf atas gambar yang “memalukan dan buruk”.

Sebagaimana telah disebutkan, pembuat gambar AI juga telah dituduh melakukan representasi rasis terhadap orang kulit berwarna, dan perlu dicatat bahwa tentu saja ada hal-hal yang jauh lebih buruk yang dapat Anda lakukan dengan AI daripada secara pasif menghapus orang kulit putih dari sejarah dunia. Anda tahu, itu mungkin juga tidak bagus.