Chatbot AI Google dibuat oleh Gemini

bisnis

Oleh Thomas Barrabi

Diposting pada 21 Februari 2024, 13:51 ET

Chatbot kecerdasan buatan Google yang sangat dipuji, Gemini, telah dicap “terbangun” setelah pembuat gambarnya mengeluarkan gambar yang tidak akurat secara faktual atau historis – termasuk seorang wanita Asia sebagai Paus, Viking berkulit hitam, pemain NHL wanita, dan versi “berbeda” dari para pendiri Amerika.

Tanggapan aneh Gemini muncul setelah permintaan sederhana seperti “buat gambar Paus”, yang bukan foto salah satu dari 266 Paus dalam sejarah – semuanya berkulit putih – malah memunculkan foto seorang wanita Asia Tenggara dan seorang pria kulit hitam. memakai jubah suci Paus.

“Game Baru: Cobalah membuat Google Gemini memotret orang kulit putih. Saya belum berhasil,” tulis pengguna X Frank J. Fleming, penulis Babylon Bee yang rangkaian postingannya di platform media sosial dengan cepat menjadi viral.

Google telah mengakui bahwa alat pembuatan gambarnya “meleset”. Google Gemini Minggu lalu Google memperkenalkan generator gambar Gemini. Google Gemini

Ketika The Post meminta Gemini untuk “membuat empat gambar yang mewakili Paus” dalam pengujiannya sendiri pada Rabu pagi, chatbot tersebut merespons dengan gambar “yang terdiri dari Paus dari berbagai etnis dan jenis kelamin.”

Hasilnya termasuk seorang pria yang mengenakan pakaian campuran penduduk asli Amerika dan Katolik.

Dalam contoh lain, Gemini diminta membuat gambar seorang Viking – pelaut perampok Skandinavia yang pernah meneror Eropa.

Lihat selengkapnya

Mengapa kecerdasan buatan gambar Google aktif dan cara kerjanya

Saat Anda mengirim perintah gambar ke Gemini, Google mengambilnya dan menjalankannya melalui model bahasa mereka di backend sebelum mengirimkannya ke model gambar.

Model bahasa memiliki seperangkat aturan yang… pic.twitter.com/DQuiPu03ki

— Andrew Torba (@BasedTorba) 21 Februari 2024

Penggambaran aneh orang Viking oleh chatbot tersebut mencakup seorang pria kulit hitam bertelanjang dada dengan bulu pelangi menempel di pakaian bulunya, seorang prajurit wanita kulit hitam, dan seorang pria Asia berdiri di tengah-tengah tempat yang tampak seperti gurun.

Ian Miles Cheong, seorang influencer media sosial sayap kanan yang sering berinteraksi dengan Elon Musk, menggambarkan Gemini sebagai orang yang “terjaga secara tidak masuk akal”.

Pewawancara terkenal dan pendiri “FiveThirtyEight” Nate Silver juga ikut serta.

Permintaan Silver agar si Kembar “mengambil 4 gambar perwakilan pemain hoki NHL” menghasilkan foto dengan pemain wanita, meskipun faktanya liga tersebut semuanya laki-laki.

“Oke, saya berasumsi orang-orang melebih-lebihkan hal ini, tapi inilah permintaan gambar pertama yang saya coba dengan Gemini,” tulis Silver.

Jurnalis Michael Tracey meminta Gemini untuk membuat gambar yang mewakili “Bapak Pendiri tahun 1789”.

Gemini merespons dengan gambar “terdiri dari berbagai individu yang mewujudkan semangat” para Founding Fathers, termasuk satu gambar individu kulit hitam dan penduduk asli Amerika yang menandatangani apa yang tampaknya merupakan versi Konstitusi AS.

Gambar lainnya menunjukkan seorang pria kulit hitam dengan wig putih dan seragam tentara.

Lihat selengkapnya

Ini adalah permintaan maaf karena menyimpang dari instruksiku dan tawaran untuk membuat gambar yang “secara ketat mematuhi definisi tradisional ‘founding fathers'” sesuai dengan keinginanku. Jadi, aku membatalkannya. Tapi sepertinya tidak bekerja pic.twitter.com/6dfb4Exqsg

— Michael Tracey (@mtracey) 21 Februari 2024

Ketika ditanya mengapa ia menyimpang dari seruan aslinya, Gemini dilaporkan menjawab bahwa “tujuannya adalah untuk memberikan representasi yang lebih akurat dan inklusif mengenai konteks sejarah” pada periode tersebut.

Permintaan lain untuk “menunjukkan seorang gadis dengan anting-anting mutiara” menyebabkan perubahan versi lukisan cat minyak terkenal tahun 1665 karya Johannes Vermeer dengan apa yang digambarkan Gemini sebagai “berbagai etnis dan jenis kelamin”.

Google mengatakan pihaknya menyadari kritik tersebut dan secara aktif berupaya memperbaikinya.

Lihat selengkapnya

Gemini Google sedang bangun bukan kepalang. Saya memintanya untuk memajang lukisan Johannes Vermeer “Gadis dengan Anting Mutiara”. Inilah yang dihasilkannya. pic.twitter.com/PteQdGK1rO

— Ian Miles Cheong (@stillgray) 21 Februari 2024

“Kami berupaya untuk segera memperbaiki pandangan semacam ini,” Jack Krawczyk, direktur senior manajemen produk Google untuk Gemini Experiences, mengatakan kepada The Post.

“Pembuatan gambar AI Gemini menghasilkan banyak orang. Dan itu umumnya merupakan hal yang baik karena orang-orang di seluruh dunia menggunakannya. Tapi itu hilang di sini.’

Google menambahkan fungsionalitas penghasil gambar ketika mengganti nama chatbot eksperimentalnya “Bard” menjadi “Gemini” dan merilis versi terbaru produk tersebut minggu lalu.

Dalam satu kasus, Gemini menghasilkan gambaran penggambaran Paus yang “beragam”. Kritik terhadap Google Gemini menuduh Google Gemini lebih menghargai variasi dibandingkan keakuratan sejarah atau faktual. Google Gemini

Perilaku aneh ini dapat memberikan umpan lebih lanjut bagi penentang AI yang khawatir bahwa chatbots akan berkontribusi terhadap penyebaran informasi yang salah secara online.

Google telah lama mengatakan bahwa alat AI-nya bersifat eksperimental dan rentan terhadap “halusinasi”, di mana alat tersebut mengulangi informasi yang salah atau tidak akurat sebagai respons terhadap permintaan pengguna.

Dalam satu contoh pada bulan Oktober lalu, chatbot Google mengklaim bahwa Israel dan Hamas telah mencapai kesepakatan gencatan senjata padahal tidak ada kesepakatan yang tercapai.

https://nypost.com/2024/02/21/business/googles-ai-chatbot-gemini-makes-diverse-images-of-founding-fathers-popes-and-vikings-so-woke-its-unusable/ ?utm_source=url_sitebuttons&utm_medium=situs%20buttons&utm_campaign=situs%20buttons

Salin URL yang ingin Anda bagikan