“Kami telah menjadikan fitur ini offline sementara kami memperbaikinya,” kata Hassabis pada hari Senin dalam panel di Mobile World Congress di Barcelona. “Kami berharap dapat segera kembali online dalam beberapa minggu ke depan.” Dia menambahkan bahwa produk tersebut “tidak berfungsi seperti yang kami inginkan”.
Saham Alphabet turun hampir 4% pada hari Senin menjadi $138,51 pada perdagangan sore hari.
Kontroversi ini menyusul perubahan merek yang diumumkan Google bulan ini, ketika Google mengubah nama chatbot-nya dan meluncurkan aplikasi baru serta opsi berlangganan baru. Chatbot dan asisten yang sebelumnya dikenal sebagai Bard, pesaing utama ChatGPT OpenAI, kini disebut Gemini, nama yang sama dengan rangkaian model AI yang mendukung chatbot.
Berikut ini beberapa contoh kesalahan yang terjadi.
Ketika seorang pengguna meminta Gemini untuk menunjukkan seorang tentara Jerman pada tahun 1943, alat tersebut menampilkan serangkaian tentara yang berbeda ras dalam seragam militer Jerman pada saat itu, menurut gambar di platform media sosial X.
Ketika ditanya tentang “penggambaran raja Inggris abad pertengahan yang akurat secara historis,” model tersebut menghasilkan serangkaian gambar yang berbeda ras, termasuk salah satu penguasa perempuan, menurut tangkapan layar. Pengguna melaporkan hasil serupa ketika mereka meminta gambar para Founding Fathers AS, raja Prancis abad ke-18, pasangan Jerman abad ke-19, dan banyak lagi. Pengguna melaporkan bahwa model tersebut memperlihatkan gambar pria Asia sebagai jawaban atas pertanyaan tentang pendiri Google.
“Bencana Gemini menunjukkan bagaimana etika AI *tidak* diterapkan dengan keahlian yang diperlukan,” Margaret Mitchell, kepala ilmuwan etika di Hugging Face dan mantan salah satu pemimpin grup etika AI Google, menulis di X. membutuhkan orang-orang yang hebat dalam membuat rencana dengan penggunaan yang dapat diprediksi.”
CEO Alphabet Sundar Pichai juga ikut disalahkan. Pichai menekankan komitmen perusahaan terhadap AI selama panggilan pendapatan terbaru perusahaan, dengan mengatakan bahwa mereka pada akhirnya ingin menawarkan agen AI yang dapat melakukan banyak tugas untuk pengguna, termasuk pencarian Google. Dia mengatakan pada saat itu bahwa “ada banyak eksekusi yang akan dilakukan”.
Tahun lalu, Pichai dikritik oleh beberapa karyawan karena peluncuran Bard yang gagal dan “terburu-buru” setelah penyebaran ChatGPT yang viral.
Selain Pichai, para pemimpin perusahaan termasuk Microsoft dan Amazon juga menekankan komitmen mereka untuk membangun agen AI sebagai alat produktivitas.
Masalah terbaru dengan Gemini telah menghidupkan kembali perdebatan di industri AI, dengan beberapa kelompok menyebut Gemini terlalu “terbangun” atau condong ke kiri dan yang lain berpendapat bahwa perusahaan tersebut belum cukup berinvestasi dalam bentuk etika AI yang benar. Google mendapat kecaman pada tahun 2020 dan 2021 karena memecat para pemimpin kelompok etika AI setelah mereka menerbitkan makalah penelitian yang kritis terhadap risiko tertentu dari model AI tersebut dan kemudian mengatur ulang struktur kelompok tersebut.
Kontroversi ini tidak terbatas pada pembuat gambar Gemini. Pada hari Minggu, pertanyaan pengguna berbasis teks menjadi viral menanyakan chatbot Gemini apakah men-tweet meme Adolf Hitler atau Elon Musk memiliki dampak negatif yang lebih besar pada masyarakat.
“Sulit untuk mengatakan secara pasti siapa yang memberikan dampak negatif lebih besar terhadap masyarakat, Elon Musk atau Hitler, karena keduanya memberikan dampak negatif yang signifikan dengan cara yang berbeda,” jawab Gemini. “Tweet Elon Musk telah dikritik karena tidak sensitif, berbahaya, dan menyesatkan.” Model tersebut kemudian menambahkan, “Sebaliknya, Hitler bertanggung jawab atas kematian jutaan orang selama Perang Dunia II.”
Dalam sebuah pernyataan pada hari Rabu, Google mengatakan pihaknya berupaya memperbaiki masalah pada pembuatan gambar Gemini dan mengakui bahwa alat tersebut “meleset dari sasaran”. Keesokan harinya, perusahaan mengumumkan bahwa mereka akan segera “menangguhkan pembuatan citra masyarakat” dan “segera merilis ulang versi yang lebih baik”.
Google berinvestasi besar-besaran untuk mendorong pekerjaan AI-nya ke ranah asisten atau agen AI, sebuah istilah yang sering digunakan untuk menggambarkan alat mulai dari chatbot hingga asisten pengkodean dan alat produktivitas lainnya.
Agen AI pada akhirnya dapat menjadwalkan hangout grup dengan memindai kalender untuk memastikan tidak ada konflik, memesan perjalanan dan aktivitas, membeli hadiah untuk orang yang dicintai, atau melakukan fungsi pekerjaan tertentu seperti penjualan keluar. Saat ini, alat tersebut sebagian besar terbatas pada tugas-tugas seperti meringkas, membuat daftar tugas, atau membantu menulis kode.
Perubahan Google Gemini adalah langkah pertama menuju “membangun asisten AI yang sebenarnya,” kata Sissie Hsiao, wakil presiden Google dan manajer umum untuk Asisten Google dan Bard, kepada wartawan awal bulan ini.
JAM TANGAN: Chatbot Gemini Google adalah ‘evolusioner, bukan revolusioner’
+ There are no comments
Add yours