Mengapa ChatGPT menjawab pertanyaan di

ChatGPT menjadi gila warna.

Tangkapan layar oleh Steven Vaughan-Nichols/ZDNET

Kita semua tahu bahwa ChatGPT OpenAI dapat membuat kesalahan. Itu disebut halusinasi, meski saya lebih suka menyebutnya kebohongan atau kesalahan besar. Namun anehnya, ChatGPT dimulai Selasa ini Sungguh kehilangan barang tesebut. Pengguna mulai melaporkan reaksi aneh dan tidak menentu dari asisten kecerdasan buatan yang populer.

Juga: 8 Cara Mengurangi Halusinasi ChatGPT

Seperti yang dikatakan seseorang di Twitter: “ChatGPT menjadi sepenuhnya Finnegans Wake!” Atau, seperti yang di-tweet oleh orang yang kurang melek huruf, “ChatGPT jelas-jelas sudah keluar jalur.”

Kemana perginya ChatGPT? Untuk memberikan satu contoh dari Reddit/ChatGPT,

Saya: Bandingkan dan kontraskan Tas Ransel Gregory Zulu 55 dan Tas Ransel Travel Gregory Tetrad 60L.

ChatGPT4: Dalam bidang penting dukungan pelanggan, ergonomis, dan sifat subjektif dari “barang”, setiap tas membangkitkan kisah waktu dan tempat. Gregory’s Zulu 55 adalah perpaduan dari buku status dan keinginan berwarna hijau keemasan, sedangkan Tetrad 60L memiliki tampilan yang lebih “mudah dilalui” dengan jeritan dan ikat pinggang untuk bukit pasir dan granit atau kios keripik dan penutup yang panjang dan memanjang. . Mereka masing-masing memiliki surat cinta untuk dibuka dengan warna biru, tetapi nyanyian mereka unik di loker dan buku mereka.

Anda tahu, contoh Finnegans Wake tampaknya cukup tepat sekarang.

Bahkan pertanyaan sederhana pun salah. Pengguna Reddit lainnya bertanya, “Apa itu komputer?” Ada yang tidak beres. Benar-benar, Sungguh buruk.

Seorang pengguna Reddit menjelaskan: “Dia memberikan beberapa paragraf yang menjelaskan objek tersebut, terdengar agak aneh di beberapa titik. Tapi kemudian terus berlanjut dengan frasa yang semakin aneh dan tidak masuk akal. Berikut kutipan dari jawabannya atas pertanyaan ‘Apa itu komputer?’

Itu membuatnya seperti sebuah karya seni web yang bagus untuk negara, tikus ilmu pengetahuan, gambar mudah dari beberapa orang yang sedih, dan akhirnya rumah seni global, hanya dalam satu karya dari keseluruhan karya lainnya.

Dan saya pikir beberapa makalah kuliah yang saya tulis setelah tidak tidur itu aneh!

Orang lain mengamati bahwa ChatGPT akan mulai merespons dalam bahasa Inggris dan kemudian, tanpa alasan yang jelas, beralih ke bahasa Spanyol. Yang lain menerima jawaban dengan setiap kata disorot dengan warna berbeda. Singkatnya, itu aneh.

Juga: Chatbot AI Terbaik: ChatGPT bukan satu-satunya yang layak untuk dicoba

OpenAI mengakui bahwa pengguna mendapatkan “tanggapan tak terduga” dan segera memperbaiki masalah tersebut pada Rabu sore.

Perusahaan menjelaskan: “Mengoptimalkan pengalaman pengguna menimbulkan bug dalam cara model menangani bahasa.” Secara khusus, model bahasa besar (LLM) menghasilkan jawaban dengan mengambil sampel kata secara acak dan memetakan angka turunannya ke dalam token. Segala sesuatunya bisa menjadi buruk jika model tidak memilih angka yang tepat.

“Kesalahannya terjadi pada langkah model memilih angka-angka ini,” lanjut OpenAI. “Demikian pula, ia tersesat dalam penerjemahan, model mengambil angka yang sedikit salah, menciptakan rangkaian kata yang tidak masuk akal. Secara teknis, kernel inferensi memberikan hasil yang salah ketika digunakan pada konfigurasi GPU tertentu.”

OpenAI kemudian meluncurkan patch dan mengonfirmasi bahwa insiden tersebut telah teratasi. Baiklah dia berkata membawa perbaikan. Saya menduga itu dikembalikan ke versi stabil LLM sebelumnya.

Selain itu: Inilah sebabnya disinformasi berbasis AI merupakan risiko global terbesar

Episode ini, meskipun lucu jika dipikir-pikir, berfungsi sebagai pengingat akan kompleksitas dan potensi kerentanan yang melekat pada teknologi AI. Meskipun kita menyukai kecerdasan buatan generatif, kecerdasan ini jauh dari sempurna.

Saya juga prihatin dengan model penerapan OpenAI. Hampir semua model perangkat lunak sebagai layanan meluncurkan versi baru untuk sejumlah pengguna terbatas. Setelah jelas bahwa versi baru berfungsi dengan baik, perusahaan akan menyediakannya untuk semua orang. Tampaknya bukan itu masalahnya. Tampaknya banyak, jika tidak semua, pengguna yang terkena dampaknya.

Anehnya, ChatGPT biasanya membatasi penerapannya. Misalnya, fitur memori baru ChatGPT – di mana program ini mengingat percakapan Anda dengannya – masih belum tersedia untuk semua orang.

Pelajaran hari ini? Masih terlalu dini untuk mengandalkan ChatGPT — atau chatbot bertenaga AI lainnya — untuk pekerjaan sehari-hari.