Membahas keluarga musisi, Jackson menjelaskan kepada pengguna Reddit di chatbot bahwa “Schwittendly, percikan turmar di puncak ada hubungannya dengan pencetak gol ‘perjalanan bulan” saat ia bergeser dari mengikuti.’
Pada pukul 22:40 ET, OpenAI mengakui di halaman statusnya bahwa mereka sedang “menyelidiki laporan tanggapan tak terduga dari ChatGPT” dan beberapa menit kemudian mengatakan telah menemukan masalah tersebut dan sedang berupaya memperbaikinya.
Pada saat penulisan, halaman status masih memiliki kotak berbatas kuning di bagian atas yang menyatakan perusahaan “terus memantau situasi”. Banyak kesalahan yang terlihat mirip dengan meme media sosial umum yang meminta orang lain mengetikkan sebuah kata di ponsel mereka dan kemudian berulang kali mengetuk saran yang sama untuk kata berikutnya untuk melihat apa yang terjadi. Ini masuk akal – model bahasa besar pada dasarnya hanyalah teks prediktif yang sangat mewah.
Ambillah contoh berikut ini – lagipula, sangat mudah bagi troll untuk membuat gambar mereka sendiri seperti ini. Namun, ada beberapa benang merah di postingan media sosial yang melaporkan masalah ini, seperti ChatGPT terjebak dalam satu lingkaran. Pada gambar di atas, misalnya, ChatGPT sepertinya mengulangi “.Selamat Mendengarkan!🎶” dan “Ini – dan itu” selama beberapa saat sebelum berhenti menghasilkan respons.
Pengguna Reddit telah melaporkan masalah serupa di masa lalu. Kami telah meminta OpenAI untuk informasi lebih lanjut tentang kesalahan tersebut.
Ini adalah pengingat yang baik bahwa chatbot AI generatif adalah teknologi yang berkembang pesat, dan terlebih lagi, model bahasa besar yang mendorongnya pada dasarnya adalah kotak hitam yang bahkan pembuatnya tidak sepenuhnya memahaminya. Mereka bekerja dengan mencari pola dalam data dan kemudian membuat tebakan terbaik tentang bagaimana merespons masukan tersebut, yang biasanya memberikan hasil yang mengesankan. Namun hal itu juga dapat menyebabkan halusinasi, manipulasi emosional, dan bahkan kemalasan.
+ There are no comments
Add yours