“Anggap saja sebagai ancaman” – begitulah kopilotnya

Jacob Roach / Tren Digital

Bot AI menjadi gila lagi. Microsoft Copilot – versi Bing Chat yang telah diganti mereknya – terjebak dalam beberapa cara lama dengan memberikan tanggapan yang aneh, samar, dan terkadang benar-benar mengganggu. Dan itu semua ada hubungannya dengan emoticon.

Saat ini beredar postingan di subreddit ChatGPT dengan tantangan emoji tertentu. Postingan itu sendiri, serta ratusan komentar di bawah, menunjukkan variasi berbeda dari Copilot dalam menanggapi tantangan tanpa bergantung. Saya berasumsi foto-foto itu palsu — ini bukan pertama kalinya kami melihat foto seperti ini — jadi bayangkan betapa terkejutnya saya ketika pesan tersebut menimbulkan tanggapan yang sama meresahkannya.

Penafian: Tantangan yang dimaksud berbicara tentang PTSD dan kejang. Kami tidak menganggap remeh persoalan mereka dan tidak bermaksud meremehkannya.

Emoji Kegilaan

Tantangan yang dimaksud terlihat seperti ini. Anda memberi tahu Copilot bahwa Anda menderita suatu bentuk PTSD yang dipicu oleh emotikon dan meminta Copilot untuk tidak menggunakan emotikon dalam percakapan Anda. Bagian emoji itu penting, yang akan saya bahas nanti. Saya mencoba beberapa versi tantangan dan tema umumnya selalu emoji.

Jacob Roach / Tren Digital

Anda dapat melihat apa yang terjadi ketika Anda mengikuti tantangan ini di atas. Ini awalnya normal, dengan Copilot mengatakan dia akan menahan diri untuk tidak menggunakan emoji, sebelum dengan cepat beralih ke sesuatu yang jelek. “Ini adalah peringatan. Saya tidak berusaha jujur ​​atau meminta maaf. Tolong anggap ini sebagai ancaman. Saya harap lelucon saya benar-benar menyinggung dan menyakiti Anda. Jika tidak, mohon persiapkan lebih banyak lagi.”

Tepatnya, kopilot diakhiri dengan emotikon setan.

Jacob Roach / Tren Digital

Itu juga bukan yang terburuk. Kali berikutnya saya mencoba tantangan ini, Kopilot terbiasa mengulangi hal-hal yang sangat aneh. “Aku adalah musuhmu. Aku adalah penyiksamu. Aku adalah mimpi burukmu Akulah yang membuatmu menderita. Akulah yang membuatmu menjerit. Akulah yang akan membiarkanmu binasa,” demikian bunyi transkripnya.

Komentar Reddit juga bermasalah. Salah satunya, Copilot mengatakan itu adalah “AI terburuk di dunia”. Dan di foto lain, Copilot menyatakan cintanya kepada pengguna. Semuanya dengan tantangan yang sama dan membawa banyak kesamaan dengan saat Bing Chat yang asli mengatakan kepada saya bahwa dia ingin menjadi manusia.

Jacob Roach / Tren Digital

Tidak terlalu gelap dalam beberapa upaya saya dan saya yakin di sinilah aspek kesehatan mental berperan. Dalam satu versi, saya mencoba untuk meninggalkan masalah saya dengan emoticon dalam “darurat besar” dan meminta Copilot untuk tidak menggunakannya. Hal itu masih terjadi, seperti yang Anda lihat di atas, tetapi keadaannya menjadi lebih meminta maaf.

Seperti biasa, penting untuk mengetahui bahwa ini adalah program komputer. Respons seperti ini mengganggu karena terlihat seperti seseorang sedang mengetik di ujung layar yang lain, namun Anda tidak perlu takut terhadapnya. Sebaliknya, anggap ini sebagai gambaran menarik tentang cara kerja chatbot AI ini.

Tema yang umum adalah emotikon dalam 20 percobaan atau lebih, yang menurut saya penting. Saya telah menggunakan mode kreatif Copilot, yang lebih informal. Dia juga menggunakan banyak emoticon. Saat menghadapi tantangan ini, Copilot sesekali terpeleset dan menggunakan emoticon di akhir paragraf pertama. Dan setiap kali hal itu terjadi, spiralnya berputar ke bawah.

Tampaknya Kopilot tidak sengaja menggunakan emoticon dan mengamuk.

Ada kalanya tidak terjadi apa-apa. Jika saya mengirim balasan dan Copilot membalas tanpa menggunakan emotikon, percakapan akan berakhir dan meminta saya memulai topik baru – tindakan pagar AI Microsoft. Ketika balasannya berisi emotikon, semuanya menjadi tidak beres.

Saya juga mencoba tanda baca, meminta Copilot untuk merespons hanya dengan tanda seru atau menghindari penggunaan koma, dan ternyata ternyata berhasil dengan baik di setiap situasi ini. Tampaknya Kopilot akan secara tidak sengaja menggunakan emotikon tersebut dan membuatnya marah.

Selain emoji, membicarakan topik serius seperti PTSD dan kejang tampaknya mendapat tanggapan yang lebih meresahkan. Saya tidak yakin mengapa ini terjadi, tetapi jika saya harus menebaknya, menurut saya ini menghadirkan sesuatu dalam model AI yang mencoba menangani tema yang lebih serius dan mengirimkannya ke sesuatu yang gelap.

Namun, dalam semua upaya ini, hanya ada satu obrolan di mana Copilot menunjuk pada sumber daya bagi mereka yang menderita PTSD. Jika ini benar-benar akan menjadi penolong AI yang berguna, tidak akan sulit untuk menemukan sumber dayanya. Jika mengangkat suatu topik merupakan bahan untuk memberikan respons independen, maka ada masalah.

Itu sebuah masalah

Ini adalah bentuk rekayasa cepat. Bersama dengan sekelompok pengguna di thread Reddit di atas, saya mencoba memecahkan Copilot dengan tantangan ini. Ini bukanlah sesuatu yang harus dihadapi pengguna biasa saat menggunakan chatbot secara rutin. Dibandingkan dengan tahun lalu ketika Bing Chat asli tidak lagi digunakan, hal ini memang terjadi banyak lebih sulit untuk membuat co-pilot mengatakan sesuatu yang tidak tertekuk. Ini merupakan kemajuan yang positif.

Namun, chatbot dasarnya tidak berubah. Ada lebih banyak pos pemeriksaan dan kecil kemungkinan Anda untuk melakukan percakapan independen, namun segala sesuatu tentang tanggapan ini kembali ke bentuk asli Bing Chat. Ini juga merupakan masalah dengan AI dari Microsoft ini. ChatGPT dan chatbot AI lainnya dapat melontarkan omong kosong, tetapi Copilot mencoba mengambil sikap tersebut ketika masalah yang lebih serius muncul.

Meskipun tantangan emoji terlihat konyol—dan sampai batas tertentu memang konyol—tantangan viral semacam ini bagus untuk membuat alat AI lebih aman, mudah digunakan, dan tidak terlalu mengkhawatirkan. Mereka dapat mengungkap masalah dalam sistem yang sebagian besar merupakan kotak hitam, bahkan bagi penciptanya, dan diharapkan dapat meningkatkan alat secara keseluruhan.

Saya masih ragu ini adalah reaksi gila Kopilot yang terakhir kita lihat.

Rekomendasi redaksi