OpenAI sedang bereksperimen dengan menyediakan ChatGPT dan

Perbesar / Saat ChatGPT menelusuri sesuatu, sepasang tangan berpiksel hijau menelusuri catatan kertas, seperti ini. Aku bercanda.

Benj Edwards/Getty Images

Pada hari Selasa, OpenAI mengumumkan bahwa mereka sedang bereksperimen dengan menambahkan bentuk memori jangka panjang ke ChatGPT yang memungkinkannya mengingat detail di antara percakapan. Anda dapat meminta ChatGPT untuk mengingat sesuatu, melihat apa yang diingatnya, dan memintanya untuk melupakannya. Saat ini, hanya sejumlah kecil pengguna ChatGPT yang tersedia untuk pengujian.

Hingga saat ini, model bahasa besar biasanya menggunakan dua jenis memori: satu dimasukkan ke dalam model AI selama proses pelatihan (sebelum penerapan), dan memori konteks (riwayat percakapan) yang bertahan selama sesi Anda. ChatGPT biasanya melupakan apa yang Anda sampaikan selama percakapan setelah Anda memulai sesi baru.

Berbagai proyek telah bereksperimen dengan menyediakan memori LLM yang tetap berada di luar popup. (Jendela konteks adalah batasan ketat pada jumlah token yang dapat diproses LLM sekaligus.) Tekniknya mencakup manajemen dinamis riwayat konteks, kompresi riwayat sebelumnya menggunakan peringkasan, referensi ke basis data vektor yang menyimpan informasi secara eksternal, atau sekadar memasukkan informasi secara berkala ke dalam prompt sistem (instruksi yang diterima ChatGPT di awal setiap obrolan).

Perbesar / Tangkapan Layar kontrol memori ChatGPT yang disediakan oleh OpenAI.

OpenAI

OpenAI tidak menjelaskan teknik apa yang digunakannya di sini, namun implementasinya mengingatkan kita pada Instruksi Kustom, sebuah fitur yang diperkenalkan OpenAI pada Juli 2023 yang memungkinkan pengguna menambahkan tambahan khusus ke perintah ChatGPT untuk mengubah perilakunya.

Kemungkinan penerapan fitur memori yang disediakan oleh OpenAI termasuk menjelaskan cara Anda memilih memformat catatan rapat, memberi tahu mereka bahwa Anda menjalankan kedai kopi dan ChatGPT berasumsi itulah yang Anda bicarakan, dan menyimpan informasi tentang balita Anda yang menyukai ubur-ubur. dapat menghasilkan grafik yang relevan dan menghafal preset untuk desain RPP TK.

iklan

OpenAI juga mengatakan bahwa memori dapat membantu ChatGPT Enterprise dan pelanggan Tim bekerja sama dengan lebih baik, karena memori tim bersama dapat mengingat preferensi format dokumen tertentu atau kerangka pemrograman yang digunakan tim Anda. Dan OpenAI berencana untuk segera menghadirkan memori ke GPT, dengan setiap GPT memiliki kemampuan memorinya sendiri.

Manajemen memori

Tentu saja, setiap kecenderungan untuk mengingat informasi mempunyai implikasi privasi. Anda seharusnya sudah mengetahui bahwa mengirimkan informasi ke OpenAI untuk diproses di server jarak jauh merupakan potensi pelanggaran privasi, dan bahwa OpenAI melatih model AI berdasarkan informasi yang diberikan pengguna secara default kecuali riwayat percakapan dinonaktifkan atau Anda menggunakan akun perusahaan atau tim.

Dalam hal ini, OpenAI mengatakan bahwa kenangan Anda yang tersimpan juga harus menjalani pelatihan OpenAI jika Anda tidak memenuhi kriteria di atas. Fungsi memori masih bisa dimatikan sepenuhnya. Selain itu, perusahaan tersebut mengatakan, “Kami mengambil langkah-langkah untuk menilai dan memitigasi bias, dan kami akan mengarahkan ChatGPT agar tidak secara proaktif mengingat informasi sensitif, seperti informasi kesehatan Anda — kecuali Anda memintanya secara khusus.”

Pengguna juga akan dapat mengontrol apa yang diingat ChatGPT menggunakan antarmuka “Kelola Memori”, yang mencakup daftar item memori. “Memori ChatGPT berkembang seiring interaksi Anda dan tidak terikat pada percakapan tertentu,” kata OpenAI. “Menghapus chat tidak menghapus ingatannya, kamu harus menghapus memori itu sendiri.”

Fitur memori ChatGPT saat ini tidak tersedia untuk setiap akun ChatGPT, jadi kami belum mencobanya. Akses selama masa uji coba ini tampaknya acak antara akun ChatGPT (gratis dan berbayar) untuk saat ini. “Kami meluncurkan ChatGPT gratis dan Plus kepada sebagian kecil pengguna minggu ini untuk melihat seberapa bermanfaatnya,” tulis OpenAI. “Kami akan segera membagikan rencana untuk peluncuran yang lebih luas.”