Risiko ChatGPT meningkat di OpenAI

Seorang wanita Florida mengajukan gugatan terhadap OpenAI di pengadilan California pada hari Selasa, menyerukan penghentian pengembangan kecerdasan buatan perusahaan AI karena berbagai ancaman, seperti pengembangan “slaughterbots” besar-besaran – agen militer otonom yang didedikasikan untuk kehancuran manusia. pelanggaran privasi dan ancaman meluasnya pornografi palsu, dan sejumlah masalah lainnya.

Gugatan tersebut, yang merangkum banyak argumen dari “aktivis keamanan” — orang-orang yang percaya bahwa laju pengembangan AI bergerak terlalu cepat untuk dapat diterapkan dengan benar — menyerukan pembekuan pengembangan AI oleh OpenAI dan perusahaan lain sehingga risikonya tidak dapat diimplementasikan dengan baik. teknologi dapat diperhitungkan dengan baik melalui penerapannya.

“Pengamanan teknologi harus ditambahkan pada produk untuk mencegah teknologi melampaui kecerdasan manusia dan merugikan orang lain,” argumen pengacara penggugat dalam gugatannya.

Sebagian besar gugatan tersebut merangkum pengembangan OpenAI dan chatbot ChatGPT andalannya. Salah satu kritik yang dia soroti adalah peralihan perusahaan dari model nirlaba pada tahun 2015 menjadi entitas ambisius senilai hampir $30 miliar yang diperkirakan menghasilkan pendapatan $1 miliar pada akhir tahun 2024.

“Transformasi 180 derajat OpenAI – dari organisasi nirlaba terbuka untuk kepentingan umat manusia menjadi mesin keuntungan korporat tertutup yang didorong oleh keserakahan dan kekuatan pasar” “telah menimbulkan keheranan karena sifatnya yang belum pernah terjadi sebelumnya serta pertanyaan moral dan hukum yang ditimbulkannya,” tuntutan tersebut berpendapat. Pengacara juga mengutip investasi Microsoft sebesar $10 miliar di perusahaan tersebut sebagai bukti perubahan misi yang cepat.

“OpenAI memprioritaskan keuntungan finansial jangka pendek dibandingkan keamanan jangka panjang dan pertimbangan etis,” argumen para pengacara.

Peringatan akan monopoli perusahaan atas teknologi transformatif, gugatan tersebut khawatir bahwa integrasi cepat teknologi ke dalam rangkaian produk sehari-hari akan menyebabkan pelanggaran privasi secara besar-besaran, karena alat tersebut menyedot banyak data sensitif yang mungkin tidak disadari oleh pengguna. menyerah. .

Untuk mengatasi hal ini, tuntutan tersebut menyerukan “transparansi”, “akuntabilitas” dan “kontrol”.

“OpenAI harus membuka ‘kotak hitam’,” bantah para pengacara, sambil mengungkapkan semua data yang dikumpulkan alat mereka, serta cara penyimpanan dan penggunaannya.

“Pengembang ChatGPT dan produk AI lainnya harus bertanggung jawab atas tindakan produknya,” kata para pengacara tersebut, seraya menambahkan bahwa penerapan komersial lebih lanjut dari produk AI harus ditangguhkan sampai produk AI dapat dikembangkan untuk mematuhi kode “seperti manusia adalah etika.” prinsip-prinsip dan pedoman serta penghormatan terhadap nilai-nilai dan hak asasi manusia,” dan hanya setelah penggugat dan anggota gugatan kelompok lainnya diberi kompensasi atas data yang dicuri yang menjadi dasar pelatihan alat AI.

Pengacara juga menyerukan agar pengguna diizinkan untuk tidak ikut serta dalam pengumpulan data dan agar OpenAI menghapus (atau memberikan kompensasi) kepada pengguna atas data yang “diperoleh dengan buruk” atau algoritma apa pun yang dibangun berdasarkan data tersebut.

“Sebelum penerapan komersial lebih lanjut, perlindungan teknologi harus ditambahkan pada produk untuk mencegah teknologi melampaui kecerdasan manusia dan merugikan orang lain.”

Pengacara penggugat mengatakan AI menimbulkan “ancaman unik terhadap keamanan internasional dan hak asasi manusia melalui pengembangan senjata otonom yang dikenal sebagai ‘Slaughterbots,'” yang mereka gambarkan sebagai “sistem senjata yang menggunakan kecerdasan buatan untuk mengidentifikasi target manusia yang dipilih dan membunuh tanpa intervensi. ” dan perilaku OpenAI memperburuk ancaman ini.

Laporan terbaru mengungkapkan bahwa Israel mungkin telah menggunakan AI untuk memilih target di Gaza, sehingga meningkatkan kekhawatiran lebih lanjut tentang teknologi yang masuk ke medan perang.

Gary Marcus, profesor emeritus psikologi dan ilmu saraf di NYU – dan sering menjadi komentator publik dan kritikus hype AI – mengatakan The Daily Dot menyatakan bahwa setelah melakukan peninjauan singkat, mereka menemukan bahwa setelan tersebut “up-to-date dan dipikirkan dengan matang” dan bahwa hal tersebut “menimbulkan tantangan penting bagi praktik bisnis OpenAI.” Akan menarik untuk melihat apa yang terjadi dengan hal itu.”

Namun peringatan berlebihan mengenai risiko kehancuran akibat teknologi ini belum tentu menjadi fokus atau fokus perdebatan.

“Dorongan menuju… transparansi, akuntabilitas[, and control] ini sangat penting.”

Gugatan tersebut hanyalah salah satu dari sekian banyak tuntutan yang dihadapi OpenAI saat ini, meskipun itu adalah satu-satunya yang secara langsung merujuk pada robot pembantai.

*Pertama kali diterbitkan: 28 Februari 2024, 15.55 CST