Alat teks-ke-video baru OpenAI, Sora,

Alat kecerdasan buatan generatif lain yang mengganggu dari perusahaan di balik ChatGPT, yang diluncurkan pada hari Kamis, diperkirakan akan mempercepat penyebaran video palsu dan berdampak pada hampir semua industri.

Sora, sebuah aplikasi AI yang mengambil perintah tertulis dan mengubahnya menjadi video asli, sudah sangat kuat sehingga seorang pakar AI mengatakan hal itu “membuatnya takut”.

“Alat kecerdasan buatan generatif berkembang begitu cepat dan kita memiliki jaringan sosial – yang mengarah pada kelemahan demokrasi kita dan hal ini tidak mungkin terjadi pada saat yang lebih buruk,” Oren Etzioni, pendiri TruMedia.org, mengatakan kepada CBS MoneyWatch. Organisasi nirlaba yang berdedikasi untuk memerangi disinformasi berbasis kecerdasan buatan dalam kampanye politik ini berfokus pada mengidentifikasi media yang dimanipulasi, termasuk apa yang disebut video deepfake.

“Saat kami mencoba menyelesaikan masalah ini, kami sedang menghadapi salah satu pemilu paling konsisten dalam sejarah,” tambahnya, mengacu pada pemilu presiden tahun 2024.

Klik di sini untuk media terkait.

klik untuk memperluas

Pembuat Sora OpenAI membagikan demo model teks-ke-video di X, menjelaskan bahwa ia dapat langsung membuat video berdurasi 60 detik yang canggih “dengan adegan yang sangat detail, pergerakan kamera yang rumit, dan banyak karakter dengan emosi yang jelas.”

Alat ini belum tersedia untuk umum. Untuk saat ini, OpenAI telah membatasi penggunaannya hanya pada “tim merah” dan beberapa seniman visual, desainer, dan pembuat film untuk menguji produk dan memberikan masukan kepada perusahaan sebelum dirilis secara lebih luas.

Pakar keamanan akan mengevaluasi alat tersebut untuk memahami bagaimana alat tersebut berpotensi menghasilkan disinformasi dan konten kebencian, kata OpenAI.

Segera mendarat

Menurut Etzioni, yang meyakini penggunaan AI untuk kebaikan dan dengan adanya batasan, kemajuan teknologi tampaknya telah melampaui checks and balances dari alat-alat semacam ini.

“Kami mencoba membuat pesawat ini ketika kami menerbangkannya, dan pesawat itu akan mendarat pada bulan November atau lebih cepat lagi – dan kami tidak memiliki FAA, kami tidak memiliki sejarahnya, dan kami tidak memiliki peralatannya. untuk melakukan itu,” katanya.

Yang menghambat ketersediaan alat ini secara luas adalah perusahaan itu sendiri, kata Etzioni, seraya menambahkan bahwa dia yakin Sora atau teknologi serupa dari saingannya OpenAI akan dirilis dalam beberapa bulan mendatang.

Tentu saja, selain menjadi sasaran para selebritis, warga negara biasa pun juga bisa terkena penipuan palsu.

“DAN [Sora] membuatnya lebih mudah bagi pelaku kejahatan untuk menghasilkan video deepfake berkualitas tinggi dan memberi mereka lebih banyak fleksibilitas dalam membuat video yang dapat digunakan untuk tujuan ofensif,” kata Dr. CBS. Andrew Newell, Chief Scientific Officer di perusahaan verifikasi identitas, iProov. Jam Tangan Uang.

Hal ini memberikan tanggung jawab pada organisasi seperti bank untuk mengembangkan alat berbasis AI mereka sendiri untuk melindungi konsumen dari potensi ancaman.

Bank yang mengandalkan langkah-langkah keamanan otentikasi video adalah yang paling terkena dampaknya, tambahnya.

Membahayakan aktor, pencipta

Kemampuan alat ini sangat erat kaitannya dengan keterampilan pekerja dalam pembuatan konten, termasuk pembuatan film, media, dan lainnya.

“Aktor suara atau orang-orang yang membuat video pendek untuk video game, tujuan pendidikan, atau iklan akan langsung terkena dampaknya,” katanya.

“Bagi profesi seperti pemasaran atau kreatif, model multi-modal dapat menjadi pengubah permainan dan dapat memberikan penghematan biaya yang signifikan bagi produser film dan televisi, serta dapat berkontribusi pada penyebaran konten yang dihasilkan AI dibandingkan menggunakan aktor,” Reece Hayden , Analis Utama di ABI Research, sebuah perusahaan berita teknologi, mengatakan kepada CBS MoneyWatch.

Karena memudahkan siapa pun—bahkan mereka yang tidak memiliki keterampilan artistik—untuk membuat konten visual, Sora dapat mengizinkan pengguna mengembangkan media dengan gaya petualangan yang mereka pilih sendiri.

Bahkan pemain besar seperti Netflix dapat memungkinkan pengguna akhir mengembangkan konten mereka sendiri berdasarkan tantangan, kata Hayden.

Lebih lanjut dari Berita CBS

Megan Cerullo

Megan Cerullo adalah reporter CBS MoneyWatch yang berbasis di New York yang meliput bisnis kecil, tempat kerja, layanan kesehatan, belanja konsumen, dan keuangan pribadi. Dia muncul secara teratur di CBS News Streaming untuk mendiskusikan pelaporannya.