Situs web surat kabar kecil Iowa

Di waktu senggangnya, Tony Eastin gemar berkecimpung di pasar saham. Suatu hari di tahun lalu, dia mencari di Google sebuah perusahaan farmasi yang sepertinya merupakan investasi yang menjanjikan. Salah satu hasil pencarian pertama yang ditawarkan Google di tab beritanya terdaftar berasal dari Daftar Kabupaten Clayton, sebuah surat kabar di Iowa Timur Laut. Dia mengklik dan membaca. Ceritanya kacau dan tidak berisi informasi berguna – sama seperti semua postingan bertema keuangan lainnya yang memenuhi situs web yang sama sekali tidak ada hubungannya dengan Northeast Iowa. “Saya langsung tahu ada yang tidak beres,” katanya. Ada banyak sampah di Internet, tapi menurut Eastin hal ini aneh: Mengapa sebuah surat kabar kecil di Midwestern menghasilkan postingan blog yang buruk tentang investasi ritel?

Eastin siap menemukan misteri online yang tak tertahankan. Setelah bertahun-tahun di Angkatan Udara AS, di mana dia bekerja dalam kampanye perang psikologis, dia bergabung dengan Meta, di mana dia menyelidiki kekejaman mulai dari pelecehan anak hingga operasi pengaruh politik. Sekarang dia berada di sela-sela pekerjaannya, menyambut tugas baru. Jadi Eastin menghubungi Sandeep Abraham, teman dan mantan kolega Met yang sebelumnya bekerja di intelijen Angkatan Darat dan Badan Keamanan Nasional, dan menyarankan agar mereka mulai menggali.

Apa yang ditemukan oleh pasangan ini memberikan wawasan tentang bagaimana kecerdasan buatan generatif memungkinkan model bisnis baru yang menipu secara online. Jaringan situs web yang dipenuhi clickbait yang dihasilkan AI dibangun berdasarkan reputasi outlet media dan merek yang sudah mapan. Outlet ini berkembang dengan membingungkan dan menipu audiens dan pengiklan, dan dengan “menempatkan” domain pada URL yang dulunya milik organisasi yang lebih bereputasi. Situs web nyaman yang dimaksud Eastin bukan lagi milik surat kabar yang namanya masih diperdagangkan.

Meski Eastin dan Abraham mencurigai jaringan itu DaftarSitus lama yang sekarang menjadi bagian darinya dibuat dengan tujuan yang jelas untuk menghasilkan uang, mereka khawatir bahwa lebih banyak aktor jahat dapat menggunakan taktik yang sama untuk memasukkan informasi yang salah dan propaganda ke dalam hasil pencarian. “Ini sangat mengancam,” kata Abraham. “Kami ingin membunyikan bel peringatan. Untuk mencapai tujuan tersebut, keduanya menerbitkan laporan mengenai temuan mereka dan berencana untuk menerbitkan lebih banyak laporan saat mereka mendalami dunia AI clickbait, dengan harapan bahwa upaya di waktu luang mereka akan membantu meningkatkan kesadaran masyarakat atau anggota parlemen mengenai masalah ini.

Berita palsu

Itu Daftar Kabupaten Clayton didirikan pada tahun 1926 dan mencakup kota kecil Ekader, Iowa, dan Clayton County yang lebih luas, terletak di sepanjang Sungai Mississippi di sudut timur laut negara bagian itu. “Itu adalah makalah yang populer,” kata mantan co-editor Bryce Durbin, yang menggambarkan dirinya sebagai “muak” dengan apa yang sekarang diterbitkan di situs sebelumnya, claytoncountyregister.com. (Nyata Daftar Kabupaten Clayton bergabung pada tahun 2020 dengan Waktu Iowa Utara menjadi Waktu-Pendaftaran, yang diterbitkan di situs web lain. Tidak jelas bagaimana surat kabar tersebut kehilangan kendali atas domain webnya; Dan Waktu-Pendaftaran tidak membalas permintaan komentar.)

Seperti yang diketahui Eastin ketika dia mencoba meneliti stok obat-obatannya, situs tersebut masih menamakan dirinya Clayton County Register, namun tidak lagi menawarkan berita lokal dan malah menjadi pabrik berita keuangan. Ini menerbitkan apa yang tampak seperti artikel yang dihasilkan oleh AI tentang harga saham perusahaan-perusahaan kepentingan publik dan startup Web3, yang diilustrasikan dengan gambar yang tampaknya juga dihasilkan oleh AI.

“Tidak hanya artikel yang kami lihat dihasilkan oleh kecerdasan buatan, tetapi semua gambar di setiap artikel dibuat menggunakan model difusi,” kata Ben Colman, CEO startup Reality Defender, yang menganalisis beberapa artikel atas permintaan WIRED. . Selain konfirmasi ini, Abraham dan Eastin memperhatikan bahwa beberapa artikel berisi teks yang mengakui asal muasalnya. “Penting untuk dicatat bahwa informasi ini dihasilkan secara otomatis oleh Automated Insights,” kata beberapa artikel, meremehkan nama perusahaan yang menawarkan teknologi pembuatan bahasa.