Jurnal ilmiah akses terbuka, Perbatasan dalam Biologi Sel dan Perkembangansecara terbuka dikritik dan diejek oleh para peneliti di media sosial minggu ini setelah mereka menyadari bahwa publikasi tersebut baru-baru ini menerbitkan sebuah artikel yang berisi gambar dengan deskripsi dan diagram yang tidak masuk akal dari testis dan sperma mamalia yang secara anatomi salah, yang menunjukkan tanda-tanda telah dibuat oleh generator gambar AI .
Kami berterima kasih kepada para pembaca atas ulasan mereka terhadap artikel kami: ketika kami melakukan kesalahan, dinamika crowdsourcing ilmu pengetahuan terbuka berarti bahwa masukan dari komunitas membantu kami memperbaiki catatan dengan cepat.
— Frontiers (@FrontiersIn) 15 Februari 2024
Publikasi tersebut kemudian menanggapi salah satu kritiknya di jejaring sosial X, dengan memposting dari akun terverifikasinya: “Kami berterima kasih kepada pembaca atas ulasan mereka terhadap artikel kami: ketika kami melakukan kesalahan, dinamika crowdsourcing ilmu pengetahuan terbuka berarti bahwa masukan dari komunitas membantu kami memperbaiki catatan dengan cepat.” Ia juga menghapus artikel berjudul “Fungsi seluler sel induk spermatogonial dalam kaitannya dengan jalur pensinyalan JAK/STAT” dari situs webnya dan mengeluarkan pemberitahuan penarikan yang berisi:
“Setelah dipublikasikan, ada kekhawatiran tentang sifat angka yang dihasilkan AI. Artikel ini tidak memenuhi standar editorial dan ketelitian ilmiah Frontiers in Cell and Development Biology; oleh karena itu artikel tersebut ditarik.
Unduhan ini telah disetujui oleh Pemimpin Redaksi Frontiers. Frontiers berterima kasih kepada pembaca yang peduli yang menghubungi kami tentang artikel yang diterbitkan.“
acara VB
Tur Dampak AI – NYC
Pada tanggal 29 Februari, kami akan berada di New York bekerja sama dengan Microsoft untuk membahas cara menyeimbangkan risiko dan manfaat aplikasi AI. Minta undangan ke acara eksklusif di bawah ini.
Minta undangan
Kata-kata yang salah eja dan ilustrasi yang salah secara anatomi
Namun, VentureBeat memperoleh salinannya dan menerbitkan ulang artikel asli di bawah ini untuk menjaga catatan publiknya.
Seperti yang Anda lihat di dalamnya, berisi beberapa grafik dan ilustrasi yang digambar dengan gaya ilmiah yang jelas dan penuh warna, namun jika Anda memperbesarnya, terdapat banyak kata yang salah eja dan huruf yang salah bentuk, seperti “protemns” dan bukannya “protein” , dan sebuah kata ditulis sebagai “zxpens” .
Mungkin yang paling bermasalah adalah gambar “tikus” (dieja dengan benar) yang muncul pertama kali di koran, menunjukkan pertumbuhan besar-besaran di area selangkangan.
Ditembak di X
Tak lama setelah makalah tersebut diterbitkan pada 13 Februari 2024, para peneliti menghubungi X untuk meneleponnya dan menanyakan bagaimana dia bisa lolos melalui peer review.
Itu akhirnya terjadi. Artikel jurnal yang ditinjau oleh rekan sejawat dengan gambar yang tampaknya tidak masuk akal yang dihasilkan oleh kecerdasan buatan. Itu berbahaya. pic.twitter.com/Ez54H6l7iZ
—?Kareem Carr | ahli statistik? (@kareem_carr) 15 Februari 2024
Makalah ini ditulis oleh Xinyu Guo dan Dingjun Hao dari Departemen Bedah Tulang Belakang, Rumah Sakit Hong Hui, Universitas Xi’an Jiaotong; serta Liang Dong dari Departemen Bedah Tulang Belakang di Rumah Sakit Xi’an Honghui di Xi’an, Tiongkok.
Telah ditinjau oleh Binsila B. Krishnan dari National Institute of Animal Nutrition and Physiology (ICAR), India, dan Jingbo Dai dari Northwestern Medicine, Amerika Serikat, dan diedit oleh Arumugam Kumaresan dari National Dairy Research Institute (ICAR), India.
VentureBeat menghubungi semua penulis dan editor artikel tersebut, serta Amanda Gay Fisher, editor senior jurnal dan profesor biokimia di Universitas Oxford yang bergengsi di Inggris, untuk mengajukan pertanyaan tambahan tentang bagaimana artikel tersebut diterbitkan. dan akan diperbarui saat kami mendengarnya.
Khawatir akan implikasi yang lebih luas terhadap dampak AI terhadap sains, penelitian, dan kedokteran
Beberapa penciptanya, termasuk Google dengan prediktor struktur protein AlphaFold dan ilmu material AI GNoME, baru-baru ini dipuji oleh pers (termasuk VentureBeat) karena menemukan 2 juta material baru, mempromosikan AI sebagai alat yang berharga untuk memajukan penelitian dan penemuan ilmiah. .
Namun alat-alat tersebut difokuskan pada sisi penelitian. Perihal publikasi Yang jelas dari penelitian ini adalah bahwa generator gambar AI dapat menimbulkan ancaman besar terhadap keakuratan ilmiah, terutama jika peneliti menggunakannya tanpa pandang bulu untuk mengambil jalan pintas dan menerbitkannya dengan lebih cepat, atau karena mereka jahat atau sekadar tidak peduli.
Peralihan ke penggunaan kecerdasan buatan untuk membuat ilustrasi atau diagram ilmiah mengkhawatirkan karena hal ini melemahkan akurasi dan kepercayaan diri komunitas ilmiah dan masyarakat luas yang bekerja di bidang penting yang memengaruhi kehidupan dan kesehatan kita – seperti kedokteran dan biologi – akurat dan aman. dan diverifikasi.
Namun hal ini mungkin juga merupakan hasil dari iklim terbitkan atau musnah yang lebih luas yang muncul dalam sains selama beberapa dekade terakhir, di mana para peneliti telah mengkonfirmasi bahwa mereka merasa perlu untuk menghasilkan makalah yang nilainya kecil untuk menunjukkan bahwa mereka melakukan hal yang sama. sebuah kontribusi. sesuatu, apa punke dalam bidangnya dan meningkatkan jumlah kutipan yang diatribusikan kepada mereka oleh orang lain dan mengisi resume mereka dengan pekerjaan di masa depan.
Namun jujur saja – beberapa peneliti dalam artikel ini bekerja pada bedah tulang belakang di rumah sakit manusia: apakah Anda akan memercayai mereka untuk mengoperasi tulang belakang Anda atau membantu kesehatan punggung Anda?
Dan dengan lebih dari 114.000 kutipan pada judulnya, majalah Perbatasan dalam Biologi Sel dan Perkembangan kini integritas setiap orang dipertanyakan karena kesalahan ini: berapa banyak makalah lain yang ia terbitkan memiliki diagram bergambar AI yang lolos dari proses peninjauan?
heran, Perbatasan dalam Biologi Sel dan Perkembangan merupakan bagian dari yang lebih luas Berbatasan sebuah perusahaan yang terdiri lebih dari 230 publikasi ilmiah berbeda yang didirikan pada tahun 2007 oleh ahli saraf Kamila Markram dan Henry Markram, yang sebelumnya masih terdaftar sebagai CEO.
Perusahaan menyebutnya “visi [is] untuk menjadikan sains terbuka, ditinjau oleh rekan sejawat, ketat, transparan, dan efisien, serta memanfaatkan kekuatan teknologi untuk benar-benar melayani kebutuhan para peneliti,” dan faktanya beberapa teknologi yang ia gunakan adalah AI untuk tinjauan sejawat.
Sebagai Berbatasan dinyatakan dalam siaran pers tahun 2020:
“Pertama di industri, kecerdasan buatan (AI) dikerahkan untuk membantu merevisi makalah penelitian dan membantu proses tinjauan sejawat. Asisten Peninjau Kecerdasan Buatan (AIRA) yang canggih, yang dikembangkan oleh penerbit akses terbuka Frontiers, membantu editor, pengulas, dan penulis menilai kualitas naskah. AIRA membaca setiap artikel dan saat ini dapat membuat hingga 20 rekomendasi dalam hitungan detik, termasuk menilai kualitas bahasa, integritas gambar, mendeteksi plagiarisme serta mengidentifikasi potensi konflik kepentingan.“
Situs web perusahaan menyatakan bahwa AIRA memulai debutnya pada tahun 2018 sebagai “Generasi baru tinjauan sejawat di mana kecerdasan buatan dan pembelajaran mesin memungkinkan kontrol kualitas yang lebih ketat dan efektivitas tinjauan sejawat.”
Dan musim panas lalu, sebuah artikel dan video dengan Mirjam Eckert, direktur penerbitan di perusahaan tersebut Berbatasanmenyatakan:
“Di Frontiers, kami menggunakan kecerdasan buatan untuk membantu membangun kepercayaan tersebut. Asisten Peninjau Kecerdasan Buatan (AIRA) kami memverifikasi bahwa pengetahuan ilmiah disajikan secara akurat dan adil sebelum staf kami memutuskan apakah akan meninjau, menyetujui, atau menerbitkan makalah penelitian yang memuatnya.
AIRA membaca setiap naskah penelitian yang kami terima dan melakukan hingga 20 pemeriksaan per detik. Pemeriksaan ini antara lain mencakup kualitas bahasa, integritas gambar dan gambar, plagiarisme, dan konflik kepentingan. Hasilnya memberikan perspektif berbeda kepada editor dan pengulas ketika memutuskan apakah akan mengirimkan makalah penelitian ke tinjauan sejawat kami yang ketat dan transparan.“
Berbatasan dia juga menerima liputan yang baik dari asisten peninjau makalah AI AIRA dalam publikasi terkenal seperti Waktu New York Dan Waktu keuangan.
Jelas sekali, alat tersebut tidak dapat secara efektif menangkap gambar-gambar tidak masuk akal ini dalam artikel, sehingga artikel tersebut ditarik (jika memang digunakan). Namun hal ini juga menimbulkan pertanyaan tentang kemampuan alat AI untuk mendeteksi, menandai, dan pada akhirnya menghentikan publikasi informasi ilmiah yang tidak akurat—dan semakin meningkatnya prevalensi penggunaannya pada penelitian. Berbatasan dan di tempat lain dalam ekosistem penerbitan. Mungkin itulah bahayanya berada di “tepian” pergerakan teknologi baru seperti kecerdasan buatan – risiko melakukan kesalahan lebih tinggi dibandingkan pendekatan yang “teruji dan benar”, yang hanya dilakukan oleh manusia atau pendekatan analog.
VentureBeat juga mengandalkan alat kecerdasan buatan untuk menghasilkan gambar dan beberapa teks, tetapi semua artikel ditinjau oleh jurnalis manusia sebelum dipublikasikan. VentureBeat tidak menggunakan kecerdasan buatan untuk menulis, melaporkan, mengilustrasikan, atau menerbitkan artikel ini.
Misi VentureBeat ini dimaksudkan untuk menjadi lapangan digital untuk pengambilan keputusan teknis di mana mereka memperoleh pengetahuan tentang teknologi dan transaksi bisnis yang transformatif. Temukan briefing kami.
+ There are no comments
Add yours