Ini bisa dianggap sebagai serangan AI dalam skala besar.
Sebuah makalah ilmiah yang dimaksudkan untuk menunjukkan jalur sinyal sel induk sperma telah mendapat cemoohan luas setelah menggambarkan seekor hewan pengerat dengan pelengkap anatomi lakrimal dan empat testis raksasa.
Makhluk berlabel “tikus” itu juga duduk tegak seperti tupai, sementara gambarnya dipenuhi kata-kata tidak masuk akal seperti “dissilced”, “testtomcels”, dan “senctolic”.
Potongan gambar menunjukkan “sel buritan” di cawan Petri diambil dengan sendok.
Itu muncul di jurnal Frontiers in Cell and Development Biology minggu ini, bersama dengan beberapa grafik absurd lainnya yang dibuat oleh alat AI Midjourney.
Mereka menyertakan diagram warna-warni dari jalur pensinyalan HOW-STAT, yang oleh para ahli disamakan dengan “tingkat gila Candy Crush” dan dikatakan tidak didasarkan pada “biologi apa pun yang diketahui”.
Makalah tersebut, yang ditulis oleh para peneliti di Rumah Sakit Honghui di Tiongkok, telah ditarik kembali oleh jurnal tersebut, yang meminta maaf dan mengatakan pihaknya sedang berupaya untuk “memperbaiki catatan tersebut”.
Bahaya penelitian palsu
Namun, beberapa ilmuwan telah menyatakan keprihatinannya atas cara publikasi tersebut, dan memperingatkan bahwa hal tersebut merupakan era berbahaya bagi para peneliti yang memalsukan penelitian mereka dengan AI.
Adrian Liston, profesor patologi di Universitas Cambridge dan editor jurnal Immunology & Cell Biology, mengatakan: “AI generatif sangat baik dalam menciptakan sesuatu yang terdengar seperti berasal dari manusia. Itu tidak memeriksa apakah hal-hal ini benar.
“Ini seperti seorang aktor yang berperan sebagai dokter di sebuah acara TV – mereka terlihat seperti seorang dokter, mereka terdengar seperti seorang dokter, mereka bahkan menggunakan kata-kata yang biasa digunakan oleh seorang dokter. Namun Anda tentu tidak menginginkan nasihat medis dari seorang aktor.
“Karakter BAGAIMANA menurut saya lebih buruk dari karakter tikus. Yang ada hanyalah hubungan dan garis yang tidak masuk akal yang tidak berhubungan dengan biologi yang diketahui.”
Dia menambahkan: “Masalah majalah nyata menjadi lebih sulit karena AI generatif membuat cheat lebih mudah.
“Dulu sangat jelas untuk memberitahukan kertas curang pada pandangan pertama. Hal ini menjadi semakin sulit, dan banyak orang di bidang penerbitan sains sangat khawatir bahwa kita akan mencapai titik kritis di mana kita tidak dapat menentukan secara manual apakah sebuah artikel asli atau palsu.”
Pakar lain melalui media sosial menggambarkan gambar tersebut sebagai “benar-benar memalukan” dan “menghancurkan”, sementara beberapa mengatakan mereka tidak tahu “apakah harus tertawa atau menangis”.
Profesor John Tregoning dari Imperial College London mengatakan gambar itu “secara obyektif lucu” tetapi “tidak mendapat tempat di jurnal ilmiah”.
Tawa yang bagus
Dr. Menulis untuk Science Integrity Digest, Elisabeth Bik, ahli mikrobiologi Belanda yang memantau manipulasi dalam makalah ilmiah, berkata: “Tentu saja kita bisa tertawa melihat angka-angka ini dan bertanya-tanya bagaimana mungkin editor dan dua peer reviewer ini tidak memahaminya. .
“Tetapi artikel tersebut sebenarnya adalah contoh menyedihkan tentang betapa naifnya jurnal ilmiah, editor, dan pengulas ketika menerima dan menerbitkan omong kosong yang dihasilkan oleh AI.
“Angka-angka ini jelas tidak benar secara ilmiah, namun jika ilustrasi yang salah tersebut dapat dengan mudah lolos tinjauan sejawat, maka angka-angka yang dihasilkan AI yang tampak lebih realistis mungkin telah menyusup ke literatur ilmiah.”
Dr. Bik telah mengidentifikasi lebih dari 1.000 dokumen yang berisi gambar palsu, yang sebagian besar menurutnya dibuat oleh AI.
Perusahaan sedang mencoba mengembangkan perangkat lunak yang dapat mendeteksi konten yang dihasilkan AI dan mungkin akan diberi watermark di masa mendatang, namun saat ini tidak ada cara untuk mengenalinya kecuali jika konten tersebut benar-benar salah.
Juru bicara Frontiers in Cell and Development Biology mengatakan: “Kami berterima kasih kepada para pembaca atas kecermatan mereka terhadap artikel kami: ketika kami salah, dinamika crowdsourcing ilmu pengetahuan terbuka berarti bahwa masukan dari komunitas membantu kami memperbaiki catatan dengan cepat.”
The Telegraph telah menghubungi penulis untuk memberikan komentar.
+ There are no comments
Add yours