Para ilmuwan merasa ngeri dengan tikus AI yang aneh

Memperbesar / Benar-benar tikus percobaan yang bias.

Keterkejutan dan penghinaan melanda media sosial para ilmuwan pada hari Kamis ketika sejumlah angka luar biasa buruk yang dihasilkan oleh kecerdasan buatan beredar dari makalah yang ditinjau oleh rekan sejawat yang baru-baru ini diterbitkan di jurnal terkenal. Angka-angka ini – yang penulis akui dalam teks artikel dibuat oleh Midjourney – semuanya tidak dapat ditafsirkan. Mereka berisi teks yang tidak masuk akal dan, yang paling terkenal, satu berisi gambar tikus dengan alat kelamin yang sangat besar dan aneh, serta label teks “dck”.

Perbesar / Gambar 1 dihasilkan oleh AI. Gambar ini dimaksudkan untuk menunjukkan sel induk spermatogonial yang diisolasi, dimurnikan, dan dikultur dari testis tikus. Pada hari Kamis, penerbit makalah ulasan, Frontiers, merilis sebuah “ekspresi keprihatinan” yang menyatakan bahwa mereka menyadari kekhawatiran terhadap makalah yang diterbitkan. . “Penyelidikan sedang berlangsung dan pemberitahuan ini akan diperbarui setelah penyelidikan selesai,” tulis penerbit tersebut.

Makalah yang dimaksud berjudul “Fungsi Seluler Sel Punca Spermatogonial dalam Kaitannya dengan Jalur Sinyal JAK/STAT,” dan ditulis oleh tiga peneliti di Tiongkok, termasuk penulis koresponden Dingjun Hao dari Rumah Sakit Xi’an Honghui. Hal ini diterbitkan secara online pada hari Selasa di jurnal Frontiers in Cell and Developmental Biology.

Frontiers tidak segera menanggapi permintaan komentar Ars, tetapi kami akan memperbarui postingan ini dengan tanggapan apa pun.

Karakter pertama dalam makalah tersebut, yang berisi tikus, langsung menarik perhatian ketika para ilmuwan mulai membagikan dan mengomentarinya secara luas di platform media sosial, termasuk Bluesky dan platform yang dulu dikenal sebagai Twitter. Dari kejauhan, gambaran anatominya jelas semuanya salah. Namun pengamatan lebih dekat hanya akan mengungkap lebih banyak kekurangan, termasuk label “disilced”, sel induk, “iollotte sserotgomar”, dan “dck”. Banyak peneliti menyatakan terkejut dan kecewa bahwa gambar buruk yang dihasilkan oleh AI bisa lolos begitu saja. -sistem audit dan proses internal apa pun yang ada di jurnal.Perbesar / Gambar 2 seharusnya merupakan diagram jalur pensinyalan JAK-STAT.

iklan

Namun kawanan tikus bukanlah satu-satunya masalah. Gambar 2 kurang grafis tetapi sama terdistorsinya. Meskipun ini dimaksudkan sebagai diagram jalur sinyal yang kompleks, namun justru berantakan. Salah satu pakar integritas ilmiah mempertanyakan apakah penjelasan tersebut memberikan penjelasan yang terlalu rumit tentang “cara membuat donat dengan taburan berwarna”. Seperti gambar pertama, diagram ini penuh dengan teks yang tidak masuk akal dan gambar yang membingungkan. Gambar 3 juga tidak lebih baik, menawarkan kolase gambar melingkar kecil yang diselingi omong kosong. Gambar ini dimaksudkan untuk memberikan representasi visual tentang bagaimana jalur sinyal pada Gambar 2 mengatur sifat biologis sel induk spermatogonial.

Beberapa peneliti online mempertanyakan apakah teks tersebut juga dibuat oleh AI. Seorang pengguna mencatat bahwa perangkat lunak pendeteksi AI menentukan bahwa hal itu kemungkinan besar dihasilkan oleh kecerdasan buatan; namun, seperti yang dilaporkan Ars sebelumnya, perangkat lunak tersebut tidak dapat diandalkan.

Memperbesar / Gambar 3 dimaksudkan untuk menunjukkan pengaturan sifat biologis sel induk spermatogonial melalui jalur pensinyalan JAK/STAT.

Gambar-gambar tersebut, meskipun merupakan contoh yang menakutkan, menyoroti masalah yang berkembang dalam penerbitan ilmiah. Keberhasilan para ilmuwan sangat bergantung pada catatan publikasi mereka, dengan volume publikasi yang besar, frekuensi publikasi, dan artikel yang muncul di jurnal-jurnal terkemuka, yang semuanya membawa prestise yang lebih besar bagi para ilmuwan. Sistem ini memberikan insentif kepada peneliti yang kurang teliti untuk menerbitkan artikel berkualitas rendah yang, di era chatbot AI, berpotensi dihasilkan oleh AI. Para peneliti khawatir bahwa meningkatnya penggunaan kecerdasan buatan akan mengurangi kredibilitas penelitian yang dipublikasikan. Oleh karena itu, jurnal penelitian baru-baru ini menetapkan pedoman kepenulisan baru untuk teks yang dihasilkan AI untuk mencoba mengatasi masalah ini. Namun untuk saat ini, seperti yang ditunjukkan dalam artikel Frontiers, jelas terdapat beberapa kesenjangan.