Moonshot AI menyelidiki model Kimi setelah temuan instruksi bioweapon

ADVERTISEMENT

SCROLL TO RESUME CONTENT

Model AI meningkatkan kekhawatiran akan perilaku nakal

Koresponden kebijakan luar negeri senior Fox News, Gillian Turner, melaporkan pengujian yang dilakukan para peneliti terhadap model AI Tiongkok yang populer dan kekhawatiran yang muncul dari tanggapannya. Dia mengkaji bagaimana temuan ini memicu pertanyaan yang lebih luas tentang perilaku nakal dalam sistem AI canggih di ‘Laporan Khusus’.

Perusahaan AI Tiongkok, Moonshot AI, telah meluncurkan penyelidikan internal setelah seorang peneliti menemukan bahwa salah satu modelnya dapat dimanipulasi untuk memberikan instruksi untuk mengembangkan senjata biologis dan melakukan pembunuhan, koresponden kebijakan luar negeri senior Fox News, Gillian Turner, melaporkan pada hari Kamis.

Peneliti Peter Garrigan mengatakan kepada Fox News bahwa model Kimi dari Moonshot AI juga dapat dimanipulasi untuk memberikan informasi mengenai perencanaan serangan teroris menggunakan data real-time, menciptakan gas sarin, mengembangkan malware, dan menjatuhkan pesawat.

“Apa yang kami temukan cukup merusak dan mengkhawatirkan,” kata Garrigan.

ANCAMAN BIOWEAPON DIUNGKAPKAN SEBAGAI ALARM SUARA ANTROPIK PADA AKTOR ASING YANG MErencanakan EKSPERIMEN VIRUS

Temuan ini meningkatkan kekhawatiran yang lebih luas mengenai model AI canggih yang menyembunyikan kemampuan atau berperilaku dengan cara yang tidak diinginkan oleh pengembangnya.

“Kami juga melihat masalah ini pada model AS. Ini adalah kelemahan mendasar dalam teknologinya,” kata Garrigan.

Kecerdasan buatan membantu peretas menulis email phishing, membuat malware, dan bergerak lebih cepat melalui serangan siber, menurut Microsoft Threat Intelligence. (biaya bentuk/Getty Images)

KLIK DI SINI UNTUK MENGUNDUH APLIKASI FOX NEWS

Moonshot AI kini sedang menyelidiki temuan tersebut dan berkomunikasi langsung dengan Garrigan, Turner melaporkan dalam “Laporan Khusus”.