KETIKA Dr Sean Ekins pindah ke Amerika untuk melanjutkan penelitiannya di bidang pengobatan yang menyelamatkan nyawa, dia tidak pernah menyangka akan bertemu langsung dengan Presiden.
Farmakolog kelahiran Cleethorpes dan kolaboratornya mengungkapkan dalam film dokumenter Netflix baru bagaimana ia bekerja tanpa lelah untuk memanfaatkan teknologi AI yang menemukan molekul tidak beracun untuk menyembuhkan penyakit.
4
Namun ketika dia diminta untuk memberikan pidato kepada para ahli tentang bahaya AI – sebuah tes sederhana yang dia rancang untuk menunjukkan kemampuannya ternyata salah, dan dia dipanggil ke Gedung Putih.
Dalam semalam, mesin yang seharusnya menyelamatkan nyawanya menghasilkan ide untuk membuat 40.000 senjata kimia, banyak di antaranya lebih mematikan daripada VX dan Novichok yang mematikan.
Agen saraf yang mematikan tersebut terutama digunakan untuk membunuh kepala polisi Malaysia Kim Jong-Nam dan Sergei serta Yulia Skripal di Salisbury pada tahun 2018.
Dan yang harus dilakukan Sean dan kolaboratornya Dr Fabio Urbina hanyalah – alih-alih meminta mesin menemukan molekul yang sembuh penyakit – minta AI untuk menemukan molekul yang paling beracun.
Pakar toksikologi komputasi mengungkapkan dalam film dokumenter Netflix baru Unknown: Killer Robots: “Ada sisi gelap AI yang tidak pernah terpikir akan saya alami.
“Saya diundang untuk memberikan presentasi mengenai potensi penyalahgunaan AI. Saya hanya ingin menyampaikan pesan ‘Dapatkah teknologi AI merancang molekul mematikan?’.
“Kami meminta mesin untuk, alih-alih menjauhi toksisitas, malah menuju toksisitas, dan itu saja. Kami pikir itu akan gagal.
“Komputer melakukan tugasnya, menghasilkan ribuan molekul, dan kita tidak perlu melakukan apa pun selain hanya menekan ‘pergi’.
“Rambut di belakang leher saya benar-benar berdiri ketika saya melihat hasilnya. Saya terpesona. Komputer menghasilkan puluhan ribu ide untuk senjata kimia baru.
“Sebagian besar molekul ini diperkirakan lebih mematikan daripada VX. Kami membuka Kotak Pandora.
“Saat kami melakukan eksperimen ini, saya berpikir, ‘Hal terburuk apa yang mungkin terjadi?’ Tapi sekarang saya seperti, ‘Kami naif’.
“Hal yang membuat saya takut adalah siapa pun bisa melakukan apa yang kami lakukan. Yang diperlukan hanyalah menekan tombol.”
Meskipun ada bahaya, Dr Sean dan laboratorium penelitiannya terus mempresentasikan temuan mereka dalam presentasi bersama para ahli AI sebelum merilis penelitian mereka ke publik di jurnal online.
Meskipun detail molekulnya disembunyikan, Sean dan timnya ingin “memperingatkan dunia” dan “mengurangi penyalahgunaan AI” untuk membuat senjata kimia.
Sebelum mereka menyadarinya, ratusan ribu orang telah membaca bahwa eksperimen mereka salah—dan beberapa minggu kemudian, mereka mendapat telepon dari Gedung Putih.
Sean menambahkan: “Konsekuensi yang diharapkan dari melakukan eksperimen sederhana itu terlalu jauh.
“Saya diundang ke Gedung Putih. Mereka mengajukan pertanyaan tentang seberapa besar daya komputasi yang kami butuhkan, kami memberi tahu mereka bahwa itu tidak istimewa, standar Apple Mac yang berusia enam tahun.
“Itu mengejutkan mereka. Orang-orang yang mengubah pemahaman tentang perang kimia dan lembaga pemerintah, mereka tidak mengetahui potensi ini.
“Kami diberi buku masak ini untuk membuat senjata kimia, dan jika berada di tangan orang jahat yang berniat jahat, hal ini akan sangat mengerikan.”
Pakar molekuler ini memperingatkan bahwa jaringan saraf seperti AI dapat menimbulkan risiko terhadap kehidupan – jika kita tidak bertindak sekarang untuk mengontrol dan memantau bagaimana AI digunakan.
“AI adalah pedang bermata dua,” lanjut ilmuwan Inggris itu. “Teknologi bisa digunakan untuk kebaikan, dan untuk itulah kita akan memanfaatkannya, namun begitu saja, teknologi menjadi sesuatu yang bisa mematikan.
“Masyarakat perlu duduk dan mendengarkan – potensi kematian, ini menakutkan.
“Jika kita tidak bertindak sekarang, maka sudah terlambat. Mungkin sudah terlambat.”
Dr Sean hanyalah salah satu ilmuwan yang memperingatkan bahaya besar yang ditimbulkan AI terhadap dunia peperangan dalam film dokumenter Netflix baru, yang dirilis hari ini di situs streaming.
Emilia Javorsky, direktur Future of Life Institute – sebuah organisasi nirlaba yang bekerja dengannya untuk menghentikan risiko bencana yang ditimbulkan oleh penggunaan kecerdasan buatan.
“Jika tidak digunakan dengan bijak, hal ini akan menimbulkan risiko bagi setiap orang di planet ini,” Emilia setuju.
“Dengan AI, kami pada dasarnya menciptakan kecerdasan non-manusia yang sangat tidak dapat diprediksi. Ini juga menjadi semakin kuat – jadi di manakah garis merah yang akan kita gambar tentang bagaimana kita akan menggunakannya?
“Inilah saatnya kita harus bertindak, karena peluang yang kita miliki untuk membatasi risiko ini akan segera ditutup.
“Setelah jin keluar dari botol, ia pun keluar – dan sangat sulit untuk mengembalikannya.”
Tidak Diketahui: Robot Pembunuh tersedia untuk streaming di Netflix hari ini
4
4