Seorang pakar kecerdasan buatan (AI) telah memperingatkan hal tersebut tidak ada bukti bahwa teknologi ini dapat dikendalikan – sehingga tidak boleh dikembangkan.
Dr Roman Yampolskiy melakukan tinjauan ekstensif terhadap perangkat lunak tersebut untuk mengetahui bagaimana perangkat lunak tersebut dapat membentuk kembali masyarakat, dan mengatakan bahwa hal tersebut tidak selalu menguntungkan kita.
“Kita menghadapi kejadian yang hampir pasti berpotensi menyebabkan bencana besar,” kata Dr Yampolskiy.
‘Tidak heran banyak orang menganggap hal ini sebagai masalah paling penting yang pernah dihadapi umat manusia. Dampaknya bisa berupa kemakmuran atau kepunahan, dan nasib alam semesta berada di ujung tanduk.’
Ia mengatakan kemampuan manusia untuk menghasilkan perangkat lunak cerdas jauh melebihi kemampuan kita mengendalikan AI – dan tidak ada sistem cerdas canggih yang dapat dikontrol sepenuhnya.
‘Mengapa begitu banyak peneliti berasumsi bahwa masalah pengendalian AI dapat dipecahkan?’ dia berkata. ‘Sejauh pengetahuan kami, tidak ada bukti mengenai hal itu, tidak ada bukti. Sebelum memulai upaya membangun AI yang terkendali, penting untuk menunjukkan bahwa masalahnya dapat diselesaikan.
“Hal ini, dikombinasikan dengan statistik yang menunjukkan bahwa pengembangan superintelligence AI hampir pasti terjadi, menunjukkan bahwa kita harus mendukung upaya keselamatan AI yang signifikan.”
Salah satu masalah yang dikemukakan oleh Dr Yampolskiy adalah, seiring dengan semakin cerdasnya AI, akan ada banyak sekali masalah keselamatan. Hal ini membuat mustahil untuk memprediksi semuanya, dan pagar pembatas yang ada mungkin tidak cukup.
Ia juga menambahkan bahwa AI tidak selalu dapat menjelaskan mengapa ia memutuskan sesuatu – atau manusia mungkin tidak selalu dapat memahami alasannya – yang mungkin membuat lebih sulit untuk memahami dan mencegah masalah di masa depan.
“Jika kita terbiasa menerima jawaban AI tanpa penjelasan, yang pada dasarnya memperlakukannya seperti sistem Oracle, kita tidak akan bisa mengetahui apakah AI mulai memberikan jawaban yang salah atau manipulatif,” kata Dr Yampolskiy, yang melakukan tinjauan untuk buku barunya , AI: Tidak dapat dijelaskan, Tidak dapat diprediksi, Tidak dapat dikendalikan.
Namun, salah satu elemen AI yang paling memprihatinkan adalah peningkatan otonominya. Ketika kemampuan AI untuk berpikir sendiri meningkat, kendali manusia terhadapnya menurun. Begitu juga dengan keselamatan.
‘Agen yang kurang cerdas – manusia – tidak dapat secara permanen mengendalikan agen yang lebih cerdas (ASI),’ kata Dr Yampolskiy. “Hal ini bukan karena kita mungkin gagal menemukan desain yang aman untuk kecerdasan super dalam semua kemungkinan desain yang ada, namun karena desain seperti itu tidak mungkin dilakukan, dan tidak ada.
‘Superintelligence bukan berarti memberontak, ia tidak dapat dikendalikan sejak awal.’
Untuk meminimalkan risiko dari AI, Dr Yampolskiy mengatakan pengguna harus menerima pengurangan kemampuan, dan AI harus memiliki opsi ‘undo’ bawaan dalam bahasa manusia yang mudah dipahami.
“Kemanusiaan sedang menghadapi sebuah pilihan,” katanya. ‘Apakah kita menjadi seperti bayi, diurus tetapi tidak bisa dikendalikan atau apakah kita menolak memiliki wali yang membantu namun tetap memegang kendali dan bebas?’
LEBIH: Seseorang mencoba menyelesaikan perang menggunakan AI tetapi hal itu tidak berakhir baik bagi umat manusia
LEBIH: Kecerdasan buatan menimbulkan ‘risiko kepunahan’, para ahli memperingatkan
LEBIH : Tidak, AI tidak akan memusnahkan umat manusia seperti di Terminator, kata Sir Tony Blair
Dapatkan berita terkini, cerita menyenangkan, analisis, dan banyak lagi yang perlu Anda ketahui
Situs ini dilindungi oleh reCAPTCHA dan Google Kebijakan pribadi Dan Ketentuan Layanan menerapkan.
