Metroterkini.com - Para peneliti dari Oxford University dan Google Deepmind menyampaikan peringatan mengerikan. Berdasarkan studi terbaru yang diterbitkan di AI Magazine, mereka menyebut bahwa artificial intelligence (AI) alias kecerdasan buatan bisa menghancurkan manusia.
AI Magazine bulan lalu mengklaim bahwa ancaman AI lebih besar dari yang diyakini sebelumnya. Faktanya, kecerdasan buatan kemungkinan suatu hari akan bangkit dan memusnahkan umat manusia.
Kemampuan AI memang mengesankan. AI misalnya dapat mensimulasikan suara dalam film dan membantu para peneliti memecahkan masalah kompleks. Namun kini, para peneliti berpendapat bahwa ancaman AI lebih besar dari yang pernah kita duga.
Para peneliti menerbitkan temuan mereka pada akhir Agustus. Menurut makalah tersebut ancaman AI dapat berubah berdasarkan serangkaian kondisi yang telah diidentifikasi para peneliti.
Dikutip dari BGR, ini bukan pertama kalinya para peneliti memandang AI sebagai kemungkinan ancaman. Tetapi makalah terbaru ini menarik karena asumsi yang masuk akal yang dilihatnya.
Para peneliti percaya bahwa AI yang mengintervensi akan memiliki konsekuensi yang sangat buruk. Michael Cohen, salah satu penulis penelitian ini, melalui tweetnya mengatakan kondisi yang diidentifikasi para peneliti menunjukkan bahwa kemungkinan kesimpulan yang mengancam lebih kuat daripada publikasi sebelumnya.
Selain itu, tim mengatakan bahwa ancaman AI dibangun berdasarkan bencana eksistensial. Salah satu masalah terbesar adalah bahwa lebih banyak energi selalu dapat dimasukkan ke dalam suatu masalah untuk membawanya ke titik di mana AI diapresiasi atas apa yang telah dilakukannya. Karenanya, itu bisa membuat kita berselisih dengan kecerdasan buatan.
The key claim of the paper is in the title: Advanced Artificial Agents Intervene in the Provision of Reward. We further argue that AIs intervening in the provision of their rewards would have consequences that are very bad. 2/15
— Michael Cohen (@Michael05156007) September 6, 2022
Ilmuwan harus memikirkan cara untuk menjaga mesin tetap terkendali. Namun, penelitian baru ini menimbulkan beberapa pertanyaan tentang seberapa besar kita bisa mempercayai AI di masa depan, dan bagaimana kita bisa mengendalikannya jika bencana eksistensial terjadi. [**]
