Baca Juga: Oknum Anggota DPRD Luwu Utara Ditangkap Atas Dugaan Terlibat Perjudian Sabung Ayam
Bagaimana AGI masa depan bisa mengancam umat manusia?
Meskipun tidak jelas kapan atau apakah AGI akan muncul, dapatkah kita memprediksi ancaman apa yang mungkin ditimbulkannya bagi kita manusia?
AGI belajar dari pengalaman dan data, bukan secara eksplisit diberitahu apa yang harus dilakukan.
Artinya, ketika dihadapkan pada situasi baru yang belum pernah terlihat sebelumnya, kita mungkin tidak dapat sepenuhnya memprediksi bagaimana reaksinya.
Baca Juga: Sidang Isbat Akan Digelar Secara Tertutup, Hilal akan Dipantau di 86 Titik
Dr Roman Yampolskiy, ilmuwan komputer dari Universitas Louisville juga percaya bahwa tidak ada versi pengendalian manusia atas AI yang dapat dicapai karena tidak mungkin AI menjadi otonom dan dikendalikan oleh manusia. Tidak bisa mengendalikan sistem super cerdas bisa menjadi bencana.
Yingxu Wang, profesor Ilmu Perangkat Lunak dan Otak dari Universitas Calgary juga tidak setuju, mengatakan bahwa sistem dan produk AI yang dirancang secara profesional dibatasi dengan baik oleh lapisan dasar sistem operasi untuk melindungi kepentingan dan kesejahteraan pengguna, yang tidak dapat diakses atau dimodifikasi oleh mesin cerdas itu sendiri.
Dr O'Brien menambahkan "seperti halnya sistem rekayasa lainnya, apa pun dengan konsekuensi yang berpotensi berbahaya akan diuji secara menyeluruh dan memiliki beberapa pemeriksaan keamanan yang berlebihan."
Bisakah AI yang kita gunakan saat ini menjadi ancaman?