Pakar AI Beri Peringatan Terkait Era Mesin Pengganti Manusia

Ilmuwan komputer dan pionir kecerdasan buatan, Yoshua Bengio, mengingatkan kita tentang bahaya AI di masyarakat dan menekankan pentingnya meminimalkan risikonya. Sebagai seorang profesor di University of Montreal yang telah meraih banyak penghargaan atas karyanya dalam bidang AI dan deep learning, Bengio khawatir bahwa beberapa orang berkuasa ingin menggantikan peran manusia dengan mesin.

Mesin memiliki potensi untuk memiliki kemampuan kognitif manusia, bahkan melebihi kemampuan tersebut. Teknologi AGI (artificial general intelligence) bertujuan untuk menyamai atau bahkan melampaui kecerdasan manusia. “Kepintaran memberi kekuatan. Namun, siapa yang akan mengontrol kekuatan tersebut? Memiliki sistem yang lebih cerdas dari kebanyakan orang bisa berbahaya jika jatuh ke tangan yang salah dan menciptakan ketidakstabilan di level geopolitik, seperti terorisme,” ujar Bengio.

Menurutnya, sejumlah organisasi dan pemerintah memiliki kemampuan untuk membiayai pembuatan mesin AI yang kuat, dan semakin besar sistemnya, semakin pintar pula mesin tersebut. “Mesin-mesin ini memiliki harga yang mencapai miliaran, dan hanya sedikit organisasi dan negara yang mampu melakukannya. Hal ini sudah terjadi,” tambah Bengio.

“Konsentrasi kekuatan akan terjadi, baik dalam kekuatan ekonomi yang dapat merugikan pasar, kekuatan politik yang dapat merugikan demokrasi, maupun kekuatan militer yang dapat merugikan stabilitas geopolitik planet. Oleh karena itu, ada banyak pertanyaan yang perlu kita pelajari dengan seksama dan mulai atasi sesegera mungkin,” paparnya.

Meskipun kejadian ini mungkin baru akan muncul dalam beberapa dekade mendatang, tidak menutup kemungkinan bahwa hal tersebut dapat terjadi dalam waktu yang lebih singkat. “Selain itu, ada orang-orang yang mungkin ingin menyalahgunakan kekuatan AI ini, atau bahkan senang melihat manusia digantikan oleh mesin. Mereka dapat memiliki kekuatan yang besar, kecuali kita memasang pembatas yang tepat sekarang,” ungkapnya.

Bengio juga mendukung surat terbuka yang diterbitkan pada bulan Juni berjudul ‘A right to warn about advanced artificial intelligence’. Surat tersebut mengingatkan akan risiko serius dari kemajuan AI. “Langkah pertama yang harus diambil pemerintah adalah membuat regulasi yang mengharuskan perusahaan untuk mendaftar ketika mereka mengembangkan sistem AI yang canggih,” kata Bengio.

Karena perkembangan AI begitu cepat, pemerintah juga harus kreatif dalam membuat undang-undang yang dapat beradaptasi dengan perubahan teknologi. Perusahaan yang mengembangkan AI juga harus bertanggung jawab atas tindakan mereka, termasuk menerima sanksi jika terjadi masalah.

Dengan demikian, kita perlu waspada terhadap perkembangan AI yang begitu pesat ini, serta memastikan bahwa kekuatan yang dimilikinya dapat dikendalikan dan digunakan dengan bijaksana demi kebaikan bersama.