Jakarta –
Ilmuwan komputer dan pionir kecerdasan buatan atau AI, Yoshua Bengio, memperingatkan bahaya AI di masyarakat dan meminta risikonya diminimalisir. Bengio, profesor di University of Montreal, telah memenangkan banyak penghargaan untuk pekerjaannya di bidang AI dan deep learning.
Ia khawatir sebagian orang yang berkuasa ingin menggantikan manusia dengan mesin. Mesin berpotensi untuk memiliki banyak kemampuan kognitif manusia. Teknologi AGI (artificial general intelligence) bertujuan untuk menyamai atau melampaui intelektualitas manusia.
“Kepintaran memberi kekuatan. Jadi siapa yang akan mengontrol kekuatan itu? Punya sistem yang tahu lebih banyak dari kebanyakan orang bisa berbahaya di tangan yang salah dan menciptakan lebih banyak ketidakstabilan di level geopolitik, contohnya terorisme,” cetusnya.
Menurutnya, sejumlah organisasi dan pemerintah akan mampu membiayai pembuatan mesin AI yang kuat dan semakin besar sistemnya, semakin pintar jadinya. “Mesin-mesin itu harganya miliaran dan sangat sedikit organisasi dan negara bisa melakukannya. Itu sudah terjadi,” lanjut Bengio yang dikutip detikINET dari CNBC.
“Akan ada konsentrasi kekuatan, yaitu kekuatan ekonomi yang dapat berdampak buruk bagi pasar, kekuatan politik yang dapat berdampak buruk bagi demokrasi, dan kekuatan militer, yang dapat berdampak buruk bagi stabilitas geopolitik planet. Jadi, banyak pertanyaan terbuka yang perlu kita pelajari dengan saksama dan mulai atasi sesegera mungkin,” paparnya.
Kejadian itu mungkin muncul dalam beberapa dekade, tapi tak menutup kemungkinan tak lama lagi. “Selain itu, ada orang yang mungkin ingin menyalahgunakannya dan ada yang mungkin senang melihat manusia diganti mesin. Orang ini dapat memiliki banyak kekuatan dan bisa melakukannya kecuali kita memasang pembatas yang tepat sekarang,” katanya.
Bengio mendukung surat terbuka pada bulan Juni berjudul ‘A right to warn about advanced artificial intelligence’. Surat itu memperingatkan risiko serius kemajuan AI. “Hal pertama yang perlu dilakukan pemerintah adalah punya peraturan yang memaksa perusahaan mendaftar ketika mereka membangun sistem perintis ini,” kata Bengio.
Karena AI berkembang sangat cepat, pemerintah juga harus sedikit kreatif dan membuat undang-undang yang dapat beradaptasi dengan perubahan teknologi. Perusahaan yang mengembangkan AI juga harus bertanggung jawab atas tindakan mereka, termasuk kena sanksi jika terjadi masalah.
(fyk/fay)
