Denny menuturkan, pesan dalam surat terbuka itu sangat tegas.

Mereka meminta jeda enam bulan atau moratorium agar jangan dulu mengembangkan teknologi lanjutan baru.

Namun, harus terlebih dulu dibuatkan kriteria dan filter security untuk menyeleksi program AI agar pengembangannya tidak membahayakan manusia.

Menurut Ketua Umum Perkumpulan Penulis Indonesia Satupena ini mengatakan, pengembangan AI sudah berjalan terlalu cepat. Akselerasi cepat ini segera melahirkan kecerdasan umum buatan atau artificial general intelligence (AGI).

“Pada titik itulah, AI tumbuh melompat, meningkatkan kemampuan dirinya sendiri, tanpa perlu campur tangan manusia lagi,” ujarnya.

Denny menyebutkan, contoh paling nyata dari kecanggihan AI adalah sebuah aplikasi bernama AlphaZero.

Aplikasi ini dapat bermain catur lebih baik daripada manusia terbaik atau pemain catur AI lainnya. AlphaZero hanya perlu waktu sembilan jam sejak pertama kali dihidupkan untuk sampai pada kemampuan itu. Hanya 9 jam!

“Apa yang terjadi jika AI superhuman ini tak hanya hebat soal permainan catur, tapi AI itu juga hebat untuk mengatur ruang publik manusia dengan semua kemungkinan buruknya? Dapat dikiaskan, Artificial Intelligence ini dapat tumbuh menjadi Malin Kundang jenis baru,” ungkap Denny JA.

Pendiri Lingkar Survei Indonesia (LSI) ini menjelaskan, dalam tradisi Sumatera Barat, kisah Malin Kundang sangat terkenal. Sejak kecil, Malin Kundang dirawat dan disayang oleh ibu yang melahirkannya.

Lalu, Malin Kundang berlayar ke negeri seberang dan tumbuh dewasa serta perkasa. Ketika kembali ke kampung halaman, Malin Kundang durhaka dan melukai ibunya.

“Akankah Artificial Intelligence mengalami kisah serupa? Setelah ia sampai ke tahap kecerdasan yang melampaui manusia, ia durhaka dan melukai manusia yang dulu melahirkan dan merawatnya,” ujarnya.

Meski akan terus menjadi perdebatan sengit dengan pro dan kontranya, topik itu menjadi satu isu lukisan yang menggunakan Artificial Intelligence dengan mengambil latar suasana Minang. Yakni seorang ibu memakai jilbab sebagaimana layaknya umumnya ibu di Sumatera Barat yang begitu merawat dan mencintai anak kecilnya.

Dalam lukisan itu, anak kecil itu yang melukiskan Malin Kundang berbentuk robot Artificial Intelligence.

Dia begitu lucu dan menyenangkan ketika masih kecil dan belum berdaya. Namun, lukisan itu tak menyatakan ketika tumbuh dewasa, AI akan otomatis durhaka seperti Malin Kundang.