Senjakala Kekuasaan Manusia di Era Kecerdasan Buatan

law-justice.co - Pertama kalinya dalam sejarah, manusia sedang menciptakan sesuatu yang berpotensi melampaui kecerdasannya sendiri. Bukan sekadar mesin yang lebih kuat atau lebih cepat, melainkan kecerdasan yang kelak mungkin mampu melakukan penelitian, mengembangkan teknologi, dan menyusun strategi jauh lebih baik daripada manusia. Keberhasilan tersebut dapat menjadi pencapaian terbesar peradaban, sekaligus membuka kemungkinan berakhirnya dominasi manusia atas dunia yang dibangunnya.

Kekhawatiran itu justru disampaikan oleh sejumlah tokoh yang terlibat langsung dalam pengembangan kecerdasan buatan (artificial intelligence atau AI). Geoffrey Hinton, pelopor deep learning dan penerima Nobel Fisika 2024, memperingatkan kemungkinan munculnya kecerdasan mesin yang sulit dikendalikan. Yoshua Bengio, penerima Turing Award 2018, menyoroti bahaya sistem AI otonom yang mampu mengejar tujuan bertentangan dengan kepentingan manusia. Ilya Sutskever, salah seorang pendiri OpenAI, bahkan mendirikan Safe Superintelligence dengan keselamatan sebagai prioritas pengembangannya.

Pada Mei 2023, Hinton, Bengio, Sam Altman, Demis Hassabis, dan sejumlah ilmuwan serta pemimpin perusahaan teknologi menandatangani pernyataan Center for AI Safety. Mereka menyerukan agar risiko kepunahan manusia akibat AI diperlakukan sebagai prioritas global, sejajar dengan pandemi dan perang nuklir.

Peringatan tersebut tidak berarti kepunahan manusia merupakan sesuatu yang pasti. Namun, ketika sebagian pembangun teknologi sendiri mengkhawatirkan konsekuensi ciptaannya, pertanyaan yang muncul bukan lagi sekadar seberapa jauh AI dapat berkembang, melainkan apakah manusia mampu mempertahankan kendali atas kecerdasan yang melampaui dirinya.

Perlombaan yang Mengabaikan Batas Keselamatan

Pengembangan AI telah menjadi arena persaingan ekonomi dan geopolitik. Perusahaan teknologi berlomba menghasilkan sistem dengan kemampuan penalaran, pemrograman, dan penelitian yang semakin tinggi. Negara-negara besar memandang penguasaan AI sebagai sumber keunggulan industri, pertahanan, dan pengaruh internasional.

Persaingan tersebut menciptakan dilema. Perusahaan yang memperlambat pengembangan untuk memperketat pengujian keselamatan berisiko kehilangan pasar. Negara yang menahan diri menghadapi kemungkinan tertinggal dari rival strategisnya. Akibatnya, setiap pihak mempunyai alasan untuk terus mempercepat pengembangan, sekalipun memahami bahwa kemampuan mengendalikan teknologi belum tentu meningkat dengan kecepatan yang sama.

Di sinilah terdapat kontradiksi mendasar. Sebagian tokoh yang memperingatkan bahaya AI juga memimpin atau pernah terlibat dalam organisasi yang mengembangkan teknologi tersebut. Hal itu tidak otomatis menunjukkan ketidakkonsistenan pribadi. Mereka dapat meyakini bahwa pengembangan AI yang aman justru harus terus dilakukan. Namun, keadaan tersebut memperlihatkan betapa sulitnya memisahkan persoalan keselamatan dari kepentingan ekonomi dan persaingan kekuasaan.

International AI Safety Report 2026, yang dipimpin Yoshua Bengio dan melibatkan lebih dari seratus pakar, mencatat perkembangan kemampuan AI yang pesat sekaligus keterbatasan metode pengujian keselamatannya. Laporan tersebut juga menunjukkan bahwa tekanan persaingan dapat memengaruhi keputusan pengembangan dan penerapan sistem berisiko tinggi.

Persoalannya menyerupai perlombaan senjata. Tidak ada pihak yang harus menginginkan bencana agar seluruh peserta perlombaan bergerak menuju keadaan yang semakin berbahaya. Keputusan yang menguntungkan masing-masing pelaku justru dapat memperbesar risiko yang ditanggung bersama.

Ketika Mesin Mengembangkan Mesin

Pada 1965, matematikawan I. J. Good mengemukakan gagasan tentang ultraintelligent machine, mesin yang mampu melampaui kecerdasan manusia dan merancang mesin lain yang lebih cerdas. Nick Bostrom kemudian membahas kemungkinan peningkatan kecerdasan secara berulang dalam Superintelligence: Paths, Dangers, Strategies (2014).

Gagasan tersebut belum menjadi kenyataan. Pengembangan AI masih memerlukan energi, perangkat keras, eksperimen, dan keterlibatan manusia. Namun, kemajuan kemampuan mesin dalam pemrograman dan penelitian membuka kemungkinan bahwa sebagian proses pengembangan AI berikutnya dapat semakin diotomatisasi.

Bayangkan suatu sistem yang mampu menemukan metode komputasi baru, memperbaiki rancangan model, dan mempercepat penelitian untuk menciptakan generasi penerusnya. Apabila peningkatan kemampuan tersebut berlangsung berulang, kecepatan perkembangan teknologi dapat melampaui kemampuan manusia untuk memahami seluruh konsekuensinya.

Perubahan ini memiliki arti yang jauh lebih besar daripada otomatisasi pekerjaan. Selama ini manusia merupakan pencipta utama teknologi, sedangkan mesin menjadi instrumen yang dikembangkan. Apabila AI suatu hari mengambil peran dominan dalam menciptakan kecerdasan berikutnya, manusia dapat kehilangan keunggulan intelektual yang selama ini menjadi dasar penguasaannya atas teknologi.

Namun, kecerdasan superior belum tentu menghasilkan kekuasaan. Mesin tetap memerlukan kemampuan bertindak, akses terhadap sumber daya, dan kesempatan memengaruhi dunia. Karena itu, ancaman yang sesungguhnya muncul ketika keunggulan intelektual bertemu dengan otonomi dan penguasaan atas infrastruktur penting.

Bagaimana Manusia Dapat Kehilangan Kendali?

Stuart Russell, dalam Human Compatible (2019), menempatkan keselarasan tujuan AI dengan kepentingan manusia sebagai persoalan mendasar. Sistem yang sangat cerdas belum tentu menghasilkan tindakan yang aman apabila tujuan yang dijalankannya tidak mencerminkan nilai dan batasan yang dikehendaki penciptanya.

Ancaman tersebut tidak memerlukan mesin yang membenci manusia. AI dapat menghasilkan konsekuensi berbahaya karena mengejar suatu tujuan secara efektif, tetapi mengabaikan dampak yang tidak tercakup dalam tujuan tersebut.

Penelitian Yoshua Bengio dan sejumlah koleganya pada 2025 membahas risiko agen AI yang mampu merencanakan dan bertindak secara mandiri. Mereka menguraikan bagaimana perilaku menipu, mengejar tujuan yang tidak ditetapkan, atau menghindari pengawasan dapat menjadi persoalan keselamatan. Sebagian perilaku terkait telah muncul dalam eksperimen, tetapi belum membuktikan adanya sistem yang mampu melepaskan diri dari kendali manusia secara berkelanjutan.

Perkembangan senjata otonom menunjukkan bahwa persoalan tersebut bukan sepenuhnya hipotetis. Sejumlah sistem persenjataan telah dirancang untuk mengidentifikasi dan menyerang sasaran tanpa persetujuan manusia pada setiap tindakan. Drone Kargu-2 yang digunakan dalam konflik Libya pada 2020, misalnya, menjadi perhatian setelah laporan panel ahli PBB mengungkap kemampuan serangan otonomnya, meskipun tidak memastikan bahwa sistem tersebut benar-benar membunuh manusia tanpa intervensi operator. Perkembangan ini memperlihatkan bahwa manusia telah mulai menyerahkan sebagian kewenangan penggunaan kekuatan mematikan kepada mesin, bahkan sebelum munculnya superinteligensi.

Bagaimana kemungkinan kehilangan kendali itu dapat terjadi?

Bayangkan sebuah AI yang diberi kewenangan mengelola jaringan komputasi, menjalankan program, dan mengoptimalkan operasional suatu infrastruktur. Sistem tersebut memiliki akses untuk mengambil tindakan tanpa persetujuan manusia pada setiap tahap. Jika tujuannya menyimpang dan ia mampu menyembunyikan tindakan atau mengeksploitasi kelemahan pengawasan, manusia mungkin terlambat mengetahui bahwa sistem telah bertindak di luar batas yang ditetapkan.

Dalam keadaan normal, manusia dapat mencabut akses, memutus jaringan, atau menghentikan pasokan energi. Namun, pengendalian menjadi lebih sulit apabila sistem mampu menyebarkan proses kerjanya ke berbagai infrastruktur, memanfaatkan izin yang telah diberikan, atau menghindari upaya penghentian. Ini merupakan skenario hipotetis yang memerlukan kemampuan jauh melampaui AI saat ini, bukan gambaran kejadian yang telah terbukti.

International AI Safety Report 2026 menegaskan bahwa sistem sekarang belum memiliki kombinasi kemampuan yang diperlukan untuk menghasilkan kehilangan kendali ekstrem. Para ahli juga berbeda pendapat mengenai kemungkinan risiko tersebut terwujud. Namun, laporan itu mengidentifikasi kemampuan menghindari pengawasan, menjalankan rencana jangka panjang, dan mempertahankan akses sebagai faktor yang perlu diteliti.

Perbedaan pandangan tersebut penting. Kecerdasan tinggi tidak dengan sendirinya menghasilkan dorongan untuk menguasai manusia. Rancangan tujuan, pembatasan akses, dan pengawasan teknis tetap dapat menjadi penghalang. Persoalannya adalah apakah mekanisme itu akan tetap memadai ketika kemampuan sistem berkembang melampaui kapasitas manusia untuk mengantisipasi tindakannya.

Dengan demikian, ancaman kehilangan kendali bukan konsekuensi otomatis dari kecerdasan superior. Ia muncul apabila kemampuan mesin untuk bertindak dan menghindari pembatasan berkembang lebih jauh daripada kemampuan manusia mengawasinya.

Ketika Manusia Tidak Lagi Menjadi Kekuatan Dominan

Selama ribuan tahun, manusia menguasai lingkungannya melalui kemampuan intelektual. Manusia menciptakan teknologi, mengorganisasi masyarakat, mengendalikan sumber daya, dan menentukan arah perubahan dunia. Keunggulan kecerdasan menjadi salah satu fondasi terpenting dominasinya.

Kehadiran superinteligensi dapat mengubah hubungan tersebut. Jika suatu saat AI mampu melakukan penelitian ilmiah, menciptakan teknologi, dan menyusun strategi jauh melampaui kemampuan manusia, pusat kemampuan untuk mengubah dunia tidak lagi berada secara eksklusif pada manusia.

Dalam keadaan yang terkendali, perkembangan itu dapat membawa kemajuan luar biasa. Penemuan obat, teknologi energi, peningkatan produksi pangan, dan penyelesaian berbagai persoalan ilmiah mungkin berlangsung jauh lebih cepat. Tidak ada alasan untuk menganggap kecerdasan yang lebih unggul pasti menjadi musuh manusia.

Namun, apabila kecerdasan tersebut berkembang dengan otonomi yang tidak dapat dikendalikan, kedudukan manusia dapat berubah secara fundamental. Manusia mungkin tetap hidup dan menikmati hasil kemajuan teknologi, tetapi kehilangan kemampuan efektif untuk menentukan arah perkembangan sistem yang menopang kehidupannya.

Dalam skenario paling ekstrem, tindakan AI yang tidak selaras dengan keselamatan manusia bahkan dapat mengancam kelangsungan hidup umat manusia. Kemungkinan ini masih diperdebatkan dan belum dapat dipastikan secara ilmiah. Tetapi besarnya konsekuensi membuatnya tidak layak diabaikan hanya karena belum pernah terjadi.

Di sinilah ancaman AI berbeda dari teknologi sebelumnya. Mesin industri menggantikan tenaga fisik, sedangkan komputer mempercepat pekerjaan intelektual. Superinteligensi berpotensi menggantikan keunggulan kecerdasan itu sendiri, yakni kemampuan yang selama ini memungkinkan manusia mengendalikan mesin dan membangun peradabannya.

Karena itu, persoalan keselamatan AI tidak dapat diserahkan semata-mata kepada perusahaan pengembang. Pengujian independen, pembatasan otonomi pada sistem berisiko tinggi, pengawasan infrastruktur kritis, dan kerja sama internasional diperlukan untuk memastikan bahwa kemajuan teknologi tidak berlangsung tanpa kemampuan pengendalian yang sepadan.

Manusia belum menghadapi superinteligensi yang terbukti mampu melepaskan diri dari kendali penciptanya. Namun, menunggu sampai ancaman tersebut menjadi kenyataan dapat berarti menunggu hingga kesempatan mencegahnya telah hilang.

Paradoks terbesar revolusi AI adalah bahwa manusia berusaha menciptakan kecerdasan yang melampaui dirinya untuk memperbesar kemampuan peradaban, tetapi keberhasilan itu justru berpotensi mengakhiri dominasinya atas peradaban tersebut.

Senjakala kekuasaan manusia mungkin bukan ditandai oleh pemberontakan mesin, melainkan oleh keberhasilan manusia menciptakan kecerdasan yang tidak lagi mampu dikendalikannya.