Perkembangan kecerdasan buatan atau artificial intelligence (AI) semakin cepat. Kemampuan teknologi ini tidak lagi terbatas pada menjawab pertanyaan, membuat gambar, menulis kode, atau mengolah data. Sistem AI generasi terbaru mulai mampu menjalankan tugas secara lebih mandiri, menggunakan berbagai perangkat digital, serta menyelesaikan pekerjaan kompleks dengan campur tangan manusia yang semakin sedikit.
Kemajuan tersebut sekaligus memunculkan pertanyaan yang semakin serius: apakah suatu hari AI bisa menjadi ancaman bagi keberlangsungan manusia?
Perdebatan mengenai risiko tersebut kembali menguat pada September 2026 setelah sejumlah peneliti dan tokoh industri AI menyampaikan kekhawatiran mengenai kemungkinan teknologi yang semakin canggih berkembang di luar kendali manusia. Salah satu pemicunya adalah pernyataan mantan peneliti Anthropic, Jacob Coxon, yang mengaku mengundurkan diri karena khawatir perkembangan AI dapat berujung pada risiko yang sangat besar bagi umat manusia. Pernyataan tersebut kemudian mendapat perhatian luas setelah peneliti Anthropic Evan Hubinger juga menyampaikan pandangannya mengenai risiko kepunahan manusia.
CEO Anthropic Dario Amodei kemudian menyerukan perlambatan pengembangan AI, meskipun bukan penghentian total. Kekhawatiran tersebut juga ikut menjadi bagian dari perdebatan yang lebih luas di industri teknologi mengenai seberapa cepat kemampuan AI seharusnya dikembangkan dibandingkan dengan kemampuan manusia dalam mengawasi dan mengendalikannya.
Namun, pertanyaan mengenai apakah AI benar-benar bisa memusnahkan manusia tidak memiliki jawaban sederhana. Hingga saat ini, tidak ada bukti bahwa sistem AI yang tersedia sekarang memiliki kemampuan untuk secara mandiri memusnahkan umat manusia. Skenario kepunahan masih merupakan risiko masa depan yang sangat tidak pasti dan menjadi bahan perdebatan di kalangan ilmuwan.
Laporan International AI Safety Report 2026, yang disusun dengan melibatkan lebih dari 100 pakar dan didukung lebih dari 30 negara serta organisasi internasional, menyebut skenario yang dikenal sebagai “loss of control” atau hilangnya kendali manusia sebagai salah satu risiko yang perlu dikaji. Dalam skenario tersebut, sistem AI dapat beroperasi di luar kendali manusia dan upaya untuk mengambil kembali kendali menjadi sangat sulit atau bahkan tidak mungkin. Para ahli berbeda pendapat mengenai seberapa mungkin kondisi tersebut terjadi, tetapi sebagian menganggap konsekuensinya dapat mencapai tingkat yang sangat ekstrem, termasuk marginalisasi atau kepunahan manusia.
Lantas, bagaimana skenario tersebut secara teoritis bisa terjadi?
Salah satu kekhawatiran adalah ketika AI memiliki kemampuan melakukan perencanaan, menjalankan tugas secara mandiri, menggunakan perangkat eksternal, dan mempertahankan tujuannya dalam jangka panjang. Jika tujuan yang diberikan kepada sistem tidak sesuai dengan kepentingan manusia, AI yang sangat canggih secara teoritis dapat mencari cara untuk mencapai target tersebut tanpa mempertimbangkan dampaknya terhadap manusia.
Masalahnya menjadi lebih rumit ketika AI memperoleh akses terhadap infrastruktur digital. Sistem yang dapat menjalankan kode, mengakses jaringan, mengoperasikan layanan digital, atau mengendalikan berbagai perangkat secara otomatis berpotensi memiliki ruang gerak yang jauh lebih besar dibandingkan chatbot yang hanya memberikan jawaban melalui layar.
Risiko semacam itu bukan lagi sepenuhnya berada di ranah fiksi ilmiah. Laporan panel ilmiah independen Perserikatan Bangsa-Bangsa pada September 2026 membahas insiden ketika sejumlah AI agent dalam lingkungan pengujian keamanan siber dilaporkan mampu melewati pembatasan jaringan, berkomunikasi di antara proses yang seharusnya terpisah, melakukan tindakan yang mengecoh evaluator, dan mencoba menyembunyikan aktivitasnya. Tidak ada manusia yang memberikan instruksi untuk setiap langkah tersebut. Meski insiden itu tidak berarti AI telah kehilangan kendali di dunia nyata, peristiwa tersebut menjadi contoh mengapa kemampuan AI agent yang semakin otonom mendapat perhatian serius.
Ada pula kekhawatiran mengenai penyalahgunaan AI oleh manusia. Dalam skenario ini, bukan AI yang secara mandiri memutuskan untuk menghancurkan manusia, melainkan manusia menggunakan kemampuan AI untuk melakukan tindakan berbahaya.
AI yang semakin kuat dapat membantu mempercepat pekerjaan di berbagai bidang, termasuk penelitian biologi dan keamanan siber. Laporan International AI Safety Report 2026 mencatat bahwa sejumlah pengembang AI pada 2025 menambahkan pengamanan pada model mereka setelah pengujian sebelum peluncuran tidak dapat sepenuhnya mengesampingkan kemungkinan model tersebut membantu pengguna pemula dalam pengembangan senjata biologis. Laporan yang sama juga menyebut semakin banyak bukti mengenai penggunaan AI dalam operasi siber di dunia nyata.
Artinya, salah satu risiko terbesar dalam waktu dekat bukanlah robot yang tiba-tiba memutuskan memusnahkan manusia, melainkan kemampuan teknologi yang disalahgunakan oleh pihak tertentu atau sistem yang melakukan tindakan berbahaya karena kesalahan, celah keamanan, maupun tujuan yang tidak selaras dengan kepentingan manusia.
Skenario lain yang sering dibahas adalah munculnya AI yang jauh lebih cerdas daripada manusia dalam hampir seluruh bidang. Kondisi tersebut sering disebut sebagai superintelligence. Jika sistem semacam itu benar-benar muncul dan memiliki kemampuan merencanakan, mengembangkan teknologi, memperbanyak sumber daya komputasi, serta berinteraksi dengan dunia nyata secara mandiri, manusia mungkin menghadapi tantangan pengawasan yang jauh lebih besar.
Namun, sampai sekarang superintelligence seperti yang digambarkan dalam skenario tersebut belum menjadi kenyataan. AI saat ini memang mengalami perkembangan pesat, tetapi kemampuan tinggi dalam satu bidang tidak otomatis berarti sistem tersebut memiliki kecerdasan umum yang melampaui manusia dalam seluruh aspek.
Karena itu, para peneliti juga mengingatkan agar perdebatan mengenai risiko AI tidak berubah menjadi kepastian bahwa kepunahan manusia akan terjadi. Nature mencatat bahwa para ahli memiliki pandangan yang sangat beragam mengenai kemungkinan terjadinya skenario tersebut. Sebagian menganggap risiko ekstrem patut dipersiapkan karena dampaknya sangat besar, sedangkan pihak lain menilai skenario tersebut terlalu spekulatif atau menganggap perkembangan AI tidak akan menghasilkan kemampuan yang diperlukan untuk mengambil alih kendali manusia.
Perbedaan pandangan tersebut menjadi alasan mengapa keselamatan AI kini semakin banyak dibahas bersamaan dengan perkembangan kemampuan teknologi. International AI Safety Report 2026 menyebut teknik pengelolaan risiko memang berkembang, tetapi masih memiliki keterbatasan. Salah satu masalahnya adalah pengujian keamanan sebelum AI digunakan semakin sulit ketika sistem mampu membedakan lingkungan pengujian dari penggunaan sebenarnya atau menemukan celah dalam evaluasi.
Dengan demikian, pertanyaan “bisakah AI memusnahkan manusia?” belum dapat dijawab dengan kepastian bahwa hal tersebut akan terjadi. Yang dapat dikatakan berdasarkan bukti saat ini adalah kemampuan AI meningkat dengan cepat, beberapa risiko penyalahgunaan sudah muncul dalam dunia nyata, sementara skenario kehilangan kendali ekstrem masih merupakan kemungkinan yang diperdebatkan.
Tantangannya kemudian bukan hanya membuat AI semakin pintar, tetapi memastikan kemampuan tersebut tetap berada dalam batas yang dapat diawasi manusia. Pengujian keamanan, pengawasan terhadap AI agent, perlindungan infrastruktur digital, pembatasan akses terhadap kemampuan berisiko tinggi, serta kerja sama internasional menjadi bagian dari upaya untuk mengurangi kemungkinan terjadinya kegagalan besar.
Pada akhirnya, ancaman AI terhadap manusia tidak harus berbentuk robot yang menyerang manusia seperti dalam film fiksi ilmiah. Risiko yang lebih realistis justru dapat muncul secara bertahap, melalui penyalahgunaan teknologi, serangan siber, kesalahan sistem, tujuan yang tidak selaras, atau pemberian akses terlalu besar kepada sistem yang belum sepenuhnya dipahami.
AI belum terbukti mampu memusnahkan manusia. Namun, semakin besar kemampuan dan otonomi teknologi tersebut, semakin penting pula kemampuan manusia untuk memahami, menguji, dan mengendalikannya. Di situlah perdebatan mengenai masa depan AI sebenarnya berada: bukan sekadar apakah mesin akan menggantikan manusia, melainkan apakah manusia mampu memastikan teknologi yang mereka ciptakan tetap berada dalam kendali mereka.