SUMATERA BARAT — Jacob Coxon, mantan peneliti di Anthropic dan OpenAI, menyatakan mundur dari perusahaan teknologi tersebut karena menilai keduanya berlomba menuju superintelligence tanpa memperhitungkan risiko nyata bagi manusia. Pernyataannya disampaikan melalui unggahan di platform X pada Rabu (9/9) dan langsung memicu perdebatan di kalangan peneliti AI global.
Hingga Kamis (10/9), unggahan tersebut telah dilihat 136,7 juta kali. Angka itu menandakan kekhawatiran publik yang luas terhadap arah pengembangan kecerdasan buatan, terutama di Silicon Valley yang selama ini menjadi pusat inovasi AI dunia.
Peringatan dari Dalam Anthropic
Coxon tidak sendirian. Evan Hubinger, pimpinan tim penyelarasan (alignment) di Anthropic, menguatkan pernyataan tersebut. Ia menilai peluang AI memusnahkan umat manusia lebih dari 10 persen dalam sepuluh tahun ke depan.
"Kami memang sungguh-sungguh percaya bahwa AI dapat memusnahkan seluruh umat manusia! Secara pribadi, saya menilai kemungkinannya lebih dari 10 persen dalam sepuluh tahun ke depan," tulis Hubinger.
Ia juga mengakui bahwa Anthropic belum memiliki rencana pasti untuk menyelesaikan masalah penyelarasan pada superintelligence. "Saya percaya Anthropic sudah berusaha semaksimal mungkin, tetapi kami belum memiliki rencana pasti untuk menyelesaikan masalah penyelarasan pada superintelligence, dan progres kami belum mengarah ke sana," lanjutnya.
Apa yang Dimaksud Recursive Self-Improvement
Kekhawatiran utama para peneliti adalah munculnya recursive self-improvement — kondisi ketika sistem AI mampu merancang dan mengembangkan generasi penerusnya sendiri tanpa campur tangan manusia. Kemampuan ini belum terwujud, tetapi Anthropic dan OpenAI sama-sama memperingatkan bahwa skenario tersebut dapat membuat manusia kehilangan kendali atas sistem yang ada.
"Jangan remehkan kekuatan teknologi ini. Dalam waktu dekat, sistem ini akan melampaui kemampuan manusia. AI akan sanggup meretas apa saja, merevolusi berbagai bidang secara instan, serta menguasai kekuatan dan sumber daya yang nyata," tulis Coxon di X.
Ia menambahkan bahwa kedua perusahaan tidak bertindak secara bertanggung jawab. "Kedua perusahaan tidak bertindak secara bertanggung jawab. Mereka berlomba-lomba menuju superintelligence yang bisa mengembangkan dirinya sendiri," katanya.
Bukan Peringatan Pertama
Kekhawatiran tentang potensi AI yang menyebabkan kepunahan manusia bukan hal baru. Pada 2023, sejumlah peneliti dan eksekutif AI terkemuka — termasuk CEO OpenAI Sam Altman dan CEO Anthropic Dario Amodei — menandatangani pernyataan bersama yang menegaskan bahwa menekan risiko kepunahan akibat AI harus menjadi prioritas global, setara dengan risiko pandemi dan perang nuklir.
Di kalangan akademisi, muncul istilah p(doom) sebagai tolok ukur untuk mengestimasi besarnya peluang terjadinya skenario terburuk akibat kemajuan AI. Angka yang disebut Hubinger — di atas 10 persen — masuk kategori tinggi dalam skala tersebut.
Implikasi bagi Industri AI Global
Pernyataan Coxon dan Hubinger menambah tekanan pada perusahaan AI besar untuk memperlambat laju riset dan memperkuat mekanisme pengendalian. Desakan ini juga relevan bagi pasar Indonesia yang tengah mengadopsi AI di sektor fintech, edutech, dan layanan publik, di mana regulasi tata kelola AI masih dalam tahap penyusunan.
Hingga kini, Anthropic dan OpenAI belum memberikan tanggapan resmi atas pernyataan tersebut. Publik menantikan apakah peringatan dari dalam industri ini akan mendorong perubahan kebijakan pengembangan AI secara global.
