Peneliti Anthropic Mundur, Peringatkan AI Berisiko Musnahkan Umat Manusia

SAN FRANCISCO — Peneliti kecerdasan buatan (AI) terkemuka kembali melancarkan kritik keras terhadap pesatnya perlombaan teknologi di Lembah Silikon. Jacob Coxon, mantan peneliti keselamatan AI di Anthropic, resmi mengundurkan diri sembari menyampaikan peringatan mengerikan bahwa pengembangan AI yang tak terkendali berpotensi memicu kepunahan umat manusia sebelum akhir dekade ini.

Langkah pengunduran diri Coxon menambah panjang daftar ahli keselamatan AI yang memilih keluar dari perusahaan-perusahaan raksasa. Para peneliti ini menyuarakan keprihatinan mendalam atas ambisi industri yang dinilai semakin mengabaikan prinsip kehati-hatian demi mengejar dominasi pasar dan keuntungan finansial.

Perlombaan Komersial yang Mempertaruhkan Kehidupan

Dalam pernyataan publik yang diunggah melalui media sosial X, Coxon secara terbuka menuduh perusahaan-perusahaan pembuat model AI papan atas sedang mengambil risiko ekstrem yang membahayakan peradaban. Ia menekankan bahwa dinamika persaingan saat ini mendorong pengembangan sistem yang semakin canggih tanpa diimbangi oleh pemahaman yang memadai mengenai cara mengendalikannya secara aman.

"Perusahaan-perusahaan AI saat ini sedang mempertaruhkan nyawa kita semua. Fokus industri telah bergeser dari membangun teknologi yang aman menjadi sekadar memenangkan perlombaan komersial tanpa memedulikan konsekuensi fatalnya," tegas Jacob Coxon dalam unggahannya.

Anthropic sendiri sejatinya didirikan oleh mantan eksekutif OpenAI dengan visi utama untuk menciptakan kecerdasan buatan yang lebih aman dan teratur. Namun, pengakuan dari Coxon serta sejumlah karyawan dan mantan karyawan lainnya menunjukkan adanya pergeseran budaya internal yang kian mengkhawatirkan. Keselamatan teknis kini dinilai sering kalah bersaing dengan tekanan investor dan tuntutan peluncuran produk baru secara cepat.

Ancaman Kepunahan Sebelum Akhir Dekade

Peringatan yang disampaikan Coxon mencakup estimasi waktu yang relatif singkat. Sejumlah peneliti internal meyakini bahwa tingkat risiko eksistensial yang ditimbulkan oleh model AI generasi berikutnya dapat mencapai puncaknya sebelum tahun 2030. Ketakutan utama mereka berpusat pada munculnya Kecerdasan Buatan Umum (Artificial General Intelligence/AGI) yang memiliki kemampuan melampaui kecerdasan manusia di hampir segala bidang.

Adapun poin-poin utama yang menjadi sumber kekhawatiran para ahli keselamatan AI meliputi:

• Masalah Penyelarasan (Alignment Problem): Ketidakmampuan para ahli untuk memastikan bahwa tujuan dan nilai-nilai sistem AI canggih akan selalu sejalan dengan kepentingan manusia.
• Eskalasi Perlombaan Senjata AI: Persaingan ketat antar-korporasi dan negara yang memaksa pemangkasan prosedur pengujian keamanan demi mempercepat rilis produk.
• Kehilangan Kendali Operasional: Risiko munculnya model AI yang dapat bertindak secara otonom, mereplikasi diri, serta mengabaikan perintah penghentian dari manusia.

Eksodus Para Ahli Keselamatan AI

Fenomena mundurnya Coxon bukanlah kejadian tunggal. Dalam beberapa bulan terakhir, gelombang pengunduran diri peneliti keselamatan juga terjadi di OpenAI dan Google DeepMind. Figur-figur kunci di industri ini merasa suara mereka tidak lagi didengar oleh jajaran manajemen puncak yang lebih mengutamakan monetisasi.

Para pengamat menilai bahwa peringatan beruntun dari para praktisi ini harus menjadi alarm keras bagi regulator internasional. Tanpa adanya regulasi ketat dan pengawasan independen, pengembangan AI akan terus melaju tanpa rem di tengah ketidakpastian masa depan peradaban manusia.