Pendiri Anthropic Peringatkan AI Tanpa Kendali, Serukan “Pedal Rem” sebelum Terlambat
Jawa Pos Radar Lawu - Perkembangan kecerdasan buatan (AI) yang semakin pesat kini mulai memunculkan kekhawatiran serius dari para pelaku industrinya sendiri.
Salah satunya datang dari Jack Clark, pendiri perusahaan AI Anthropic, yang menilai dunia saat ini belum memiliki mekanisme untuk mengendalikan laju teknologi tersebut.
Clark mengibaratkan industri AI seperti kendaraan yang hanya memiliki pedal gas tanpa rem.
Ia menegaskan bahwa dunia membutuhkan sistem pengendali agar perkembangan AI tidak melampaui batas kendali manusia.
“Anda tentu ingin memiliki opsi untuk menginjak rem. Saat ini industri AI hanya punya pedal gas,” ujarnya.
AI Semakin Mandiri, Manusia Bisa Kehilangan Kendali
Clark mengungkapkan bahwa chatbot milik Anthropic, Claude, saat ini sudah mampu menulis sekitar 80 persen kode untuk dirinya sendiri.
Ia memperkirakan dalam dua tahun ke depan, angka tersebut bisa mencapai 100 persen.
Jika itu terjadi, maka AI berpotensi berkembang secara mandiri tanpa intervensi manusia sebuah kondisi yang dinilai sangat berisiko.
Menurutnya, masyarakat melalui kebijakan pemerintah harus tetap memegang kendali terhadap sistem AI yang akan semakin kuat dan berpengaruh dalam berbagai sektor kehidupan.
Regulasi AI Dinilai Mendesak
Clark juga menekankan pentingnya regulasi yang jelas dan tegas. Ia membandingkan kondisi ini dengan era industri minyak, di mana pemerintah akhirnya membentuk kerangka regulasi untuk mengontrol dampaknya.
