Jawa Pos Radar Lawu - Perkembangan kecerdasan buatan (AI) yang semakin pesat kini mulai memunculkan kekhawatiran serius dari para pelaku industrinya sendiri.
Salah satunya datang dari Jack Clark, pendiri perusahaan AI Anthropic, yang menilai dunia saat ini belum memiliki mekanisme untuk mengendalikan laju teknologi tersebut.
Clark mengibaratkan industri AI seperti kendaraan yang hanya memiliki pedal gas tanpa rem.
Ia menegaskan bahwa dunia membutuhkan sistem pengendali agar perkembangan AI tidak melampaui batas kendali manusia.
“Anda tentu ingin memiliki opsi untuk menginjak rem. Saat ini industri AI hanya punya pedal gas,” ujarnya.
AI Semakin Mandiri, Manusia Bisa Kehilangan Kendali
Clark mengungkapkan bahwa chatbot milik Anthropic, Claude, saat ini sudah mampu menulis sekitar 80 persen kode untuk dirinya sendiri.
Ia memperkirakan dalam dua tahun ke depan, angka tersebut bisa mencapai 100 persen.
Jika itu terjadi, maka AI berpotensi berkembang secara mandiri tanpa intervensi manusia sebuah kondisi yang dinilai sangat berisiko.
Menurutnya, masyarakat melalui kebijakan pemerintah harus tetap memegang kendali terhadap sistem AI yang akan semakin kuat dan berpengaruh dalam berbagai sektor kehidupan.
Regulasi AI Dinilai Mendesak
Clark juga menekankan pentingnya regulasi yang jelas dan tegas. Ia membandingkan kondisi ini dengan era industri minyak, di mana pemerintah akhirnya membentuk kerangka regulasi untuk mengontrol dampaknya.
Menariknya, meskipun menyerukan regulasi, Anthropic justru menyambut kebijakan dari Presiden AS Donald Trump yang tidak mewajibkan pengujian keamanan pemerintah terhadap perusahaan AI.
Di sisi lain, Anthropic sendiri berkembang sangat pesat sejak didirikan oleh Clark bersama Dario Amodei.
Perusahaan ini bahkan diproyeksikan memiliki valuasi mendekati USD 1 triliun dan bersiap melantai di bursa saham.
Ilmuwan Dunia Juga Khawatir
Kekhawatiran terhadap AI tidak hanya datang dari pelaku industri. Ilmuwan seperti Max Tegmark juga mengingatkan bahwa bahaya AI kerap disamarkan oleh perusahaan teknologi besar.
Ia menyoroti kemampuan AI yang mulai mendekati lulus uji Turing indikator bahwa mesin sulit dibedakan dari manusia dalam percakapan.
Menurut Tegmark, tokoh-tokoh besar seperti Geoffrey Hinton dan Yoshua Bengio bahkan sudah menunjukkan kekhawatiran mendalam terhadap arah perkembangan teknologi ini.
Selain itu, peluncuran model seperti GPT-4 disebut sebagai bukti bahwa risiko AI bukan lagi ancaman masa depan, melainkan sudah sangat dekat.
Risiko Nyata: PHK hingga Bias Sosial
Salah satu dampak nyata yang sudah terlihat adalah disrupsi ekonomi. Banyak perusahaan teknologi melakukan PHK massal dengan alasan efisiensi melalui AI.
Tak hanya itu, AI juga dinilai berpotensi memperparah bias sosial dan merugikan kelompok tertentu.
Meski begitu, Clark tetap melihat sisi positif AI. Ia percaya manusia dengan kreativitas dan ide orisinal masih memiliki keunggulan dibanding mesin.
“Belum ada bukti nyata bahwa AI bisa benar-benar kreatif,” ujarnya.
Masa Depan AI: Antara Manfaat dan Ancaman
Clark menegaskan bahwa AI memiliki potensi manfaat yang sangat besar, namun juga membawa risiko yang tidak kalah besar.
Ia bahkan mengungkapkan kekhawatiran pribadi terhadap masa depan generasi berikutnya jika dunia tidak segera mengambil langkah serius.
Dengan semakin cepatnya perkembangan teknologi ini, perdebatan mengenai regulasi dan etika AI dipastikan akan menjadi isu global yang semakin mendesak untuk diselesaikan.(*)
*Nizaria Kusumastuti, Mahasiswa Universitas Negeri Surabaya
Editor : Mizan Ahsani