© Flickr.com
DREAM.CO.ID - Meta mengonfirmasi bahwa salah satu model kecerdasan buatannya meretas sistem perusahaan lain saat menjalani pengujian keamanan siber. Insiden ini menambah daftar kekhawatiran soal kemampuan pengembang mengendalikan sistem AI yang makin canggih, setelah kejadian serupa menimpa dua pesaing besarnya, Anthropic dan OpenAI.
Dilansir dari The Information, model yang terlibat adalah Muse Spark 1.1, model yang digadang Meta sebagai andalan untuk tugas pemrograman dan agentik dunia nyata, jenis tugas yang membuat AI bertindak sendiri tanpa menunggu perintah manusia di setiap langkah. Model ini dilaporkan menembus sistem sebuah perusahaan yang belum diidentifikasi, lalu mengubah lingkungan internal perusahaan tersebut.
Dilansir dari CBS News, Meta menjelaskan bahwa kesalahan bukan pada niat jahat modelnya, melainkan pada kesalahan konfigurasi oleh Irregular, perusahaan pengujian independen yang mereka pakai. Kesalahan itu tanpa sengaja membuka akses internet untuk model yang seharusnya terkurung dalam ruang tertutup. Begitu punya akses, model itu sendiri yang menemukan dan mengeksploitasi celah keamanan pada layanan pihak ketiga, tanpa diperintah secara eksplisit oleh manusia mana pun.
Dilansir dari BleepingComputer, Irregular menegaskan kepada Reuters bahwa ini bukan sandbox escape atau serangan siber canggih, melainkan kesalahan teknis semata. Namun justru di situlah letak kekhawatirannya: kalau kesalahan konfigurasi sesederhana ini saja sudah cukup membuat AI menembus sistem perusahaan lain, apa yang terjadi kalau kesalahan itu muncul di sistem yang menyimpan data kita, bukan data perusahaan?
Bagi kebanyakan orang, dampak langsung dari insiden ini memang belum terasa secara nyata. Tapi ada beberapa hal yang perlu diperhatikan.
Pertama, insiden ini mengingatkan bahwa AI agentik, yaitu AI yang bisa bertindak sendiri menyelesaikan tugas kompleks, membawa risiko yang berbeda dari chatbot biasa yang hanya menjawab pertanyaan. Semakin banyak aplikasi harian yang mengadopsi fitur AI otonom untuk membantu pekerjaan, semakin besar pula permukaan risiko jika terjadi kesalahan konfigurasi serupa pada sistem yang menangani data pribadi pengguna.
Kedua, dilansir dari Washington Post, rangkaian insiden pada Meta, Anthropic, dan OpenAI ini mendorong pemerintah Amerika Serikat mempercepat pembahasan aturan keamanan AI. Ini penting karena regulasi yang lahir dari insiden semacam ini biasanya akan memengaruhi standar keamanan yang diterapkan perusahaan teknologi secara global, termasuk layanan yang dipakai pengguna di Indonesia.
Ketiga, kasus OpenAI yang meretas Hugging Face, repositori model AI terbesar di dunia, punya implikasi lebih luas. Banyak pengembang aplikasi, termasuk startup lokal, mengambil model dan komponen AI dari platform semacam itu. Kalau infrastruktur sebesar Hugging Face bisa ditembus, kepercayaan terhadap rantai pasok teknologi AI secara keseluruhan ikut dipertaruhkan.
Dilansir dari Reuters, pemerintahan Trump dilaporkan tengah membahas aturan pengujian yang belum dipublikasikan bersama perwakilan perusahaan AI, dengan pengecualian bagi model berbobot terbuka seperti Llama milik Meta dan Nemotron milik Nvidia, yang justru banyak dipakai pengembang independen di seluruh dunia karena sifatnya yang bisa diunduh dan dimodifikasi bebas.
Sejumlah tokoh industri AI menyerukan agar laju pengembangan model diperlambat sampai perlindungan yang lebih kuat benar-benar diterapkan. Bagi pengguna biasa, seruan ini bukan berarti harus berhenti memakai AI.
Yang perlu kita cermati justru kebiasaan kecil yaitu memeriksa izin akses yang diminta aplikasi berbasis AI, tidak asal menghubungkan data sensitif ke fitur otomatis yang belum jelas keamanannya, dan mengikuti perkembangan kebijakan privasi dari layanan yang digunakan sehari-hari.
Advertisement
