Ketika model AI agen baru terus hadir secara online, para pakar keamanan siber memuji kemampuan mereka dalam menyaring data dalam jumlah besar dengan cepat dan mandiri — menjadikannya alat yang hebat untuk membantu melawan kejahatan dunia maya.
Namun, mereka memperingatkan, atribut-atribut tersebut juga dapat digunakan oleh pelaku kejahatan untuk meretas sistem dan membahayakan data pribadi, perekonomian, dan keamanan nasional kita.
Sekelompok pakar keamanan siber baru-baru ini berkumpul dalam diskusi Pusat Internet dan Keamanan Berkman Klein, yang semuanya sepakat bahwa inilah saat yang tepat bagi para pemimpin bisnis dan pemerintah untuk mengatur teknologi – sebelum terlambat.
Kejahatan dunia maya, menurut data terbaru dari IBM, meningkat pesat. Berdasarkan studi pada tahun 2026, perusahaan tersebut menemukan bahwa serangan siber yang ditujukan pada perangkat lunak dan aplikasi sistem yang dapat diakses oleh publik – yang sebagian besar menggunakan AI – mengalami peningkatan sebesar 44 persen dari tahun ke tahun.
Serangan tingkat tinggi termasuk pelanggaran data Anthropic – perusahaan AI di balik asisten Claude Code pada bulan November. Penyerang dapat menggunakan model AI mereka sendiri untuk memindai titik lemah dalam kode sumbernya dan mempublikasikan cara kerja bagian dalamnya.
“Hal yang disayangkan adalah bahwa pihak yang jahat hanya perlu menang satu kali, sedangkan pihak yang bertahan harus selalu menang,†kata James Mickens, Profesor Ilmu Komputer Gordon McKay. “Bagi saya, setidaknya, hal ini merupakan aspek yang memprihatinkan dalam memikirkan keamanan, serangan, dan pertahanan cyber yang bersifat agenik.â€
Selain itu, penjahat dunia maya telah mencapai kemajuan yang mengkhawatirkan dalam serangan phishing selama beberapa bulan terakhir, dengan menggunakan AI untuk menyempurnakan target dan menyusun pesan.
“Setahun yang lalu, kami masih memiliki pesan email di kotak masuk kami yang memiliki kesalahan ejaan yang bukan bahasa Inggris sehari-hari, yang mudah dikenali jika Anda waspada. Sekarang, semua sinyal itu hilang.â€
Robert Knake
“Setahun yang lalu, kami masih memiliki pesan email di kotak masuk kami yang memiliki kesalahan ejaan yang bukan bahasa Inggris sehari-hari, yang mudah dikenali jika Anda waspada. Sekarang, semua sinyal tersebut hilang,” kata Robert Knake, panelis dan partner di Paladin Capital, sebuah grup modal usaha siber.
Knake juga menjabat sebagai wakil direktur siber nasional pertama untuk strategi dan anggaran di Kantor Direktur Siber Nasional yang baru dibentuk di Gedung Putih dari tahun 2022 hingga 2023.
Dalam pandangan Knake, pemerintah federal perlu mulai mewajibkan sektor swasta untuk mengambil langkah lebih besar guna mencegah serangan yang membahayakan keselamatan konsumen dan nasional.
 “Kami tidak berada dalam posisi di mana kami dapat mengatakan kesalahan apa pun pada perangkat lunak Anda yang menyebabkan kerugian, Anda harus bertanggung jawab. Itu akan mematikan pengembangan perangkat lunak,†katanya. “Tetapi kita dapat menciptakan pelabuhan yang aman di mana kita mengatakan, jika Anda telah melakukan … hal-hal dasar ini, seperti menggunakan versi paket sumber terbuka yang paling aman dan terkini dan dikenal … Anda tidak bertanggung jawab atas hasil buruk dari perangkat lunak Anda. Jika Anda belum melakukannya, Anda harus melakukannya.â€
Menurut Mickens, skema peraturan seperti ini mungkin lebih mudah diucapkan daripada dilakukan – terutama karena lanskap keamanan siber terus berubah.
Selama beberapa dekade, katanya, perusahaan teknologi seperti Microsoft dan Amazon telah memasukkan celah sementara dalam kode mereka untuk mencegah pelanggaran keamanan internal tradisional, tanpa peraturan resmi pemerintah.
“Perbedaan besar dengan AI adalah model ancamannya berubah,” kata Mickens. “Pada dasarnya, ada manusia yang duduk di kursi di luar pusat data yang mengirimkan perintah jahat ke kode yang berjalan di pusat data dan mencoba mengelabui kode tersebut agar menjadi jahat dengan AI.â€
Setiap pembicaraan mengenai mandat langkah-langkah keamanan terhadap kekuatan luar dan AI harus secara jelas mendefinisikan tanggung jawab yang dipertaruhkan dan jenis perangkat keras dan perangkat lunak yang akan memastikan kepatuhan, tambahnya.
Josephine Wolff, dekan penelitian dan profesor kebijakan keamanan siber di Fletcher School di Universitas Tufts, menambahkan bahwa regulasi bisa menjadi sangat rumit jika sektor swasta diminta proaktif dalam menemukan kerentanan di jaringan besar.
“Dokumentasi dan inventarisasi merupakan hal yang sangat penting dan sangat sulit dilakukan,†katanya. “Dapatkah Anda menginventarisasi semua kode yang berjalan di komputer Anda sehingga jika terdapat kerentanan, jika terjadi kesalahan, setidaknya Anda dapat mengetahui di mana Anda perlu mencarinya?â€
Namun meskipun bagian pertanggungjawaban masih belum jelas setelah sistem online dibobol, semua panelis sepakat bahwa perusahaan tidak seharusnya bertanggung jawab atas tindakan pembalasan terhadap para peretas. Sebuah aliran pemikiran dalam memerangi kejahatan dunia maya berpendapat bahwa perusahaan yang diretas mungkin berada dalam posisi unik untuk “meretas kembali.â€
“Saya pikir semakin banyak aktor yang mengatasnamakan pembelaan diri, yang menyusup ke jaringan orang lain, semakin kecil kemungkinan Anda untuk meredakan ketegangan,” kata Wolff. “Gagasan bahwa Anda akan melibatkan sektor swasta dan hal itu tidak akan menyebabkan kekacauan yang lebih besar, tampaknya sangat optimis bagi saya.â€
Selain itu, tambahnya, gagasan bahwa perusahaan besar seperti Google dan Microsoft akan melakukan serangan bedah canggih untuk melumpuhkan sekelompok kecil server yang meluncurkan serangan penolakan layanan terhadap mereka tidak mungkin terjadi.
“Saya pikir Anda akan memiliki banyak firma yang lebih gila dengan lebih sedikit pengacara yang merasa seperti, inilah kesempatan kita untuk menghadapi Korea Utara. Dan menurut saya itu bukan dunia yang lebih aman.â€
Mickens membayangkan sebuah dunia di mana upaya pembalasan terhadap sektor swasta juga dapat menyebabkan perusahaan menjalankan firewall agen yang tidak berawak.
“Ia melihat adanya penyusupan, melacak para peretas hingga ke London, Berlin, dan kemudian melakukan sesuatu yang menyinggung. Saya pikir dunia dengan cepat berubah menjadi perdagangan berfrekuensi tinggi, kecuali sekarang dalam keamanan cyber, di mana Anda hanya memiliki sekumpulan algoritma yang berjalan bolak-balik dan bereaksi satu sama lain dalam waktu yang sangat nyata,†katanya. “Saya rasa kita tidak ingin memasuki dunia tersebut dengan alasan yang sama seperti, secara umum, kita tidak ingin mewakili orang-orang yang main hakim sendiri di dunia fisik.â€
Dan mengenai pemberantasan penipuan phishing yang didukung oleh AI, para panelis membayangkan sebuah dunia, yang sama tidak jelasnya saat ini, yang memungkinkan identitas manusia asli diverifikasi secara online.
“Ini telah menjadi masalah ekosistem sejak 30 tahun yang lalu,” kata Knake. “Saya pikir ancaman AI berarti kita harus mengetahui dengan pasti siapa yang kita hadapi, dan bahwa orang tersebut adalah orang sungguhan jika mereka mengaku sebagai orang sungguhan, sehingga kami dapat mempercayai dengan siapa Anda berinteraksi.â€
Mickens menambahkan bahwa meskipun identifikasi digital bisa menjadi pilihan yang tepat untuk memerangi kejahatan dunia maya di masa depan, hal ini mungkin akan menemui beberapa hambatan karena cara konsumen menggunakan internet.
“Salah satu alasan mengapa tanda pengenal digital secara tradisional mengalami kesulitan adalah karena ada banyak skenario di mana seseorang ingin diidentifikasi sebagai bagian dari identitasnya, namun bukan identitas lengkapnya,” ujarnya. “Misalnya, jika saya adalah korban kekerasan dalam rumah tangga atau saya adalah seorang anak yang melarikan diri atau apa pun, saya mungkin ingin seseorang mengetahui bahwa saya adalah seorang manusia, namun saya tidak ingin mereka mengetahui nama asli saya. Saya ingin hal-hal yang saya ucapkan dikaitkan dengan nama samaran tertentu secara konsisten, namun saya tidak ingin itu menjadi nama asli saya. Masalah-masalah praktis semacam itu perlu dipecahkan agar beberapa proposal ini menjadi nyata.â€
Secara keseluruhan, perusahaan teknologi dan lembaga pemerintah menghadapi perubahan terus-menerus dalam kemampuan AI. Seiring dengan perubahan tersebut, muncul pula tantangan dan peluang untuk memanfaatkan teknologi.
“Kemampuan untuk memiliki AI agen yang pada dasarnya ada di pundak Anda, di ponsel Anda, di komputer Anda, melihat semua yang Anda lakukan dan mengatakan hal ini tentu saja tampak seperti rantai mematikan untuk skema penipuan, bukan?,†kata Knake. “Kita bisa melakukan ini. Kita hanya perlu menemukan pelaku pasar yang tepat yang akan melakukan investasi dan membangun teknologi tersebut.â€
