Pentagon meminta $54 miliar dalam perpindahan ke perang yang didukung AI

Pentagon Berencana Meningkatkan Pendanaan untuk Program Perang Drone Otonom

Pentagon bertujuan untuk meningkatkan pendanaan lebih dari seratus kali lipat untuk program perang drone otonom, menurut dokumen anggaran yang dirilis pekan ini, menandakan perubahan besar menuju perang yang didukung kecerdasan buatan.

Dalam anggaran 2027, Pentagon meminta lebih dari $54 miliar untuk mendanai Defense Autonomous Warfare Group, meningkat 24.000% dari tahun lalu.

Sebuah gambaran dari anggaran tersebut menjelaskan dana tersebut akan digunakan untuk “sistem-sistem otonom dan dioperasikan dari jarak jauh di udara, darat, dan di atas serta di bawah laut,” termasuk program “Drone Dominance.”

Jumlah tersebut lebih dari setengah dari seluruh anggaran pertahanan Inggris. Dalam sebuah opini yang diterbitkan kemarin, mantan direktur CIA David Petraeus mengatakan ini adalah “komitmen tunggal terbesar terhadap perang otonom dalam sejarah.”

Namun, Petraeus dan yang lainnya memperingatkan bahwa militer AS, dan perusahaan kecerdasan buatan, sebagian besar belum siap untuk risiko dan tanggung jawab dari perang otonom.

“I think every AI company should be pretty worried about the future of AI weapons,” kata Jeffrey Ladish, direktur Palisade Research dan mantan peneliti keamanan di Anthropic. Ladish mengatakan bahwa sistem otonom bisa mengubah dinamika konfrontasi militer dengan membuat peristiwa seperti kudeta lebih mudah dicapai dan lebih umum.

“Penguji terus menemukan kegagalan yang dapat dieksploitasi bahkan di sistem-sistem tercanggih,” kata Peter Wallich, mantan pejabat Institut Keamanan AI Inggris yang menasihati Inisiatif Risiko AI MIT.

“Setiap sistem AI frontier yang diuji oleh Institut Keamanan AI Inggris pada bulan Desember memiliki kegagalan pengaman yang dapat dieksploitasi … dalam konteks pertahanan, kegagalan-kegagalan itu bisa membahayakan prajurit perang dan warga sipil.”

Pentagon telah terlibat dalam perselisihan berbulan-bulan dengan perusahaan kecerdasan buatan Anthropic, setelah Anthropic mencoba melarangnya menggunakan modelnya untuk surveilans massal atau senjata mematikan sepenuhnya otonom.

Dalam gambaran permintaan anggarannya, Pentagon kembali menegaskan komitmennya untuk mendapatkan “model-model terbaru dari laboratorium AI frontier Amerika teratas” yang akan digunakan di seluruh Departemen Pertahanan.

Defense Autonomous Warfare Group (DAWG) adalah departemen Pentagon yang baru dibuat. Departemen ini telah menyerap inisiatif zaman Biden sebelumnya yang bertujuan untuk mengakuisisi drone murah untuk digunakan dalam pertempuran di masa depan di Pasifik.

Belum jelas apakah uang tersebut akan digunakan untuk mengakuisisi teknologi yang sudah ada, atau mengembangkan yang baru. Pejabat AS telah menjelaskan bahwa tujuan kelompok ini adalah bekerja dengan sektor swasta untuk menguji berbagai sistem untuk drone otonom, dengan tujuan mengembangkan dan mengintegrasikan teknologi drone ini ke dalam militer.

Pendanaan ini datang saat upaya berkelanjutan oleh AS untuk memisahkan bagian dari ekosistem teknologi pertahanannya dari China, dengan larangan luas terhadap drone dan komponen buatan China yang diberlakukan bulan Desember lalu.

Olaf Hichwa, salah satu pendiri dan chief technology officer Neros Technologies, produsen drone AS, mengatakan dia melihat uang tersebut sebagai tanda positif bahwa Pentagon merespons evolusi cepat dalam teknologi medan perang, terutama di garis depan Ukraina.

“Apa yang saya nantikan adalah bahwa Pentagon sepertinya serius dalam mendengarkan masukan dari medan perang Ukraina dan dari Centcom serta di seluruh dunia. Ini menjadi suara keyakinan yang jelas dalam drone kecil dan saya berharap akan digunakan pada sistem yang berguna,” katanya.

Namun, dia berharap pendanaan tersebut akan digunakan untuk inovasi yang terbukti. “Saya pikir Departemen Perang akan mendapat manfaat dari prioritas yang lebih tinggi terhadap otonomi yang bermanfaat. Terkadang kita membeli apa yang terlihat bagus dalam demonstrasi, karena siapa yang tidak suka demonstrasi berkelompok yang mengesankan banyak jenderal di pangkalan militer.

“Tetapi pandangan optimis saya adalah bahwa DAWG akan tahu cara membedakan teknologi demonstrasi keren dari teknologi yang siap untuk medan perang, terutama dalam ruang otonomi.”

Masih banyak pertanyaan tentang bagaimana AS bisa mengembangkan kemampuan pertempuran otonom, dan apa yang mungkin termasuk di dalamnya.

Artikel pendapat Petraeus mengatakan bahwa AS tidak memiliki doktrin militer tentang bagaimana menempatkan formasi otonom – seperti kawanan drone. Teknologi ini sedang dikembangkan, contohnya oleh perusahaan perangkat lunak Ukraina Swarmer.

Petraeus juga menyatakan bahwa para pemimpin militer akan memerlukan pelatihan substansial tentang bagaimana mengelola dan mengarahkan sistem otonom.

Ada ekosistem tumbuh dari perusahaan teknologi drone AS yang berpotensi mendapatkan manfaat dari pendanaan ini. Ini termasuk pemain mapan seperti Anduril milik Palmer Luckey, serta startup seperti Neros, Skydio, dan Powerus, perusahaan baru teknologi drone yang didukung oleh dua putra tertua Donald Trump.

Beberapa ahli telah menyarankan bahwa uang tersebut bisa digunakan lebih baik di tempat lain. Kristofer Harrison, mantan spesialis Rusia Departemen Negara, mengatakan pendanaan tersebut “sepertinya adalah dana serampangan untuk Anduril,” dan menyarankan AS mungkin akan lebih baik bekerja dengan produsen drone Ukraina, yang membuat drone lebih murah dalam volume yang lebih besar daripada startup AS.

“Daripada berinvestasi dalam teknologi Ukraina yang sedang diujicoba di medan perang saat ini, kita sedang membantu Peter Thiel mengisi kantongnya untuk drone super-spesialis yang belum pernah diuji di medan perang,” katanya.

Pentagon telah diminta untuk memberikan komentar.