WASHINGTON (AP) – Pentagon mengumumkan pada hari Jumat bahwa telah mencapai kesepakatan dengan tujuh perusahaan teknologi untuk menggunakan kecerdasan buatan mereka dalam jaringan komputer terklasifikasi, memungkinkan militer untuk memanfaatkan kemampuan berbasis AI untuk membantu dalam pertempuran.
Google, Microsoft, Amazon Web Services, Nvidia, OpenAI, Reflection, dan SpaceX akan menyediakan sumber daya mereka untuk membantu “menguatkan pengambilan keputusan pejuang dalam lingkungan operasional yang kompleks,” kata Departemen Pertahanan.
Terlihat nyata absennya perusahaan AI yaitu Anthropic, setelah perselisihan publik dan pertempuran hukumnya dengan pemerintahan Trump mengenai etika dan keamanan penggunaan AI dalam perang.
Departemen Pertahanan telah mempercepat penggunaan AI dalam beberapa tahun terakhir. Teknologi ini dapat membantu militer mengurangi waktu yang dibutuhkan untuk mengidentifikasi dan menyerang sasaran di medan perang, sambil membantu dalam organisasi pemeliharaan senjata dan jalur pasokan, menurut laporan bulan Maret dari Brennan Center for Justice.
Namun, penggunaan AI telah menimbulkan kekhawatiran bahwa penggunaannya dapat melanggar privasi warga Amerika atau memungkinkan mesin memilih sasaran di medan perang. Salah satu perusahaan yang berkontrak dengan Pentagon mengatakan persetujuan mereka memerlukan pengawasan manusia dalam situasi tertentu.
Kekhawatiran tentang penggunaan militer AI muncul selama perang Israel melawan militan di Gaza dan Lebanon, dengan raksasa teknologi AS diam-diam memberdayakan Israel untuk melacak sasaran. Tetapi jumlah warga sipil yang tewas juga meningkat, memicu ketakutan bahwa alat-alat ini berkontribusi pada kematian orang-orang tak bersalah.
Pertanyaan tentang penggunaan militer AI masih dalam proses
Kontrak terbaru Pentagon datang pada saat kekhawatiran tentang potensi ketergantungan berlebihan pada teknologi di medan perang, kata Helen Toner, direktur eksekutif sementara di Georgetown University’s Center for Security and Emerging Technology.
“Banyak peperangan modern didasarkan pada orang-orang yang duduk di pusat komando di belakang monitor, membuat keputusan rumit tentang situasi yang membingungkan dan cepat bergerak,” kata Toner, mantan anggota dewan OpenAI. “Sistem AI dapat membantu dalam hal merangkum informasi atau melihat feed pengawasan dan mencoba mengidentifikasi sasaran potensial.”
Tetapi pertanyaan tentang level keterlibatan manusia yang tepat, risiko, dan pelatihan masih sedang dikerjakan, katanya.
“Bagaimana cara mengimplementasikan alat-alat ini dengan cepat agar efektif dan menyediakan keunggulan strategis?” tanya Toner, “Sambil juga mengakui bahwa Anda perlu melatih operator dan memastikan bahwa mereka tahu cara menggunakannya dan tidak terlalu percaya kepada mereka?”
Keprihatinan semacam itu mengemuka oleh Anthropic. Perusahaan teknologi tersebut mengatakan ingin jaminan dalam kontraknya bahwa militer tidak akan menggunakan teknologinya dalam senjata sepenuhnya otonom dan pengawasan terhadap warga Amerika. Menteri Pertahanan Pete Hegseth mengatakan perusahaan harus mengizinkan penggunaan apapun yang dianggap sah oleh Pentagon.
Anthropic menggugat setelah Presiden Donald Trump, seorang Republikan, mencoba menghentikan semua lembaga federal untuk menggunakan chatbot Claude dari perusahaannya dan Hegseth berusaha untuk menandai perusahaan tersebut sebagai risiko rantai pasokan, sebuah penunjukan yang dimaksudkan untuk melindungi dari sabotase sistem keamanan nasional oleh musuh asing.
OpenAI telah mengumumkan kesepakatan dengan Pentagon pada bulan Maret untuk secara efektif menggantikan Anthropic dengan ChatGPT di lingkungan terklasifikasi. OpenAI mengonfirmasi dalam pernyataan Jumat bahwa ini adalah kesepakatan yang sama dengan yang diumumkan pada awal Maret.
“Seperti yang kami katakan ketika kami pertama kali mengumumkan kesepakatan kami beberapa bulan yang lalu, kami percaya bahwa orang-orang yang membela Amerika Serikat harus memiliki alat terbaik di dunia,” kata perusahaan itu.
Kesepakatan perusahaan dengan Pentagon termasuk bahasa yang menyatakan bahwa harus ada pengawasan manusia atas setiap misi di mana sistem AI bertindak otonom atau semi-otonom, menurut seseorang yang akrab dengan kesepakatan tersebut yang tidak diizinkan untuk berbicara secara publik. Bahasa tersebut juga menyatakan bahwa alat AI harus digunakan dengan cara yang konsisten dengan hak-hak konstitusional dan kebebasan sipil.
Itu menyerupai poin-poin sengketa bagi Anthropic, meskipun OpenAI sebelumnya mengatakan bahwa telah mengamankan jaminan serupa ketika membuat kesepakatannya sendiri dengan Pentagon.
Pandangan Pentagon
Emil Michael, kepala teknologi Pentagon, mengatakan kepada CNBC pada hari Jumat bahwa akan tidak bertanggung jawab jika hanya mengandalkan satu perusahaan, sebuah pengakuan atas friksi dengan Anthropic.
“Dan ketika kami mengetahui bahwa satu mitra tidak benar-benar ingin bekerja dengan kami dengan cara kami ingin bekerja dengan mereka, kami keluar dan memastikan bahwa kami memiliki beragam penyedia yang berbeda,” kata Michael.
Beberapa perusahaan, termasuk Amazon dan Microsoft, telah lama bekerja dengan militer di lingkungan terklasifikasi, dan tidak jelas apakah kesepakatan baru secara signifikan mengubah kemitraan pemerintah mereka. Yang lain, seperti pembuat chip Nvidia dan startup Reflection, baru dalam pekerjaan semacam ini. Kedua perusahaan membuat model AI dengan sumber terbuka, yang dijelaskan oleh Michael sebagai prioritas untuk menyediakan “alternatif Amerika” terhadap pengembangan cepat sistem AI China di mana beberapa komponen kunci dapat diakses secara publik oleh orang lain untuk membangun di atasnya.
Pentagon mengatakan pada hari Jumat bahwa personil militer sudah menggunakan kemampuan AI-nya melalui platform resmi, GenAI.mil.
“Pejuang, warga sipil, dan kontraktor sedang menggunakan kemampuan ini untuk penggunaan praktis saat ini, memangkas banyak tugas dari bulan menjadi hari,” kata Pentagon, menambahkan bahwa kemampuan AI militer yang berkembang akan “memberikan pejuang senjata yang mereka butuhkan untuk bertindak dengan percaya diri dan melindungi bangsa dari segala ancaman.”
Dalam banyak kasus, militer menggunakan kecerdasan buatan dengan cara yang sama seperti warga sipil: untuk mengambil tugas rutin yang akan membutuhkan manusia berjam-jam atau berhari-hari untuk menyelesaikannya, kata Toner, dari Universitas Georgetown.
AI dapat digunakan untuk lebih baik memprediksi kapan sebuah helikopter memerlukan pemeliharaan atau mencari tahu cara memindahkan sejumlah besar pasukan dan barang dengan efisien, katanya. Ini juga dapat membantu menentukan apakah kendaraan pada feed pengawasan drone merupakan warga sipil atau militer.
Namun, orang tidak boleh terlalu bergantung padanya.
“Ada fenomena yang disebut bias otomatisasi, di mana orang cenderung mengasumsikan bahwa mesin bekerja lebih baik dari yang sebenarnya,” kata Toner.
O’Brien melaporkan dari Providence, Rhode Island.
Ikuti liputan AP tentang kecerdasan buatan di https://apnews.com/hub/artificial-intelligence.
