Perdebatan mengenai kecerdasan buatan dalam peperangan semakin meningkat, dengan perusahaan-perusahaan teknologi bergulat dengan masalah etika sementara perusahaan-perusahaan rintisan (startup) secara agresif mengejar aplikasi militer. Meskipun Anthropic ragu-ragu mengenai akses tidak terbatas bagi militer AS, perusahaan seperti Smack Technologies terus maju dengan mengembangkan model AI yang dirancang khusus untuk operasi tempur.
Bangkitnya AI Militer
Smack Technologies, yang baru-baru ini mendapatkan pendanaan sebesar $32 juta, bertujuan untuk melampaui model bahasa besar yang ada seperti Claude dalam perencanaan dan pelaksanaan militer. Berbeda dengan Anthropic, yang berupaya membatasi penggunaan senjata otonom, Smack tampaknya tidak terlalu dibatasi oleh batasan etika. CEO Andy Markoff, mantan komandan Operasi Khusus Angkatan Laut AS, menekankan bahwa akuntabilitas terletak pada operator manusia: “Bagi saya, orang-orang yang menerapkan teknologi dan memastikan teknologi tersebut digunakan secara etis harus berseragam.”
Pendekatan perusahaan mencerminkan metode coba-coba yang digunakan oleh Google AlphaGo, namun diadaptasi untuk skenario permainan perang dengan validasi ahli. Meskipun anggarannya lebih kecil dibandingkan laboratorium AI pada umumnya, Smack berinvestasi besar dalam pelatihan model AI militer pertamanya. Hal ini terjadi ketika Pentagon berselisih paham dengan Anthropic mengenai kontrak senilai $200 juta, yang menyatakan bahwa perusahaan tersebut berisiko terhadap rantai pasokan karena pembatasan pengembangan senjata otonom.
Batasan AI Tujuan Umum
Markoff berpendapat bahwa model serba guna seperti Claude saat ini tidak memadai untuk penggunaan militer. Mereka unggul dalam merangkum laporan tetapi tidak memiliki pemahaman kontekstual tentang dunia fisik yang diperlukan untuk mengontrol perangkat keras atau mengidentifikasi target secara akurat. Klaimnya adalah bahwa LLM sama sekali tidak mampu mengidentifikasi target secara andal.
Namun kenyataannya lebih kompleks. Amerika Serikat dan setidaknya 30 negara lainnya telah mengerahkan sistem senjata otonom, termasuk pertahanan rudal yang membutuhkan waktu reaksi yang sangat cepat. Rebecca Crootof, seorang sarjana hukum di Universitas Richmond, menunjukkan meluasnya penggunaan berbagai tingkat otonomi dalam sistem persenjataan.
Otomatisasi dan Dominasi Keputusan
Model Smack dirancang untuk mengotomatisasi perencanaan misi, sebuah proses yang sebagian besar masih bersifat manual dalam banyak konteks militer. Dalam potensi konflik dengan musuh terdekat seperti Rusia atau Tiongkok, Markoff yakin pengambilan keputusan otomatis dapat memberikan keuntungan penting bagi AS. Namun, eksperimen di King’s College London menimbulkan pertanyaan serius: LLM terbukti meningkatkan konflik nuklir dalam latihan perang.
Perang di Ukraina telah menekankan pentingnya sistem semi-otonom berbiaya rendah yang dibangun dengan teknologi komersial. Angkatan Laut AS sudah menguji sistem semacam itu di Teluk Persia, termasuk untuk identifikasi drone. Para ahli seperti Anna Hehir, dari Future of Life Institute, memperingatkan terhadap penerapan AI yang tidak terkendali, dengan alasan sistem yang ada saat ini tidak dapat diandalkan dan tidak dapat diprediksi. Ia berpendapat bahwa AI tidak dapat membedakan antara kombatan dan warga sipil, apalagi mengakui penyerahan diri.
Kekacauan Peperangan Dunia Nyata
Markoff mengakui sifat operasi militer yang tidak dapat diprediksi, dan mencatat bahwa rencana terbaik pun jarang berjalan sesuai harapan. Pengalamannya dalam pertempuran memperkuat perlunya pengawasan manusia. Hal ini bukan berarti mengotomatiskan rantai kematian secara penuh, namun meningkatkan pengambilan keputusan di lingkungan yang kacau dimana kecepatan dan kemampuan beradaptasi sangat penting.
Perkembangan AI khusus militer semakin cepat, didorong oleh kepentingan strategis dan peluang komersial. Pertanyaannya adalah apakah sistem ini dapat memenuhi janjinya tanpa memperburuk risiko atau melemahkan batasan etika.
Pada akhirnya, masa depan AI dalam peperangan bergantung pada keseimbangan antara kemajuan teknologi, tata kelola yang bertanggung jawab, dan realitas konflik yang brutal.
