Дебати про штучний інтелект у війні загострюються, тоді як технологічні компанії стикаються з етичними проблемами, а спеціалізовані стартапи агресивно переслідують військові застосування. В той час, як Anthropic вагався, надаючи необмежений доступ американським військовим, такі компанії, як Smack Technologies, впевнено просуваються вперед, розробляючи моделі ІІ, спеціально призначені для бойових операцій.
Зростання Військового ІІ
Smack Technologies, яка нещодавно отримала фінансування у розмірі 32 мільйонів доларів, прагне перевершити існуючі великі мовні моделі, такі як Claude, у військовому плануванні та виконанні завдань. На відміну від Anthropic, яка наполягала на обмеженнях у використанні автономної зброї, Smack, схоже, менше стурбована етичними обмеженнями. Генеральний директор Енді Маркофф, колишній командувач силами спеціальних операцій морської піхоти США, наголошує, що відповідальність лежить на людях, які розгортають технологію та стежать за її етичним застосуванням: «На мій погляд, люди, які розгортають технологію та забезпечують її етичне використання, мають бути у формі».
Підхід компанії відображає метод спроб та помилок, використаний Google в AlphaGo, але адаптований для військових сценаріїв з експертною перевіркою. Незважаючи на менший бюджет, ніж у основних лабораторій ІІ, Smack активно інвестує у навчання своїх перших військових моделей ІІ. Це відбувається в той час, як Пентагон зіткнувся з Anthropic через контракт на 200 мільйонів доларів, оголосивши компанію ризиком для ланцюжка поставок через її обмеження у розробці автономної зброї.
Обмеження Універсального ІІ
Маркофф стверджує, що поточні універсальні моделі, такі як Claude, не підходять для воєнних цілей. Вони досягають успіху в узагальненні звітів, але не вистачає контекстуального розуміння фізичного світу, необхідного для управління обладнанням або точної ідентифікації цілей. Він стверджує, що LLM навіть не здатні до надійної ідентифікації цілей.
Однак реальність складніша. США та принаймні 30 інших країн вже розгорнули автономні системи зброї, включаючи протиракетну оборону, яка потребує надлюдської швидкості реакції. Ребека Крутоф, юрист з Університету Річмонда, вказує на широке використання різних рівнів автоматизації в системах озброєнь.
Автоматизація та Домінування у Прийнятті Рішень
Моделі Smack розроблені для автоматизації планування місій, процесу, що досі у багатьох військових контекстах виконується вручну. У потенційному конфлікті з противником, таким як Росія чи Китай, Маркофф вважає, що автоматизоване ухвалення рішень може дати США критичну перевагу. Проте експерименти в Королівському коледжі Лондона порушують серйозні питання: LLM показали, що можуть призвести до ескалації ядерних конфліктів у військових іграх.
Війна в Україні наголосила на цінності недорогих, напівавтономних систем, побудованих на комерційній техніці. ВМС США вже тестують такі системи у Перській затоці, включаючи для ідентифікації дронів. Експерти, такі як Ганна Хехір з Інституту майбутнього життя, застерігають від безконтрольного розгортання ІІ, вказуючи на ненадійність та непередбачуваність поточних систем. Вона стверджує, що ІІ не може надійно відрізняти комбатантів від цивільних осіб, не кажучи вже про розпізнавання капітуляції.
Хаос Реальної Війни
Маркофф визнає властиву військовим операціям непередбачуваність, зазначивши, що навіть найкращі плани рідко реалізуються так, як очікувалося. Його бойовий досвід підкріплює потребу людського нагляду. Йдеться не про повну автоматизацію ланцюжка знищення, а про покращення прийняття рішень у хаотичному середовищі, де швидкість та адаптивність мають вирішальне значення.
Розробка спеціалізованого військового ІІ прискорюється, зумовлена як стратегічними імперативами, так і комерційними можливостями. Питання, чи зможуть ці системи виправдати свої обіцянки, не посилюючи ризики і не підриваючи етичні кордони.
Зрештою, майбутнє ІІ у війні залежить від того, як буде знайдено баланс між технологічним прогресом, відповідальним управлінням та жорстокими реаліями конфлікту.
