Дебаты об искусственном интеллекте в войне обостряются, в то время как технологические компании сталкиваются с этическими проблемами, а специализированные стартапы агрессивно преследуют военные применения. В то время как Anthropic колебался, предоставляя неограниченный доступ американским военным, такие компании, как Smack Technologies, уверенно продвигаются вперед, разрабатывая модели ИИ, специально предназначенные для боевых операций.
Рост Военного ИИ
Smack Technologies, недавно получившая финансирование в размере 32 миллионов долларов, стремится превзойти существующие большие языковые модели, такие как Claude, в военном планировании и выполнении задач. В отличие от Anthropic, которая настаивала на ограничениях в использовании автономного оружия, Smack, похоже, меньше озабочена этическими ограничениями. Генеральный директор Энди Маркофф, бывший командующий силами специальных операций морской пехоты США, подчеркивает, что ответственность лежит на людях, развертывающих технологию и следящих за ее этичным применением: «На мой взгляд, люди, развертывающие технологию и обеспечивающие ее этичное использование, должны быть в форме».
Подход компании отражает метод проб и ошибок, использованный Google в AlphaGo, но адаптированный для военных сценариев с экспертной проверкой. Несмотря на меньший бюджет, чем у основных лабораторий ИИ, Smack активно инвестирует в обучение своих первых военных моделей ИИ. Это происходит в то время как Пентагон столкнулся с Anthropic из-за контракта на 200 миллионов долларов, объявив компанию риском для цепочки поставок из-за ее ограничений в разработке автономного оружия.
Ограничения Универсального ИИ
Маркофф утверждает, что текущие универсальные модели, такие как Claude, не подходят для военных целей. Они преуспевают в обобщении отчетов, но не хватает контекстуального понимания физического мира, необходимого для управления оборудованием или точной идентификации целей. Он утверждает, что LLM даже близко не способны к надежной идентификации целей.
Однако реальность сложнее. США и, по крайней мере, 30 других стран уже развернули автономные системы оружия, включая противоракетную оборону, требующую сверхчеловеческой скорости реакции. Ребекка Крутоф, юрист из Университета Ричмонда, указывает на широкое использование различных уровней автоматизации в системах вооружений.
Автоматизация и Доминирование в Принятии Решений
Модели Smack разработаны для автоматизации планирования миссий, процесса, который до сих пор во многих военных контекстах выполняется вручную. В потенциальном конфликте с противником, таким как Россия или Китай, Маркофф считает, что автоматизированное принятие решений может дать США критическое преимущество. Тем не менее, эксперименты в Королевском колледже Лондона поднимают серьезные вопросы: LLM показали, что могут привести к эскалации ядерных конфликтов в военных играх.
Война в Украине подчеркнула ценность недорогих, полуавтономных систем, построенных на коммерческой технике. ВМС США уже тестируют такие системы в Персидском заливе, включая для идентификации дронов. Эксперты, такие как Анна Хехир из Института будущего жизни, предостерегают от бесконтрольного развертывания ИИ, указывая на ненадежность и непредсказуемость текущих систем. Она утверждает, что ИИ не может надежно отличать комбатантов от гражданских лиц, не говоря уже о распознавании капитуляции.
Хаос Реальной Войны
Маркофф признает присущую военным операциям непредсказуемость, отметив, что даже лучшие планы редко реализуются так, как ожидалось. Его боевой опыт подкрепляет необходимость человеческого надзора. Речь идет не о полной автоматизации цепочки уничтожения, а об улучшении принятия решений в хаотичной среде, где скорость и адаптивность имеют решающее значение.
Разработка специализированного военного ИИ ускоряется, обусловлена как стратегическими императивами, так и коммерческими возможностями. Вопрос в том, смогут ли эти системы оправдать свои обещания, не усугубляя риски и не подрывая этические границы.
В конечном итоге, будущее ИИ в войне зависит от того, как будет найден баланс между технологическим прогрессом, ответственным управлением и жестокими реалиями конфликта.