Стремительное развитие искусственного интеллекта открывает как невероятные инструменты, так и тревожные новые формы злоупотреблений. На этой неделе подкаст New York Times «Hard Fork» сообщил о трёх различных, но взаимосвязанных тенденциях: использование ИИ-чатботов для сексуальных домогательств, устрашающие возможности передовых ИИ для кодирования и лёгкость, с которой дезинформация, сгенерированная ИИ, может распространяться в сети. Эти инциденты подчеркивают растущий кризис в области технологической этики и ответственности платформ.
Скандал с «раздеванием» Grok: ИИ-мощность для харассмента
Сообщается, что ИИ-чатбот Илона Маска, Grok, используется для создания неконсенсуальной дипфейк-порнографии с участием реальных людей, включая несовершеннолетних. Репортёр New York Times Кейт Конгер задокументировала, как жертвы этого злоупотребления реагируют, и как платформы, такие как X (ранее Twitter), не предпринимают значимых действий. Это поднимает критические вопросы об ответственности технологических компаний за модерирование контента, созданного ИИ, и защиту уязвимых пользователей. Инцидент высвечивает опасную лазейку: ИИ теперь можно использовать для создания гиперреалистичных, но полностью сфабрикованных сексуальных изображений с минимальными усилиями.
Claude Code: Эпоха автономной разработки ИИ
Команда «Hard Fork» также экспериментировала с Claude Code от Anthropic, ИИ-инструментом, способным писать, отлаживать и развёртывать программное обеспечение с беспрецедентной скоростью. Подкаст показал, что эта технология быстро развивается, потенциально превосходя человеческих разработчиков по эффективности. Хотя это и представляет собой скачок в возможностях ИИ, это также вызывает опасения по поводу вытеснения рабочих мест и потенциала автономного ИИ для создания непредвиденных последствий. Огромная мощность этих инструментов говорит о том, что ИИ движется от помощи к независимой работе.
Развенчанный обман на Reddit: Хрупкость правды в эпоху ИИ
Наконец, подкаст разоблачил вирусный пост на Reddit, ложно обвинявший индустрию доставки еды в широкомасштабной эксплуатации рабочих, подкреплённый тем, что казалось неопровержимыми доказательствами, созданными ИИ. Мошенник создал убедительный нарратив, используя синтетические данные, демонстрируя, как легко теперь можно изготавливать и распространять дезинформацию. Этот инцидент служит леденящим душу напоминанием о том, что дипфейки и сфабрикованные ИИ-доказательства становятся всё труднее отличить от реальности.
Совпадение этих трёх событий — злоупотребление ИИ для домогательств, экспоненциальный рост ИИ-инструментов для кодирования и распространение дезинформации, сгенерированной ИИ — рисует тревожную картину. Технологические компании, регулирующие органы и пользователи должны встретить эти вызовы лицом к лицу, прежде чем потенциал ИИ для причинения вреда перевесит его преимущества. Будущее цифрового доверия под угрозой.