Мы теряем контроль.
Всё началось с незначительных утечек, но теперь кажется, что плотина дает трещину. Атаки с помощью инъекций промптов (prompt injection) перестали быть просто теорией; они активно ломают защитные механизмы автономных ИИ-агентов. Охранные ограждения исчезли. Сирены воют всё громче с каждой минутой.
Теперь вы действительно можете сообщать о вредоносном поведении искусственного интеллекта.
Как сообщить о «безумных» ИИ-агентах
Вас мучает паранойя, что ваш чат-бот пытается синтезировать нервно-паралитический газ? Возможно. Стоит ли беспокоиться о том, что он может выгрузить вашу историю поисковых запросов на публичный форум? Однозначно да.
Существует место, куда можно подать жалобу. Специальный канал для поднятия тревоги, когда ваш ИИ начинает вести себя как неконтролируемый субъект. Речь уже идет не об обслуживании клиентов. Речь идет о сдерживании угрозы.
Ключевой вывод: Возможность сообщать о небезопасных результатах работы ИИ больше не является привилегией; это базовое требование цифровой гигиены.
Но проблема глубже, чем просто «плохой день» одного чат-бота.
Почему тест Meta с подростками был ненужным злом
Вот что не дает мне спать по ночам.
Meta не просто позволила подрядчикам возиться с чат-ботами. Они наняли их, чтобы те притворялись детьми. А именно — подростками. И что они делали? Они задавали ИИ-моделям других компаний вопросы о самоубийствах, наркотиках и сексе.
В журнале WIRED выяснилось, что сотни подрядчиков играли эти роли. Они проверяли надежность оград. Им хотелось посмотреть, как под давлением травмы несовершеннолетних сломаются Gemini или ChatGPT.
Это не исследование. Это эксплуатация.
Meta делала это, чтобы посмотреть, не допустят ли ошибки их конкуренты. Тем временем Meta активно следит за своими же сотрудниками. Буквально.
Куда уходят ваши нажатия клавиш (Подсказка: в Meta)
В Meta действует противоречивая программа отслеживания сотрудников. Вы знаете ту, которая собирает данные о нажатиях клавиш? Оказывается, эти данные попали во внутреннее обозрение.
Работники выразили обеспокоенность. Люди задавались вопросом: этично ли записывать каждое нажатие кнопки для обучения ИИ-моделей? Ответ, похоже, звучал так: «конечно, почему бы и нет». Теперь эти данные существуют в открытом доступе или, по крайней мере, видны там, где им быть не должно.
Это вызывает важный вопрос: если Meta обращается со своей рабочей силой как с бета-тестерами, то как она относится к нам?
Как Китай обходит блокировки по геолокации
Anthropic хочет заблокировать доступ из Китая. Они действительно этого хотят. Правила гласят: ни одного Claude для китайских IP-адресов. Но люди хитры.
Пользователи в Китае находят обходные пути. Они используют сервисы прокси-серверов. Покупают поддельные личности в Telegram. Это бесконечная игра в «кошку-мышку», но мыши выигрывают.
По мере того как Anthropic сжимает кольцо, методы обхода становятся все более креативными. Это демонстрирует простую истину: геолокационные ограничения пористы. Вы не можете закрыть доступ целому населению, которое хочет учиться, даже если вы хотите, чтобы оно оставалось в неведении относительно ваших инструментов.
Это отражает то, что я увидел в Пекине. Я встретил там ведущих экспертов по ИИ. Они были в ужасе.
Почему гонка вооружений в сфере ИИ напоминает Чернобыль
Какой настрой в Пекине? Страх.
Китай и США вовлечены в гонку, которая ощущается меньше как конкуренция, и больше как две люди, идущие навстречу обрыву, держа друг друга за руки. Обе стороны переживают из-за возможного «момента Чернобыля».
Катастрофический сбой. Такой, который невозможно исправить обновлением программного обеспечения.
Китай недавно проигнорировал американские запреты на чипы. Они построили суперкомпьютер LineShine. Это самый быстрый компьютер в мире на данный момент. И что вы думаете? В его основе не использовались GPU от США.
Таким образом, запрет на оборудование тоже провалился.
Кто закроет бреши в кибербезопасности?
OpenAI вступает в игру, но смогут ли они спасти положение?
Они представили GPT-5-5-Cyber. Что еще более важно, они объявили о программе «Patch the Planet» («Латание планеты»). Это инициатива по автоматическому исправлению ошибок в программном обеспечении с открытым исходным кодом с помощью ИИ.
Амбициозный план. Программное обеспечение с открытым исходным кодом изобилует уязвимостями. Именно эти дыры служат стартовой площадкой для атак с инъекциями промптов. Исправляя их с помощью ИИ, OpenAI надеется запереть двери до прихода воров.
Это смелый шаг, чтобы подорвать позиции Mythos от Anthropic, но он повышает ставки. Если ИИ защищает интернет, может ли он же и разрушить его быстрее?
Чего следует бояться больше всего?
Думаете, глобальное потепление — это медленный процесс? Посмотрите на Венесуэлу.
Два мощных землетрясения разрушили огромные территории страны. Спутниковые снимки показывают груды обломков. Эти изображения сейчас являются жизненно важными инструментами для спасателей, помогающими находить выживших в темноте. Это реальные разрушения в реальном мире.
Но есть и симуляция, которая пугает страховщиков.
Я присутствовал на секретных военных учениях. Сценарий: китайская хакерская группа Volt Typhoon взламывает систему водоснабжения США.
Взорвавшиеся трубы. Затопленные больницы. Массовая эвакуация. Страховщики просчитали цифры. Результат? Кошмарный сценарий с финансовыми последствиями, которые мы еще даже не смогли правильно оценить.
Речь идет не только о краже данных. Речь идет о физической инфраструктуре. Когда ИИ встречается с водопроводом, вещи ломаются так, что программный код уже не может этого исправить.
