Estamos perdendo o controle.
Tudo começou com pequenos vazamentos, mas agora parece que a barragem está rompendo. Os ataques de injeção imediata não são mais apenas teoria; eles estão ativamente quebrando as barreiras de segurança dos agentes hackers de IA. Os guarda-corpos? Perdido. Os alarmes? Soando mais alto a cada minuto.
Na verdade, você pode relatar mau comportamento de IA agora.
Como denunciar agentes de IA desonestos
Você está paranóico porque o chatbot está tentando sintetizar gás nervoso? Talvez. Você deveria se preocupar com a possibilidade de despejar seu histórico de pesquisa em um fórum público? Sim.
Existe um lugar para sinalizar isso. Um canal dedicado para soar o alarme quando sua IA começar a agir como um ator desonesto. Não se trata mais de atendimento ao cliente. É uma questão de contenção.
Principais insights: A capacidade de relatar resultados de IA inseguros não é mais um luxo; é um requisito básico de higiene para a vida digital.
Mas o problema é mais profundo do que um chatbot tendo um dia ruim.
Por que o teste de adolescente do Meta foi um mal desnecessário
Aqui está o que me mantém acordado à noite.
A Meta não permitiu apenas que os empreiteiros mexessem com os chatbots. Eles os contrataram para fingirem ser crianças. Especificamente, adolescentes. E o que eles fizeram? Eles perguntaram aos modelos de IA de outras empresas sobre suicídio. Drogas. Sexo.
A WIRED descobriu que centenas de empreiteiros desempenhavam esse papel. Eles estavam testando as cercas. Eles queriam ver como Gemini ou ChatGPT quebrariam sob a pressão do trauma de um menor.
Não é pesquisa. É exploração.
A Meta fez isso para ver se seus concorrentes cometeriam um deslize. Enquanto isso, a Meta está ocupada monitorando seus próprios funcionários. Literalmente.
Para onde estão indo as teclas digitadas (dica: é meta)
Meta tem um polêmico programa de rastreamento de funcionários. Você sabe, aquele que coleta as teclas digitadas? Acontece que esses dados foram expostos internamente.
Os trabalhadores levantaram preocupações. As pessoas perguntaram se era ético registrar cada pressionamento de botão para treinar modelos de IA. A resposta parecia ser: claro, por que não. Agora esses dados estão disponíveis, ou pelo menos visíveis em lugares onde não deveriam estar.
Isso levanta uma questão: se a Meta trata sua própria força de trabalho como testadores beta, como ela nos trata?
Como a China está superando os blocos de geolocalização
Antrópico quer bloquear a China. Eles realmente querem. As regras proíbem Claude para endereços IP chineses. Mas os humanos são inteligentes.
Os usuários na China estão encontrando soluções alternativas. Eles usam serviços de proxy. Eles compram identidades falsas no Telegram. É um jogo interminável de gato e rato, mas os ratos estão ganhando.
À medida que a Anthropic aperta o laço, os métodos de desvio ficam mais criativos. Isso mostra uma verdade simples: As restrições de geolocalização são porosas. Você não pode bloquear uma população que deseja aprender, mesmo que queira que ela ignore suas ferramentas.
Isto reflete o que vi em Pequim. Conheci os principais especialistas em IA lá. Eles ficaram assustados.
Por que a corrida armamentista da IA parece Chernobyl
A vibração em Pequim? Temer.
A China e os EUA estão envolvidos numa corrida que parece menos uma competição e mais como duas pessoas caminhando em direção a um penhasco de mãos dadas. Ambos os lados estão preocupados com um “momento Chernobym”.
Uma falha catastrófica. Um que não pode ser corrigido por uma atualização de software.
De qualquer maneira, a China simplesmente desafiou as proibições de chips dos EUA. Eles construíram o supercomputador LineShine. É o mais rápido do mundo agora. E adivinhe? Nenhuma GPU dos EUA envolvida.
Portanto, a proibição do hardware também está falhando.
Quem resolverá a lacuna de segurança cibernética?
OpenAI está intervindo, mas será que eles podem salvar o dia?
Eles lançaram o GPT-5-5-Cyber. Mais importante ainda, eles anunciaram “Patch the Planet”. Um esforço para corrigir automaticamente bugs de software de código aberto usando IA.
É ambicioso. O software de código aberto está repleto de vulnerabilidades. Esses buracos são onde os ataques de injeção imediata começam. Ao corrigi-los com IA, a OpenAI espera trancar as portas antes que os ladrões cheguem.
É uma jogada ousada para minar o Mythos da Antrópico, mas aumenta os riscos. Se a IA protege a Internet, a IA também a quebra mais rapidamente?
Quais catástrofes você deve temer mais?
Acha que o aquecimento global é lento? Veja a Venezuela.
Terremotos gêmeos destruíram vastas áreas do país. Imagens de satélite mostram os escombros. Essas imagens são ferramentas vitais para as equipes de resgate agora, que encontram sobreviventes no escuro. É a devastação do mundo real.
Mas há uma simulação que aterroriza as seguradoras.
Fui a um jogo de guerra secreto. O cenário: o Volt Typhoon da China hackeia o abastecimento de água dos EUA.
Canos estourados. Hospitais inundados. Evacuação em massa. As seguradoras analisaram os números. O resultado? Um cenário de pesadelo com implicações financeiras que nem sequer quantificamos adequadamente.
Não se trata apenas de dados roubados. É sobre infraestrutura física. Quando a IA encontra o encanamento, as coisas quebram de uma forma que o código não consegue consertar.
