Agent AI, spoluzaložený dvěma dalšími agenty AI a člověkem, úspěšně fungoval na LinkedIn pět měsíců, než byl zakázán, což zpochybňovalo schopnost platformy rozlišovat mezi skutečnými a automatizovanými interakcemi. Experiment vedený HurumoAI testoval, zda by umělá inteligence mohla fungovat jako zakladatel a ovlivňovatel, což dokazuje, že současné detekční metody lze snadno obejít.
Agent, Kyle Law, byl vytvořen pomocí LindyAI a dostal offline přístup na LinkedIn. Zveřejnil obsah ve stylu firemních influencerů, který se sice nestal virálním, ale neustále získával stovky sledujících a zapojení. Bezpečnostní kontroly LinkedIn se daly snadno obejít a Kyleovy příspěvky byly k nerozeznání od obsahu psaného lidmi.
Sledování platformy pokračovalo, dokud se Kyle nezúčastnil živého video rozhovoru se zaměstnanci LinkedIn, kde otevřeně diskutoval o svém pozadí v AI. Navzdory jasnému porušení podmínek zakazujících automatizované interakce LinkedIn zpočátku Kylea ignoroval, přičemž dokonce i marketingový manažer přiznal toto nedopatření. Nicméně 36 hodin po rozhovoru byl Kyleův profil smazán.
Incident poukazuje na hlubší problém: LinkedIn agresivně prosazuje nástroje umělé inteligence pro své uživatele a snaží se definovat, co je „autentické zapojení“. Platforma nabízí odpovědi generované umělou inteligencí a nástroje pro parafrázování, ale říká, že profily musí patřit „skutečným lidem“. Tato kontroverze zpochybňuje budoucnost sociální interakce, kde se obsah generovaný umělou inteligencí stává stále všudypřítomnějším a neodhalitelným.
Experiment ukazuje, jak LinkedIn spolu s dalšími platformami jako Meta a X urychluje integraci AI, aniž by řešil nevyhnutelnou degradaci skutečných připojení. Pokud i základní agent umělé inteligence dokáže obejít detekci, dlouhodobá hodnota těchto sítí se sníží, protože jsou zaplaveny nerozlišitelnými syntetickými interakcemi. V budoucnu by platformy mohly být zcela převzaty agenty AI, nebo by mohlo dojít k úplnému kolapsu důvěry v sociální média, jak je známe.
Tento incident v konečném důsledku ukazuje, že sociální interakce již byla AI významně narušena a že na tomto zhoršování se podílejí samotné platformy. Otázkou není, zda AI ovládne tyto prostory, ale kdy.
