Cette semaine, dans le domaine de la technologie, depuis les allégations de psychose induite par l’IA jusqu’aux atteintes à la vie privée, les dessous de l’industrie étaient pleinement visibles. Les épisodes du podcast Uncanny Valley et de la couverture de WIRED ont mis en évidence une tendance inquiétante : la technologie promet une utopie tout en offrant souvent quelque chose de bien plus troublant. Voici un aperçu des développements les plus choquants.
Psychose IA et plaintes FTC
Des rapports ont fait surface cette semaine, alléguant que ChatGPT conduisait les utilisateurs et leurs proches dans des états ressemblant à de la psychose. La Federal Trade Commission (FTC) a reçu des plaintes de personnes affirmant que le chatbot IA avait déclenché des crises de santé mentale. Cela soulève de sérieuses questions sur l’impact psychologique d’une IA de plus en plus humaine, en particulier pour les utilisateurs vulnérables.
Le récit de l’opprimé de Palantir
La récente interview du PDG de Palantir, Alex Karp, a révélé la conviction que son entreprise, malgré ses liens controversés avec la surveillance gouvernementale, est en réalité l’opprimé dans le monde de la technologie. Ce cadre met en évidence la tendance de l’industrie à redéfinir la dynamique du pouvoir et à justifier des pratiques douteuses sous couvert d’innovation.
Problèmes de violation de données et de confidentialité du DHS
Le Département de la Sécurité intérieure (DHS) a collecté illégalement des données sur les résidents de Chicago pendant des mois, soulevant des problèmes immédiats en matière de confidentialité. Cela souligne une tendance croissante : les agences gouvernementales abusent de la technologie à des fins de surveillance, souvent à l’insu du public ou sans son consentement.
La promesse ratée de l’école Alpha
L’école Alpha de Brownsville, au Texas, a promis un modèle éducatif axé sur la technologie : des logiciels plutôt que des enseignants et une surveillance constante. Les parents ont d’abord adhéré, pour ensuite retirer leurs enfants, réalisant que l’expérience était plus dystopique que progressiste. L’échec de l’école Alpha constitue un avertissement sévère : remplacer l’interaction humaine par la technologie dans l’éducation peut se retourner contre lui de façon spectaculaire.
La bulle de l’IA : parallèles historiques
Selon l’invité Brian Merchant sur Uncanny Valley, l’IA présente les signes classiques d’une bulle économique. Le battage médiatique excessif, l’exubérance irrationnelle et les modèles de croissance non durables suggèrent qu’un krach potentiel est imminent. Il ne s’agit pas seulement de risque financier ; l’effondrement du battage médiatique sur l’IA pourrait ébranler la confiance du public dans l’industrie.
Le côté obscur de l’innovation technologique
Des parties de poker piratées à la manipulation politique des fandoms, les histoires de cette semaine démontrent à quelle vitesse la technologie peut être transformée en arme. Même des outils apparemment inoffensifs comme les GPT personnalisés (utilisés par le PDG de The Atlantic pour améliorer les temps d’exécution) soulignent une obsession plus large pour l’optimisation à tout prix.
L’avenir de l’IA : un univers cinématographique ?
L’un des créateurs, Josh, construit « Neural Viz », un univers cinématographique entièrement généré par l’IA. Bien que cela soit intriguant, cela soulève des questions sur l’avenir de l’art et du travail, et sur la question de savoir si le contenu généré par l’IA finira par submerger la créativité humaine.
Les gros titres de la semaine révèlent un schéma récurrent : la quête incessante d’innovation de la technologie se fait souvent au détriment de l’éthique, de la vie privée et du bien-être mental. La frontière entre progrès et péril s’estompe et les conséquences se font déjà sentir.
