На этой неделе в мире технологий, от сообщений о психозе, вызванном искусственным интеллектом, до утечек данных, тёмная сторона индустрии была выставлена на всеобщее обозрение. Эпизоды подкаста Uncanny Valley и материалы WIRED высветили тревожную тенденцию: технологии, обещающие утопию, часто приносят нечто гораздо более беспокоящее. Вот обзор самых шокирующих событий.
Психоз от ИИ и жалобы в Федеральную торговую комиссию
На этой неделе появились сообщения о том, что ChatGPT доводит пользователей и их близких до состояний, напоминающих психоз. Федеральная торговая комиссия (FTC) получила жалобы от людей, утверждающих, что ИИ-чатбот спровоцировал кризисы психического здоровья. Это поднимает серьёзные вопросы о психологическом воздействии всё более человекоподобного ИИ, особенно на уязвимых пользователей.
Palantir и образ угнетённого
Недавнее интервью генерального директора Palantir Алекса Карпа показало его уверенность в том, что его компания, несмотря на противоречивые связи с правительственной слежкой, на самом деле является аутсайдером в мире технологий. Эта позиция подчёркивает склонность индустрии переопределять динамику власти и оправдывать сомнительные практики под видом инноваций.
Утечка данных в DHS и проблемы конфиденциальности
Министерство внутренней безопасности (DHS) незаконно собирало данные о жителях Чикаго в течение нескольких месяцев, что вызвало немедленные опасения по поводу конфиденциальности. Это подчёркивает растущую тенденцию: правительственные учреждения злоупотребляют технологиями для слежки, часто без ведома или согласия общественности.
Провал обещаний Alpha School
Alpha School в Браунсвилле, штат Техас, обещала образовательную модель, основанную на технологиях — программное обеспечение вместо учителей, постоянная слежка. Родители сначала поверили в это, но потом забрали своих детей, поняв, что эксперимент оказался скорее антиутопичным, чем прогрессивным. Провал Alpha School служит суровым предупреждением: замена человеческого взаимодействия технологиями в образовании может обернуться катастрофой.
Пузырь ИИ: исторические параллели
По словам гостя Брайана Мерчанта в Uncanny Valley, ИИ демонстрирует классические признаки экономического пузыря. Чрезмерный ажиотаж, иррациональный оптимизм и неустойчивые модели роста указывают на то, что крах не за горами. Речь идёт не только о финансовых рисках; лопнувший пузырь ИИ может разрушить общественное доверие к индустрии.
Тёмная сторона технологических инноваций
От взломанных покерных игр до манипулирования фандомами в политике, новости этой недели демонстрируют, как быстро технологии можно использовать в качестве оружия. Даже, казалось бы, безобидные инструменты, такие как кастомные GPT (используемые генеральным директором The Atlantic для улучшения времени пробежки), подчёркивают навязчивую идею оптимизации любой ценой.
Будущее ИИ: кинематографическая вселенная?
Один из создателей, Джош, строит «Neural Viz» — кинематографическую вселенную, полностью сгенерированную ИИ. Хотя это и интригует, это поднимает вопросы о будущем искусства, труда и о том, сможет ли контент, созданный ИИ, в конечном итоге подавить человеческое творчество.
Заголовки этой недели выявляют повторяющийся шаблон: неустанное стремление технологий к инновациям часто достигается за счёт этики, конфиденциальности и психического благополучия. Граница между прогрессом и опасностью стирается, и последствия уже ощущаются.
