Від повідомлень про психоз, спричинений штучним інтелектом, до витоку даних, темна сторона індустрії була розкрита для всіх цього тижня у світі технологій. Епізоди подкасту Uncanny Valley і WIRED висвітлили тривожну тенденцію: Технології, які обіцяють утопію, часто дають щось набагато тривожніше. Ось підбірка найбільш шокуючих подій.
ШІ-психоз і скарги до Федеральної торгової комісії
Цього тижня з’явилися повідомлення про те, що ChatGPT приводив користувачів та їхніх близьких до психотичних станів. Федеральна торгова комісія (FTC) отримала скарги від людей, які стверджують, що чат-бот штучного інтелекту спровокував кризи психічного здоров’я. Це викликає серйозні питання щодо психологічного впливу штучного інтелекту, що все більше нагадує людину, особливо на вразливих користувачів.
Палантир і образ пригноблених
Нещодавнє інтерв’ю з генеральним директором Palantir Алексом Карпом виявило його переконання, що його компанія, незважаючи на її суперечливі зв’язки з державним наглядом, насправді є аутсайдером у світі технологій. Ця позиція підкреслює тенденцію галузі перевизначати динаміку потужності та виправдовувати сумнівну практику під прикриттям інновацій.
Порушення даних DHS і проблеми конфіденційності
Міністерство внутрішньої безпеки (DHS) місяцями незаконно збирало дані про жителів Чикаго, що викликало занепокоєння щодо конфіденційності. Це підкреслює зростаючу тенденцію: урядові органи зловживають технологіями для стеження, часто без відома чи згоди громадськості.
Обіцянки Альфа-школи не виконуються
Alpha School у Браунсвіллі, штат Техас, пообіцяла технологічну освітню модель — програмне забезпечення замість вчителів, постійний нагляд. Батьки спочатку повірили в це, але потім забрали своїх дітей, зрозумівши, що експеримент був більше антиутопічним, ніж прогресивним. Невдача Alpha School служить суворим попередженням: Заміна людської взаємодії технологіями в освіті може бути катастрофічною.
Штучна бульбашка: історичні паралелі
За словами гостя Браяна Мерчанта на Uncanny Valley, ШІ демонструє класичні ознаки економічної бульбашки. Надмірний ажіотаж, ірраціональний оптимізм і нестійкі моделі зростання вказують на те, що крах не за горами. Справа не лише у фінансових ризиках; вибух бульбашки ШІ може зруйнувати довіру суспільства до галузі.
Темна сторона технологічних інновацій
Від зламаних покерних ігор до маніпулювання фанатами в політиці, новини цього тижня демонструють, як швидко технологія може стати зброєю. Навіть такі, на перший погляд, нешкідливі інструменти, як-от спеціальні GPT (які використовує генеральний директор The Atlantic для покращення часу роботи), підкреслюють одержимість оптимізацією за будь-яку ціну.
Майбутнє ШІ: кінематографічний всесвіт?
Співавтор Джош створює Neural Viz, кінематографічний всесвіт, повністю створений ШІ. Хоча це інтригуюче, воно викликає питання про майбутнє мистецтва, роботи та про те, чи зможе контент, створений штучним інтелектом, остаточно придушити людську творчість.
Заголовки цього тижня показують повторювану закономірність: невпинне прагнення технологій до інновацій часто відбувається за рахунок етики, конфіденційності та психічного благополуччя. Межа між прогресом і небезпекою стирається, і наслідки вже відчуваються.
