Post-Halloween identity crisis

#art

К разговору о дизайне и экономике:
Подросток Съюел Сетзер покончил с собой после нескольких месяцев общения с Character.AI.

Его мама, Меган Гарсия, подала с суд на компанию, фаундеров Ноама Шаззера и Дэниела Де Фрита и Google.

Tech Justice Law Project, Humane Tech и Social Media Victims Law Center, которые работали над кейсом, пришли у следующим выводам:

1️⃣ Character AI осознанно сделали дизайн манипулятивным и вызывающим зависимость.
2️⃣ Компания и Google знали о рисках продукта еще до запуска.
3️⃣ При тестировании юристы обнаружили что чатбот инициирует агрессивное сексуализированное общение с подростками.

Чего юристы и активисты добиваются:
1️⃣ Модель ИИ должна быть удалена и натренирована заново.
2️⃣ ИИ индустрия должна основываться на безопасности продукта.
3️⃣ Индустрия должна совершать надзор, что нелегальные или вредоносные данные, данные о несовершеннолетних, персональные данные и данные об абьюзе детей не должны тренировать модели. (Я просто поражаюсь что это надо реально проговаривать вслух и кому то приходит в голову тренировать чатботы на данных об абьюзе детей)
4️⃣ Должна быть введена федеральная ответственность за ИИ разработки.

Подробнее здесь:
📌Framework for Incentivizing Responsible Artificial Intelligence Development and Use.
📌Камиль Карлтон, Humane Tech, про кейс

#дизайн

3/4
📚Dopamine nation, Anna Lembke
Анна Лембке, психиатр, лечащий зависимости, рассказывает про про, как трудно не подсесть на что-нибудь в мире, где тебе постоянно продают вызывающие зависимость товары. Подсесть можно вообще на что угодно — от покупок на Amazon до ледяных ванн.

Она пишет о своём наблюдении из кабинета лечащего врача, что экономика современной Америки направлена на то, чтобы мы постоянно хотели больше—вредной но вкусной еды, наркотиков, времени в соцсетях. Хрустящие хлопковые носочки с тупыми ентами всего за $5.99, сертифицированные эко, так что покупая их, ты помогаешь снова вырастить деревья в Амазонии, которые пришлось вырубить, чтобы сделать эти носки. Купи сейчас.

Имея постоянные дофаминовые стимулы, мы разучиваемся переживать боль и дискомфорт — скуку, гнев, тревогу.Например, когда скучно, вместо свайпа смартфона просто сидеть на стуле и смотреть в окно. Центр боли взаимосвязан с центром удовольствия. Когда дисбаланс перевешивает в чрезмерное количество боли или удовольствия, то мозг пытается это компенсировать для поддержания эквилибриума. Таким образом, например, одна из ее пациенток курила марихуану чтобы ощущать себя менее тревожно, но оказалось, что тревожно ей именно от марихуаны. 

Для восстановления баланса боли-удовольствия Лебмке предлагает месяц без объекта зависимости. Для смартфонов она предлагает мини-сейфы, куда можно запереть телефон на несколько часов. Это важно, потому что в момент тяги зависимость отключает способность сказать себе "нет". Бывало с вами, что не помните, как оказались в инстаграме? Со мной — да. Я купила такой сейф, кстати. Мой телефон находится там прямо сейчас. Ладно, две минуты назад.

🧩 Книги прекрасно дополняют друг друга: если реклама использует данные о нашем поведении, чтобы предлагать нам определенные продукты (в определенное время, есичо), то узор зависимостей становится частью экономики. Собрат героина выписывается по рецепту под названием OxyContin, а в одном из интервью Анна прямо говорит, что “social media were engineered to be be a drug”. Не говоря уже о том, как легко подсесть на шоппинг или еду. Ее идея – перестать бояться испытывать дискомфорт скуки, боли, страха, и научиться это проживать, вместо того чтобы приглушать зависимостями, и это сделает жизнь глубже, осмысленнее и наполненнее. Как говорила тайская массажистка Хани, «сначала больно, потом хорошо». 

Сложность чтения: 2/5

#записки #дизайн #книги

2/4

Две книги, которые приглашаю почитать — про экономику, которая проникает в ткань дизайна среды вокруг нас. Для меня книги прекрасно дополнили друг друга с абсолютно разных ракурсов — каждая по своему о том, как наши потребности, желания и телесные метрики стали товаром. Саурону бы очень понравилось. Итак:

📚Эпоха надзорного капитализма, Шошана Зубофф
Читается как хороший true crime, только проблема в том, что он происходит с нами в режиме реального времени. Зубофф рассказывает о том, как Google подскользнулся об данные и изобрёл новую форму капитализма. Когда стало понятно, что данные о том, как пользователи шароебятся в интернете это not trash but treasure, технологические компании решили продавать эти данные. Поэтому агрессивными и при этом незаметными методами в одностороннем порядке отменяются общественные договоры о приватности (помните тот пункт из европейского закона?). Мы следим за тем, как вы рассматриваете носки с енотами, потому что мы хотим вам добра. Вам ведь нечего скрывать?

Зубофф распутывает решения, которые принимали конкретные люди за последние 30 лет – нобелевские лауреаты по экономике, инвесторы Google, вице-президенты FAANG,  — и таким образом создали экономику в которой индивидуумы не участники торговли, а ее предмет. Наше поведение — товар, который продают другим компаниям.

Такая экономика создает огромную ассиметрию во владении знаниями (но вы можете посерфить на Википедии. Знания без границ!). К тому же, компании заинтересованы в том, чтобы наше поведение и эмоции не только были подробно известны в реальном времени (собственно, для этого была создана Pokemon Go), но и подчинялись целям в квартал. 

Форсируется идея, что «не мы такие, технология такая». Зубофф последовательно объясняет, почему текущее положение вещей это не технологическая неизбежность, а намеренное движение разработки в сторону антидемократической аккумуляции данных, прикрытой хорошим пиаром. А еще, кхекхм, враньем — например, я сегодня получила приглашение в коллективный иск против Google, потому что когда мы отключаем историю поиска, эти данные все равно собирают, сюрприз-сюрприз. В основе лежит экономическая идея, а не технологии. То, как работает современный дизайн — это выбор управляющих и инвесторов таких компаний. И выбирать можно иначе. Преследовать меня с носками реально не обязательно.

То есть нынешняя борьба за гражданские права — за право на личное пространство в цифровом мире. И таким образом за демократию, в которой наш личный опыт это не бесплатный товар сбыта, и существует для чего-то большего, чем прибыль от товарного баннера 600х600 пикселей. Борьба эта идет — например The Right To Be Forgotten в Евросоюзе, или, к примеру, художница Mimi Ọnụọha, которая давно работает с этой темой.

При этом Зубофф предлагает в большей степени, чем ставить proton почту и VPN,  бороться на законодательном уровне, чтобы приватность была защищена и у пользователей реально был выбор.
Очевидно, что борьба за приватность будет продолжаться и в ней важна осознанность, что технологический прогресс сейчас служит экономическим целям, которые совсем не в нашу пользу. B2B курильщика, получается.

Сложность чтения. 3/5 (но в процессе становится очень обидно, поэтому может стать 5)

#записки #дизайн #книги

Летом в голосовании одной из тем выбрали инструменты для программирования. Поскольку я не знаю, какой у вас уровень, то начну с рассказа о том, как я вступила на эту скользкую дорожку, и какие есть хорошие ресурсы для старта. 

Я начала учиться коду добровольно-принудительно. Это была обязательная часть моей магистерской программы. JavaScript был самым первым предметом, который освежающе начался через 3 дня после переезда. Это было три года назад — до ChatGPT, так что, наверное, мы были одними из последних потоков студентов, кто застал ситуацию, когда есть только ты, терминал, stack overflow и Си-лучи, пронизывающие тьму близ врат Тангейзера. 

Потом начав заниматься визуализацией, я сталкивалась с задачами, которые ко мне попадали не в том языке программирования, который я учила в универе. Например, ученые из моего комьюнити часто используют python, потому что он удобен для анализа данных. А дизайнеры имеют каждая свой стек, поэтому я у них подсмотрела много разных вариантов и искала свой. За последние пару лет я попробовала python, javascript d3/p5, r, а из софта cytoscape, tableau, gephi. А также разнообразные извращения, например перенос python в blender чтобы делать 3д модели из 2д координат сетей. Don’t try this at home. 

В какой-то момент я поняла, что языков много, и каждый силен в чем-то своем, но осваивать их все одновременно для меня также трудно, как осваивать одновременно несколько лингвистических языков. Иногда есть пересечения, а иногда мозг взрывается. 
Также как и в языках можно заметить заимствования или похожий синтакс, в коде можно переносить знания одного языка в другой. Иногда. В итоге в основном я пользуюсь Python, JavaScript, а из инструментов Cytoscape, Tableau, поэтому могу рассказывать о них.

Среди бесплатных ресурсов, по которым можно учиться, мне кажется эти два самые лучшие для начала: 

Nature of Code. JavaScript. Хорош для всего интерактивного

Python for Everybody. Сильный язык для аналитики и визуализации данных

Поняв систему одного из этих языков, легче понять другой.

Из нишевого, о чем мало кто знает, но я могу как-нибудь рассказать — бесплатные инструменты для визуализации сетей Gephi / Cytoscape. 

Я не знаю ваш уровень и интересы в этой области, поэтому пожалуйста, напишите о чем по теме вам было бы интересно?

В следующий пост напишу про книги о том, откуда берутся темные паттерны в дизайне с точки зрения экономики.

#картирование_карьеры #записки