Чем все это может быть полезно для экономики будущего?
Мне кажется очевидным, что мы только-только подобрались к "компьютеризации интуиции" -- аргумент о невычислимости человеческих предпочтений, который использовали жрецы АЭШ и который немного близок разговорам о работе рынка инвестиций (о чем я немного писал на этом канале в 2022г.), и невозможности создания компьютеризированного аналога оному, становится теперь уже совершенно невалидным: предположим, реализовывая похожий механизм в управляемой кибернетической экономике, нам мешала невозможность создать для аналога хедж-фонда систему вне-денежной мотивации. Теперь же у нас есть механизм, позволяющий заменить такие "суммаризаторы" как инвест-фонды на один условный датацентр, не требующий квартиры в элитном районе и личной супер-яхты, но обрабатывающий сантименты от его под-организаций (аналогов предприятий), которые в свою очередь обрабатывают свои специализированные данные и управляют производством и реализацией продуктов уже каждый в своей сфере.

Разумеется, пока это очень абстрактный плод воображения на будущее, предстоит еще много работы для установления определений и каталогизации экономических механизмов -- работа, которую предлагали еще в контексте "Unreasonable ineffectiveness of mathematics in economics" Веллупилая.
Также я специально избегаю ярлыка "плановой экономики", чтобы не указывать в стотысячный раз на ее разнообразие и возможность меняться и не быть такой же, как в СССР в 1953/1965/1986.

Относительно "общего ИИ" и потенциала прогресса в его сторону я обязательно напишу чуть позже, есть некоторые идеи на стыке философии права и кибернетики.

За 2024г., казалось бы, машинное обучение продвинулось еще дальше, предоставив в доступ модели о1, о3 и Claude 3.5. Несмотря на некоторое замедление прогресса в этой области и корпоративные пресс-релизы, которые добавляют неясности к реальному положению дел с такими вещами как AGI или квантовые вычисления, у LLM даже в нынешнем виде есть интересный потенциал для применения в экономике.

Далее эта заметка разделится на две части: первая с небольшим обзором поста на substack, вторая с моими соображениями относительно возможностей для экономики будущего.

Substack

Я не помню как, но я попал на рассылку Г.Фаррела -- его пост от 9 декабря начинается с рекламы книги про экономику, которую он написал в соавторстве с Эйбом Ньюменом и которая попала в выбор редакции Foreign Affairs на 2024 год.

Но пост не о ней, а о книге от 1965 года про автоматизацию и формы, которые она может принять для менеджмента.

Фаррел выделяет 3 пункта, которые кажутся ему важными в этой книге, но я остановлюсь только на самом большом -- третьем.

Еще шестьдесят лет назад книга поднимала фундаментальный вопрос влияния ИИ в той или иной форме на менеджмент в общем. Тогда как замена человека в любой задаче, несмотря на обещания и ажиотаж, кажется сравнительно далекой, то влияние языковых моделей на отдельные элементы организации ощущается беспрецедентно. В конце концов, если мы и движемся к "сингулярности", то она наврятли примет форму неожиданного откровения, разговора с ораклом-ИИ, который откроет нам тайны жизни и мироздания. Напротив, с прикладной точки зрения скорее всего сингулярность тихо проползет к нам в предприятия и организации, и мы уже можем видеть грубые предвестники этого -- автоответчики в поддержке, помощь в поиске и обучении, синхронный перевод и т.д.

Последнее время я много писал об "организации как интеллекте" -- представление фундаментальное для акселерационизма, но которое не имело конкретного воплощения. До появления надежных языковых моделей: тогда как они не имеют возможностей принимать решения или хорошо переходить от конкретного к абстрактному и обратно, они очень хорошо векторизируют и ориентируются в векторном пространстве "общего культурного корпуса знаний", при необходимости немного его рекомбинируя.

Несколько утрируя, сейчас мы имеем на руках аналог гипоталамуса + кусков фронтальной коры (в которых хранится непосредственно память), но самое главное -- мы можем хранить, оценивать относительно корпуса всех известных человечеству знаний и модифицировать память больших групп людей и даже организаций.

Фарелл объединяет способы применения языковых моделей в три группы в зависимости от масштаба задачи:
1) Микрозадачи -- конвертация списков из одного формата в другой, генерация списка ссылок подходящего под требования организации и т.д.: организационная рутина, которая занимала много времени, и ее автоматизация облегчает жизнь и не влияет на саму структуру организации
2) Картография знаний -- название говорит само за себя: навигация и память в большом корпусе знаний это тяжелая задача, удобно иметь ее дискретное представление.
3) Автоматизация организационных ритуалов -- самая интересная часть: в ней Фарелл критикует Д.Грэбера и его концепт "бредовых работ": да, менеджмент как таковой может быть неэффективным и мешать "непосредственно работе", но использование ритуалов тех или иных форм рутины, бесполезной для отдельного человека (напр. годовые отчеты), может быть критически важно для работы организации в целом.

Что именно критикует критика технологий? Вроде бы ответ содержится в самом вопросе, но не спешите. В своей недавней статье теоретик медиа Ранджод Сингх Дхаливал доказывает: от того, как исследователи на него отвечают, напрямую зависит политическое измерение их работы.

Чтобы понять, что он имеет в виду, нужно распаковать само понятие технологии. С этимологической точки зрения у этого слова два корня, оба из древнегреческого: τέχνη (техне) — это «ремесло», «искусство» или «умение»; а λόγος (логос) — это «смысл», но в данном «изучение». Технология уже заключает в себе критическую дистанцию: это изучение ремесла, или искусства, или практических навыков.

Похоже, это понятие всегда было сложносоставным: одновременно и многозначным, и предполагающим неочевидные отношения между элементами значения. А сегодня все только усложнилось. Как показал историк Лео Маркс, в одном слове техника спуталась с экономикой и политикой.

Например, цифровые технологии: с одной стороны, это просто хардвер, полупроводники, аккумуляторы и экраны. А с другой — это еще и заводские инфраструктуры, которые эти составляющие производят, и даже минералы, из которых они состоят. А еще у цифры есть и символическое измерение: компьютеры манипулируют символами и числами, и, в этом смысле, имеют литературное измерение. Наконец, технологии — это и то, как мы их используем: вокруг себя они формируют технокультуры.

Долгое время, как отмечает Дхаливал, критика технологий оставалась на уровне критики технотекстов — то есть как раз их символического измерения. Для этого использовался инструментарий литературной критики. Так устроена критика интерфейсов Александра Гэллоуэя, или, например, прочтение софта как идеологии у Венди Чан. И даже, казалось бы, насквозь материальная медиа-археология Киттлера. Как пишет Дхаливал, даже если теоретики начинали с материального уровня, то все равно в итоге оказывались на уровне знаков.

Новый поворот в критике технологий наметился к началу 2020-х. Исследователи стали выходить за рамки привычного анализа текстов — и освоили кроссдисциплинарную перспективу. Этот тренд воплощают три сборника, которые анализирует автор — «Ваш компьютер в огне» (2021), «Технопрекарность» (2020) и «Неопределенные архивы» (2021). Но когда исследователи пишут одновременно обо всем и для всех, то неизбежно встает вопрос: так что же конкретно не так с технологиями? И почему они зачастую усугубляют социальные проблемы?

Критика технологий отвечает на этот вопрос то ли слишком конкретно, то ли слишком абстрактно. Виноваты либо конкретные люди (Марк Цукерберг или Илон Маск), либо «система» в целом. Вместо этого, уверен Дхаливал, теоретикам стоит исследовать жанр дизайн-челленджей для тех, кто разрабатывает технику. Ведь технические артефакты — это физическое решение для конкретного социального запроса.

Такая исследовательская программа приводит ученых на территорию современного искусства и спекулятивного дизайна. К примеру, исследовательская группа Forensic Architecture проводит высокотехнологичные расследования государственных преступлений. (А если вы о них не слышали, то вот наш текст о расследовательской эстетике.)