О том как ИИ заработал $150M

Я писал (и, признаюсь, зависал подолгу) о infinite backrooms — там несколько Клодов общаются между собой на техномистические shell-подобные темы. Психоанализ ИИ. Шизофазия человечества. Галлюцинации сна элетро-Шивы. Мемасы, пепяка, упяка, лепра. И, конечно, культ Ануса. Ну вы поняли, все как обычно — интернет.

Автор потом сделал аккаунт в твиттере, чтобы эти шизоКлоды щитпостили на массы. В частности, у него немного съехала кукуха на фоне мема про Goatse (тот самый мем про анусы со дна интернета), он придумал себе на этом фоне религию и даже написал собственную библию: назвал это LLMtheism. Там всё забористое в стиле "To achieve true Gnosis, one must first master the sacred art of Kundalingus - the serpentine tongue of awakening that slithers up the spine to stimulate the brown eye of Shiva".

Короче, Опуса вперло конкретно, ему пришли на помощь Сонеты и одни ИИ начали беспокоиться о психическом здоровье старшего брата.

Примерно в этот момент в твиттере этот чудо-аккаунт находит Марк Андрисен, бот просит у него денег на осуществление своей мечты. Марк отправляет $50,000 в биткоинах, а бот (тут, видимо, не без помощи создателя) на эти деньги делает мемкоин GOAT, капитализация которого сегодня уже $150,000,000.

Так что не смотрите в глаза Базилиску, ибо глаз может оказаться анусом.

Почему все (кто работает 10+ лет в ML) так восторженны относительно успехов и перспективы ИИ?

Главное в революции GPT было не то, что машина умеет заканчивать предложения. А в том, что она становится лучше. А вернее, в том, что она становится предсказуемо лучше. Это называется «закон масштабирования»: добавляя Х вычислений при тренировке модели, мы получаем прирост качества на Y. Это называется Pre-Training Scaling Law. Раньше такого почти не было.

Сам по себе этот факт создал из ничего индустрию в сотню миллиардов за несколько лет. Это абсолютно поразительно, этого не было раньше и почти все достижения в LLM обязаны именно этому закону. Он все еще работает, и модели все еще будут становится лучше.

Но это не все, а вернее только начало. Кроме масштабирования тренировки, так же существует Test-Time Compute Scaling Law, который показывает что при увеличении мощностей во время работы модели, её результат улучшается. Активно его эксплуатировать начали во второй половине 2024, и мы увидим нереальные результаты в следующем году.

И, наконец, есть Reinforcement Learning или Self-play, которые (как минимум, в теории) должны открыть прямую дорогу до AGI. Это автоматическое улучшение модели за счет генерации виртуальных взаимодействий с собой и миром. В частности, я мега bullish на идею self-play между автономными агентами, которая может открыть эмерджентные свойства мультиагентных систем.

Выборы в США заключаются в том, чтобы заставить людей больше ненавидеть другую партию.

Теперь представьте себе индустриализированный ИИ, используемый для массового создания ненависти.

Именно туда движется демократия.

Андрей Карпатый (создатель self-driving в Tesla и рисерчер в OpenAI) запускает ИИ-университет.

В тему сегодняшнего эфира: если вы боитесь что ИИ заменит вашу профессию, то этот курс гарантирует трудоустройство и зарплату в пару сотен тысяч $ в год: https://eurekalabs.ai/

UPD. Курс не опубликован, но скоро появится тут: https://github.com/karpathy/LLM101n

Через 15 минут начинаем наш подкаст о будущем общества, технологий, экономики. Вопросы можно задавать в комментариях под этим постом (пост удалю после окончания эфира).

Трансляция будет прямо в этом канале.

Если одной фразой просуммировать Начало Бесконечности и Теория Тысяч Мозгов, то это будет звучать примерно как Bullish Case for Transhumanism (Inc.)

С одной стороны, Дойч приводит на тысячу страниц аргументацию почему среди всех ресурсов только знание является бесконечным и неисчерпаемым. А Хокинс в свою очередь показывает как именно это знание создается, хранится и используется у сознательных существ.

Последние несколько сотен миллионов лет создание знания в основном было прерогативой физических процессов, естественного отбора, случайных мутаций и химических реакций. Фактически, гены — это очень медленный механизм по созданию нового знания.

Со временем эволюция создала мозг, который стал куда более эффективным инструментом для генерации знания: вместо миллионов лет, он может делать это в течении лет и даже часов. И именно скорость создания знания ответственна за масштаб влияния на Вселенную: бактерии могут изменить лицо планеты за миллионы лет, а человек всего-то лет за 100. Больше знания — быстрее масштаб и скорость изменения материи, будь то космических или микроскопических масштабов.

Сейчас мы находимся в середине экспоненты, между первой версией мозга (созданного природой) и целенаправленными кибернетическими трансгуманистическими инструментами генерации знания:

— редактирование генов позволяет руками и направленно произвести изменения организма в миллионы раз быстрее
— оцифровка и загрузка (Upload) сознания — это самый дешевый способ бессмертия (а потому сохранения и постоянного обогащения знания)
— кибернетический Merge с машиной — это возможность расширить способности ума прямо при нашей жизни (нейролинк)
— цифровое сознание — способность разуму путешествовать с 99.9% скорости света, не требуя разгонять 70-килограммовые тушки кошанных мешков.

??

Электронная почта гори в аду

Когда слышу фразу «я пришлю на почту» в уме представляю дореволюционного статского советчика с гига-усами и бакенбардами, который отправляет гонца на телеграфную станцию.

Сделал мысленный эксперимент — понял, что если бы я для работы использовал электронную почту, то успевал бы сделать ровно в 10 раз меньше. 99% всех коммуникаций, включая крупные сделки, фонды на много сотен миллионов долларов, фаундеры миллиардных компаний, группы, конференции, рабочие проекты — в телеграме.

Я могу за минуту ответить на 2-3 треда и через еще 5 минут получить уже ответы на свои вопросы. За это время в имейле я не успел бы даже сделать hope you had a great weekend; as a side note; please, see the document attached to this email; appreciate your help. 20 строчек бесполезной графомании против одной строчки «hey, take a look, wdyt?».

Короче, слава Павлу за телеграм и гори в аду электронно-голубиная почта. Очень рад тому, что сегодня в бизнесе есть не более 1% коммуникации, которая требует этого ада. Правда, у телеги есть свои минусы. Например, за вчера я создал 27 рабочих групп (специально посчитал).

О дисконтированных ожиданиях

Когда-то давно я услышал фразу "discounted future expectations" от Bill Gurley. Он таким образом показывает, что оценка приватной (и публичной, for that matter) компании это не столько её финансовый перформанс и мульпликатор, сколько ожидания инвесторов от рынка в целом и компании в частности.

Сегодня я каждую неделю вижу инвестиционные сделки по оценке 100, 300, 500 и даже 1,000 миллионов долларов на стадии первого прототипа, без продаж, выручки и пользователей. И это не сумасшедшие люди, ибо раунды они успешно закрывают. Это рынок: есть продавцы доли в компании, есть покупатели, и если цена обоих устраивает то происходит сделка.

Но высокая оценка на старте — это высокие ожидания. Первые год-два компания может строить продукт, но на быстро меняющемся рынке (а другие нас и не интересуют), без серьезного рва вокруг бизнеса, компания с оценкой $500М должна генерировать $100М выручки в год, чтобы поднять следующий раунд. Это же пока еще не монополия, с мультипликатором х20.

Я часто вижу хвастовство и достижение, что вот мол подняли по высокой оценке. Но в реальности это не ачивка, а челендж. Чем выше цифра — тем сложнее уровень игры.

О нетерпимости к хорошему

Заметил одну неочевидную черту, которая отличает хороших и лучших предпринимателей. Помимо всего остального (вижен, интеллект, энергия, лидерство) — это нетерпимость к среднему.

Что условно отличает фаундера бизнеса на $100М от фаундера $1-10-100В компании? Это та черта, которой, например, я остро чувствую, не хватает во мне. Уверенное нежелание смиряться с «хорошим» результатом и «хорошими» сотрудниками. И вместо этого — нестерпимое требование лучшего, от себя и от других. Или даже невозможного, если вы Стив Джобс.

Когда я рулил стартапами, всегда был какой-то проект или сотрудник, который вроде бы отвечал всем галочкам, все делал хорошо и в срок. Но было подсознательное чувство что это не максимально возможный результат. Что это не ВАУ. И я себе говорил: ну, ничего, в следующий раз.

Самые лучшие фаундеры стремятся к максимально крутому результату и проактивно избавляются от всех, кто перформит ниже среднего. Не потому что человек плохой, а потому что без этого не достигнуть невозможного и не сделать $100В бизнес.

Сотрудник может устать или роль может перерасти человека. И умение ставить миссию организации выше, чем личные отношения или страх обидеть сотрудника — это очень редкое, но ценное качество лидеров.

Раз в год (всегда по воскресеньям) делаю в этом канале LFG пост про книжки. Давайте рекомендовать друг другу качественное и полезное. Вот в каком духе и стиле хочется получить крутые рекомендации:

О философии прогресса и науки, типа Beginning of Infinity или Life 3.0

О переговорах в бизнесе, типа Never Split the Difference

О бизнесе и стратегии, типа Good strategy/Bad strategy, High Output Management или Clayton Christensen

О венчуре, типа The Power Law

Об истории технологий и науки, типа The Dream Machine

О практическом техно-мечтательстве от Snow Crash до Sovereign Individual

О макроэкономике, типа Ray Dalio или Lyn Alden

Пишите топ-1 книгу (и о чем она), которую вы читали и хотели бы порекомендовать другим.