Круел пишет: Краткая заметка об R1 и сегодняшнем крайне иррациональном поведении рынка:

1. Не существует понятия "достаточно энергии", потому что не существует понятия "достаточно вычислительной мощности", потому что не существует понятия "достаточно интеллекта".

Более эффективные алгоритмы не устраняют необходимость в дорогостоящей разработке лучших процессоров. Никто не прекратил создавать более мощные суперкомпьютеры из-за оптимизации оборудования и алгоритмических улучшений. Делать больше с меньшими затратами означает возможность делать еще больше с большими ресурсами.

Идея о том, что более эффективное использование ресурсов делает дальнейший рост ненужным, фундаментально неверна. Ожидаемо, что такие аргументы исходят от зеленых фанатиков антироста. Но люди, торгующие акциями, должны понимать это лучше.

1. Мы сейчас находимся в гонке вооружений с Китаем за господство во вселенной до конца времен. Побеждает тот, у кого больше вычислительной мощности. Если R1 настолько революционен, как утверждают некоторые, это неизбежно ускорит инновации и существенно повысит спрос на компании вроде Nvidia, поскольку вычислительная мощность становится еще большим конкурентным преимуществом.

2. Хотя полупроводниковая промышленность Китая добилась значительных успехов, она по-прежнему отстает от западных компаний на годы. То, что они могут догнать последнюю западную AI-модель за несколько месяцев, не означает, что они смогут продолжать это делать по мере того, как западные компании будут экспоненциально наращивать свои вычислительные мощности.

3. То, что R1 более эффективен, неудивительно, поскольку он на несколько месяцев моложе o1. Более корректным было бы сравнение между R1 и o3-mini.

4. Сегодняшний обвал рынка представляет собой стратегическую победу КПК. Осознав, что они могут не выиграть затяжную гонку вооружений, Китай решил сделать R1 открытым исходным кодом. Этот ход создает иллюзию того, что конкурентное преимущество западных компаний в закрытых моделях уменьшается, что подрывает инвестиции и уверенность.

Однако это восприятие фундаментально ошибочно по причинам, изложенным выше. Тем не менее, стратегия сработала — по крайней мере, в краткосрочной перспективе — расшатав рынки и посеяв сомнения.

Несколько случайных мыслей:

Имеет значение только невыносимое страдание (порог может варьироваться). Порог зависит от того, измеряется ли он до, во время или после страдания.

Если квантовое бессмертие реально, то самоубийство не прекратит страдания и может сделать их хуже. Правильные расчеты полезности должны учитывать это.

Большинство страданий имеют ограниченную продолжительность, после которой они заканчиваются. После окончания появится некоторое количество счастья, которое может перевесить страдания. Даже неизлечимая болезнь может быть излечена через 5 лет. Смерть же длится вечно.

Смерть — это бесконечная потеря будущих удовольствий. Ставка дисконтирования может быть компенсирована экспоненциальным раем.

Ответил Лидскому про классический аргумент о запрограммированном старении

Почему королева термитов живёт в 50 раз дольше рабочих особей, и не доказывает ли это запрограммированность старения?

Краткий ответ: ломать — не строить. Присущая термитам способность к долголетию не активирована в полной мере у рабочих особей из-за пониженной активности систем репарации.

Высокая продолжительность жизни маток является характерной чертой социальных животных, включая голых землекопов. Однако в долгой жизни рабочих особей нет эволюционной необходимости. Регуляторные механизмы генома, снижающие их продолжительность жизни, не подвергались негативному отбору. При этом геном у всех особей идентичен — различия возникают на уровне его регуляции. Все генетические механизмы, увеличивающие продолжительность жизни матки, закреплялись естественным отбором. В результате возникло существенное расхождение в продолжительности жизни между маткой и рабочими особями. У матки все системы репарации повреждений работают на максимуме, а у рабочих особей — нет.

Может возникнуть соблазн предположить, что и у других животных существует такой потенциал долголетия, который по каким-то причинам не реализуется. Что мышь — это своего рода голый землекоп, не активировавший свою "программу долголетия". Однако голый землекоп приобрёл свои механизмы долголетия в ходе длительной эволюции, накопив множество генетических адаптаций.

Pruss: Новый штамм птичьего гриппа H5N1 на западе США, и сразу повсюду.
Не тот, что циркулировал в коровах и заражал работников ферм от Техаса до Калифорнии. Новый штамм, по всей видимости, пришёл с перелетными птицами, и заразил птицеферму в штате Вашингтон, а затем и 9 работников. А в Орегоне заразились свиньи и это серьёзный повод для волнений, так как именно в свиньях чаще всего встречаются и гибридизуются разнородные штаммы птиц и людей, со всеми вытекающими последствиями. Пишут, что у этих свиней тот же штамм, что и в Вашингтоне, хотя окончательных данных я ещё не видел.

И к вопросу о безопасном ИИ - если бы он нам так и нужен все вместе, то надо было бы допиливать Compreno до уровня чат GPT.