Почему я не боюсь, что нейросети вытеснят меня с рынка труда?

1.В райтинге важно правильно расставлять акценты. Типичное задание: "Напиши хвалебный текст про етого вот, но так чтобы по прочтении у всех сложилось однозначное впечатление, что герой - просто невыносимая мразь". Нейросеть никогда не добьется такого блядского мерцания, такого омерзительного эффекта "смены аспекта".

2.Смысл пиар-услуг в том, чтобы называть черное белым, а белое - черным. Роботам это запрещено

3.Еще более глубокий, подлинный смысл райтинга в обмене унижений на деньги. Ты никогда не сможешь править и поучать нейросеть. Никогда не добьешься, чтобы у нее прямо всю рожу перекосоебило и багровая пелена перед глазами. Сколько ни взывай "Ману, пусть резиновой женщине будет больно, когда я тушу о нее окурки!", она никогда не станет твоей сучкой. А я стану

Physics of Language Models

Я в своей жизни ML занимался довольно мало, но в последнее время решил все-таки по-лучше разобраться. Так что иногда (частота зависит от количества лайков ?) буду постить краткие пересказы статей/докладов, которые мне показались интересными.

Мне очень не нравится идея смотреть на LLM, как на какой-то черный ящик, который каким-то магическим образом учится, и, нужно всего лишь увеличить количество параметров в нем, обучить на большем количестве данных, и тогда он станет гораздо умнее и вдруг научится решать всякие задачи.

В докладе Physics of language models авторы тренируют относительно маленькие модели (100М параметров) на синтетических данных, и смотрят, какие задачи LLM могут решать, а какие нет.

Например, оказывается что LLM даже теоретически не могут научиться отвечать на вопрос вида "Правда ли, что Байден родился в четном году?" при том, что они прекрасно знают в каком году он родился, и знают, какие числа четные. Оказывается, что дело в порядке токенов. Если бы ответ был в формате "Байден родился в году 1942, это четное число, ответ да", то все бы работало. Но если хочется получить ответ в формате "Да, потому что он родился в ...", то в момент написания первого токена у LLM еще не будет числа 1942 "в контексте" и она не сможет выбрать правильный ответ. И такая проблема есть у любых моделей вне зависимости от размера.

По аналогичным соображениям, если в датасете было написано только "X родился в городе Y", то модель никогда не сможет научиться правильно отвечать на обратный вопрос "кто родился в городе Y?" (потому что в "памяти" модели будет мапинг X->Y, но не в обратную сторону).

Еще из прикольного в докладе показывают, что можно обучить текстовую модель делать топологическую сортировку графа. При этом можно проследить, что в "состоянии" модели во время инференса действительно будет храниться множество посещенных вершин и тех вершин, которые можно посетить на следующем шагу.

“Мотивация и тревога” — мы-монологичный опус в девяти частях.

Объем: большой, но дробный и почти независимый.
Сложность: от простого к средне-сложному.
Содержание:
Часть 1: тревога и движение
Часть 2: принятие тревоги и самоподдержка
Часть 3: прокрастинация и неизбежное
Часть 4: приоритеты и работа с задачами
Часть 5: вопросы собственной тревоги или переломная середина
Часть 6: общество и игра
Часть 7: интеграция и балансировка
Часть 8: (по)знаем себя
Часть 9: автоматизм и свобода

Двигаясь к своим целям, мы можем однажды обнаружить, что не знаем, где оказались и что нам делать. Вероятно, мы попали в тупик. Возможно, мы потеряли в нем ощущение смысла, а тревога заполнила всю окружающую пустоту.

Попытаемся же по порядку разобраться, что мы забыли и что следует вспомнить в ситуации тревожной утраты мотивации. Начнем с понятного, а далее поищем, куда нам следует вернуться, чтобы оказаться на своем месте и продолжить путь.

Ненене, из того, что глубина здесь редуцируется к форме рассуждения не следует, что человек не туп как пробка.

Пояснение от Антона Кузнецова, мы его неправильно поняли

Подержал тут в руках Андроид с Гугл Плеем, это конечно как газета с рекламой. Помните, были такие? Раскладывали в ящики бесплатно, контента нет вообще, одни объявления. Все кричит, все по-разному, криво, косо, перебивает друг друга, никакой структуры, уух, ужас прям.

Особенно порадовал поиск. Современная тенденция же какая? Показывать в результатах не то, что человек искал, а то, что выгодно показать платформе. Ну, реклама, понятно. Но и левые результаты тоже. И всякое «люди также ищут». И «сейчас популярно». То есть буквально — покажи сканер QR кодов. Не, может ты хочешь игру про птичек? При этом просто результатов, допустим, три, а этих — двадцать. Абсурд, идиотизм, но это мир, в котором мы живем.

Особенно мне понравилось, что допустим поискать «только платные приложения» можно, а «только бесплатные» — нельзя. Удобно, интересно как так получилось.

Еще тут видимо какая-то конференция прошла, потому что поперли новости, как в каждый утюг запихивают ИИ (с новой силой, так-то этой тенденции уже года два, конечно). В том числе и в Гугл Карты — теперь нельзя поискать что тебе нужно, нужно текстом об этом писать.

И это меня веселит, потому что картами я пользуюсь постоянно и они не могут сделать базовые фильтры — покажи что открыто, покажи такой-то тип заведения, найди по такому-то слову. То есть оно работает, но где-то процентов на 50 — что-то действительно меняется, но в целом рандомные вещи (заплатившие чуть больше за рекламу?) тоже попадают в результаты и приходится глазами фильтровать. То есть банальный фильтр, который любой студент-первокурсник может написать за 5 минут, работает плохо даже без всякого ИИ.

И таких мелочей миллион. Например, карты регулярно забывают, что ты только что искал. Вот едешь ты по маршруту, смотришь остановки, а тут он хуяк — и пропал. Делай все заново.

ПОЧЕМУ БЫ ПРОСТО НЕ ПОЧИНИТЬ ТО ЧТО УЖЕ ЕСТЬ?

Это какая-то радикальная мысль или что? Я бунтарь, потому что этого хочу?

Но нет, потому что кому ты продашь «нормально работающее приложение». Я просто реально не понимаю уже, как современные бизнесы работают. Они очевидно работают не для пользователей, очевидно что фичи придумают не для них и делают не для них. Но для кого? Зачем вообще эти телодвижения? Зачем имитация какой-то жизни? Ты и так уже монополист, зачем ежегодно делать приложение хуже, просто ничего не трогай, еще и денег сэкономишь, нет?

Я понимаю, что это видимо та самая эншиттификация, про которую все говорят. Но мне непонятно, из кого тут деньги выжимают, учитывая что все и так бесплатное. Тут ощущение, что цель — свести пользователей с ума херовым сервисом, который незаметно с каждым годом становится все хуже. Но зачем? Какая конечная цель? Как это конвертируется в прибыль? Зачем условному Гуглу армия сумасшедших с условными Андроидами?

Вот сейчас все пихают ИИ. Ну будет у тебя ИИ. И чего? Карты все равно предустановлены на всех телефонах. Никто решения по их приобретению не принимает. А если и принимают, то ты все равно не целишься в цели и запросы пользователя. Никто не пытается сделать продукт удобным и привлекательным, никто не хочет понравиться пользователю. Все соревнуются только в том, как бы побольше кринжа запихнуть. Но зачем? Чтобы что?

Господь, жги уже. Давайте заново начнем. Новые процессоры, новый ассемблер, новый С, новый интернет. С этим ничего не вышло, пора списывать убытки. Только Гугл с Микрософтом туда не пускайте.

Помните магазины от Амазон, где можно было покупать продукты просто выходя с ними из магазина? Там камеры и AI распознающий товары.

А помните шутки, что за ChatGPT на самом деле сидят тысячи индусов и пишут ответы?

Так вот, мы не про то шутили. Эти тысячи индусов работали удаленными кассирами в магазинах Амазон.

По-видимому, идея была со временем перейти на автоматизацию, засчет сбора данных и реально тренировки computer vision систем. Но не срослось ?

Это, конечно, эпично.

https://futurism.com/the-byte/amazon-abandons-ai-stores

THE_BYTE.

Amazon Abandons Grocery Stores Where You Just Walk Out With Stuff After It Turns Out Its "AI" Was Powered by 1,000 Human Contractors

Amazon is giving up with its unusual "Just Walk Out" technology, which allowed customers to simply walk out with their stuff.

Жил на свете старичок
Маленького роста,
И смеялся старичок
Чрезвычайно просто:
«Ха-ха-ха
Да хе-хе-хе,
Хи-хи-хи
Да бух-бух!
Бy-бy-бy
Да бе-бе-бе,
Динь-динь-динь
Да трюх-трюх!»

Раз, увидя паука,
Страшно испугался.
Но, схватившись за бока,
Громко рассмеялся:
«Хи-хи-хи
Да ха-ха-ха,
Хо-хо-хо
Да гуль-гуль!
Ги-ги-ги
Да га-га-га,
Го-го-го
Да буль-буль!»

А увидя стрекозy,
Страшно рассердился,
Но от смеха на травy
Так и повалился:
«Гы-гы-гы
Да гy-гy-гy,
Го-го-го
Да бах-бах!
Ой, ребята не могy!
Ой, ребята,
Ах-ах!»

Одна хорошая новость только — геологи отменили антропоцен, всё, больше нет такой кандидатуры в геологические эпохи. Одна из причин, по словам причастного профессора, та, что их очень глубоко впечатлили наши 2000 художественных биеннале и 20000 гуманитарных круглых столов на тему антропоцена: они решили что надо помочь людям выбраться из этой беды даже если придется ликвидировать целое исследовательское поле ради

Комментарии в крупных пабликах, яндекс-дзен и прочих подобных площадках - лучший аргумент против демократии.

А учитывая, что половина из них пишется ботами - то и против технократии.