(Первая часть поста выше:)

...Это может включать создание систем, которые упрощают сложные процессы до уровня, доступного человеку, или обеспечивают такие структуры, в которых ИИ сам проверяет свои выводы и доказывает, что его решения безопасны и надёжны.

Как мне кажется, идея SuperAlignment — это попытка научить "ребёнка" объяснять свои действия, чтобы быть уверенными, что он не делает ничего опасного или неправильного, даже если он уже умнее родителей.

Но есть одна загвоздка: даже если мы научим "ребёнка" объяснять свои действия, совершенно не факт, что мы будем в состоянии понять и принять все его рассуждения и что он будет нас слушаться, когда вырастет.

Текущие версии ИИ гораздо тупее, чем нам кажется, но развиваются такими темпами, что мы, вероятно, просто не успеем научиться их контролировать.

Думаю, вы уже заметили, что проблема LLM начинает беспокоить не только Илона Маска с Биллом Гейтсом, но и других неглупых ребят.

Если задуматься, вся эта ситуация с неконтролируемым ИИ может превратиться в настоящую угрозу для человечества чуть быстрее, чем большинство из нас предполагает.

Многие мешки с костями уже сейчас сильно полагаются на помощь чатботов в рабочих вопросах. Но в текущем поколении даже самые продвинутые текстовые модели умудряются облажаться на простейших задачах, с которыми любой дошкольник бы справился.

Недавно я повеселился, прочитав статью с интригующим названием "Alice in Wonderland: Simple Tasks Showing Complete Reasoning Breakdown in State-of-the-Art Large Language Models", где приводится в пример следующая элементарная задача:

"У Алисы есть 6 братьев и 5 сестёр. Сколько сестёр у брата Алисы?"

Простой вопрос, но LLM дают на него неправильный ответ в более чем 50% случаев. И это совершенно не смешно, учитывая уровень внедрения чатботов в реальные бизнес-процессы в этом году.

Стоит задать себе вопрос: если такой мощный ИИ не может решить детскую задачку, стоит ли доверять ему в более серьёзных вопросах?

Честно говоря, я лично бы даже не рекомендовал вам писать тексты с помощью ИИ без серьёзной редактуры.

Все текстовые модели имеют весьма специфическую структуру повествования "из коробки". Например, я без всяких определителей ИИ на глаз вычисляю тексты, написанные машиной.

Уже сегодня мои коллеги из креативных агентств, чьи брифы и презентации я регулярно читаю, во многом заменили мышление на ChatGPT. А новостную ленту местами стало душно читать из-за повторяющихся штампов. Страшно представить, в какую гомогенную массу всё это превратится спустя год.

Но вернёмся к теме: что действительно более занимательно, так это темп роста и внедрения LLM-моделей. Помимо проблемы текущей тупизны, нас ждёт ещё одна беда: к 2027 году, по заверениям учёных из OpenAI, нас ожидает появление AGI (Artificial General Intelligence).

Это будет интеллект общего назначения, который превзойдёт нас с вами и оставит далеко позади многих программистов, врачей и инженеров. А сразу после него появится сверхинтеллект, который мы вообще не сможем контролировать, просто потому что не сможем адекватно перепроверить его выводы.

Мы подходим к феномену так называемого "информационного разрыва" между человеческими учёными и суперинтеллектом — моменту, когда ИИ станет настолько умным и сложным, что даже самые выдающиеся учёные не смогут полностью понять или перепроверить то, что он делает и предлагает.

Науке важен процесс верификации — это когда учёные проверяют работу друг друга, чтобы убедиться, что всё правильно. Но что будет, если сверхинтеллект окажется умнее любого учёного, сможет самокопироваться и начнёт думать на своём собственном, недоступном для нас языке?

Для нас с вами он станет ближе к инопланетянам или даже божествам, чем к людям. Это приведёт к тому, что учёные не смогут достоверно проверить, как ИИ пришёл к своим выводам, и начнут терять доверие к его результатам.

Риск ошибок многократно возрастает, если к примеру ИИ предложит лекарство, которое потребуется срочно внедрить, как в условиях пандемии. В таких ситуациях, без возможности проверить его долгосрочные эффекты, последствия могут быть катастрофическими.

Привет "Скайнет" — машина принимает решения, которых мы не понимаем и не можем контролировать, и это становится реальной угрозой.

Понимая, что в какой-то момент мы просто не сможем дать нормальную критическую оценку и верифицировать данные, нам нужно создать рычаги для управления ИИ.

И это подводит нас к концепции поиска способа удерживать ИИ в рамках контроля.

Для этого придумали даже термин SuperAlignment — методы и алгоритмы, которые позволят учёным сохранять хоть какую-то степень контроля, даже когда ИИ выходит за пределы человеческого понимания.(Продолжение постом ниже)

Обновите мозги: Почему старые убеждения делают вас лузером

Когда в последний раз вы проверяли свою «операционную систему»? Речь о наших мозгах и тех базовых установках, которые мы все впитали с детства.

Кажется, что они работают на нас, но на самом деле, эти старые инструкции чаще тормозят нас и приводят к серьёзным ошибкам.

Давайте разберёмся, о чём речь: 

"Прошивка"— это тот набор убеждений, привычек и правил, который мы используем каждый день, чтобы оправдать свои действия и принимать решения.

Большинство этих инструкций мы получили от родителей, родственников и школы. Мы их просто приняли, особо не задумываясь и не критикуя.

Проблема в том, что многие из этих убеждений уже безнадёжно устарели.

Некоторые убеждения вообще изначально были созданы лишь для того, чтобы проще управлять толпой.

Любая операционная система, включая нашу «прошивку», нуждается в регулярных обновлениях, чтобы оставаться актуальной.

И если вы ещё не поняли, наши мозги, запрограммированные десятилетия назад, вполне могут работать на устаревшем софте.

Представьте, что у вас на компьютере до сих пор установлена Windows 95.

Когда-то это было круто, но сегодня — это говно динозавра. Попробуйте запустить на ней что-то современное — ничего не выйдет. То же самое происходит с нашими убеждениями. Если не обновляться, мы рискуем навсегда застрять в прошлом.

Давайте проведём небольшой эксперимент.

Возьмём любую поговорку, которая приходит на ум в определённых ситуациях, и задумаемся над её смыслом.

Например, "Не в деньгах счастье". 

Эта фраза в постсоветских странах звучит как мантра для тех, кто смирился с бедностью, внушая, что деньги не так уж и важны. Но действительно ли это так?

Современные исследования ученых показывают, что с ростом дохода значительно повышается уровень счастья, особенно когда деньги помогают снизить стресс и улучшить жизнь.

Вот ещё несколько примеров:

- "Скромность украшает человека" — да, но только если мы не блогеры, не политики и не художники. В целом скромность — это зачастую путь к тому, чтобы остаться в тени других.

- "Семь раз отмерь, один раз отрежь" — иногда лучше принять решение быстро, чем застрять в раздумьях и упустить момент. Кто-то купил биток в 2013-м, а кто-то нет.

- "Терпение и труд всё перетрут" — девиз для тех, кто предпочитает работать круглосуточно и с нервами, вместо того чтобы действовать стратегически и эффективно.

- "Семья превыше всего" — семья важна, но не стоит забывать, что если вы жертвуете своими мечтами ради других, то можно проснуться однажды с пустыми руками и без сил.

- "Бог терпел и нам велел" — серьёзно? Не всё в жизни стоит терпеть, нужно действовать.

Продолжите этот список своими установками и взгляните на них критически.

Я просто рекомендую вам обновить прошивку прямо сейчас — ведь без апдейтов мозги рискуют зависнуть в прошлом. И незабудьте жамкнуть на галочку "автообновление"!
#Заметки_Креативного_Директора

Какую нейросеть стоит освоить прямо сейчас, чтобы вас не заменили?

Раскрою секрет, но сначала задам простой вопрос: что объединяет нестандартное, творческое мышление и шаблонное мышление?

Оба требуют навыков логики, которым большинство из нас не учили ни в школе, ни в университете. [Логика](https://ru.m.wikipedia.org/wiki/%D0%9B%D0%BE%D0%B3%D0%B8%D0%BA%D0%B0#:~:text=%D0%9B%D0%BE%CC%81%D0%B3%D0%B8%D0%BA%D0%B0%20(%D0%B4%D1%80.,%D1%84%D0%BE%D1%80%D0%BC%D0%B0%D1%85%20%D0%B8%20%D0%BF%D1%80%D0%B8%D1%91%D0%BC%D0%B0%D1%85%20%D0%B8%D0%BD%D1%82%D0%B5%D0%BB%D0%BB%D0%B5%D0%BA%D1%82%D1%83%D0%B0%D0%BB%D1%8C%D0%BD%D0%BE%D0%B9%20%D0%B4%D0%B5%D1%8F%D1%82%D0%B5%D0%BB%D1%8C%D0%BD%D0%BE%D1%81%D1%82%D0%B8.) — это двигатель здорового мышления, известный людям с античных времён.

Если существует наука, которая помогает кристаллизовать истину через рассуждения, почему мы её не изучаем в первую очередь?

Логика учит думать ясно и чётко, избегать ошибок и обосновывать свои идеи так, чтобы их понимали другие.

Простите за конспирологию, но люди с развитыми навыками логики невыгодны ни капиталистическому строю, ни государственным системам. Как можно управлять толпой людей, которые обладают высоким уровнем осознанности, умением решать проблемы, способностью к аргументации и навыками избегания логических ошибок?

Люди с базовыми знаниями логики сложнее поддаются манипуляциям и не пойдут голосовать за диктатора, если нет прямой выгоды.

Возможно, поэтому с детства нас учат запоминать факты и даты, но не разбираться, почему это произошло.

Мы нажимаем кнопки, покупаем курсы по нейросетям, финансовой грамотности и 3D-графике, но всё равно топчемся на месте в ужасе перед будущим! Нам так проще: учебники, учителя, тесты — всё стандартно, предсказуемо и не требует размышлений.

Логика же требует специфических знаний, постоянной практики и критического мышления. Это дополнительные и непонятные усилия, на которые мало кто готов пойти, хотя вся необходимая информация давно доступна в виде книг, подкастов и курсов.

Компьютерные нейросети будут неизбежно улучшаться. Независимо от нашего желания, они станут умнее, креативнее, точнее и быстрее благодаря нарастающей вычислительной мощности и талантам инженеров, мыслящих логически.

Умение нажимать кнопки, зубрить программы и искать новые инструменты в ИИ-сервисах не поможет вам приспособиться к быстро меняющимся условиям нового мира. В отличие от фундаментальных знаний и навыков логического мышления.

Так что, между паникой "О ужас, нас заменят нейросети!" и поиском Волшебного ИИ, который будет всё за вас делать, развивайте навыки в самой мощной и бесплатной нейросети в мире — вашем собственном мозге.

Здоровое мышление — наше секретное оружие, а логика — один из важнейших ключей к этому. Живите долго и процветайте ?

Почему ваш интеллект и память ухудшаются? И как это исправить? Руководство по информационной диете:

Думаю, вы замечали, что лето для ребенка кажется вечностью, а вот для взрослого пролетает за мгновение.

Все потому, что с возрастом время ощущается иначе — субъективное восприятие времени ускоряется с каждым прожитым годом. Чем старше становится человек, тем быстрее для него мелькают дни.

Есть множество научных статей, которые затрагивают вопросы механизмов работы памяти и феномена "сжатия времени", и так или иначе большинство актуальных исследований сходятся в единый тезис — память человека имеет ограниченный объем.

Кто-то из ученых пишет о сотнях терабайт, другие указывают на петабайты, но реальный объем в цифрах не так важен, главное, что с возрастом места в наших хранилищах становится меньше, поэтому мозг включает механизмы компрессии воспоминаний и сохраняет только значимые фрагменты, архивируя и стирая все малозначительное. Все ровно как у жёсткого диска на компьютере.

Когда вы молоды и зелены, каждый опыт воспринимается как новый, каждый выход на улицу — становится приключением. Мозг активно записывает все эти "первые разы" и сильные впечатления в память, так что нам кажется, что событий очень много. Но чем старше мы становимся, тем больше становится рутиных повторяющихся дней: работа, тренировка, скроллинг ленты, завтрак-обед-ужин и повторение этого сценария.

Мозг уже не воспринимает каждый отдельный день как что-то уникальное, а значит делает меньше "сохранений" и поэтому нам кажется, что время летит гораздо быстрее.

Плюс ко всему, восприятие времени зависит от того, какой процент жизни составляет каждый год. Для трехлетнего ребенка один год — это треть всей его жизни, а для 50-летнего — всего лишь 2%. Неудивительно, что старикам кажется, что время ускоряется, ведь каждый год для них — мелочь по сравнению с всей прожитой жизнью.

Но какое это имеет отношение к развитию интеллекта и важности информационной диеты?

В отличие от людей прошлых поколений, в нашей ежедневной рутине присутствует новая деталь — потребление огромного количества сомнительной, быстрой и рафинированной информации. Каналы в телеге, тиктоки, рилзы, новости и тому подобный фастфуд для мышления создаёт обманное ощущение познания нового (что наш мозг просто обожает), но по факту вся эта информация неимеет реальной практической ценности для жизни и почти мгновенно архивируется в нашем хранилище, радикально усиливая ощущение "сжатия времени".

Предположу, что далеко не вся эта информация навсегда удаляется из сознания, а значит, что ежедневное потребление фастфудного контента со временем замусоривает нашу память, занимая драгоценное место в ограниченном хранилище, которое могло бы быть заполнено чем-то действительно качественным и полезным.

Результат этого тренда наглядно отражается в срезе развития общества. Учёные бьют тревогу — повсеместно регистрируется резкое возрастание количества случаев СДВГ и происходит обратный эффект Флинна, который наглядно демонстрирует, что средний IQ мирового населения сперва неуклонно рос до конца 80-х годов прошлого века, а затем начал резко снижаться в 90-х, и в итоге радикально обвалился, начиная с 2010-х годов.

С каждым годом человечество все больше опирается на компьютеры и ИИ, а в свободное время кушает килотонны бесполезной информации, и это напрямую влияет на качество нашей жизни, воспоминаний и мышления в целом.

На мой взгляд, творческий человек, который стремится обладать конкурентным преимуществом и жить более насыщенной жизнью, должен применять расхожее выражение "Ты то, что ты ешь" не только буквально, но и применительно к потреблению информации.

Невозможно вытащить из головы то, чего там нет, но в то же время далеко не все подряд стоит туда складывать, если вы хотите жить более насыщенной и качественной жизнью, обладая ценными знаниями и навыками.

Отложите ваш экран в сторону и подумайте об этом...

PS. Ссылки на интересные статьи по теме я приложу в комментарии.

#Заметки_Креативного_Директора

Как пережить невыполнимый дедлайн, успеть всё в срок и сделать лучшую работу в вашей жизни при мучительных условиях труда?

Правильный ответ — никак. Дело в том, что если вы посадите человека перед озером, дадите ему ведро и прикажете осушить его за полдня, то чуда не произойдёт. Девять женщин за месяц ребёнка не родят, даже если очень постараются. Но вот если вы возьмете всего одну красотку из девяти и подождёте девять месяцев, то результат вас приятно удивит. Дайте тому мужику у озера время пораскинуть мозгами, и он вернётся к вам с идеей поэффективнее, чем черпать воду ведром...

Казалось бы, я озвучиваю светлые мысли, которые откликаются у любого читателя, но при этом почему-то наша СНГшная культура труда в творческих индустриях погрязла в культуре кранчей. Как будто все между собой договорились о том, что если работа не рождена в страданиях и переработках, то, вероятно, все плохо постарались...

Как так вышло, что проекты, как покемоны — у всех разные, а вот дедлайны почти всегда как по шаблону, неадекватные?

— "Нам нужно было всё ещё вчера", — говорит менеджер, уже понимая, что работа не будет сделана даже послезавтра.

— "Будет сделано", — отвечает исполнитель, предвкушая нервный срыв, уродливый результат и постдедлайновую депрессию.

Знакомая ситуация? Ну, конечно да, иначе вы бы не читали этот текст. Так почему многие из нас продолжают играть этот одиозный спектакль, постепенно подкармливая монстра Кароши?

Мне потребовалось около десяти лет стресса, чтобы вырваться из этой ловушки, в которую меня втянули съёмки и реклама, и вот ключевая мысль, которую я усвоил:

Творчество в любых проявлениях — это не неотложная скорая помощь. Если вы будете работать в комфортном для себя режиме, отводя на работу адекватное задаче время, то никто не умрёт.

Все абсурдные дедлайны, которые встречались на моём пути, были провалены, даже когда все вокруг меня не спали ночами, вкалывая за десятерых. Чудесным образом, за пределами непреодолимого конца, всегда вдруг находилось дополнительные часы, дни или даже месяцы на доделки и исправления.

Выходит, что если раз за разом дополнительнное время находится где-то за пределами нервных срывов, то значит, что это самое время таки было изначально. А что это значит?

Правильно — можно не рвать на себе волосы и не черпать воду из озера ведром...

Одно из главных отличий профессионала от дилетанта заключается в том, что первый понимает свои границы, умеет вежливо образовывать клиентов и коллег, и имеет смелость не соглашаться на невыполнимые условия.

Когда начинаешь отстаивать свои личные границы и сознательно отказываешься от "вчерашних" проектов, открывается удивительная возможность заниматься любимым делом без изнурения команды, без лишних нервов и спешки, при этом зарабатывая значительно больше. Ведь в таких условиях творцы склонны выполнять работу качественнее и точно в срок, что и является заветной мечтой всех клиентов...

Что я могу сказать про 'Дюну 2'?

Это масштабное кино, которое дарит удовольствие от визуала и будит рецепторы, отвечающие за наслаждение от эпичности... и мучает ваш мочевой пузырь своим монструозным трехчасовым хронометражем.

Мне кажется, на такие сеансы следовало бы вернуть традицию антрактов, но вряд ли это кто-то сделает, поэтому смиритесь и терпите, если уж вы пошли в кинотеатр.

Что касается меня — я по традиции проспал полчаса фильма во втором акте и проснулся аккурат к экшону в третьем, который могу назвать масштабным и визуально безупречным, но на мой вкус страдающим от тотального отсутствия изобретательности.

Впрочем, первую часть я проспал вообще почти целиком и пересмотрел уже вне стен кинотеатра, так что можно сказать, я делаю успехи...

'Дюна 2' — это история про пафос, многозначительность, недосказанность, метафоры и сверкающую, отполированную картинку, но никак не про новаторство и желание объяснить лор мира Дюны через экспозицию. Хотите понять, о чем речь — курите обзоры и читайте книги. Не подготовились? Что ж, это ваши проблемы.

Будучи упоротым любителем фантастики, я, конечно, прочитал все 6 книг Дюны, но даже это не помогло мне чувствовать себя достаточно комфортно в 'Дюне' Вильнева.

Впрочем, не подумайте, что мне не понравилось, все ровно наоборот — 'Дюна 2' — это кино с большой буквы. Но нужно понимать, что любителям приключений, хитровывернутого экшена, трюков, ряженых мужчин в трико и лупящих друг друга героев суперсилами на этом фильме может быть скучновато...