#Академия
*✅Генеративные алгоритмы* - это класс алгоритмов, при помощи которых осуществляется вероятностное моделирование распределения весов в обучении глубокой нейронной сети.

✅Такой RL-подход к обучению прочно осел в современных разработках, а архитектуры нейросетей типа трансформер уже сформировали современный облик генеративного ИИ. Однако, трансформер имеет свою довольно обширную предысторию.

✅В обзорной статье Deep Generative Modelling: A Comparative Review of VAEs, GANs, Normalizing Flows,
Energy-Based and Autoregressive Models представлен разбор разных типов архитектур генеративных нейросетей - от машин Больцмана до авторегрессионных моделей. Проводится сравнение архитектур и объясняются теоретические предпосылки , во многом, с точки зрения байесовской
статистики. Этот обзор помогает лучше понять логику работы и подходы в обучении современных трансформеров, а также примерно прикинуть ближайшие тенденции развития этого направления.

*?‍?*Ссылка на статью https://arxiv.org/pdf/2103.04922.pdf

31 мая выступаю в Сколтехе на ODS фесте в карьерном треке с темой "Как я стал заниматься RL"
Расскажу о том, чему и как я учился в процессе разработки и перейду к тому, как так получилось, что сейчас занимаюсь RL
Вроде бы даже выступать буду первым?
Зарегестрироваться можно здесь
?https://ods.ai/events/fest2023-moscow4

#LeanML #ЛичныйОпыт
4 принципа эффективного составления таргета и подбора признаков для обученияИз собственного опыта и опыта собеседований вывел довольно простые правила, которые помогут сэкономить время и усилия при подготовке данных для обучения.

✅Для начала лучше ещё раз проговорить правильно ли вы поняли проблематику задачи. Проговорите вслух ваше понимание проблемы с лидом либо продактом, чтобы снизить к минимуму дальнейший miscommunication. Если вы на собеседовании, то для интервьюера это будет позитивным сигналом о том, что вы действительно поняли проблему либо стремитесь её понять. А вам это не даст потратить ограниченное время на ту работу, результаты которой окажутся в итоге ненужными.

✅Обязательно уточните у лида, продакта, профильного специалиста/аналитика могут ли ваши сформированные признаки описать таргет. Расскажите о том, как вы пришли к этой логике и поинтересуйтесь их мнением. Будет очень хорошо, если вы "передадите мяч" и спросите мнение по этому вопросу у лида либо продакта. Если вы на собеседовании, это хорошо помогает наладить контакт с интервьюером.

✅Если экспертиза по задаче низкая, никогда не выбирайте один вариант для составления таргета - этим вы выстрелете себе в колено. От того, что вы выберете для таргета зависит дальнейшее решение задачи. Возможно, время покажет, что оно окажется ошибочным и вы изначально закроете себе все лазейки, чтобы эту ошибку поправить. Если вы поймёте, что ваша логика была ошибочной, вы сразу сможете безболезненно переключиться на другую логику. К тому же, если изначально "на берегу" обговорить возможные недостатки, это сформирует у стейкхолдеров более правильные ожидания. И, в случае провала, не будет разбитых ожиданий, а будет реализация плана Б.
Ваша попытка подойти к решению с разных сторон собеседовании интервьюеру покажет широту кругозора и заинтересованность в задаче. Если вы всё-таки изначально сразу бескомпромиссно принимаете решение о том, какой должен быть таргет и добавляете его в табличку, то для меня это плохой сигнал, говорящий о том, что у кандидата нехватка индустриального опыта разработки. Ну , или как минимум, то что кандидат не прочитал этот пост?

✅Напротив, если уровень экспертизы высокий, по максимуму используйте чужие наработки. Зачем придумывать и делать то, что уже сделано? Наладьте коммуникацию со смежниками. Если возможно, не стесняйтесь делать этого прямо на собеседовании. Это здорово помогает наладить контакт. А вам помогает понять, нужны ли вам коллеги, пугающиеся вашей активности.

Вот такая большая и серьёзная работа, чтобы добавить столбичек в табличку?