📌 Анонс семинара Лаборатории 6 марта (16.20 в 5239):

📝 Машинное обучение в нефтяной промышленности

Проблемы, с которыми сталкивается нефтяная промышленность, обусловлены множеством факторов, поскольку эта отрасль характеризуется высокой степенью неопределенности и технологической сложности. Геологические условия, в которых находятся углеводородные ресурсы, могут быть крайне сложными и разнообразными. Отсутствие точной информации о структуре пласта и его свойствах затрудняет процесс добычи и повышает риски. В связи с этим машинное обучение становится все более популярным в нефтяной индустрии. В докладе рассмотрим основные направления применения методов машинного обучения, такие как анализ геологических данных и интерпретация сейсмических исследований, прогнозирование суточной добычи нефти, расчет давления в скважине и определение оптимального состава буровых жидкостей. На примере глушения нефтяных скважин в сложных геолого-физических условиях продемонстрируем, почему машинное обучение зачастую оказывается более эффективным, чем физико-математическое моделирование.

📣 Ева Кучендаева и Макар Ипполитов

*📌 Анонс семинара* Лаборатории 20 февраля (16.20 в 5239):

🗒 Применение ML при верификации личности. Как определить что перед тобой человек?

На сегодняшний день существует множество онлайн-сервисов, которые требуют прохождения верификации личности (KYC) для доступа к ним. Пользовательские фотографии в таком случае подходят через ряд проверок — от простого позиционирования головы в кадре до детекции фотошопа. В докладе будет рассмотрен пайплайн таких проверок и то, с какими проблемами со стороны обучения и инференса моделей приходится сталкиваться.

Докладчик: Михаил Тютюльников

Уважаемые студенты!

Если вы планируете посещать НИС ПТЦ, вам необходимо заполнить таблицу, указав в соответствующем столбце свои ФИО.

Пожалуйста, внесите данные в таблицу в ближайшее время. Это необходимо для организации работы научно-исследовательского семинара по новому формату.

Спасибо!

?Выкладываем список студентов, получивших зачет по семинару.

*? Анонс семинара* Лаборатории 23 декабря (16.20 в 4117):

? Обзор применения ML в промышленности

Чаще всего, когда речь заходит о машинном обучении, говорят о языковых помощниках, автономных транспортных средствах, генерации изображений и быстром переводе. Однако машинное обучение позволяет решать гораздо более широкий круг задач. В докладе обсудим, очень обзорно, как современные технологии машинного обучения начали применяться в промышленности. Рассмотрим основные тренды, типологию задач и стандартный арсенал алгоритмов, обсудим драйверы и проблемы применения машинного обучения в отрасли.

Докладчик: Чигишев Александр

*? Анонс семинара* Лаборатории 16 декабря (16.20 в 4117):

? Диаризация по спикер-эмбеддингам

Задача диаризации состоит в разделении речевого аудиосигнала на сегменты в соответствии с принадлежностью фрагментов сигнала тому или иному говорящему. Методы и алгоритмы диаризации широко используются на практике при протоколировании онлайн-обсуждений, в устройствах «умного» дома и как подготовительный шаг для идентификации спикера. В своем докладе Данил представит обзор существующих алгоритмов диаризации и общие проблемы, влияющие на качество работы алгоритмов для решения этой задачи. Также в докладе будут предложены идеи по реализации метода разделения спикеров на основе системы распознавания речи.

Докладчик: Гребенкин Данил

*? Байесовские нейронные сети*

Байесовские нейронные сети (БНС) являются мощным инструментом для моделирования неопределенности принятия решений на основе вероятностных предположений. В отличие от классических нейронных сетей, которые оперируют только с точечными оценками, БНС моделируют распределения параметров, что позволяет учитывать различные возможности исходов, а также степень уверенности в предсказаниях модели. Это помогает снизить риски при принятии решений. В данном докладе будут рассмотрены элементы теории БНС, такие как, например, вариационный байесовский вывод и локальная репараметризация при обучении БНС.

Докладчик: Яшунин Кирилл
*? Влияние Invariant Risk Minimization на распределение весов нейронной сети в сравнении с Empirical Risk Minimization*

В своем докладе Мирон расскажет о метод минимизации инвариантного риска (Invariant Risk Minimization, IRM) как альтернативу традиционному подходу минимизации эмпирического риска (Empirical Risk Minimization, ERM). IRM направлен на выявление инвариантных признаков, которые остаются стабильными при различных условиях, что позволяет моделям лучше обобщать данные и справляться с изменчивыми средами. В отличие от ERM, который ориентирован на минимизацию ошибки на обучающем наборе данных, IRM акцентирует внимание на том, как обеспечить устойчивость к изменениям в данных, стремясь находить решения, не зависящие от факторов, влияющих на конкретные условия. В ходе исследования Мирон провел экспериментальный анализ воздействия IRM на распределение весов нейронной сети в зависимости от представленных сред. Будет приведен сравнительные результаты применения IRM и ERM, как каждая методика влияет на обучение и адаптацию модели к различным средам. Полученные результаты показали, что IRM не только способствует улучшению обобщающей способности моделей, но и формирует более устойчивое распределение весов, обеспечивая меньшую чувствительность к шумовым факторам.

Докладчик: Братенков Мирон

*? Анонс семинара* Лаборатории 28 октября (16.20 в 4117):

? Применение нейронных сетей для компенсации искажений передачи сигнала в волоконно-оптических линиях связи

Передача сигнала в волоконно-оптической связи представляет собой сложный процесс. За последний год объем передаваемой информации в мире увеличился на 45%, в то время как рост пропускной способности составил лишь 20%. Это создает значительные вызовы для обеспечения стабильности и точности передачи данных. Примерно с 2021 года начали активно исследовать новые подходы, позволяющие отойти от традиционных численных методов восстановления сигнала на приемнике, поскольку их производительность в условиях повышенной нагрузки уже недостаточна. В докладе будет подробно рассмотрен классический цикл работы передачи сигнала в оптоволоконной линии, а также численный метод, который применяется для восстановления сигнала в традиционных системах. Кроме того, будет обсуждено, как использование нейронных сетей помогает существенно улучшить качество восстановления сигнала, и представлены примеры их успешного применения для повышения точности и скорости обработки.

Докладчик: Усачев Никита

? Разработка протеза стопы

Разработка протезов стоп — сложный и трудоемкий процесс. В настоящее время он осуществляется преимущественно с использованием физических методов, что делает процесс длительным и менее гибким. Применение математического моделирования могло бы значительно оптимизировать эту задачу. В докладе будет представлен проект исследовательской группы по биомеханике и медицинскому инжинирингу, направленный на разработку протеза с использованием методов математического моделирования. Будет рассмотрена роль композитных материалов, их особенности и сложности в работе с ними. Также будет объяснено, почему предложенная в статье математическая модель протеза не подходит для разработки, и представлена новая разработанная геометрия протеза стопы.

Докладчик: Коновалов Назар

? Уважаемые участники и гости нашего семинара!

Мы рады сообщить, что список выступающих на предстоящие семинары сформирован. В ближайшие месяцы нас ждут интересные доклады и обсуждения. Вот расписание наших встреч:

Дата | Выступающие \-\-\-\-\-\-\-\-\-\-\-\-|\-\-\-\-\-\-\-\-\-\-\-\-\-\-\-\-\-\-\-\-\-\-\-\- 21.10.2024 | Кучендаева Ева | Тютюльников Михаил | Коробов Александр \-\-\-\-\-\-\-\-\-\-\-\-|\-\-\-\-\-\-\-\-\-\-\-\-\-\-\-\-\-\-\-\-\-\-\-\- 28.10.2024 | Усачев Никита | Коновалов Назар | Счастная София \-\-\-\-\-\-\-\-\-\-\-\-|\-\-\-\-\-\-\-\-\-\-\-\-\-\-\-\-\-\-\-\-\-\-\-\- 04.11.2024 | ВЫХОДНОЙ \-\-\-\-\-\-\-\-\-\-\-\-|\-\-\-\-\-\-\-\-\-\-\-\-\-\-\-\-\-\-\-\-\-\-\-\- 11.11.2024 | Тарасов Александр | Козюрина Алена | Гарипов Тимур \-\-\-\-\-\-\-\-\-\-\-\-|\-\-\-\-\-\-\-\-\-\-\-\-\-\-\-\-\-\-\-\-\-\-\-\- 18.11.2024 | Иванков Павел | Мищенко Александр | Денисов Семен | Шульгин Егор \-\-\-\-\-\-\-\-\-\-\-\-|\-\-\-\-\-\-\-\-\-\-\-\-\-\-\-\-\-\-\-\-\-\-\-\- 25.11.2024 | Легченко Антон | Куликова Алина | Тищенко Данил \-\-\-\-\-\-\-\-\-\-\-\-|\-\-\-\-\-\-\-\-\-\-\-\-\-\-\-\-\-\-\-\-\-\-\-\- 02.12.2024 | Морозов Дмитрий | Калинин Владислав | Роман Козырев \-\-\-\-\-\-\-\-\-\-\-\-|\-\-\-\-\-\-\-\-\-\-\-\-\-\-\-\-\-\-\-\-\-\-\-\- 09.12.2024 | Сергеев Кирилл | Москаленко Константин | Еникеев Тимур \-\-\-\-\-\-\-\-\-\-\-\-|\-\-\-\-\-\-\-\-\-\-\-\-\-\-\-\-\-\-\-\-\-\-\-\- 16.12.2024 | Братенков Мирон | Гребенкин Данил | Яшунин Кирилл \-\-\-\-\-\-\-\-\-\-\-\-|\-\-\-\-\-\-\-\-\-\-\-\-\-\-\-\-\-\-\-\-\-\-\-\- 23.12.2024 | Федотова Яна | Чигишев Александр | Сахаров Данил

? Место и время проведения остаются прежними. Ждем всех на наших семинарах, это отличная возможность обменяться знаниями и обсудить самые актуальные научные вопросы! ✨

? Приглашаем к участию и ждем интересных вопросов от всех слушателей!

*? Анонс семинара* Лаборатории 21 октября (16.20 в 4117):

? Кристаллические структуры: как ML помогает в исследованиях материалов

В докладе будут рассмотрены современные методы машинного обучения, применяемые для генерации новых кристаллических структур. Мы обсудим специфику области, ее значение в науке, а также как новые подходы ускоряют разработку материалов с заданными свойствами, заменяя трудоемкие эксперименты и расчеты.

Докладчик: ТютюльниковМихаил *? Гибридное моделирование для задачи прогнозирования технологических составов глушения скважин в условиях АНПД*

Существующие методики оценки и прогнозирования объемов технологических составов для глушения скважин в России эффективны на большинстве месторождений. Однако для месторождений с высоким газовым фактором и аномально низким пластовым давлением эти методики не работают корректно. Для решения этой проблемы предлагается использовать гибридное моделирование, объединяющее методы машинного обучения с классическими математическими моделями фильтрации жидкости. Гибридный подход позволяет учитывать сложные зависимости в данных и опираться на физические принципы фильтрации в трещиновато-пористых средах. В докладе поговорим о задаче прогнозирования объемов технологических составов для глушения скважин, шаблонах проектирования гибридного моделирования и о результатах объединения этих двух направлений.

Докладчица: Кучендаева Ева

? DeepSeekMath: расширяем границы математических рассуждений в открытых языковых моделях [обзор статьи]

Большие языковые модели продемонстрировали свою эффективность различных задачах естественного языка. Однако математические рассуждения — это одна из областей, в которой языковые модели все еще далеки от человеческого уровня. Решение математических и научных вопросов требует сочетания навыков, включая правильный разбор вопроса с использованием естественного языка и математических обозначений, запоминание соответствующих формул и констант и генерацию пошаговых решений, включающих численные вычисления и символьные манипуляции. В разобранной статье представляется open–source модель DeepSeekMath 7B, полученная с помощью дообучения модели DeepSeek-Coder-Base-v1.5 7B с использованием 120B математических токенов, а также данных естественного языка и кода. DeepSeekMath 7B набрала впечатляющий результат в 51,7% в тесте по математике конкурсного уровня, не полагаясь на внешние инструменты и методы голосования и приблизившись к уровню результативности больших закрытых моделей Gemini-Ultra и GPT-4.

Докладчик: Коробов Александр

*? Анонс семинара* Лаборатории 14 октября (16.20 в 4117):

? Обучение по расписанию больших языковых моделей

Подход обучения с расписанием (curriculum learning) был вдохновлён традиционным способом обучения человека, когда информация подаётся «от простого к сложному». Предлагается в процессе обучения подавать данные, сортируя их по некоторой метрике сложности. Такой подход позволяет существенно улучшить обобщающую способность моделей в задачах, где такую метрику можно явно определить. В докладе будут изложены различные способы организации CL для больших языковых моделей: основанные на статистических оценках данных, на внутренних оценках модели и на использовании «внешних» графов знаний.

Докладчик: Виктор Урушкин *? Проблемы цифрового фенотипирования, и что мы планируем с ними делать*

В рамках гранта по анализу колосьев с помощью компьютерного зрения есть ряд ключевых задач, существующие решения которых недостаточно точны, а некоторые из них даже неуместны для дальнейшего распространения и использования. В своем докладе Никита расскажет про эти задачи, какие проблемы в их текущих решениях существуют, а также о идеях того, как эти проблемы можно решить. В частности, мы поговорим про перспективы применения zero-shot подходов на биологических данных, а также подходов, основанных на предобучении моделей на больших датасетах классификации изображений растений.

Докладчик: Никита Артеменко

? Оценка T2V моделей на основе динамики [обзор статьи]

С развитием Text2Video моделей возникает потребность в более точных методах оценки качества сгенерированных видеороликов. В данной работе представлен новый протокол оценки T2V моделей, названный DEVIL, который акцентирует внимание на динамике видеоконтента. В отличие от существующих методов, сосредоточенных на непрерывности и согласованности, DEVIL оценивает диапазон, управляемость и качество динамики. Новый бенчмарк из текстовых промптов, а также метрики временной детализации позволяют более объективно оценивать производительность моделей по динамике, которая является важным параметром. Экспериментальные результаты показывают высокую корреляцию предложенного метода с человеческими оценками, что делает DEVIL перспективным инструментом для дальнейшего развития технологий T2V моделей.

Докладчик: Павел Перминов