Stable Diffusion 3: новая архитектура и понятный текст в статье.

Погружаемся в детали:

1️⃣ SD3 базируется на новой архитектуре MMDiT (мультимодальный диффузионный трансформер). Текст кодируют сразу три эмбеддера (две версии CLIP и одна модель T5). Улучшенный автоэнкодер извлекает информацию из визуала.

2️⃣ Форматы данных концептуально разные, так что и набора весов трансформера тоже два (один отвечает за текст, второй — за картинки). Оба потока информации учитывают друг друга при генерации, "пересекаясь" в модуле механизма внимания.

3️⃣“Перетекание” информации между текстом и изображением даёт лучшее следование промпту. Отсюда способности в написании слов на картинках (одна из основных инноваций SD3). По оценкам разметчиков, тестировавших модель, SD3 была лучше DALLE-3, Midjourney v6 и SDXL и по “эстетичности”, и по точности следования промпту, и в типографии (текст на картинке).

4️⃣ Архитектуру ускоряли подходом Rectified Flow (модель выучивает линейную траекторию между исходным случайным шумом и реальной картинкой). За счёт этого уменьшается количество шагов уже на инференсе.

Всем привет! ?
Начало года как всегда полно на события и мероприятия, и это здорово!
Нашли ещё кое-что интересное для вас - HR Tech Python Meetup от Яндекса.

Если вы готовы погрузиться в мир HR Tech и узнать, как создаются сервисы, которыми каждый день пользуются десятки тысяч сотрудников Яндекса, тогда это уникальная возможность не только узнать о передовых разработках в области HR Tech, но и поделиться своим опытом.

Для кого? Если вы Python-разработчик или просто интересуетесь бэкенд-разработкой и HR Tech, то это мероприятие точно для вас!

Что в программе?
- Подробные доклады о разработке ключевых сервисов Яндекса.
- Индивидуальные консультации с HR-экспертом.
- Игра для участников с призами.
- Афтерпати для неформального общения с единомышленниками.

Почему стоит посетить?
Это уникальный шанс получить знания из первых рук, наладить полезные контакты в IT-сфере и просто хорошо провести время среди людей, разделяющих ваш интерес к разработке и инновациям.

?Москва, 23 марта. зарегистрируйтесь заранее.

HR Tech Python Meetup; Москва

HR Tech Python Meetup; Москва

Недавно опубликованная статья исследователей из Тинькофф вызвала значительный интерес и возглавила список Daily Papers.

Статья под названием "Linear Transformers with Learnable Kernel Functions are Better In-Context Models" посвящена усовершенствованию модели Based. В оригинальной версии Based используется комбинация обучаемого ядра для линейных трансформеров и коротких сверток, но она сталкивается с трудностями при работе с длинным контекстом.

Для решения этой проблемы авторы предложили новый подход к ядру модели, что позволило им превзойти предыдущие результаты.

​?? Внимание, розыгрыш! ?? Уже по сложившейся традиции команда лаборатории искусственного интеллекта рада объявить о новогоднем розыгрыше книг! Мы выбрали 5 фундаментальных трудов, чтобы поделиться знаниями и вдохновить тебя на новые открытия в области искусственного…

​?? Внимание, розыгрыш! ??

Уже по сложившейся традиции команда лаборатории искусственного интеллекта рада объявить о новогоднем розыгрыше книг! Мы выбрали 5 фундаментальных трудов, чтобы поделиться знаниями и вдохновить тебя на новые открытия в области искусственного интеллекта.

1️⃣ "Математические основы машинного обучения и прогнозирования" - В.В.Вьюгин
2️⃣ "Основы искусственного интеллекта в примерах на Python" - А.Постолит
3️⃣ "Глубокое обучение" - Дж.Д.Келлехер
4️⃣ "Искусственный интеллект. Иллюстрированная история" - К.Пиковер
5️⃣ "Машинное обучение. Паттерны проектирования" - В.Лакшманан

Как участвовать? Просто!
1. Будь подписан на канал.
2. Поставь лайк этому посту и ещё трём понравившимся постам ( мы ведь старались).
3. Жди новогоднего чуда.

? Победители (5 счастливчиков!) будут выбраны случайным образом и получат по одной из этих интересных книг.

⏰ Победителей мы объявим ровно в 00:00 01.01.2024, так что у тебя есть много времени, чтобы принять участие! Если ты не из Москвы (да да, у нас есть и такие), то книгу мы отправим тебе почтой.

Не упусти свой шанс расширить горизонты знаний и добавить эти ценные издания в свою библиотеку! Удачи! ?

Участников: 29
Призовых мест: 5
Дата розыгрыша: 00:00, 01.01.2024 MSK (завершён)

Победители розыгрыша:
1. Nika - k1evp
2. Anastasia - k1k9i
3. лизка - k0stq
4. Макар Кучеровский - k0sg7
5. Александр - k2v8f

Если интересно про формат: размещу задачки, ссылки на датасеты, и у вас будет пара дней чтобы решить понравившиеся задачи)