В свежем исследовании от ИТМО мы вошли в топ-3 компаний, вкладывающихся в Open Source в AI! В честь этого хочется еще раз упомянуть некоторые из наших разработок:

🏂T-Lite – наша LLM (а также Instruct версия)
⚡️ETNA – мульти-тул для Time-Series
🐊Research – множество репозиториев, которыми мы подкрепляем наши научные исследования
🐖Turbo Alignment – библиотека LLM alignment с реализацией широкого спектра методов

Если вы вдруг что-то из этого пропустили, то самое время накинуть звездочек и попробовать заиспользовать у себя.

Исследование опубликовано здесь.

Ниже цитата про крутость моделей от CEO Perplexity. Модели не важны, важен фокус на опыт пользователя.

Основная модель perplexity, кстати, это дообученная llama.

Я очень рекомендую весь подкаст

Lex Fridman: So in the future, you hope your model to be the dominant or the default model?
Aravind Srinivas: We don’t care.
Lex Fridman: You don’t care?
Aravind Srinivas: That doesn’t mean we are not going to work towards it, but this is where the model-agnostic viewpoint is very helpful. Does the user care if Perplexity has the most dominant model in order to come and use the product? No. Does the user care about a good answer? Yes. So whatever model is providing us the best answer, whether we fine-tuned it from somebody else’s base model or a model we host ourselves, it’s okay.
Lex Fridman: And that flexibility allows you to-
Aravind Srinivas: Really focus on the user.

Продолжаем выкладывать записи с Turbo ML Conf, найти можно на нашем youtube.

Сегодня выложили NLP. Особенно рекомендую доклад Артура про подходы к построению LLM-приложений, нам тут есть что сказать! Ну и конечно доклад Толи Потапова про нашу T-Lite - under the hood.
▫️Полтора года с ChatGPT. Артем Бондарь, Head of NLP, Т-Банк
▫️Как сделать хороший перевод документов на базе LLM. Николай Карпачев, руководитель группы базового качества машинного перевода, Яндекс
▫️Подходы к построению LLM-приложений. Артур Самигуллин, руководитель платформы LLM, Т-Банк
▫️LLM для автоматизации поддержки. Ирина Степанюк, руководитель NLP-команды, Т-Банк
▫️Строим сильную базовую LLM на основе открытых моделей. Анатолий Потапов, руководитель группы фундаментальных технологий LLM, Т-Банк
▫️Вредные LLM‑советы для непослушных NLP‑разработчиков и их продактов. Иван Самсонов, руководитель прикладных исследований ИИ, AI VK

Продолжает полниться земля слухами про новую In-Device Siri на новых устройствах от Apple. На компактных локальных языковых моделях, конечно. Может, хоть так Siri станет умной )

Идея такая: есть LLM у тебя на телефоне или лэптопе, и ходит в разные бэкенды когда ей нужно. Так не требуется огромное количество железа в датацентрах для инференса, работает без интернета для базовых задач и безопасней.

Вот артиклы про компактные модели от Apple: 1, 2, 3
Вот статьи со слухами и анонсы: 1, 2, 3

Пишите в комменты ещё статьи/ссылки по теме, интересно что у Google.