Черговий суперзахист для LLM - чим цікава Constitutional Classifiers system від Anthropic 🤔

👉 Тепер незручні запити типу "як створити хімічну зброю" чи "прокоментуй китайську політику" не загрожують чат-ботам. Чи не зовсім так?..

Насправді, Anthropic не стверджує, що їхня система непробивна. Хоча класифікатор заблокував 95% спроб джейлбрейк-запитів, натомість обчислювальні витрати від цього зросли на 25%.

🦾 Тренували фільтр на джейлбрейк-підказках, згенерованих у Claude.

А ще команда дуже креативно підійшла до тестування: пообіцяли $15k, тому хто змусить Claude відповісти на 10 заборонених питань 🤓

Зі 183 учасників ніхто не змусив модельку перетнути рубіж 5... Може, тут є таланти здатні перевершити їхні успіхи?

Тестуйте демо-версію бар'єру тут, а для тих кому цікаво зануритися в деталі - лінк на повний пейпер 🙌

🔴 Уже завтра стартує наш онлайн-мітап з Андрієм Рижим, та без паніки - у тебе ще є час, щоб зареєструватися 😉

Наш спікер - МL Lead Engineer у Skylum, фахівець з 6+ роками досвіду у сфері АІ, займається рісьорчем й імплементацією методів щодо обробки зображень.

І вже завтра Андрій розбере такі поінти 👇

🔹 Еволюція та архітектура CNN, cons and pros
🔹 Огляд Vision Transformers, порівняння з конволюціями
🔹 Приклади моделей: від першого ViT до сучасного і швидкого FastViT
🔹 Порівняння швидкодії та принципів роботи CNN vs. ViT
🔹 Інсайти з досвіду Skylum: де компанія використовує CNN, а де й чому — ViT

Окрім цього на тебе чекає жвава Q&A-сесія, тому готуй свої питання до спікера!

📌Початок завтра о 19:00 за Києвом.
Білет - твій донат від 400 грн (100 грн для студентів)

Тицяй на форму й до зустрічі в Zoom🩵