⚠️Небольшая подборка свежих статей в области ИИ

*✅Обучаемый метод прунинга от Nvidia* основан на концепции Semi-Structured прунинга. В отличие от традиционных подходов, где маска прунинга задается вручную, здесь она определяется с помощью стохастического алгоритма. Подробнее здесь

*✅Новый метод генерации синтетических 3D-данных для беспилотных автомобилей*. Self-driving – область, где синтетические данные особенно востребованы, но их качественная генерация представляет большую сложность. В статье описан подход SytheOcc, который использует MIPs и ребалансировку, впервые решая одновременно две задачи: учет глубины сцен и детализированное управление геометрией объектов. Подробнее тут

*✅Закон слабого звена*: ученые из Meta предложили новый бенчмарк, демонстрирующий, что существующие тесты проверяют лишь отдельные базовые навыки моделей. Однако в реальных задачах, где требуется сочетание различных способностей, производительность моделей значительно снижается. Подробно можно ознакомиться здесь

❌Небольшой список факап проектов современности

*✅Microsoft Tay* - был ботом с искусственным интеллектом, запущенным Microsoft в Twitter, который должен был учиться на взаимодействиях с пользователями. Однако за 16 часов работы Tay стал расистским и агрессивным из-за обучающей выборки, состоявшей из негативных сообщений пользователей. Microsoft была вынуждена выключить проект, так как Tay начал генерировать неприемлемый контент.

*✅Amazon's AI-рекрутер* - Amazon пытался разработать систему на основе машинного обучения для автоматической оценки резюме кандидатов. Оказалось, что модель проявляла предвзятость к женщинам, так как обучалась на исторических данных, где преобладали резюме мужчин. В результате Amazon закрыл проект, так как модель не смогла обеспечить справедливую оценку.

*✅Uber’s Self-Driving Car Accident* - в 2018 году Uber столкнулся с серьезной проблемой в разработке беспилотных автомобилей. Один из их автомобилей с автономным управлением насмерть сбил пешехода в Аризоне. Расследование показало, что система не смогла корректно распознать пешехода из-за неправильных решений, принятых на уровне программного обеспечения. Это событие стало ударом по развитию технологий беспилотного транспорта

*✅Google Flu Trends* - Google пытался предсказать распространение гриппа на основе поисковых запросов пользователей, но модель значительно переоценивала уровень заболеваемости. Она не учла сезонные или региональные различия в поисковых запросах, что привело к серьёзным ошибкам в прогнозах. Проект был официально закрыт

*✅IBM Watson for Oncology* - IBM рекламировала Watson как инструмент для помощи врачам в диагностике и лечении рака. Однако многие больницы и врачи, использовавшие Watson for Oncology, сообщили, что система часто давала неточные или непрактичные рекомендации. В результате IBM пришлось пересмотреть свои ожидания и стратегии

*✅Apple Credit Card Gender Bias* - Apple совместно с Goldman Sachs выпустила кредитную карту с использованием алгоритмов для оценки кредитоспособности. Однако пользователи начали жаловаться, что алгоритм явно предоставлял женщинам гораздо меньшие кредитные лимиты, чем мужчинам, даже при одинаковых финансовых данных. Это вызвало критику в отношении предвзятости алгоритмов и необходимости их тщательной проверк

??Принципиально новый метод машинного обучения

Test-Time Training RNN (ТТТ) - это метод, который позволяет моделям искусственного интеллекта адаптироваться и учиться непосредственно во время использования, а не только во время предварительного обучения.

Основная особенность TTT заключается в том, что он может эффективно обрабатывать длинные контексты (большие объемы входных данных) без значительного увеличения вычислительных затрат.

Исследователи провели эксперименты на различных наборах данных, включая книги, и обнаружили, что TTT часто превосходит традиционные методы.

GitHub

GitHub - test-time-training/ttt-lm-pytorch: Official PyTorch implementation of Learning to (Learn at Test Time): RNNs with Expressive…

Official PyTorch implementation of Learning to (Learn at Test Time): RNNs with Expressive Hidden States - test-time-training/ttt-lm-pytorch