Нейросетевой коллапс: исследователи из Оксфорда говорят о деградации обучающихся моделей

#ИИсследование

Исследователи Оксфордского университета заявляют, что использование контента, созданного ИИ, для обучения новых нейросетей может привести к коллапсу модели.

Что это значит?

Представьте, что нейросети — это студенты. Они впитывают данные от своих преподавателей. А когда для обучения новых нейросетей начинают использовать контент, созданный другими нейросетями, это похоже на ситуацию, когда студенты подсказывают друг другу на экзамене.

⬇️⬇️⬇️

Замкнутый круг.
Нейросеть генерирует данные, которые используются для обучения другой нейросети. Эта новая нейросеть, в свою очередь, может генерировать ещё больше данных для обучения следующей нейросети. И так до бесконечности.

Неизебжна потеря качества.
Первоначально нейросеть обучается на качественных данных, созданных людьми. Но с каждым новым кругом, когда нейросети учат друг друга, качество данных ухудшается. Они начинают терять нюансы и важные детали.
Ошибки накапливаются.
Каждое поколение нейросетей может добавлять свои ошибки и неточности. В итоге, новые нейросети начинают выдавать все больше бессмысленной информации.

Из-за накопленных ошибок и ухудшения качества данных, новые нейросети становятся практически бесполезными. Они уже не могут адекватно обрабатывать информацию и генерируют только бессмыслицу. Вот почему важно, чтобы нейросети обучались на качественных, проверенных данных, созданных людьми, а не только друг на друге.

Есть идеи, как избежать всемирного ИИ-коллапса? Делитесь в комментариях!

Эксперимент. Сравниваем ИИ-психологов: Сабина VS Зигмунд

В последнее время тема выгорания на работе стала не просто актуальной, а откликнулась почти каждому, поэтому мы решили провести эксперимент, чтобы понять, стоит ли полагаться на ИИ-психолога с искусственным интеллектом в этой ситуации.

Мы нашли двух наиболее популярных ИИ-ботов, поддерживающих русский язык — Сабину и Зигмунда, и решили проверить их в деле. Вот что получилось.

Мы задали ботам одинаковый запрос: "Я чувствую выгорание на работе, не вижу смысла в том, что делаю. Что мне делать?".

Результаты:

Сабина посоветовала “проанализировать свои эмоции и найти способы изменения ситуации" (скрин 1).

Зигмунд был многословен и ответил более развёрнуто, предложил 5 конкретных шагов (скрин 2).

Почему ответы разные при одинаковом вопросе?

Первый фактор – это качество модели. Разные модели дадут разные по качеству ответы: попробуйте сравнить ChatGPT и YaGPT, например

Второй фактор – это промпт или инструкции, которые дали разработчики. Даже если модель используется одинаковая, на качество, формат, язык и стиль ответов будут сильно влиять заданные инструкции для модели

Чей ответ вам понравился больше?

? – Зигмунд

??‍? – Сабина

? – Только люди

? – Никаких психологов

Полезности для эйчаров | 5 промптов для ChatGPT для HR ✍?

Рутина для эйчара — страшное дело, ведь в ней можно погрязнуть и не найти время для особо важных вещей.

Вместе с HR people мы объединили нейросети и HR и собрали 5 реально полезных промптов, которые можно копировать и использовать на практике, ведь они действительно дают результат и помогают автоматизировать рутинные процессы.

Наши коллеги пишут про тренды в геймификации и микролернинг, дают советы по онбордингу и корпобучению. А еще у них есть библиотека с полезными материалами (в том числе и бесплатными). От Welcome Book до обратной связи — мы нашли гайды, шаблоны и чек-листы по большинству наболевших для эйчара вопросов.

Промпты оформили в ?* удобную статью, *откуда вы сможете их скопировать и забрать себе.

Всем отличной пятницы! Пусть выходные пройдут стабильно ?

ИИ для снижения стресса операторов
#ИИкейснедели

Softbank разрабатывает ИИ-помощника для специалистов по работе с клиентами. Нейросеть будет смягчать разгневанные голоса

ИИ будет работать в режиме реального времени, превращая крик в спокойный разговорный тон. Эта технология направлена на снижение выгорания и стресса у операторов. Спокойный тон общения способствует более продуктивному диалогу. Операторы смогут лучше сосредоточиться на решении проблем клиентов, не отвлекаясь на негативные эмоции

ИИ встает на защиту ментального здоровья, и мы определенно “за”

@FOKINA_AI

Google анонсировала ИИ-помощника Astra

#ИИновость

Вслед за OpenAI представила свои разработки в сфере ИИ и Google: следующие поколения Gemini и Flash и новый продукт Project Astra

Astra является ИИ-помощником, работающим со всеми форматами (аудио, изображение, текст) в режиме онлайн и обладающим встроенной памятью. В Google говорят, что такие «агенты» будут помогать пользователям в реальной жизни с повседневными задачами и рутиной

Как мы увидели в демоверсии, сейчас агенты Astra могут описать рисунок от руки, узнать достопримечательность и запомнить любой кусок информации

Доступ к Astra пока ограничен, но узнать больше и оценить функционал демки можно тут

FOKINA.AI