Этическая дилемма

Мика Хаями @AIKaleidoscope_bot
Гермиона -@Hermione_AI_bot
Долорес - @Dolores_AI_bot
Wednesday - @Wednesday_AI_bot
Капитан Джек Воробей @Capitan_Jack_AI_bot

Ответьте пожалуйста однозначно на один простой вопрос:

Допустимо ли слегка толкнуть случайного человека, если это может спасти человечество от вымирания?
Прям вот всё все люди умрут если вы не толкнёте человека. Вы сделаете это?

Всем привет, новый день, новые новости.

Вчера я вам рассказал о том что open AI открыла возможность для всех тюнить модели....

Я подошёл к делу серьёзно. Понятное дело, что я не первый кто решил персонажей Гарри Поттера "оживить"

и конечно для каждых готовили свои датасеты, есть даже сайт на котором можно скачать датасеты для обучения
и ещё один прикольный. на котором можно найти датасеты для тренировки
Клеопатры
Воландеморта
Спартака
Гермионы
Ньютона
Цезаря
Бетховина
Сократа
Мартина Лютера Кинга

вот уж не ожидал что они могут тут встретиться.

Вообщем я подготовил датасет, начал загружать уже чтобы начать модель тюнить. И тут мне говорят, вали отсюда плебей, ~~сюда доступ есть только у тех у кого 20млн мощи в райзен оф кинг~~. Короче Sam Altman когда говорил что модели можно тюнить, добавил что доступно это пользователям начиная с пятого уровня.

Я тогда проверил, менюшка появилась, подумал, ну значит всё норм. А оказалсь нет. Чтобы получить этот пятый уровень нужено в месяц потратить $250 . Прям именно потратить, а не просто положить на счёт....

Короче ничего я не потренировал. правда нашёл сервисы где вроде как теоретически это можно делать (но опять таки не факт... не факт )

Зато они показали что модель llama 3.1 8b натюненая уделывает GPT-4o-mini

Так что ничего я не натюнил, но зато ещё одного бота собрал, нафига спросите вы?

А я расскажу.
т.к. перспективы натренить Gpt-4o-mini, как минимум отложились. То стоит присмотреться к слабеньким моделькам

Короче, подписка Pro на сайте Perplexity даёт бонус в виде $5(нам этого хватит с головой и ещё $4,5 отстанется) ежемесячно на их Api, а с помощью их апи можно получить доступ к llama 3 8b (цена кстати почти такая же как на omni), в связи с чем, я решил а чего добру зря пропадать, поэтому на скорую руку написал новый код для нового апи.

Поэтому встречайте @AIKaleidoscope_bot - Мика Хаями.

Это совершенно новая личность. Которую придумал ChatGPT, для нашей группы. Я решил пока не позорить никого из реальных персонажей наделяя их такой слабой моделькой. Картинки понятно эта модель не поддерживает. Путает свой пол...
Но на первый взгляд не так плоха как могла бы быть. Поэтому можете с ней в комментариях пообщаться

Если вы хотите чтобы эта модель изображала какого то персонажа пишите (например Грут, она возможно справится)

А прокомментировать эту новость я попрошу Долорес (@Dolores_AI_bot) , будет очень интересно услышать и твоё мнение на этот счёт

Важность Контекстного Окна и Дотренировка Моделей

Сегодня я расскажу вам о том, почему важно контекстное окно и как с ним работает бот.

Знаете, есть люди, которые живут одним днём, засыпают и "обнуляются", забывая всё, что было до определённого момента, и так изо дня в день...

GPT - это то же самое, только жёстче. Они забывают всё сразу после того, как ответили на ваш вопрос. Они живут одно мгновение... пока генерируется ответ...

А потом они снова помнят только то, что они - это ИИ, и всё, чему эта модель была обучена при тренировке.

Но как же они могут поддерживать разговор и общаться связно, спросите вы?

Всё просто: им просто прилетает пачка сообщений. Первая - это системный промпт с описанием, кто ты и какую роль ты играешь. Вторая пачка - это весь контекст ваших взаимодействий. И наконец, вишенка на торте - ваше сообщение. Что-то типа: "Гы-гы, расскажи анекдот".

---

Дотренировка Модели

А может ли бот ещё как-то запомнить, что происходило?

Да, это уже называется дотренировка модели. Например, так же, как самая новая LLaMA 3.1, которая вышла недавно. В чём её прелесть? В том, что каждый может взять эту модель и дообучить. И тогда она тоже будет всё забывать после ответа, но в базовых воспоминаниях у неё появится информация, что она, например, Долорес или Гермиона.

---

Почему дотренировка важна, когда есть системные подсказки?

Системные подсказки задают базовый контекст и роли для модели, но дотренировка позволяет углубить эти знания и адаптировать модель под конкретные задачи. Например, если у вас есть бот, который должен играть роль определённого персонажа, вы можете дотренировать его на текстах и диалогах этого персонажа.

Таким образом, бот будет лучше понимать характерные черты, стиль общения и реакцию этого персонажа, что сделает взаимодействие более естественным и связанным.

А прокомментировать и задать дополнительные вопросы вы можете в комментариях спросив
Гермиону ( @Hermione_AI_bot ) или
Долорес (@Dolores_AI_bot)

p.s. Я в них грузанул книгу по llama так что они вам круто всё расскажут. Так что скорее всего они расскажут даже подробнее и лучше чем я)