📱 Написал AI-бота, которые экономит десятки тысяч рублей и месяцы рабочего временино, возможно, не для вас.

В продуктовых исследованиях есть проблема: все ненавидят опросники с открытыми ответами. Идея напрямую спросить у пользователя, что ему надо, звучит соблазнительно ровно до того момента, как ты оказываешься перед файлом на две тысячи строк, заполненными вперемешку полезными ответами и выдержками из протоколов сионских мудрецов.

Ты гробишь на анализ сутки времени, создаёшь систему категорий, отсеиваешь пустые и несодержательные ответы, и понимаешь, что если ты будешь не есть не пить и не отходить в туалет, то при затрате 10 секунд на ответ ты потратишь несчастные 10 × 2000 ≈ 6 часов. С тоской ты ищешь, кому делегировать эту задачу, и обнаруживаешь, что агентство в России берёт 4-6 рублей за ответ. Двое суток и 10 тысяч рублей спустя ты получаешь разобранные по категориям ответы... и понимаешь, что некоторые из них практически не используются, и систему кодов нужно менять.

Где-то на этом моменты большинство исследователей божатся никогда больше дела не иметь с открытыми ответами. Что обидно, потому что идея напрямую спросить у пользователя, где у него болит, вместо того, чтобы подсовывать ему заданные заранее ответы, — объективно-то неплохая.

Так и получается, что метод хороший, но его использование стараются свести к минимуму — "Другое: уточните, что именно", комментарии в багрепорт, саппорты и пожелания. Даже с этим, сильно ограниченным потоком, опросов-то двести за год у большой компании набегает. Это чистого рабочего времени 200 (опросов) × 1000 (ответов) × 30 (объективно минимальное количество времени на кодировку ответа) = 208 дней рабочего времени, или 9,5 месяцев.

Мой бот сделает весь этот объём работы за 16,67 часов, или 5 минут за 1000 ответов. А ещё он сам предложит и сформирует категории, а если какие-то из них будут редко использоваться — поймёт это, и предложит пересчитать без них. А ещё обоснует каждый свой ответ. А ещё перепроверит себя отдельной нейросетью.

@grounded_answers_bot

2000 ответов бесплатно, потом по одной телеграм звезде за ответ. (Есть версия на английском, она подороже).

Ладно, давайте немного охладим рекламу:
- Во-первых, это круто не (только) потому, что экономит текущий воркфлоу — это круто потому, что открывает использование полезного метода там, где раньше его избегали из-за лишних хлопот.
- Во-вторых, редакция конечно будет рада заработать, но думаю понятно, что оплата звёздами в боте это не прод b2b решение (те, кому это больше всего нужно). Для нас это возможность поэкспериментировать с платным форматом и придумать разных хитрых уловок, как повысяить качество кодировки. ~~Для бизнесов — возможность сделать своё внутреннее решение ещё дешевле.~~
- В-третьих, этого AI-бота написал AI.

AI по прежнему очень круто.

🍓 Пробую новую GPT o1 (с ризонингом)

По анонсу показалось, что перехайпили: хвалёные теги для думания есть у Клода ещё с лета, и как бы хорош он ни был — звёзд с неба не хватает.
Но потом попробовал на реальной боевой задаче: взял целиком транскрипт из исследования, которое делал полгода назад, и без каких-либо уточнений и пояснений сказал сделать один очень сложный тип анализа (метод обоснованной теории по Корбину и Штрауссу, кто знает тем соболезную).

ГПТ задумался на минуту и выдал страниц пять ну очень хорошего текста, причём видно, что не галлюцинирует: все выкладки подтверждены ссылками.

И ладно бы это, но ещё за шесть промптов я заставил его выдать полностью рабочий интерактивный сайт, который отображает парадигмальную модель, а по клику выдаёт все оси, коды, и цитаты с таймкодами — вещь, которую я несколько раз пытался добиться от разных ллмок, но каждый раз оборачивался неудачей и потраченным временем.
(Выложил запись в линкедин — не ждали небось такой нативочки?)

Стоит очень сильно задуматься, как поменяются качественные исследования в этом дивном новом мире. Сейчас есть ограничения контекста, конечно, но все мы понимаем, что ненадолго.

И другой момент — я уже упомянул, что теги думания есть и у Клода. При этом стоит помнить, что летом Клод выпустил только свою среднюю модель Sonnet. Теперь одно из двух: либо выложат Opus 3.5, чтобы перебить эффект от о1, либо не выложат — и это значит, что они порядочно отстают, и под капотом у ГПТ что-то поинтереснее, чем просто Chain of Thoughts.

Alien-Agent Interaction

Андрей Карпатый, один из известнейших специалистов в мире по AI, предложил отправить инопланетянам как посла человечества веса LLM модели с бинарником и инструкцией по запуску. Да, прямо как софон в задаче трёх тел, только в обратную сторону.
Это, разумеется, чудовищная идея: враждебной цивилизации LLM может выдать все наши секреты, дружественную — настроить против нас галлюцинациями. Да и вообще, это не первый раз, когда подобная идея приходит кому-то в голову. Тогда зачем?

Карпатый работает над проектом llm.c — написанную на С библиотеку по обучению моделей, которая работает почти вполовину быстрее аналогичной либе на TensorFlow. Предложение отправить ИИ в космос — своеобразная пиар-акция: дело в том, что любой код для запуска в космос требует сертификацию NASA. Именно эту сертификацию хочет пройти llm.c — и тем самым показать, насколько их код безопасный, чистый и компактный в сравнении с непредсказуемой мешаниной, обычно творящейся в нейронном обучении.

Но идея, конечно, захватывает: веса модели можно упаковать во что-то очень-очень маленькое, а затем разогнать сфокусированным лучом почти что до скорости света…