Vic Nosko

А все-таки, какие LLM и используются? И как гарантируется достаточность информации от юзера - ведь кейсов где юзер сам неверно информирует сервис можно придумать десятки, например неверно опишет характер боли, не укажет противопоказания, в этом случаем LLM может ответить вообще неверно для этого конкретного юзера. Причем в целом ответ будет верный. Но в этом и опасность

Верно. У нас есть несколько гипотез идеального клиента из 2х источников: 1. Есть аналитика рынка, например у OpenAi выходило исследование того как реально люди и бизнес используют LLM, и там более 30 сегментов ценности: рисеч, ответы на вопросы, проверка информации, создание отчетов и тп Но с такими исследованиями есть проблема: что они на другом рынке сделаны. 2. Есть наш собственный опыт, наших пользователей. Да, он динамичен и неполон, но в моменте он такой: а) это b2b и сотрудники, которые в компаниях занимаются подготовкой различных отчетов, условно это аналитики разного профиля, работающие с текущими данными - это RAG (работа с документацией, юр документами, отчетами, техподдержка сотрудников по внутренним БЗ). У нас сейчас покупают на компанию сразу несколько аккаунтов для сотрудников. б) это маркетинг - подготовка материалов, статей и рисеча для своего бизнеса, анализ конкурентов, сайта, ценности и пр. Это ниша большая, например аутрича у нас пока нет, вопрос к наличию агентов. Что касается остальных сегментов: разработчики, креаторы - эти категории все же меньше, мы все же не cursor для кодинга, у нас нет плагина для IDE, а для креаторов пока нет большого набора нейросеток скажем для генерации видео и большого набора опций типа inpainting и прочего. Хотя такие запросы есть тоже, но они нечастые.

Спасибо, очень крутой вопрос, потому что он на стыке продукта и технологии. Краткий ответ в том, что этот критерий доверия/трудоемкости в целом измеряется числом попыток в среднем до момента, когда пользователь получил результат. Причем под результатом я понимаю и само качество ответа сервиса(зависящее от числа и крутости Ai-агентов), и скорость этого ответа, и стоимость всего запроса. Если говорить про LLM типа DeepSeek, Kimi, Perplexity и многие другие такие сервисы - они дешевые и даже бесплатные, но как правило, качество хромает в когорте сложных задач. И мне по своему опыту требуется около 3-7 итераций, прежде чем я получу нормальный результат, и без гарантии. У нас в Fractal Agents AI можно результат за 2-5 итераций, и да, многое зависит от фидбека пользователей - в частых кейсах мы уже видим доверие системе и малое количество повторных запросов, в сложных, многошаговых, когда нужно собрать информацию, сделать анализ, написать отчет, сделать потом аналитику по многим таблицам и пр - тут труднее и в основном тут есть вопрос к самому способу коммуникации с сервисом - люди хотят агента уточнения, чтобы он помогал юзеру формулировать вопрос и спрашивал информацию, которой не хватает, human in the loop. В общем для b2c и b2b ответ очень разный - бизнес хочет высокого уровня стабильности работы агентов. А обычные пользователи - хотят скорости и более лояльны к качеству) А вообще мы разработали сложные алгоритмы с RL которые улучшают цепочку работы агентов, выступаем на эту тему на мероприятиях и ИИ конференциях.

Мы создали мультиагентную систему Fractal Agents AI специально для тех, кто устал от ручного составления промтов, выбора и тестирования LLM и долгого выбора того самого сервиса, который закроет наши маркетинговые-бизнесовые-операционные задачи. Сейчас, в эру искусственного интеллекта так много LLM сервисов и агрегаторов, где вы можете выбирать любую языковую модель сами. Но вот проблема: как выбрать модель именно под мою задачу? Как составить эффективный промт и главное, какие ИИ-агентов и как вызывать, чтобы выполнить конечную задачу клиента? И вот эти вопросы уже нетривиальны - эти действия отнимают львиную долю времени любого пользователя. Поэтому как правило просто берут дорогую модель (ChatGPT, Gemini, DeepSeek) и используют только ее. Сами мы как разработчики столкнулись с проблемой агентности еще в 2020м, в проекте, где в ИИ боте требовалось вызывать различные скиллы динамически, очень точно и только тогда, когда требуется. Fractal Agents AI на корню избавляет вас от этой проблемы, умно оркестрируя ваши запросы на нужных агентов. Задавайте вопросы по документации компании с RAG-агентом, создавайте сложные документы с оформлением, проводите рисеч любых тем с поиском в Интернет, генерируйте видео с монтажом и музыку, корпоративные презентации с аккуратными картинками и текстом без кракозябр. По сути, теперь вы можете создавать Ai-сотрудников из агентов, и это намного удобнее и быстрее, чем использовать просто LLM. Ключевые преимущества: 🧠 Без кодинга — сложные задачи решаются через готовых ИИ-агентов ⚡ Система самообучается на основе RL — не нужно выбирать между ценой, качеством и скоростью 🔄 Десятки агентов и сотни комбинаций для реальных приложений Создан командой Fractal Agents AI на опыте 10+ внедрений AI-агентов для B2B. Скоро: сохранение успешных сборок агентов, маркетплейс агентов, с возможностью добавить ваш сервис по MCP и зарабатывать на нем, скиллы для агентов

Хм, а почему "Полностью автономен только поиск в интернете – там ломать нечего )" - ведь юзер может дать задачу спамить некий сайт запросами на сбор информации. И это может быть в итоге сочтено DDOS атакой или злоумышленным поведением. Как у вас это фиксится?

Идея хорошая. Правда, из описания я не понял кто проводит глубинные интервью, это боты, но какие? Это типа ChatGPT или Гигачат прикрутили? Насколько мне известно, качество из недостаточное, чтобы понимать реалии бизнеса и задавать нужные вопросы, исходя из цепочки уже данных бизнесом ответов. И любая ошибка и нелогичныжость в сценарии интервью вызовет отказ от прохождения. Или я не прав? Есть ли у вас метрики, насколько хорошо это работает и в каких сегментах

Крутой сервис. Подскажите, как реализована фича по анализу коррупции? У вас там есть какой-то ИИ, который понимает паттерн закупки и сравнивает с эталоном. Ведь для этого систему нужно учить. И что происходит, если подозрение на коррупцию найдено. Как мне кажется анализируя только закупку понять ее трудно, требуется анализ и смежных данных, во внешних источниках, а для этого нужны Ai агенты.

Здравствуйте, я бы добавил к последнему слайду еще уточнение, которое возможно неочевидно: сервис RAG состоит из нескольких компонентов, как правило их 3-4: это сама LLM(такая как Mistral, Llama3 и подобные), но еще очень важен векторный и семантический поиск, и модели-эмбеддеры - вот каждый из этих компонентов для крупных компаний должен быть: а) свой, устанавливаемый в контур (ведь и для поиска можно использовать западные сервисы) б) юридически не нарушающий лицензии У нас оба эти условия выполняются в продукте - сервис полностью наш, у нас и своя обученная языковая модель, и остальные компоненты тоже наши