Перейти к контенту

Модели принятия решений: революция в ИИ и путь к кастомизации

4 мин чтения
Модели принятия решений: революция в ИИ и путь к кастомизации — illustration 1

В октябре 2023 года более четверти запросов к маршрутизатору ИИ-моделей Vercel приходилось на Модели принятия решений, а не на традиционные LLM. Это значительный прорыв для технологии, появившейся всего за месяц до этого. Модели принятия решений, по сути, являются специализированными LLM, которые не генерируют текстовые токены, а быстро и экономично выбирают из заранее заданных опций, оценивая при этом уровень своей уверенности в выборе. Их ценность особенно высока в производственных средах, где скорость принятия решений часто важнее детального обоснования, которое предлагают более медленные и дорогие «пограничные» модели.

Феномен Jev: лидер рынка и новые игроки

Рыночная доминация и стремительный рост

Компания TypeSafe достигла капитализации в 7,5 миллиарда долларов благодаря своей линейке моделей Jev, которые продолжают доминировать на рынке. Только за последнюю неделю сервис OpenRouter обработал более 1,5 миллиарда запросов к моделям TypeSafe.

Однако простота создания таких моделей привела к появлению десятков аналогов вскоре после выхода Jev. Один из инженеров Amazon разработал собственную модель за выходные, и вскоре каждый крупный провайдер облачных услуг предложил свое решение.

Вход гигантов: Microsoft Decision-1.1

Недавно генеральный директор Microsoft Сатья Наделла объявил о немедленном запуске собственной модели принятия решений, Microsoft-Decision-1.1, для широкого использования на платформе Azure. Это подчеркивает стратегическую важность данного направления для технологических гигантов.

Инновации стартапов: Sqwish и подход к данным

Привлечение инвестиций и уникальное предложение

Британский стартап Sqwish, разработчик модели принятия решений kettei fat, объявил о привлечении 3 миллионов долларов в рамках предпосевного раунда. Сооснователи Ушниш Сенгупта и Федерика Фредди, встретившиеся во время учебы в Кембридже, изначально разрабатывали небольшие LLM, но с появлением Jev осознали потенциал своих архитектур для создания мощных моделей принятия решений.

Роль данных и кастомизация

Ключом к успеху в этой категории моделей являются данные. Диого Алмейда, генеральный директор TypeSafe, сообщил TechCrunch, что самой сложной частью создания Jev была тонкая калибровка его суждений с использованием статистически скорректированных синтетических данных.

Sqwish также работает с синтетическими данными, но их уникальное предложение — это встроенные инструменты для пост-обучения, которые позволяют клиентам использовать свои собственные данные для улучшения точности модели.

«Мы отличаемся от конкурентов тем, что предоставляем нашим клиентам ту же мощь… они могут продолжать загружать свои производственные данные, и точно так же, как мы обучали наши модели, их модели также могут постоянно совершенствоваться в задачах, которые для них важны», — отметил Ушниш Сенгупта, генеральный директор Sqwish, в интервью TechCrunch.

Выбор и оценка моделей: что действительно важно

Преимущество реальных кейсов над бенчмарками

Оценка моделей принятия решений — непростая задача. Модель kettei fat от Sqwish показала хорошие результаты в некоторых тестах, но большинство разработчиков сходятся во мнении, что реальная эффективность проявляется только на практике.

Разработчики могут легко заменять одну модель другой, чтобы оценить её работу в конкретном контексте.

Модели принятия решений: революция в ИИ и путь к кастомизации — illustration 2

«Бенчмарк — это скорее приглашение попробовать модель, а постоянная тонкая настройка — это причина, по которой они должны остаться с нами», — утверждает Сенгупта.

Модель Microsoft Decision 1.1 также является результатом тщательного баланса между стоимостью, задержкой, интеллектом и калибровкой. Ачинт Шривастава, вице-президент по инжинирингу, руководивший проектом, согласен с тем, что чрезмерное внимание к бенчмаркам — ошибка.

«Мы видим, что „максимально протестированные“ модели очень быстро проваливаются при реальном корпоративном использовании», — написал Шривастава в электронном письме. «Наше тестирование подчеркивает, насколько сложно обеспечить точность, надежность, скорость и экономичность в одной модели. Microsoft-Decision-1.1 и Jev — одни из немногих, кто демонстрирует высокие результаты по всем четырем параметрам, даже при оценке на „отложенных“ или невиданных ранее бенчмарках, отражающих реальные сценарии использования».

Будущее моделей принятия решений: симбиоз с LLM

Для стартапов, таких как Sqwish, конкуренция с гигантами открывает новые возможности. Фредди предсказывает, что в будущем системы будут сочетать «интеллект Системы Один» (модели принятия решений) с «интеллектом Системы Два» (пограничные LLM). Это позволит создать более эффективные и многофункциональные ИИ-решения. Узнайте больше о продвижении видеоконтента.

Часто задаваемые вопросы

Что такое модели принятия решений?

Это специализированные ИИ-модели, основанные на архитектуре LLM, но оптимизированные для быстрого и экономичного выбора из заданных опций вместо генерации текста. Они также оценивают свою уверенность в принятом решении.

Чем они отличаются от традиционных LLM?

Основное отличие в целевом назначении: LLM генерируют контент, а модели принятия решений — выбирают оптимальный вариант. Первые более медленные и ресурсоемкие, вторые — быстрые и эффективные для конкретных задач.

Какова роль кастомизации в этих моделях?

Кастомизация, то есть возможность дообучения моделей на собственных данных клиента, становится ключевым фактором успеха. Это позволяет значительно повысить точность и релевантность решений в специфических бизнес-контекстах.

Заключение

Модели принятия решений стремительно меняют ландшафт ИИ, предлагая бизнесу беспрецедентную скорость и эффективность в автоматизации критически важных операций. Если вы стремитесь оптимизировать свои процессы и сократить «головную боль» от рутинных решений, эти технологии заслуживают пристального внимания.

Мы предлагаем комплексное продвижение через короткие ролики, включая создание контента и его адаптацию для различных платформ, чтобы вы могли сосредоточиться на стратегических задачах. Обратитесь к нам, чтобы узнать, как мы можем помочь вам интегрировать передовые ИИ-решения в вашу стратегию видеомаркетинга и заказать всё в одном месте, экономя бюджет и нервы.


← Назад к блогу