Skip to content

Моделі прийняття рішень: революція в ШІ та шлях до кастомізації

4 хв читання
Модели принятия решений: революция в ИИ и путь к кастомизации — illustration 1

У жовтні 2023 року понад чверть запитів до маршрутизатора ШІ-моделей Vercel припадала на Моделі прийняття рішень, а не на традиційні LLM. Це значний прорив для технології, що з’явилася лише за місяць до цього. Моделі прийняття рішень, по суті, є спеціалізованими LLM, які не генерують текстові токени, а швидко та економічно вибирають із заздалегідь заданих опцій, оцінюючи при цьому рівень своєї впевненості у виборі. Їхня цінність особливо висока у виробничих середовищах, де швидкість прийняття рішень часто важливіша за детальне обґрунтування, яке пропонують повільніші та дорожчі «прикордонні» моделі.

Феномен Jev: лідер ринку та нові гравці

Ринкова домінація та стрімке зростання

Компанія TypeSafe досягла капіталізації в 7,5 мільярда доларів завдяки своїй лінійці моделей Jev, які продовжують домінувати на ринку. Лише за останній тиждень сервіс OpenRouter обробив понад 1,5 мільярда запитів до моделей TypeSafe.

Однак простота створення таких моделей призвела до появи десятків аналогів незабаром після виходу Jev. Один з інженерів Amazon розробив власну модель за вихідні, і незабаром кожен великий провайдер хмарних послуг запропонував своє рішення.

Вхід гігантів: Microsoft Decision-1.1

Нещодавно генеральний директор Microsoft Сатья Наделла оголосив про негайний запуск власної моделі прийняття рішень, Microsoft-Decision-1.1, для широкого використання на платформі Azure. Це підкреслює стратегічну важливість цього напрямку для технологічних гігантів.

Інновації стартапів: Sqwish та підхід до даних

Залучення інвестицій та унікальна пропозиція

Британський стартап Sqwish, розробник моделі прийняття рішень kettei fat, оголосив про залучення 3 мільйонів доларів у рамках передпосівного раунду. Співзасновники Ушніш Сенгупта та Федеріка Фредді, які зустрілися під час навчання в Кембриджі, спочатку розробляли невеликі LLM, але з появою Jev усвідомили потенціал своїх архітектур для створення потужних моделей прийняття рішень.

Роль даних та кастомізація

Ключем до успіху в цій категорії моделей є дані. Діогу Алмейда, генеральний директор TypeSafe, повідомив TechCrunch, що найскладнішою частиною створення Jev було тонке калібрування його суджень з використанням статистично скоригованих синтетичних даних.

Sqwish також працює з синтетичними даними, але їхня унікальна пропозиція — це вбудовані інструменти для пост-навчання, які дозволяють клієнтам використовувати власні дані для покращення точності моделі.

«Ми відрізняємося від конкурентів тим, що надаємо нашим клієнтам ту ж потужність… вони можуть продовжувати завантажувати свої виробничі дані, і так само, як ми навчали наші моделі, їхні моделі також можуть постійно вдосконалюватися в завданнях, які для них важливі», — зазначив Ушніш Сенгупта, генеральний директор Sqwish, в інтерв’ю TechCrunch.

Вибір та оцінка моделей: що дійсно важливо

Перевага реальних кейсів над бенчмарками

Оцінка моделей прийняття рішень — непросте завдання. Модель kettei fat від Sqwish показала хороші результати в деяких тестах, але більшість розробників сходяться на думці, що реальна ефективність проявляється лише на практиці.

Розробники можуть легко замінювати одну модель іншою, щоб оцінити її роботу в конкретному контексті.

Моделі прийняття рішень: революція в ІІ та шлях до кастомізації — illustration 2

«Бенчмарк — це скоріше запрошення спробувати модель, а постійне тонке налаштування — це причина, чому вони повинні залишитися з нами», — стверджує Сенгупта.

Модель Microsoft Decision 1.1 також є результатом ретельного балансу між вартістю, затримкою, інтелектом та калібруванням. Ачінт Шрівастава, віце-президент з інжинірингу, який керував проектом, погоджується з тим, що надмірна увага до бенчмарків — помилка.

«Ми бачимо, що „максимально протестовані“ моделі дуже швидко провалюються при реальному корпоративному використанні», — написав Шрівастава в електронному листі. «Наше тестування підкреслює, наскільки складно забезпечити точність, надійність, швидкість та економічність в одній моделі. Microsoft-Decision-1.1 та Jev — одні з небагатьох, хто демонструє високі результати за всіма чотирма параметрами, навіть при оцінці на „відкладених“ або небачених раніше бенчмарках, що відображають реальні сценарії використання».

Майбутнє моделей прийняття рішень: симбіоз з LLM

Для стартапів, таких як Sqwish, конкуренція з гігантами відкриває нові можливості. Фредді передбачає, що в майбутньому системи поєднуватимуть «інтелект Системи Один» (моделі прийняття рішень) з «інтелектом Системи Два» (прикордонні LLM). Це дозволить створити більш ефективні та багатофункціональні ШІ-рішення. Дізнайтеся більше про просування відеоконтенту.

Часто задавані питання

Що таке моделі прийняття рішень?

Це спеціалізовані ІІ-моделі, засновані на архітектурі LLM, але оптимізовані для швидкого та економічного вибору із заданих опцій замість генерації тексту. Вони також оцінюють свою впевненість у прийнятому рішенні.

Чим вони відрізняються від традиційних LLM?

Основна відмінність у цільовому призначенні: LLM генерують контент, а моделі прийняття рішень — обирають оптимальний варіант. Перші повільніші та ресурсомісткіші, другі — швидкі та ефективні для конкретних завдань.

Яка роль кастомізації в цих моделях?

Кастомізація, тобто можливість донавчання моделей на власних даних клієнта, стає ключовим фактором успіху. Це дозволяє значно підвищити точність та релевантність рішень у специфічних бізнес-контекстах.

Висновок

Моделі прийняття рішень стрімко змінюють ландшафт ІІ, пропонуючи бізнесу безпрецедентну швидкість та ефективність в автоматизації критично важливих операцій. Якщо ви прагнете оптимізувати свої процеси та скоротити «головний біль» від рутинних рішень, ці технології заслуговують на пильну увагу.

Ми пропонуємо комплексне просування через короткі ролики, включаючи створення контенту та його адаптацію для різних платформ, щоб ви могли зосередитися на стратегічних завданнях. Зверніться до нас, щоб дізнатися, як ми можемо допомогти вам інтегрувати передові ІІ-рішення у вашу стратегію відеомаркетингу та замовити все в одному місці, заощаджуючи бюджет та нерви.


← Назад до блогу