Компактные и специализированные большие языковые модели (LLM) становятся все более экономически выгодным вариантом для корпоративного сектора. Новый отраслевой отчет показывает, что они способны обеспечивать производительность, близкую к возможностям гораздо более крупных моделей, но лишь за небольшую долю их стоимости. В результате оптимальный размер больших языковых моделей для бизнеса смещается в сторону более компактных и целенаправленных решений.
Большие языковые модели: «Золотая середина» в 7–30 миллиардов параметров
Исследование, проведенное консалтинговой компанией CCID Consulting на основе анализа более 120 корпоративных внедрений ИИ и интервью с техническими директорами 15 компаний, показало, что увеличение размера модели не всегда приводит к улучшению бизнес-результатов. Тестирование по четырем корпоративным задачам продемонстрировало, что прирост производительности замедляется по мере роста размера модели, особенно в структурированных задачах.
Отчет определил модели с объемом от 7 до 30 миллиардов параметров, дообученные на отраслевых данных, как ту самую «золотую середину». Такие решения способны обеспечить от 90% до 95% производительности моделей с более чем 100 миллиардами параметров, но при этом требуют лишь от 5% до 10% вычислительных затрат.
В одном из примеров, приведенных в отчете, глобальный банк сократил расходы на облачный инференс на 63% после перехода с открытой модели на 175 миллиардов параметров на специализированную модель на 13 миллиардов параметров, не столкнувшись при этом с измеримой потерей точности.
Концепция «точного интеллекта» и экономика инференса
Консалтинговая компания описывает этот формирующийся подход как «точный интеллект». Он предполагает сочетание специализированных моделей с генерацией на основе поиска информации (RAG), внешними инструментами и человеческим контролем. Цель такого подхода – сопоставить возможности модели с конкретными задачами, балансируя между производительностью, стоимостью и соблюдением нормативных требований, а не полагаться исключительно на количество параметров.
Экономика инференса (процесса вывода данных) становится все более важной по мере перехода ИИ от стадии разработки моделей к их масштабному развертыванию. В октябрьском отчете компания McKinsey спрогнозировала, что к 2030 году на инференс будет приходиться около 60% вычислительных потребностей в сфере ИИ по сравнению с примерно 40% на этапе обучения. По мере расширения использования ИИ стоимость запуска моделей в промышленных масштабах становится центральным фактором для компаний.
Большие языковые модели и китайский подход: приложения важнее масштаба
Развитие больших языковых моделей в Китае идет по двум основным направлениям: повышение технической эффективности и расширение промышленного применения. Бай Жунсюань, аналитик исследовательского центра ИИ и больших данных CCID Consulting, отмечает, что сильные стороны Китая заключаются в широком спектре сценариев применения и зрелых инженерных компетенциях, в отличие от зарубежного подхода, который часто делает больший акцент на простом увеличении количества параметров.
Этот тренд подтверждается и регуляторной статистикой. По данным Управления киберпространства Китая, к концу августа в стране уже прошли процедуру регистрации 1112 сервисов генеративного ИИ, а также было зарегистрировано 731 приложение или функция на базе генеративного ИИ, что свидетельствует о бурном росте именно прикладного, а не фундаментального сегмента рынка.
Отчет CCID Consulting знаменует собой важный этап взросления рынка искусственного интеллекта. Эпоха слепого стремления к созданию моделей с триллионами параметров сменяется прагматичным поиском эффективности. Для бизнеса способность решать 95% задач за 10% от стоимости является не просто техническим курьезом, а прямым путем к рентабельности. Китайский фокус на инженерной оптимизации и реальных сценариях использования, а не на гонке вооружений по количеству параметров, выглядит как устойчивая стратегия, способная обеспечить массовое внедрение ИИ в реальном секторе экономики. А как вы считаете, приведет ли этот тренд к тому, что крупные технологические гиганты начнут активно дробить свои огромные модели на узкоспециализированные корпоративные решения, или рынок разделится на два независимых лагеря? Поделитесь своим мнением в комментариях.
Материал “Большие языковые модели для бизнеса: почему компактные ИИ выигрывают у гигантов” подготовлен международной независимой общественной информационно-аналитической платформой PRC.TODAY.
Есть вопросы или хотите обсудить? Оставьте комментарий или напишите нам в Telegram-канал.
Мультимодальные LLM: новые горизонты искусственного интеллекта
