Mistral показала предварительную версию модели Large 4 с триллионом параметров
6 октября Mistral объявила публичное preview Large 4 - мультимодальной модели с общей емкостью в один триллион параметров и 52 миллиардами активных параметров. Сейчас ее можно попробовать через API, но веса еще не опубликованы: компания обещает выпустить их до конца месяца вместе с дополнительными сведениями об архитектуре и обучении. Mistral позиционирует модель для программирования, агентных сценариев, работы с документами и изображениями, науки и корпоративных задач. Эти характеристики и приведенные бенчмарки пока следует считать заявлениями разработчика и результатами конкретных тестов, а не гарантией превосходства на любом рабочем процессе.
Что изменилось
Большая MoE-архитектура с меньшей активной частью
Mistral указывает один триллион параметров общей модели и 52 миллиарда активных параметров. Такая схема экспертов активирует только часть параметров для конкретного прохода, поэтому число параметров нельзя напрямую приравнивать к расходу на каждом запросе, задержке или требуемой видеопамяти. Компания называет Large 4 нативно мультимодальной, но подробности архитектуры, рецепта обучения и независимых воспроизводимых измерений обещает раскрыть позже, вместе с выпуском весов.
Публичный API доступен до публикации весов
На момент анонса разработчики могут получить доступ к preview через API Mistral. Самостоятельно загрузить модель в свой кластер пока нельзя, поскольку веса еще не опубликованы. План выпустить их к концу октября является сроком, заявленным компанией, а не уже состоявшимся событием. Командам, которым важны локальное размещение и аудит, стоит дождаться фактического файла весов, лицензии и требований к оборудованию, а не строить план миграции только по обещанию.
Анонс охватывает несколько рабочих направлений
В описании названы программирование, многошаговые агентные процессы, мультимодальное понимание, финансы, юридическая работа и научные задачи. Mistral приводит результаты собственных и внешних оценок, включая тесты программирования, кибербезопасности и обработки деловых документов. У каждой метрики своя выборка, формат задания, конфигурация модели и критерий успеха. Высокий балл на тесте не доказывает, что модель сможет без контроля исправлять код, давать юридическое заключение или корректно сводить данные компании.
Кибервозможности требуют особого режима оценки
Компания сообщает о сильных результатах на некоторых задачах поиска и воспроизведения уязвимостей, а также о тестах устойчивости и отказа на вредоносных запросах. Одновременно Mistral говорит, что до публикации весов модель проходит red-teaming в реальных условиях с киберспециалистами, проверенными партнерами и государственными органами. Это подтверждает внимание к dual-use риску, но не дает независимой гарантии безопасного применения. При пилоте нужен изолированный репозиторий, ограниченный доступ к сети, экспертное ревью и запрет на автоматическое применение патчей.
Открытые веса еще не означают готовое самостоятельное развертывание
Планируемый выпуск весов важен для тех, кому нужны контроль над средой, возможность дообучения или независимая проверка. Но до их фактического выхода неизвестны все практические условия: лицензия, размер файлов, поддерживаемые инструменты, квантование и требования к памяти. Кроме того, открытая модель может требовать значительно больше инфраструктуры и эксплуатации, чем API. Сравнивайте полную стоимость владения, включая GPU, энергию, обновления, защиту и работу инженеров, а не только цену одного вызова.
Как проверить Large 4 до решения о переходе
Mistral описывает Large 4 как модель на один триллион параметров с 52 миллиардами активных параметров, доступную в публичном API preview. Компания публикует результаты ряда внутренних и внешних тестов по кибербезопасности, коду, мультимодальности и деловым задачам. Веса и дополнительные детали на момент проверки еще обещаны к концу октября. Объем параметров не определяет сам по себе скорость, память и цену inference. Заявления о сравнительном качестве относятся к конкретным наборам и настройкам; выводы об универсальном лидерстве из них не делаем.
Составьте оценочный набор, который отражает ваш процесс, а не только известные benchmark-вопросы. Для каждой задачи заранее задайте критерий успешности и допустимую цену ошибки. Проведите повторные прогоны на одинаковых входах, оцените задержку, отказ, фактическую стоимость, воспроизводимость и качество ручного исправления. Для анализа кода работайте в ветке без доступа к производственным секретам и запускайте тесты до принятия патча. Для открытых весов дождитесь фактической публикации, проверьте лицензию и измерьте требования к ресурсам на целевой инфраструктуре.
Preview API и будущая модель с открытыми весами - разные формы доступа. Дата релиза весов и условия самостоятельного использования не подтверждены фактической загрузкой на момент подготовки материала. Не переносите бенчмарки на финансовые, медицинские и юридические решения без отраслевой валидации. В источнике преимущественно представлены сведения разработчика, поэтому статья не называет их независимым доказательством.
Что это дает пользователю
Сформируйте собственный набор из 20-50 задач на реальном, очищенном от секретов материале и сравните модель с текущей системой по качеству, задержке и ручным исправлениям.
Для API заранее задайте бюджет, лимит токенов, тайм-аут и условия остановки; проведите нагрузочную проверку на типичных и длинных запросах.
Если интересуют открытые веса, дождитесь файла и лицензии, затем проверьте воспроизводимость, требования к памяти, выбранный runtime и качество после квантизации.
Для кода и кибербезопасности включите изоляцию, статический анализ и обязательное ревью. Оценивайте отдельно полезные находки, ложные срабатывания и внесенные регрессии.
Что нужно учитывать
Ключевые сравнения и описание возможностей опубликованы самой Mistral; внешний независимый аудит всего набора заявлений здесь не представлен.
Публичное preview через API не равно опубликованным весам. Обещанный срок и окончательные условия самостоятельного запуска следует перепроверить после релиза.
Результаты бенчмарков зависят от конкретной версии, подсказки и критериев. Они не дают гарантии точности в медицинской, юридической или финансовой работе.
Коротко
Large 4 примечательна масштабом и обещанием открытых весов, но на дату проверки это preview, а не готовая к самостоятельному размещению модель. Полезный следующий шаг - тестирование API на собственных задачах без чувствительных данных и сравнение полной стоимости с альтернативами. Решение о локальном запуске стоит принимать после публикации весов, лицензии и практических требований к инфраструктуре.