Новости искусственного интеллекта

AWS добавила полную донастройку моделей в бессерверную настройку SageMaker

18 ноября AWS объявила поддержку Full Fine-Tuning в Serverless Model Customization SageMaker AI. Компания описала различия с LoRA, эксперименты для генерации кода и риски потери общих знаний при неудачных настройках.

Инженер настраивает модель на размеченном наборе данных в облаке
Проверено 18 ноября 2026 годаМатериал основан на официальной публикации компании. Независимое тестирование редакция не проводила.
Разбор

Что меняется в SageMaker AI

AWS добавила полную донастройку в Serverless Model Customization для SageMaker AI. По заявлению компании, не нужно вручную выделять GPU-кластер, настраивать распределенное обучение и сопровождать инфраструктуру. Пользователь выбирает модель, набор данных и параметры; сервис управляет вычислениями и контрольными точками. Подготовка данных и оценка остаются задачами команды.

В блоге приведен пример Python SDK с типом обучения FULL. Для LoRA в таком сценарии меняется тип на LORA. Доступные модели и регионы нужно проверить в документации. Код из публикации не гарантирует доступности каждой конфигурации в любом аккаунте.

Разбор

Чем FFT отличается от LoRA

LoRA обновляет небольшую часть параметров через дополнительные матрицы, оставляя базовые веса преимущественно нетронутыми. Это снижает требования к памяти и обучению, но ограничивает адаптацию. Full fine-tuning изменяет параметры базовой модели шире. Он может подойти для сложной задачи и большого качественного корпуса, но несет риск потери навыков.

AWS приводит эксперименты на 110 тысячах примеров генерации кода с Qwen3-4B и сообщает, что FFT обошел LoRA на части показателей. В публикации есть случаи, где LoRA лучше. Это не доказывает универсальное преимущество: результат зависит от корпуса, модели, параметров и метрики.

Разбор

Какие метрики использовала AWS

Компания использовала LLM-as-Judge для смысловой корректности, PRIMECODE для сходства кода с эталоном и MMLU для сохранения общих знаний. Это разные измерения: полезность ответа, форма и возможное забывание. Ни одна метрика сама по себе не показывает готовность к эксплуатации; эталон может наказать корректную альтернативу, а модель-судья ошибиться.

AWS сообщает о 90 процентах в одной конфигурации и метрике, но также показывает ухудшение общих возможностей при агрессивном learning rate. По LLM-as-Judge LoRA немного превосходила FFT в одном результате. Это эксперименты AWS, не независимая оценка. Повторите сравнение на своем наборе.

Разбор

Риск забывания и параметры

Полная настройка меняет веса, поэтому чрезмерный шаг может повредить прежние навыки. AWS предупреждает о катастрофическом забывании и показывает ухудшение MATH и MMLU при высоком learning rate. Продолжительное обучение не гарантирует улучшения: модель может запомнить обучающие примеры и хуже переносить знания.

До запуска зафиксируйте исходный профиль и контрольный набор, не использованный для обучения. После каждой конфигурации сравните целевую и общие способности. Сохраните разбиение данных, параметры, версии и веса. Снижение training loss не доказывает качество на новых примерах. Задайте порог отката заранее.

Разбор

Кому может подойти serverless

Бессерверная настройка полезна команде, которая хочет экспериментировать без отдельного управления кластером. Расходы включают обучение, хранение корпуса и весов, оценки и развертывание. Сопоставьте полную стоимость с LoRA и готовой моделью. Сервис снимает часть DevOps-работы, но вычисления не становятся бесплатными.

Если задача проста или размеченных данных мало, LoRA, retrieval или инструкция могут быть дешевле. Для персональной и коммерческой информации проверьте право на обучение, регион хранения, экспорт и удаление. Определите, кому можно использовать получившиеся веса и разрешена ли передача сторонним пользователям.

Разбор

План безопасного пилота

Соберите обучающую, валидационную и отдельную тестовую выборки. Удалите дубликаты; связанные фрагменты разделяйте по документам, чтобы похожие сведения не попали в обучение и проверку. Определите критерии, порог деградации общих навыков, бюджет и допустимые данные.

Сравните базовую модель, LoRA и FFT на одинаковых данных. Проверьте несколько типов входа и дорогие ошибки. Сохраните неудачные запуски и возможность вернуться к исходной модели. Проверьте лицензию и права на веса. Дата события - 18 ноября; редакция не проводила тестирование.

Разбор

Что включить в план эксперимента

Кроме оценки целевой метрики и MMLU, включите тест на утечку обучающих примеров: задайте модели вопросы о строках корпуса и проверьте, не воспроизводит ли она закрытые данные. Проверьте также чувствительность к формату и длине запроса. Сравнивайте затраты на весь цикл, включая неудачные запуски и регистрацию версий, а не только стоимость успешного задания.

До обучения зафиксируйте решение о хранении исходного датасета и выходных весов, круг лиц с доступом и срок удаления промежуточных файлов. Резервируйте неизмененную базовую модель, чтобы можно было быстро откатиться. Если команда меняет набор данных или метрику, создайте новую версию эксперимента вместо перезаписи результатов предыдущего сравнения.

Разбор

Прочитайте результаты как кейс, а не гарантию

Публикация AWS подробно описывает собственный эксперимент, датасет и выбранные показатели, поэтому из нее полезно взять структуру оценки и предупреждения о забывании. Переносить конкретный процент на другой язык, домен или базовую модель нельзя. Особенно осторожно сравнивайте оценки LLM-судьи, если сама модель-судья меняется между экспериментами.

Запишите методику до запуска, включая разбиение, версии оценщика и порог улучшения. Если меняется только один фактор, легче понять причину результата. Если одновременно меняются данные, гиперпараметры и база, сравнение не покажет, какое изменение помогло. Повторите перспективную конфигурацию и сохраните отклонения, а не только лучшую точку.

Первоисточник

Источник и дата события

Событие объявлено 18 ноября 2026 года. Публикация AWS о Full Fine-Tuning в SageMaker AI: официальная публикация.

Full Fine-Tuning появился в бессерверной настройке SageMaker AI. Возможность упрощает инфраструктуру, но результаты AWS показывают и преимущества, и риск забывания; сравнение нужно проводить на своем наборе.

По теме

Связанный материал

Cloudflare открыла веса моделей извлечения данных Clairic