Новости искусственного интеллекта

Runway рассказала, как применяет большие языковые модели для модерации генераций

12 ноября 2026 года Runway опубликовала описание изменений в модерации изображений и видео. Компания сообщает, что стала использовать большие языковые модели для применения собственных правил и для анализа более широкого контекста запроса. По объяснению Runway, прежние сторонние классификаторы работали с фиксированными категориями и могли не различить постановочную сцену и реальное насилие. Новый подход, по заявлению компании, призван уменьшить необоснованные блокировки творческих сюжетов и точнее выявлять вредный контент. Runway также перечисляет ограничения: ошибки языковых моделей, потеря контекста и дополнительные правила модерации у сторонних моделей.

Команда редакторов оценивает контекст видеосцены перед автоматическим решением модерации
Проверено 13 ноября 2026 годаМатериал основан на открытых источниках, перечисленных ниже. Самостоятельные тесты редакция не проводила.
Главное

Что изменилось

01

Система должна учитывать контекст сцены

Runway объясняет, что ранние универсальные классификаторы могли оценивать отдельные признаки вроде крови или оружия, не понимая, изображена ли вымышленная сцена или реальное причинение вреда. Компания приводит пример, когда фильтр мог заблокировать царапину, красную краску или кетчуп. Теперь, по ее словам, языковые модели учитывают соседние элементы запроса и применяют контекстные правила. Это описание внутреннего подхода компании; Runway не публикует в посте независимый тест или цифры ложных блокировок до и после изменений. Контекстная модель может уменьшить часть ошибок, но новые решения сами требуют постоянной проверки.

02

Правила можно обновлять без привязки к чужим категориям

Runway говорит, что LLM позволили ей формулировать политику под собственные сценарии творческого продукта, а не только настраивать пороги готового классификатора. По сообщению компании, формулировки и правила могут быстро обновляться вместе с практиками использования. Из этого не следует, что каждый клиент может сам менять политику или что любое изменение действует для всех моделей одинаково. Для платформы важно сохранять версии правил и объяснять, какая часть решения пришла от Runway, а какая - от поставщика подключенной модели. Быстрое редактирование правил без понятного журнала версий может осложнить разбор спорных блокировок.

03

Компания описывает границу между выразительностью и вредом

Runway приводит примеры допустимых художественных сюжетов - фехтование, перестрелки, сцены сражений и хоррор - и противопоставляет их насилию, направленному против защищенных групп, или воспроизведению экстремистских нападений, которое сервис продолжает блокировать. Компания также утверждает, что стала точнее обнаруживать попытки создавать сексуализированный контент с участием несовершеннолетних и интимные изображения без согласия. Это заявления самой платформы о целях и способности системы. Они не заменяют отдельные проверки по юрисдикциям, возрастным ограничениям и условиям каждого генератора. Указанная линия является решением Runway и не описывает правила всей индустрии.

04

Ограничения сторонних моделей остаются

Runway предупреждает, что отдельные сторонние модели, доступные через сервис, используют собственную модерацию. Поэтому запрос может проходить правила Runway, но отклоняться другим поставщиком. Компания говорит, что обновила сообщения об ошибке, чтобы яснее указывать источник блокировки. На практике это полезно для диагностики, если пользователь видит разный результат у разных моделей. Но текст ошибки должен соответствовать реальной точке отказа, иначе он направит обращение не той команде. Для бизнеса стоит зафиксировать модель, версию запроса и код ошибки, не собирая лишние личные данные о сценарии пользователя.

05

Runway признает ложные срабатывания и пропущенный контекст

В публикации перечислены автоматические ошибки: LLM может переусердствовать с неоднозначным словом или пропустить вредное содержание, поданное как художественная сцена. Компания отмечает, что некоторые разрешенные истории могут выглядеть как запрещенный контент, а при неясности сервис может оставить блокировку для предотвращения реального вреда. Runway предлагает пользователям отправлять обратную связь через кнопку у сообщения об ошибке. Это показывает, что в модели остается компромисс между свободой выражения и предотвращением злоупотребления. Анонс не задает времени рассмотрения жалобы и не обещает автоматического пересмотра каждой блокировки. Пользователю важно иметь канал апелляции и различать решение самой платформы от отказа подключенной модели.

Практический смысл

Что это дает пользователю

Runway описала, почему контекст важен для модерации творческого видео.

В сообщениях об отказе компания намерена различать собственные правила и ограничения сторонних моделей.

Есть пользовательский путь отправки обратной связи по ошибочному решению.

Без завышенных ожиданий

Что нужно учитывать

Метрики точности модерации и независимые сравнения не опубликованы.

LLM могут пропустить вредный контент или заблокировать допустимый сценарий.

Сторонняя модель может применять дополнительную модерацию.

Вывод СравнAI

Коротко

Runway описывает переход от фиксированных классификаторов к более контекстной модерации с помощью LLM. Подход дает платформе больше гибкости, но оставляет ошибки, пересечения политик и необходимость апелляции.

Источники

Где проверить информацию