Anthropic предоставила METR расширенный доступ для независимой оценки моделей
15 октября Anthropic сообщила, что предоставила шести сотрудникам некоммерческой организации METR доступ к внутренним системам, сопоставимый по ряду параметров с доступом команды оценки рисков компании. METR должна опубликовать собственные выводы о рисках, инцидентах и практиках. Соглашение задает модель внешнего контроля, но сохраняет ограничения на доступ к клиентским данным, привилегированным материалам и отдельной технической информации.
Что изменилось
Оценщик получает более глубокий доступ
Anthropic сообщила, что шесть сотрудников METR получили рабочее оборудование, место в офисе и доступ к внутренним инструментам и системам, примерно сопоставимый с доступом собственных групп оценки рисков. Компания объясняет это тем, что внешним экспертам для содержательной проверки возможностей нужны не только публичные демонстрации, но и понимание того, как устроены оценки, защитные меры и отдельные процессы. Этот доступ ограничен выделенной командой METR; другие сотрудники организации не получают автоматически ту же информацию.
METR сможет публиковать свои выводы
По описанию Anthropic, компания не может наложить вето на публикацию оценок METR. При этом она сохраняет право потребовать удаления заранее определенных категорий сведений, например данных клиентов, материалов, защищенных адвокатской тайной, и некоторых деталей архитектуры. METR может высказываться о том, какой объем доступа и информации получила. Это создает независимый канал публикации, но объем фактических исключений и доступных материалов будет влиять на то, насколько полным окажется внешний отчет.
Соглашение встроено в более широкую программу
Anthropic также перечисляет партнерства с SecureBio, Accenture и Faculty, но описывает их как ранние или более ограниченные по доступу. Компания предлагает несколько уровней сотрудничества: от узкого исследования с предварительным согласованием публикации до формата с более глубоким доступом и самостоятельной публикацией выводов. В случае METR выбран наиболее глубокий из объявленных уровней. Для SecureBio компания сообщила о проверке главы по химическим и биологическим рискам; такая проверка имеет свой предмет и не заменяет оценку всех возможностей модели.
Независимость нужно оценивать вместе с границами доступа
Подход пытается сократить разрыв между тем, что знает разработчик модели, и тем, что могут проверить внешние специалисты. Для оценки важны независимость экспертов, компетенции, доступ к существенным сведениям и свобода сообщить о результатах. Но ни один из этих критериев не работает отдельно: конфиденциальные исключения могут ограничить доказательства, а публикация выводов не говорит автоматически, насколько широко проверяли модель. Значение инициативы станет понятнее после первых отчетов METR и описания использованных методов, ограничений выборки и возможности воспроизведения.
Судить о внешней оценке следует по отчету
Anthropic сообщила 15 октября, что шесть сотрудников METR получили рабочий доступ к части ее внутренних процессов. Компания говорит, что METR сможет публиковать выводы без вето Anthropic, кроме заранее перечисленных конфиденциальных категорий. Условия партнерств с другими оценщиками отличаются и пока предусматривают более ограниченный доступ.
При чтении будущих публикаций METR проверьте методику, тестовую выборку, предмет оценки, доступную информацию и причины исключений. Сравнивайте опубликованные выводы с описанными ограничениями. Сам факт присутствия оценщика внутри компании не следует считать гарантией полного охвата. При чтении итогового материала отдельно запишите, какие модели, опасности и сценарии вошли в оценку, а какие были исключены из-за ограниченного доступа. Сравните заявленные тесты с инцидентами и выводами самой компании, но не смешивайте внутреннюю проверку отчета с независимым повторным экспериментом. Если методика не раскрывает критерий успеха, размер набора или способ обработки разногласий, обозначьте это как ограничение. Полезный результат такого сотрудничества - не только итоговый уровень риска, но и описание неопределенности, открытых вопросов и изменений в защитных мерах после проверки. Зафиксируйте также дату версии модели и защитных правил, к которым относится отчет: последующее изменение системы может сделать прежний вывод частично неактуальным.
На дату анонса результаты новой оценки еще не были опубликованы. Anthropic оставляет за собой решение о том, какие материалы относятся к некоторым закрытым категориям.
Что это дает пользователю
Следите за публичными отчетами METR и фиксируйте, что именно проверялось.
Смотрите на методику, выборку, ограничения доступа и независимость оценщика.
Не трактуйте наличие внешней проверки как гарантию отсутствия рисков.
Что нужно учитывать
Anthropic сама описывает значительную часть деталей соглашения.
Публикация METR может исключать заранее определенные категории данных.
На дату объявления результаты этой оценки еще не опубликованы.
Коротко
Соглашение Anthropic и METR расширяет формат проверки, позволяя внешней команде видеть часть внутренних процессов и публиковать выводы. О реальной глубине контроля можно будет судить по отчетам: какие данные и тесты использовались, что осталось закрытым и насколько подробно раскрыты ограничения.