Глава Anthropic Дарио Амодеи заявил, что компания намерена пригласить постоянную внешнюю команду для проверки практик безопасности. Предложение входит в опубликованный им трёхэтапный план замедления развития передовых возможностей ИИ до темпа, при котором меры защиты успевают за ними. Амодеи отдельно уточнил: речь не идёт об остановке обучения моделей или технического прогресса.
По описанным условиям оценщикам должны предоставить рабочие места в офисах, пропуска и корпоративные ноутбуки. Их доступ к рабочим пространствам, инструментам и разрешениям предполагается сделать в основном сопоставимым с доступом внутренних команд, оценивающих риски. Исключения возможны из-за закона, договорных обязательств и необходимости защищать конфиденциальные данные клиентов и партнёров. Амодеи также пишет о прямом общении проверяющих с сотрудниками.
Будущий договор должен позволить внешней команде самостоятельно публиковать ключевые выводы об уровнях риска, инцидентах, практиках компании и фактически предоставленном доступе. Anthropic оставляет за собой узкую возможность скрывать сведения, чувствительные для безопасности, защищённые юридической тайной, коммерчески значимые или принадлежащие третьим сторонам. Неблагоприятный для компании вывод сам по себе не должен быть основанием для удаления, а оценщики смогут сообщить, если изъятие повлияло на их заключение.
Это пока обязательство и описание предполагаемой процедуры: состав команды, договор и фактический объём доступа не объявлены. Следующие части плана Амодеи требуют общих стандартов между компаниями демократических стран и международной координации; Anthropic не может реализовать их самостоятельно.
