Amazon Web Services сообщила, что модель Kimi K3 от Moonshot AI стала доступна в Amazon Bedrock. По данным разработчика модели, Kimi K3 содержит 2,8 трлн параметров, поддерживает изображения и контекст до миллиона токенов. AWS позиционирует её для длительных задач программирования и работы со знаниями, где нужно удерживать большие репозитории, документы и изображения в одном контексте. Заявленное улучшение эффективности масштабирования примерно в 2,5 раза относительно Kimi K2 относится к оценке Moonshot AI, а не к независимому тесту.
Kimi K3 стала первой моделью с открытыми весами в Bedrock, для которой доступно явное кеширование промптов. Разработчик отмечает конец повторно используемого префикса после как минимум 1024 токенов. Запись токенов в кеш оплачивается по повышенной ставке, зато кеш хранится не менее 30 минут, а совпавшие последующие запросы получают скидку на входные токены и не учитываются в минутной квоте входа.
Модель можно вызывать через совместимые с OpenAI Responses и Chat Completions API, а также через Bedrock Invoke и Converse API. Для запуска нужны аккаунт AWS, доступ к Bedrock и соответствующие разрешения IAM. Доступны глобальный профиль global.moonshotai.kimi-k3 и профиль us.moonshotai.kimi-k3 для обработки в географии США. AWS указывает, что глобальная маршрутизация примерно на 10% дешевле географической; полный список регионов и цены нужно проверять в документации Bedrock.
