AWS открыла в Amazon Bedrock обработку запросов к Kimi K3 внутри Индии. Новый географический профиль направляет вычисления только в регионы Мумбаи и Хайдарабад. Компания сообщила об этом 3 ноября. Речь идёт о новом варианте размещения инференса — работы уже обученной модели при получении запроса.
Для его выбора используется идентификатор in.moonshotai.kimi-k3. Bedrock принимает запрос в исходном регионе AWS и обрабатывает его в одном из разрешённых регионов назначения. Маршрутизацией управляет сервис: данные между регионами шифруются и передаются по сети AWS, без выхода в публичный интернет. Глобальный профиль global.moonshotai.kimi-k3 остаётся отдельным вариантом.
Индийский профиль предназначен для задач, которым требуется обработка данных внутри страны. При этом ограничение касается именно инференса. Журналы и метрики сохраняются в исходном регионе, из которого отправлен запрос, независимо от места вычислений. Запись обращений к модели включается отдельно и может содержать запросы и ответы; AWS рекомендует заранее проверить доступ, сроки и место хранения таких журналов.
Kimi K3 принимает изображения и PDF. В публикации AWS показывает извлечение полей из синтетических документов на хинди и последующие вопросы на смеси хинди и английского. Примеры используют вымышленные данные; надёжность извлечения компания советует проверять для конкретной задачи.
Обращаться к модели можно через совместимые с OpenAI интерфейсы Chat Completions и Responses, а также Converse и InvokeModel. Для работы нужны соответствующие разрешения AWS; если организация ограничивает доступные регионы, необходимо разрешить маршрутизацию в оба индийских региона назначения.
