Amazon BedrockでKimi K3のインド国内推論が利用可能に、ムンバイとハイデラバード内で処理
AWSは、Amazon Bedrock上で提供しているKimi K3について、インド国内で推論を完結させる方式に対応したと発表した。Kimi K3は画像などを扱えるマルチモーダルのオープンウェイト基盤モデルで、開発元のMoonshot AIは、公開時にコーディングや汎用的なエージェント能力で最先端水準に達したと報告している。今回の対応により、処理場所を国内に限定したいという要件を持つ企業や公共分野の利用者が、このモデルをBedrockの仕組みのまま使いやすくなる。
BedrockのKimi K3は、クロスリージョン推論プロファイルという仕組みで提供される。利用者は幅広いAWSリージョンのいずれかを呼び出し元として指定し、実際の処理はBedrockが複数の候補リージョンのどこかで行う。リージョン間の通信は暗号化され、公開インターネットを経由せずAWSのネットワーク内に留まる。複数リージョンにまたがるVPCを自分で構築する必要もない。どの候補リージョンで処理されるかは、呼び出すプロファイルIDで決まる。
選択肢は二つある。global.moonshotai.kimi-k3は、AWSがほとんどの用途で推奨するグローバルプロファイルで、最も低コストかつ広く利用できるとされる。一方、in.moonshotai.kimi-k3は、推論処理をムンバイとハイデラバードの両リージョン内に限定するインド向けプロファイルだ。データの所在に厳しい規定がある場合は後者を選ぶ。利用可能な呼び出し元リージョンや処理先は、モデルカードで最新情報を確認する必要がある。組織でリージョンを制限している場合は、呼び出し元リージョンを許可したうえで、インドの両方の処理先へのルーティングも許可するよう、管理者にIAMとSCPの設定を見直してもらう必要がある。
呼び出し方法としては、Chat Completions、Responses、Converse、InvokeModelの各APIが用意されている。このモデルにはOpenAI互換のAPIが推奨されており、AWSの記事ではPythonのopenaiライブラリを使った例が示された。認証は長期のAPIキーより短期の認証情報が望ましいとされ、AWSのトークン生成ライブラリでCLIの認証情報から一時的なトークンを得る方法が紹介されている。ストリーミング、ツール呼び出し、構造化出力といった機能も、Chat CompletionsとResponsesの両方で使える。
実例として示されたのが、インドの金融や公共分野で多いKYC書類や公共料金の請求書のデジタル化だ。Kimi K3は画像やPDFを直接読み取れるため、別個のOCRや翻訳サービスを挟まずに済む可能性がある。記事では架空のヒンディー語の電気料金請求書を使い、ヒンディー語とローマ字、英語が混ざったヒングリッシュで質問すると、請求額が2,217.20ルピー、期限が2026年10月20日、期限後の支払額が2,261.54ルピーだと答える様子を紹介している。
さらに、設定可能なスキーマで項目を抽出するパイプラインのサンプルもGitHubで公開された。原文のまま書き起こし、日付をISO 8601形式に整え、デーヴァナーガリー数字を算用数字に直し、氏名を英語表記にしたうえで、短い英文要約を作り、同じ書類についてヒングリッシュで追加質問に答える。出力の形を厳密に固定するには、関数呼び出しかJSON Schemaによる構造化出力を使う。精度が重要なOCRでは画像のdetailパラメータをhighにすると読み取りが良くなるが、画像1枚あたりの入力トークン消費は増える。画像をテキストより先に置くと品質が上がる場合もあるため、順序の試行が勧められている。ただしAWSは、自動抽出の結果は用途ごとに信頼性を確認し、重要な業務では検証ロジックや人の確認を加えるよう求めている。
コスト面では、サービス階層を呼び出しごとに選べる。遅延を気にしない処理にはフレックス階層があり、標準料金から50%の割引になる。遅延が重要な場面では、より高い料金で優先度を上げるプライオリティ階層を選べる。さらにプロンプトキャッシュにも対応し、システムプロンプトなど変わりにくい内容を入力の先頭に置くことが前提となる。何もしなくても繰り返しの先頭部分を自動で再利用する暗黙モードと、キャッシュ可能な区切りを指定して命中率を高める明示モードがある。
導入事例として、Ultrahumanの健康アシスタント「Jade」が紹介されている。ユーザー自身のリングやグルコースのデータを使って質問に答え、1日あたり14,000件を超える会話を処理しているという。同社の技術責任者は、既存のAPIのままKimi K3を追加でき、健康データはAWS内に留まり、ムンバイをフォールバック先にしていると説明した。プロンプトキャッシュでLLMコストを80%削減し、複数ターンの会話を85%高速化したとの数字も示されたが、これは顧客側の報告である。