Cloudflareは日本時間2026年10月27日、Workers AIのGLM-5.3で、他の利用者のデータが155件の応答に混入していたと公表しました。同社側の修正とモデルの再公開は9月9日(UTC)に完了しています。
長い入力が残存キャッシュを参照
対象モデルは@cf/zai-org/glm-5.3です。Cloudflareは入力上限を約100万トークンに設定していましたが、入力を処理するGPUのKVキャッシュは681,280トークン相当の容量でした。KVキャッシュは、モデルが読み取った内容を推論中に使うための記憶領域です。
問題は、SGLangを入力処理(prefill)と生成(decode)を別のノードで分担する構成で動かした際に起きました。容量を超えた入力が拒否扱いになってもノード間の処理が進み、生成側が以前のリクエストのデータを残すキャッシュを参照したと説明しています。
影響した応答は、すべて681,280トークンを超える入力へのものでした。混入したのは、同じモデルへ直前に送られた他の利用者のプロンプトや、生成途中の内容です。
9月に修正、Workers AIの他モデルは影響なし
事象は8月27日から9月9日(UTC)に発生しました。Cloudflareは研究者からの報告を受けてモデルを停止し、キャッシュ容量の拡大とエンジンの修正を適用しました。再公開は9月9日(UTC、日本時間9月10日)です。
同社は、Workers AI上の他のモデルには影響がなく、意図的な悪用の証拠も見つかっていないとしています。今回の報告では、影響した利用者への個別通知の有無や、該当リクエストを照会する方法は説明されていません。
SGLangを分離構成で運用する場合の確認
同社は公開前から容量の不一致を把握していましたが、エンジンが適切に拒否するはずだと考えていました。長い入力のテストではHTTP応答と性能を確認する一方、出力の中身を検証していなかったと説明しています。
Cloudflareは、prefillとdecodeを分離してSGLangを運用する事業者に、次の確認と更新を推奨しています。
- 各prefill・decodeノードのKVキャッシュ容量と入力上限を照合し、キャッシュが小さければ入力上限を下げる
- エンジン側の修正を含むSGLang v0.5.22以降へ更新する

コメント