八月一日、作詞係モデルを従前のバージョンから更新した直後、一部の案件で歌詞生成が無応答のまま停止する障害が発生いたしました。発覚したのは、取材メモが長文に及ぶ案件(対象者様の営みを詳細にご記入いただいた場合等)に限られておりました。
調査の結果、更新後のモデル配布物における既定のコンテキスト長設定が、従前よりも短く設定し直されていたことが判明いたしました。当協会の生成基盤は取材メモとプロンプト定型文をあわせて送信する構成であり、長文の取材メモではこの合計がコンテキスト長の上限を超過し、Ollama側が要求を無応答のまま処理し続ける状態に陥っていたのであります。
復旧措置として、モデル起動時のパラメータに num_ctx を明示的に指定し、想定される取材メモの最大長に十分な余裕を持つ値へ引き上げました。あわせて、取材メモが既定の文字数を超える場合には、送信前に要点を抽出して圧縮する前処理を追加し、コンテキスト長への依存そのものを減らす対処も講じております。
発覚から復旧まで、およそ一時間十分を要しました。障害発生中に無応答のまま滞留していた案件は三件で、復旧後にすべて再実行し、いずれも通常どおり完了いたしました。モデルの更新に際しては、既定パラメータの差分を事前に確認する手順を、以後の運用に加えることといたします。
本稿は現象台帳#ev-0167を典拠とする。