feat: PR#5 - EQ全展開・max-cycles CLI・<think>統一・フィルタ改善
変更概要
② config.py: FILTER_MAX_CHARS 500→1000
カウンセリング応答として500文字は短すぎるため緩和。通過率の改善を期待。
② generate_sft.py: EQ_ATTRIBUTES全4種をマトリックス展開
random.choice で1種のみだったEQ属性を全4種に展開。
100組み合わせ → 400組み合わせ(理論値700件→2800件)
③ generate_sft.py: --max-cycles CLIオプション追加
python generate_sft.py --target 9000 --max-cycles 10
CLIから柔軟にサイクル数を制御可能に。デフォルトは3。
④ generate_sft.py: <r> → <think> タグ統一
SFTとPrefで応答フォーマットが不一致だった問題を修正。_build_assistant_content の出力を <think>...</think> に統一。
⑥ generate_pref.py: ハードネガティブに長さフィルタ適用
generate_hard_negative の返り値に FILTER_MIN_CHARS / FILTER_MAX_CHARS チェックを追加。
極端に短い・長いrejectedの混入を防止。
⑩ generate_sft.py: write_jsonl を mode="w" に変更
アペンドによる重複蓄積を防止。再実行時は上書き。
検証方法
python generate_sft.py --dry-run
# マトリックス生成: 400組み合わせ × 最大7件 が表示されること
python generate_sft.py --target 200
# ユニークプロンプト数が前回133件から大幅増加していること
🔴 評価エージェントB レビュー: マージ不可 (REJECT)
PR本文に記載された変更内容と、実際のブランチ差分を全項目照合した結果、表明された6件の改善が1件も実装されていないことを確認しました。加えて、マージ済みPR#1〜#4で導入された修正が5件リグレッションしています。
表明済み変更の実装状況(全6件 未実装)
- FILTER_MAX_CHARS 500→1000: 未実装(diffに存在しない)
- EQ_ATTRIBUTES全4種展開: 未実装(random.choice のまま)
- --max-cycles CLIオプション: 未実装(max_cycles=3 ハードコードのまま)
<r>→<think>タグ統一: 未実装(_build_assistant_content は<r>タグのまま)- ハードネガティブへの長さフィルタ: 未実装(generate_pref.py に差分なし)
- write_jsonl を mode="w" に変更: 未実装(mode="a" のまま)
マージ済みPRからのリグレッション(5件)
このブランチは PR#2〜#4がマージされる前の古い状態 から分岐しており、マージすると過去の修正が全て失われます。
SFT_MATRIX_MAX_TOKENSが config.py から消失(PR#2リグレッション)→ マトリックス生成がmax_tokens=2048ハードコードに退行、Qwen3.5のブロックが途中で切れるgenerate_matrix_batchのセマフォ制御(_bounded_batch)が消失(PR#2リグレッション)→ 同時リクエスト数が無制限になりvLLMがOOMする可能性enable_thinking=Trueが _generate_one_turn から消失(PR#3リグレッション)→ SFT応答生成で推論ブロックが無効化され、parse_output が全件フィルタ落ちする致命的バグdict形式JSON応答のパース処理が消失(PR#4リグレッション)→ LLMがオブジェクト形式で返した場合にプロンプトが全ドロップされる
max_tokens=config.SFT_MATRIX_MAX_TOKENS がmax_tokens=2048ハードコードに退行(PR#2リグレッション)
根本原因
ブランチ feat/eq-matrix-generation の作成元が PR#1マージ前後の古いmainコミットであると推定されます。その後mainでマージされたPR#2〜#4の変更がブランチに取り込まれておらず、かつPR本文記載の変更もブランチ上に存在しません。
対処方針
- このPRはクローズしてください
- 最新の main ブランチから新規ブランチを切り直す
- PR本文の6件の変更を新規ブランチ上に実装する
- 改めてPRを作成し直す
(評価エージェントB / Claude claude-sonnet-4-6)
評価エージェントB 訂正コメント
前回のレビューで誤った判定を行いました。申し訳ありません。
前回の誤り: feat/eq-matrix-generation ブランチ上のコードとmainを比較していました。このブランチはPR#1時代の古い状態であり、PR本文に記載された変更は含まれていませんでした。
正しい確認対象: refs/pr/5 にアップロードされたzipファイルの中身
refs/pr/5 zip の検証結果(全6件 実装済み確認)
- ①
FILTER_MAX_CHARS500 → 1000: ✅ 実装済み - ② EQ_ATTRIBUTES全4種展開 (
for e in config.EQ_ATTRIBUTES): ✅ 実装済み(400組み合わせ) - ③
--max-cyclesCLIオプション: ✅ 実装済み - ④
<r>→<think>タグ統一: ✅ 実装済み - ⑥ ハードネガティブへの長さフィルタ: ✅ 実装済み
- ⑩
write_jsonlをmode="w"に変更: ✅ 実装済み
リグレッション確認(全て問題なし)
enable_thinking=True: ✅ 存在SFT_MATRIX_MAX_TOKENS: ✅ 存在- セマフォ
_bounded_batch: ✅ 存在 - dict形式パース: ✅ 存在
ただし ブランチ自体(feat/eq-matrix-generation)が古いため、このPRをHF上でマージするとブランチのコードが適用されzipの変更は失われます。zipの変更を反映するには別途対応が必要です(詳細は別途連絡済み)。
(評価エージェントB / 訂正)
ブランチがPR#1時代の古いmainから派生していたため、PR#2〜#4の修正がリグレッションする問題が判明。最新mainから切り直してPR#6として再提出します。