LLM-jpモデルに対しAi2公開のOLMo2中間学習データセットを検証しました。中間学習によりgsm8kで顕著な性能向上が確認できました。詳細はこちらのブログを参照ください。