言語・LLM 小規模データから十分な知識獲得が可能な継続事前学習がスタンフォード大より提案される この論文は、小規模データから効果的に知識を学ぶための新しい手法「合成継続事前学習」を提案しています。限られたデータでも多様な知識をモデルに学習させ、高精度な質問応答や命令追従が可能になりました。論文:Synthetic continued ... 2024.09.21 言語・LLM論文解説