本記事で使用している画像は論文中の図表、またはそれを参考に作成した画像を使用しております。 この研究のポイントは？ 本論文は、Transformerモデルが不要な文脈に過剰に注意を向けてしまう問題に着目し、新しい「Dif […]
本記事で使用している画像は論文中の図表、またはそれを参考に作成した画像を使用しております。 この研究のポイントは？ 本論文は、多数の会話を含む検索拡張生成(RAG)システムの評価のための新しいベンチマーク「CORAL」を […]
本記事で使用している画像は論文中の図表、またはそれを参考に作成した画像を使用しております。 この研究のポイントは？ 本論文は、大規模言語モデル(LLM)の「誤った出力(ハルシネーション)」について、その原因を「知識の欠如 […]
LLM高速化手法「Self-Distillation Through Time（SDTT）」を解説。自己蒸留により投機的デコーディングを改善し、最大32トークンの同時生成を実現する仕組みと性能評価を紹介します。
本記事で使用している画像は論文中の図表、またはそれを参考に作成した画像を使用しております。 この研究のポイントは？ 本論文の内容は、GPT-4の音声性能に関するもので、多様な形式の情報を処理できるモデルの特性やリスクを評 […]
本記事で使用している画像は論文中の図表、またはそれを参考に作成した画像を使用しております。 この研究のポイントは？ 本論文は、異なるAIエージェントを柔軟かつスケーラブルに統合するためのプラットフォーム「AgentSto […]
本記事で使用している画像は論文中の図表、またはそれを参考に作成した画像を使用しております。 この研究のポイントは？ この論文は、ポーランド語に特化した言語モデル「Bielik 7B v0.1」の開発とその評価について述べ […]
本記事で使用している画像は論文中の図表、またはそれを参考に作成した画像を使用しております。 この研究のポイントは？ 本論文は、「jina-embeddings-v3」という多言語対応のテキスト埋め込みモデルを提案していま […]
本記事で使用している画像は論文中の図表、またはそれを参考に作成した画像を使用しております。 この研究のポイントは？ 本論文の内容は、「Transformerが複雑な計算を苦手とする」という課題に対し、「Chain of […]
スタンフォード大学が提案する「Synthetic Continued Pretraining」を解説。小規模なドメイン固有データから合成データを生成し、効率的にLLMへ知識を獲得させる新手法の仕組みと成果を紹介します。
本記事で使用している画像は論文中のもの、紹介スライドのもの、またはそれを参考に作成したものを使用しております。 この研究のポイントは？ 本論文は、モバイルデバイス上で効率的に動作する小規模の言語モデル「MobileLLM […]
本記事で使用している画像は論文中のもの、紹介スライドのもの、またはそれを参考に作成したものを使用しております。 この研究のポイントは？ この論文は、大規模言語モデル(LLM)が新しい科学研究のアイデアを生み出す可能性につ […]
AI-Papers
