ベンチマーク

ニュース

Anthropic、新AI「Claude 3.7 Sonnet」発表!推論強化で性能向上

Anthropicが最新AIモデル「Claude 3.7 Sonnet」とAIエージェント搭載ツール「Claude Code」を発表!迅速な応答と複雑な問題解決に対応し、開発業務も支援。
マルチモーダル

【Baichuan-Omni-1.5】画像・音声・テキストを統合するマルチモーダルモデル

Baichuan-Omni-1.5は画像・音声・テキストを統合的に扱うマルチモーダルモデル。Visual BranchとAudio Branchを活用し、多様なデータを高精度に処理。実験では従来モデルを上回る性能を多数のベンチマークで示した。
言語・LLM

【GuardReasoner】LLM応答の安全を制御!出力の有害性を検出

LLMの応答を安全に制御する新手法「GuardReasoner」を提案。合成データを用いた教師あり学習で推論精度を向上し、多様なベンチマークで高い安全性と説得力を実証。
データセット

競技プログラミング向けベンチマーク「CodeELO」登場

競技プログラミングの新しいベンチマーク「CodeELO」を提案。Eloレーティングを用いてモデルと人間のパフォーマンスを比較し、言語理解能力や推論能力を詳細に評価。新たな競技環境での能力を測定可能。
言語・LLM

自己呼び出し関数の生成能力を測るベンチマークでLLMのコーディング性能向上へ!

自己呼び出し関数生成の新しいベンチマーク「HumanEval Pro」「MBPP Pro」を提案。最新のLLMはこの課題で苦戦中。特に非指示調整型モデルで低精度を示すが、新ベンチマークはエラー削減と評価ツールとして有用。
ニュース

AIチップ競争激化!AMDとNVIDIAの実力を比較した結果

NVIDIAの「H100」「H200」とAMDの「Instinct MI300X」がAIチップの性能を競う!ベンチマークテストでMI300Xはメモリ帯域幅で強みを見せるも、全体パフォーマンスではNVIDIAがリード。競争力を保つにはソフトウェア改良が鍵と専門家が指摘。