Llama-3-Namazu-405B

Llama-3-Namazu-405Bは、Sakana AIがMetaのLlama 3.1 405Bアーキテクチャを基に開発した、特化型の大規模パラメータバリアントです。これは、モデルを日本文化および社会的コンテキストに最適化することを目的とした、焦点を絞った事後訓練の成果を表しています。主な革新は、生のベンチマークの優位性（基本能力は強力な基盤モデルに由来）ではなく、主に西洋中心のデータで訓練されたモデルに一般的に見られる、固有のバイアスを是正し、政治的に敏感なトピックに対する拒否率を低減するためのファインチューニングにあります。Sakanaの内部ベンチマークで示されているように、Namazuは、敏感な歴史的・政治的テーマに関する問い合わせに対する拒否率を大幅に削減しました（DeepSeekベースのバリアントでは〜72%からほぼ0%へ）。

このモデルは、文化固有のトピックについて自動的な自己検閲なしにバランスの取れた、多角的な視点からの応答を必要とする日本の開発者や組織向けのソリューションとして、オープンウェイトエコシステム内に位置づけられています。基盤の405Bモデルが持つフロンティアレベルの性能（一般知識や数学ベンチマークでGPT-4oと競争力あり）を継承しつつ、オープンウェイトの典型的な利点（データプライバシーのためのセルフホスティング、ドメイン固有の微調整の可能性、大規模展開でのコスト効率）を提供します。ただし、その計算需要が大きいため、実用的な導入はリソースが十分な組織またはAPIプロバイダーを介したものに限定されます。