LLM推論

AIニュース

DeepSeek推論基盤DeepInferがOSS化、その中身と制約

DeepSeekが本番サービスを支える推論フレームワークDeepInferをApache-2.0で公開しました。対応モデルや機能、SM100/Ascend 950というハードウェア要件、今回含まれていない構成要素をREADMEの記述をもとに整理します。