DeepSeek 开源 DeepInfer,开放 V4.1 Flash 离线推理框架
DeepSeek 于 10 月 20 日开源 DeepInfer,公开面向 V4.1 Flash 的优化算子、并行和调度能力;当前版本仅支持离线推理。
1 分钟
OpenAI 开源 MultiLangBench,用 SQLite 任务评测模型跨语言编程能力
OpenAI 于 10 月 19 日开源 MultiLangBench,提供跨 20 种编程语言的 SQLite 实现评测设置与测试集。
1 分钟
SGLang 发布 0.5.22,引入加速模型加载的 InstantTensor
SGLang 于 10 月 19 日发布 0.5.22,加入 InstantTensor 加载器,改进长提示词推理吞吐量,并扩展硬件支持。
1 分钟
Anthropic 推出 OSS Scanner,向开源项目开放模型漏洞扫描
Anthropic 于 10 月 8 日开放 OSS Scanner 申请;符合条件的开源项目可免费获取定期模型扫描和未经人工复核的漏洞报告。
1 分钟
华为开源 openPangu-2.0 预训练、监督微调和强化学习代码
华为开放 openPangu-2.0 的预训练、SFT 和后训练 RL 代码,为昇腾平台的大模型训练提供参考实现。
1 分钟