AI 芯片 · 免费

SGLang

高性能推理引擎新标杆

免费AI 基础设施 AI 开源项目

简介

SGLang推理吞吐量顶尖,结构化生成与缓存复用设计巧妙。

相关工具

结构化提示词的中文流派

提示词AI 开源项目

易标 OpenBidKit

开源免费的编标工具箱

AI 标书AI 开源项目

魔搭 ModelScope

阿里出品的模型开源社区

绘画模型AI 开放平台

开源标注扛把子,啥数据都能标

AI 智能标注AI 开源项目