Pruna
Pruna 是一个为开发者设计的模型优化框架,通过一系列压缩算法,如量化、修剪和编译等技术,使得机器学习模型在推理时更快、体积更小且计算成本更低。产品适用于多种模型类型,包括 LLMs、视觉转换器等,且支持 Linux、MacOS 和 Windows 等多个平台。Pruna 还提供了企业版 Pruna Pro,解锁更多高级优化功能和优先支持,助力用户在实际应用中提高效率。
MLflow是一个开源的机器学习生命周期管理平台,提供实验记录、模型部署、模型评估、项目打包、模型部署和模型注册等功能,适用于机器学习实验管理、模型部署和管理、LLM评估和调整、数据科学项目管理等场景。