发布于 2024-02-19
摘要
安装 面向GPU的环境安装 有部分第三方功能,如代码能力基准测试 Humaneval 以及 Llama格式的模型评测,可能需要额外 …
大模型
发布于 2024-02-19
摘要
LMDeploy 大模型量化部署实践 1.背景 2.LMDeploy介绍 3.实践 3.1 环境配置 首先我们可以使用 vgpu- …
发布于 2024-02-18
摘要
1.理论介绍 1.1Finetune 简介 全参数微调: LoRA微调: QLoRA微调: 1.2 XTuner 1.3 8GB …
发布于 2024-02-13
摘要
1.大模型开发范式 RAG(Retrieval-Augmented Generation 检索增强生成):通过给大模型外挂一个知识 …
发布于 2024-02-10
摘要
1.大模型及 InternLM 模型介绍 2 .InternLM-Chat-7B 智能对话 Demo 3 .Lagent 智能体工 …
发布于 2024-02-09
摘要
背景 续GPT爆火后,大模型相关论文研究开始突飞猛进增长 研究方向也逐步由专用模型(针对特定任务,一个模型解决一个问题)转变为使用 …