发布于 2024-02-19
摘要
安装 面向GPU的环境安装 有部分第三方功能,如代码能力基准测试 Humaneval 以及 Llama格式的模型评测,可能需要额外 …
Article
发布于 2024-02-19
摘要
LMDeploy 大模型量化部署实践 1.背景 2.LMDeploy介绍 3.实践 3.1 环境配置 首先我们可以使用 vgpu- …
发布于 2024-02-18
摘要
1.理论介绍 1.1Finetune 简介 全参数微调: LoRA微调: QLoRA微调: 1.2 XTuner 1.3 8GB …
发布于 2024-02-13
摘要
1.大模型开发范式 RAG(Retrieval-Augmented Generation 检索增强生成):通过给大模型外挂一个知识 …
发布于 2024-02-13
摘要
前几篇有写我在群晖上使用Docker部署了acme.sh容器，用于并签发和部署SSL证书(没有看的朋友可以看一下 使用Docker …
发布于 2024-02-10
摘要
1.大模型及 InternLM 模型介绍 2 .InternLM-Chat-7B 智能对话 Demo 3 .Lagent 智能体工 …
发布于 2024-02-09
摘要
背景 续GPT爆火后,大模型相关论文研究开始突飞猛进增长 研究方向也逐步由专用模型(针对特定任务,一个模型解决一个问题)转变为使用 …
发布于 2024-01-31
摘要
一、问题陈述 新装后的PVE，今天尝试安装Intel-tool查看我UHD630核显直通后的占用root@pve:~# apt i …
发布于 2024-01-27
摘要
整理一下路由器命令 省的忘记了还得去找 #重启http服务service restart_http #发送唤醒包ether-wak …
发布于 2024-01-25
摘要
一、Docker安装acme.sh容器 1.1 新建数据存放文件夹 新建一个acme文件夹,后面容器映射需要用 这里是我已经运行过 …