下载&部署LLM
Llama 2是今年下半年刚出的LLM,开源且免费商用,因此很有研究部署它的价值,所以这篇博客简单介绍如何下载和部署Llama 2。Llama 2有7B, 13B, 70B三种不同尺寸的模型。
1. Llama 2官方 注:Llama 2官方的模型针对多卡部署,因此不适用于咱们普通用户消费级显卡部署。
Github仓库:https://github.com/facebookresearch/llama
首先注册Llama 2账号:https://ai.meta.com/resources/models-and-libraries/llama-downloads/,这里的邮箱最好和 ...
NVIDIA GPU架构
NVIDIA GPU的架构演变历史和基本概念截止2021年,发布时间离我们最近的8种NVIDIA GPU微架构是:
Tesla
Fermi
Kepler
Maxwell
Pascal
Volta
Turing
Ampere
NVIDIA一般以历史上一些著名科学家的名字命名自己的GPU微架构,上面8种微架构分别是:特斯拉,费米,开普勒,麦克斯韦,帕斯卡,伏打,图灵,安培。
其中最新的是2020年宣布的Ampere架构。
Tesla 架构Tesla 架构的资料在官网也没找到多少,不过这是英伟达第一个实现统一着色器模型的微架构。
经典型号是G80,在Fermi架构白皮书的开篇部分有对G80的简 ...
Labview测试程序运行时间
使用Labview时,为了验证算法的时间复杂度,经常需要测试程序的运行时间,下面是一个简单的测试程序运行时间的例子。
源程序:
现要测试这段程序的执行时间,如下:
使用平铺式顺序结构包住源程序,在其前后分别添加帧,在前后帧中分别添加时间计数器,用后帧减去前帧即可得到程序运行的毫秒数。
SFP接口
当谈到计算机网络和数据传输速度时,千兆交换机的SFP口是一个重要的概念。SFP(Small Form-Factor Pluggable)口,也称为迷你GBIC(Gigabit Interface Converter)。
SFP模块于2001年首次推出,并且在网络领域引起了重大变革。SFP模块的引入取代了以前的GBIC(Gigabit Interface Converter)模块,主要是由于SFP模块的小尺寸和更高的灵活性,使其成为现代网络中的重要组件之一。
SFP是一种热插拔式模块,用于在交换机和其他网络设备之间传输数据。本文将深入探讨千兆交换机的SFP口,涵盖其定义、作用、优势以及在现代网 ...



