GGUF文件
GGUF格式 GGUF是一种大模型文件格式,由开发者Georgi Gerganov提出。
具体来说,GGUF代表的是GPT-Generated Unified Format,这是一种针对大规模机器学习模型设计的二进制格式文件规范。它的主要优势在于能够将原始的大模型预训练结果经过特定优化后转换成这种格式,从而可以更快地被载入使用,并消耗更低的资源。以下是GGUF的一些关键特点:
紧凑的二进制编码:通过采用紧凑的二进制编码格式,GGUF能够有效地减少文件大小,使得模型数据更加高效地存储和传输。
优化的数据结构:GGUF格式利用了优化的数据结构,这有助于提高数据访问速度,尤其是在处理大规 ...
实验室服务器连网
当实验室服务器无法联网时,可以将服务器流量转到个人计算机上,前提是不违反实验室规定。
使用clash4windows,Allow LAN,服务器上export http_proxy=http://...:7890和export https_proxy=http://...:7890,...是本机ip地址,如果本机和服务器处于同一以太网下,用以太网ip,如果处于校园网下,用WLAN校园网ip。7890是clash4windows的端口。
通过wget www.baidu.com查看是否连接成功。
这样就是在本次登录时(因为export仅限于本次登录修改环境变量)将服务器的流 ...
Linux服务器安装miniconda
12345678# step 1: 获取安装shell脚本文件wget https://repo.continuum.io/miniconda/Miniconda3-latest-Linux-x86_64.sh# step 2: 执行脚本文件安装bash Miniconda3-latest-Linux-x86_64.sh# step 3: 激活source ~/.bashrc
Linux的export命令
Linux export 命令用于设置或显示环境变量。
在 shell 中执行程序时,shell会提供一组环境变量。export可新增,修改或删除环境变量,供后续执行的程序使用。export 的效力仅限于该次登录操作。
语法:
1export [-fnp][变量名称]=[变量设置值]
-f 代表[变量名称]中为函数名称。
-n 删除指定的变量。变量实际上并未删除,只是不会输出到后续指令的执行环境中。
-p 列出所有的shell赋予程序的环境变量。
实例:
123456789101112131415161718192021# export -p //列出当前的 ...
Linux中的snap
前言 通过Snap可以安装众多的软件包。需要注意的是,snap是一种全新的软件包管理方式,它类似一个容器拥有一个应用程序所有的文件和库,各个应用程序之间完全独立。所以使用snap包的好处就是它解决了应用程序之间的依赖问题,使应用程序之间更容易管理。但是由此带来的问题就是它占用更多的磁盘空间。
通过snap安装的软件默认路径为/snap/
查看已通过snap安装的snap包1snap list可以查看,默认带的组件是core、lxd、snapd
可以搜索想要的snap包,例如tomcat1sudo snap search tomcat
安装snap包1sudo snap insta ...