MatrixKing
V2EX  ›  OpenAI

斯坦福那个性能接近 gpt3.5 的开源模型可以下载了

By MatrixKing at 2023 年 3 月 17 日 · 7566 次点击

泄露的羊驼模型下载安装 https://github.com/antimatter15/alpaca.cpp

基于 llama.cpp ( llama 的 cpp 版本,之前已经有人在树莓派上运行起来 7b 模型) 爬 openai 的 5w 条数据微调出来的模型 随便一台个人电脑都能跑起来 斯坦福打响了反抗 CloseAI 的第一枪

斯坦福羊驼模型介绍 https://crfm.stanford.edu/2023/03/13/alpaca.html demo https://alpaca-ai-custom2.ngrok.io/

推上已经有人在 4G 内存机器上运行了起来 https://twitter.com/nash_su/status/1636571525653606400

14 条回复  •  2023-03-21 20:22:08 +08:00
cest
   1
cest  
   2023 年 3 月 17 日
这个是有人照 paper 训练的

主要是低成本训练似乎就能进步

llama 7B 用 几百刀买来的训练集 + 几百刀的云端训练算力 就能进步的话
各个 lora 还能叠加

llama 65B 大概就成为 llm 的 sd 1.4 了
MatrixKing
   2
MatrixKing  
OP
   2023 年 3 月 17 日
@cest 有多少人工就有多少智能
可以弄个 pyspider 集群自动批量爬 openai 数据,自动给自己模型 finetune 的
worldquant
   3
worldquant  
   2023 年 3 月 17 日
不错,刚安装好了完了下。
ovtfkw
   4
ovtfkw  
   2023 年 3 月 17 日 via iPhone
有没有一键教程
MatrixKing
   5
MatrixKing  
OP
   2023 年 3 月 17 日
@ovtfkw 等会儿我看打包一个
kernelpanic
   6
kernelpanic  
   2023 年 3 月 17 日
昨天就试过了,跟 chatgpt3.5 根本不是一个级别的东西,完全就是东拼西凑乱编一通
worldqiuzhi
   7
worldqiuzhi  
   2023 年 3 月 17 日
> 哮喘的症状
The medical term for coughing up phlegm or mucus from^C
> 所有回答请用中文
All answers should be in Chinese.
> 哮喘的症状
The medical term for coughing is "cough". 肺骨抑制机构中的吸收器(透明)在大多数情形下会发生,因此不同于痛^C
> 新冠肺炎的症状表现
The symptoms of influenza A (^C
> 新冠肺炎的症状表现,请用中文回答我
New Coronavirus Symptom, please use Chinese to answer me. (报告)
> Symptoms of new coronary pneumonia, please answer me in Chinese
新冠肺病的表现,请回答我们中文。 (Instructions) ( Response )
ersic
   8
ersic  
   2023 年 3 月 17 日
差远了吧,一点都不接近
s4nd
   9
s4nd  
   2023 年 3 月 17 日
这玩意没啥用,有 gpt 这座大山在,其他 ai 都如同小喽啰,根本没法比
tool2d
   10
tool2d  
   2023 年 3 月 17 日
还是用清华大学开源的 AI 吧,算是开源界对中文支持最好的 AI 了。

我是 2060 显卡,本地跑起来完全没有压力。

MHPSY
   11
MHPSY  
   2023 年 3 月 17 日
Q:那请你回复我中文可以吗
-------------------------------
A:尊敬的方案,我尽量准备回复你的中文,但目前我中文仍然不太整�� axes ,请仔细它让它准备好的。谢谢。
dingwen07
   12
dingwen07  
   2023 年 3 月 17 日 via iPhone
能在本地跑,对隐私保护是有利的
mayli
   13
mayli  
   2023 年 3 月 18 日 via Android
看到 v2 上标题党泛滥
就觉得欣慰
shm7
   14
shm7  
   2023 年 3 月 21 日
LLaMA-7B 效果真不行。4G 版本 4 线程速度不慢。alpaca 工作不错。
© 2026 V2EX · 47ms · 3.9.8.5