昨天GPT-4发布，除了惊艳还是惊艳，OpenAI的进化速度超乎想象。
除此之外，最近我也在关注LLaMa((Large Language Model Meta AI)
- https://ai.facebook.com/blog/large-language-model-llama-meta-ai/
- https://github.com/facebookresearch/llama
Facebook的大型语言模型，现在已经有很多基于它进行优化的项目
比如Standford, 号称7B model已经达到 OpenAI text-davinci-003效果
而我这里选择的是llama.cpp, 作者刚把whisper用cpp实现了一遍叫whisper.cpp, 还真是直接
整个安装过程还参考了这篇文章
LLaMa的优势
- 可以单机运行
- 可以Android手机上运行
- 可以Raspberry Pi上运行
- 其它基于的Fine Tune正在进行中，开源社区不一定会折腾出什么样的效果出来
- 没有任何限制审查
先看看我本地用了30B model的效果
Setup Steps
git clone [email protected]:ggerganov/llama.cpp.git
cd llama.cpp
python3