GPT-4

昨天GPT-4发布，除了惊艳还是惊艳，OpenAI的进化速度超乎想象。

除此之外，最近我也在关注LLaMa((Large Language Model Meta AI)

• https://ai.facebook.com/blog/large-language-model-llama-meta-ai/
• https://github.com/facebookresearch/llama

Facebook的大型语言模型，现在已经有很多基于它进行优化的项目

比如Standford, 号称7B model已经达到 OpenAI text-davinci-003效果

• https://github.com/tatsu-lab/stanford_alpaca

而我这里选择的是llama.cpp, 作者刚把whisper用cpp实现了一遍叫whisper.cpp, 还真是直接

• https://github.com/ggerganov/llama.cpp

整个安装过程还参考了这篇文章

• https://til.simonwillison.net/llms/llama-7b-m2

LLaMa的优势

1. 可以单机运行
2. 可以Android手机上运行
3. 可以Raspberry Pi上运行
4. 其它基于的Fine Tune正在进行中，开源社区不一定会折腾出什么样的效果出来
5. 没有任何限制审查

先看看我本地用了30B model的效果

Setup Steps

git clone git@github.com:ggerganov/llama.cpp.git
cd llama.cpp
python3 

…