斯坦福的科学家们成功复制了OpenAI的ChatGPT,仅花费600美元。
斯坦福大学基础模型研究中心宣布,他们使用OpenAI的GPT API对Meta的LLaMA7B大型语言模型进行了微调。
结果是他们用600美元的成本复制了OpenAI的GPT-3模型,并将其命名为Alpaca。
这些科学家表示,根据他们的预算明细,他们在OpenAI的API上投入不到500美元,在LLaMA上投入不到100美元。
虽然Alpaca比GPT-3小,但在一些任务上表现得很好,甚至超过了GPT-3。
Alpaca也有一些语言模型的常见缺陷,包括幻觉、毒性和刻板印象。
这证明了OpenAI这样的软件可能是容易复制的。