原文整理页

研究人员推出了 talkie,这是一个仅使用 1931 年以前文本训练的 13B 模型,旨在探索大模型的泛化能力

来源作者:Andrej Karpathy (@karpathy)原始来源:https://x.com/karpathy/status/2049180863036813717

中文导读

研究人员推出了 talkie,这是一个仅使用 1931 年以前文本训练的 13B 模型,旨在探索大模型的泛化能力。

正文 Markdown

New work with @AlecRad and @DavidDuvenaud: Have you ever dreamed of talking to someone from the past? Introducing talkie, a 13B model trained only on pre-1931 text. Vintage models should help us to understand how LMs generalize (e.g., can we teach talkie to code?). Thread: