解密Prompt系列68. 告别逐词蹦字 - 重塑 Transformer 的推理范式

Transformer 的核心范式一直是“Next Token Prediction”——像接龙一样，一个词一个词地往后蹦。虽然 OpenAI o1 和 DeepSeek-R1 通过 Chain of Thought (CoT) 开启了“慢思考”时代，但其本质依然是通过生成更多的显性 Token 来换取计算时间。
这就带来了一个巨大的效率悖论：为了想得深，必须说得多。这一章我们看四篇极具代表性的论文（Huginn, COCONUT, TRM, TiDAR），它们不约而同地试图打破这一局限：能否在不输出废话的情况下，让模型在内部“空转”思考？ 甚至打破自回归的束缚，进行全局规划？
Hugin：内生循环思考提升深度

• Scaling up Test-Time Compute with Latent Reasoning: A Recurrent Depth Approach
  

这篇论文的核心在于打破大模型推理时计算量恒定的限制，提出了一种在“深度”上进行循环的架构，从而实现了在隐空间（Latent Space）进行递归推理。

来源：程序园用户自行投稿发布，如果侵权，请联系站长删除
免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！

感谢发布原创作品，程序园因你更精彩

这个好，看起来很实用

过来提前占个楼

谢谢分享，试用一下

yyds。多谢分享

感谢发布原创作品，程序园因你更精彩

很好很强大  我过来先占个楼 待编辑

这个好，看起来很实用

yyds。多谢分享

谢谢楼主提供！

用心讨论，共获提升！

感谢发布原创作品，程序园因你更精彩

感谢分享，下载保存了，貌似很强大