如今，OpenAI o1 和 DeepSeek R1 等推理模型的发展，显著提升了思维链 (CoT) 之类的技术在大语言模型 (LLM) ...

1. Zoom的华人研究团队提出了一种名为草稿链（CoD）的技术，仅使用7.6%的token，就能在保持准确率的同时，大幅降低推理成本和延迟。 2. CoD技术灵感来源于人类解决复杂问题的方式，通过限制每个推理步骤最多五个词，使模型专注于最关键的信息 ...

【新智元导读】LLM推理中的延迟问题常被忽视，而实时应用对此要求严苛。来自Zoom的华人团队提出草稿链（CoD）技术，仅用7.6%的token，就能在保持准确率的同时，大幅降低推理成本和延迟。

随着人工智能技术的快速发展，推理模型逐渐成为提升大语言模型（LLM）性能的关键工具。最近，Zoom研究团队在推理技术领域的创新引起了广泛关注。这个名为Chain of Draft（CoD）的方法，突破性地将认知科学中的思维链理念引入人工智能推理过程，从而实现了效率和准确性之间的巧妙平衡。 大语言模型的推理任务一直面临着一个不容忽视的问题——效率。例如，OpenAI的GPT系列和Deepseek R ...