就像硅谷著名风投家Marc Andreessen评价DeepSeek-R1称：“作为开源项目，这是对世界的一份深远馈赠 (As open source, a profound gift to the world)。”因而，本次参与讨论的人员也学习DeepSeek，本着开源精神，将闭门会的集体思考公开。
以下是对本场讨论会的要点总结。
该总结由拾象团队整理，作者做了少量编辑。
1. 创始人兼CEO梁文锋是 DeepSeek 最核心的人，和 Sam Altman 不是一类人，他是很懂技术的。
2. DeepSeek 有好口碑的原因在于是第一个把复现 MoE、o1 等发出来，胜在做的早，但能不能做到最好，空间还很大。后面新的挑战在于资源有限，只能把有限的资源放在最亮眼的地方。这个团队的 research 能力、团队文化还是很好的，如果再给 10万、20 万张卡，可能能做出更好的事情。
3. DeekSeek 从 preview 到正式发布这段时间，长上下文能力提升很快。DeepSeek 的 Long context 10K 用非常常规的方法就能够做到。
4. Scale.ai 的 CEO 说 DeepSeek 有 5 万张卡，实际肯定没这么多，从公开信息来看 DeepSeek 是有 1 万张老的A100卡，可能有 3 千张禁令之前的 H800。DeepSeek 很注重合规，没有采购任何不合规的GPU，所以卡应该很少。美国用 GPU 的方式太粗放了。
5. DeepSeek 把所有精力都放在了一个很窄的点，把后续很多东西都放弃了，比如多模态。不是单纯在服务人，而是做智能本身，可能也是成功的关键因素。
6. 某种意义上来说，量化可以说是 DeepSeek 的商业模式。幻方（梁文锋创立的另一家量化投资公司）是上一轮 machine learning（机器学习） 的产物。DeepSeek 最重要的事就是 push 智能。钱和商业化的优先级都不高。中国需要有几个领先的 AI labs 来探索能 beat OpenAI 的东西，智能要走的时间很长，今年又开始分化，肯定要有新东西出来。
7. 单从技术角度，DeepSeek 作为黄埔军校对人才扩散有很大作用。
8. 美国的 AI lab 商业模式也不好，AI 今天确实没有什么好的商业模式，后面可能需要跑通。梁文锋是有抱负的，DeepSeek 不在乎形态，往 AGI 走就是了。
9. 读完 DeepSeek 论文的感受是，很多都是节约硬件开销的技术，在比较大的几个 scaling 方向上，DeepSeek 的技巧可以把成本降下来。
10. 长期不会对算力有影响，但短期大家会想怎么把 AI 做的更加有效率一点。需求还是很强的，各家都是不够用的状态。
11. 谈DeepSeek的组织：
1）做投资，都选择最高级的人才组合，但看DeepSeek的模式（团队多是国内高校毕业的聪明年轻人），觉得大家一起磨合好，能力也能慢慢变高级。挖走一个人是否能打破优势组合是一个问题，现在看对于 DeepSeek 的影响可能不是特别大。
2）市场上钱有很多，但 DeepSeek 核心是文化组织。DeepSeek 和字节的 research culture 比较像，比较本质，文化好不好的衡量标准在于是否有足够的钱和长期性，有比较重要的商业模式才能有长期性的文化，这两家公司的商业模式都非常好。
12. DeepSeek 为什么能追这么快？
1）Reasoning model（推理模型）的需求是更高质量的数据和训练。如果是长文本、多模态，从 0 开始追一个闭源模型会更困难，但纯 reasoning 模型本身的架构没有大动，reasoning（推理）是一个更好追的方向。
2）R1 能追的快的原因可能在于任务没有特别难，RL（强化学习） 只是让模型选的更准，R1 没有突破 Consensus 32 的效率，同时花了 32 倍效率，相当于把原来并行做探索改成串行了，没有提高智能的边界，只是变得更加容易了。
13. AI 类似阶跃函数，现在做追赶者的算力需求少了 10 倍。追赶者的算力成本一直不太高，但探索者还是要训很多模型，大家对于新算法和架构的探索不会停止。阶跃函数背后其实是有很多人投入了很多，所以算力投入还是会一直往前，还会有很多人投在产品上。除了 reasoning 之外，还有很多方向也很费卡。探索者花费很多卡可能大家看不到，但没有这么多花费，可能不会有下一个阶跃。也有很多人不满足架构、RL 方法，会不断往前推进。
14. 在探索方向的时候，花 1 万张卡的效果不一定比 1 千张卡好，但可能会有一个门槛，即如果只有 100 张卡，那大概率做不出来，因为迭代一次方案的时间太长。
15. 推动物理学进步的分为学校里的研究者和工业界的实验室，前者需要探索多个方向，不要求回报，后者更关注效率提升。
16. 探索者和追赶者角度，小公司卡很少，就需要考虑效率，而大公司考虑的是怎么更快的得到模型，很多在 2 千卡集群上能提高效率的方法在万卡是不 work 的，大家会更考虑稳定性。
17. CUDA 生态优势在算子的多和全，而华为等国内公司突破的时候是找了一些常用的算子，有后发优势，假如拥有 10 万张卡，在决定资源投入的时候，做领先者的成本很高，做追赶者效率更高，该如何抉择。国内下一个追赶的方向是什么，比如多模态，因为海外 GPT-5 一直迟迟没有出来。
18. DeepSeek 带来的最大的震撼不是开源或者低成本，而是不需要做 SFT了。（注：SFT：Supervised Fine-Tuning，有监督微调，一种重要的模型优化技术，它通过在预训练模型的基础上，使用标注好的数据进行进一步训练，以提升模型在特定任务或领域上的性能。）但只是在推理层面，推理以外的任务可能还是需要做 SFT。围绕这个点很值得讨论的是，是不是由此提出了一个新的范式或架构，使得训练模型对数据的利用效率更高了？或者模型表现的迭代速度会更快？
19. DeepSeek-R1 一定程度上说明用 SFT 做蒸馏有很大好处。DeepSeek-R1 并不是完全不做 SFT，而是在第三步骤只做了 SFT，最后一步 alignment（对齐）再用了 RLHF（基于人类反馈的强化学习）。
20. R1 本质是 SFT 训练出来的，比较特殊的是数据是用 RLHF 训练出来的模型生成的，说明不需要用特别复杂的方法，只要有足够好的方法，只需要用 SFT 蒸馏就行。
21. GRPO 的本质在于 base model（基础模型）得足够聪明，一个 prompt 生成用了 16 个 generation，得尝试几次才能大概率有正确的答案。不错的 base model 加上可以 verify，是 R1 提供的思路，math 和 coding 很合适是因为这两类任务比较容易 verify，但理论上可以在其他场景任务上做类似的过程，最终实现一个通用的 RL 模型。
22. R1 - Zero 没有用 SFT 就出现了 CoT 的过程，CoT 会越来越长，这个涌现过程很有意义，SFT 更像是一个辅助手段，模型没有 SFT 也能产生，有了 SFT 能很快生成。
23. 这件事说明现在很多小模型厂商可以用 SFT 去蒸馏大模型，并且效果会很好，但也没有在 R1 的过程中完全被抛弃。
24. 一个 LLM 集合无限长的 CoT 理论上可以看成一台图灵机，理论上通过无限长的 CoT 可以解决极复杂的计算问题（computational problem），但 CoT 本质上只是中间搜索结果，用一种优化的方式去不停 sample potential output，可能会输出正确结果，然后让模型往更可信的方向去推。本质上是模型为了得到这样的结果，必须要做一些 computation，CoT 是 computation 中间必须经过的中间输出，最终结果可以说是涌现，也可以说是它作为计算机的本质。
25. DeepSeek 的论文里面虽然没有提到长上下文，但体感上 R1-preview 和 R1 之间模型的 context window 提升了很多，猜测是做了一些 Long2Short CoT 的提升，包括在第三阶段的 SFT 用的 CoT 最终在 generation 的时候也被去掉，最后发布的版本可能是用了更加 clean 的 CoT 数据做 SFT。
26. SFT 的数据种类有几种：一个是冷启动的数据，更像是给模型一个很好的策略，给一个比较好的初始化，这样能做的探索更好，RL 中有一个优化目标是和原策略更接近；另一种数据是做了 RL 之后，生成很多 data，再加上别的数据，再在 base model SFT，本质上每个 domain 有自己的 data processing pipeline 之类的，这个数据的能力是从 base model 来的，蒸馏是无损的，把多个 domain 放到一起可能会有泛化。
27. 不确定 R1 这个过程的数据效率怎么样。猜测 OpenAI 针对数据效率也做了类似的事情，比如 fine tuning。R1 第三阶段没有用 RL 做出来的模型作为 base 去训练，而是去生成了数据，再去 SFT 得到 R1，数据包含 600K 的 reasoning data 和 200K non-reasoning data。第二阶段的模型可能在 example 的 domain 之外但仍然需要某种 reasoning 的场景下，可能也能展示解题能力，从而得到 reasoning data。而 non reasoning data 是 V3 SFT data 的一部分，是让 V3 脑补出了一个 CoT。800K 的数据还是挺小的，挺有效率的。
28. Scale.AI 不一定会失败，现在需要在各种 domain 上做 RL，比较常用的是 math 和 coding，还是需要 expert 来标注，但数据标注可能会更复杂，但市场会存在。
29. 在 training 上，多模态数据几乎看不出效果，或者说成本太高了，今天还没有任何证据说有用，未来机会可能比较大。
30. DeepSeek 在数据标注上非常重视，听说梁文锋自己也会打标签。在 AI 上除了算法和技巧，数据的精确度也很关键，特斯拉的标注成本几乎是中国自动驾驶的 20 倍，中国自动驾驶的数据经历了大而全、精细化到最终发现要找开车经验和能力特别丰富的人，这个是特斯拉一开始就在做的事。特斯拉的机器人的动作是找的小脑非常健康的人做的标注，丝滑程度很好，而中国找的人的丝滑程度很差。所以 DeepSeek 在数据标注上的投入是模型效率好的关键之一。
31. 如果不去了解模型训练中最大的技术痛点，而选择用蒸馏的技术去避免了解，那么在下一代技术提出的时候，就可能会掉进坑里。
32. 大模型和小模型能力是不匹配的，从大模型往小模型进行蒸馏是真的蒸馏，teacher to student，如果从完全不会中文的模型蒸馏各种中文数据，性能可能会下跌。但实际上蒸馏小模型确实有很明显的性能提升，R1 蒸馏出来后的模型再做 RL 会增长很多，因为是用和模型不匹配的数据做出来的。
33. 蒸馏的坏处是模型 diversity 下降，影响模型上限，无法超越最强的模型。但短期看，蒸馏也是一条路线。
34. 用蒸馏会有一些 hack，早期一般在 instruction 调过的模型做 RL，这个阶段模型会呈现出的特征是：先去生成没有用的想法，然后最后突然答对，原因在于很多 RL hack 做得非常隐晦，模型可能在预训练的时候背了很多问题，所以明面上是在思考，其实只是在靠近背的题。这就是蒸馏的隐患。如果不做标注就蒸馏，那现在做 具有可验证奖励的强化学习（Reinforcement Learning with Verifiable Rewards, RLVR）的时候，就会导致模型会用更简单的方式解决，而不是去思考这个问题 OpenAI 也没有解决。可能是这一代技术的缺陷。
35. 长期来说，通过走捷径的方式，而没有自己通过愿景去想怎么做技术方案，而是直接复现，中间可能会有不知道的坑。比如在这一代技术 long context 没有质变的前提下，解决问题的上限可能会被限制。R1-zero 可能是一个正确的方向，从头就做 R1-zero 或不通过类 o1 的数据启动可能更好。照着别人的技术方案可能不太好，希望更多探索。
36. 其他模型用蒸馏也能得到较好的结果，未来在模型生态里面可能就会有老师、学生的角色区分，有能力当一名好学生也是一种可以的商业模式。
37. 在蒸馏和技术路线上，R1 带来的震撼不如 AlphaGo，但在商业上，出圈能力比 AlphaGo 要好很多。
38. 蒸馏分两个阶段，如果只是蒸馏 o1 或者 R1，而没有建立自己的体系和 verifiable reward，会导致大家越来越依赖蒸馏，但通用领域是不可能蒸馏的，因为 reward 无法得到，以及在蒸馏过程中特殊的 CoT 怎么得到。而且第一阶段的蒸馏都有痕迹，用 OpenAI 蒸馏的模型可能遗留了 OpenAI 大量的退火痕迹，为什么 zero 能够在纯 RL 阶段上获得这样的能力，和基础模型在退完火之后具有反思能力是有直接关系。
39. 不太相信纯互联网的数据而不经过退火的模型能做到这样的行为，因为互联网上几乎没有高质量数据。
40. 目前可能只有几个 top lab 在探索到底需要多少退火阶段的数据和数据配比。蒸馏与否都是 RL 算法的一种，SFT 是行为模仿，是无限的强化学习，但只做 SFT 的上限很低，而且会损害多样性。
41. 一级市场上的创业公司看见 DeepSeek 还是很激动的，如果后续 DeepSeek 还能继续迭代，对于不是大的上市公司来说，使用 AI 上会有非常大的灵活性，DeepSeek 还蒸馏了几个小版本可以在手机上用起来，如果这个方向被证明，对于很多 AI 应用会提高天花板。
42. 蒸馏很重要的是确定目标是什么，OpenAI 是没有数据蒸馏的，要超过 OpenAI 是肯定不能做蒸馏。
43. 未来可能模型需要像人类一样学会跳步回答，在固定 context 长度下，能否提高模型能力表现上限。
44. Process Reward （过程奖励）不一定不行，但 Process Reward 可能容易被 reward hack（奖励劫持），也就是模型没学到什么，但能把 reward 做的很高。如果解决数学问题，用模型生成 1000 个 generation，可能就是没有 1 个能靠近正确答案，那用类似 RLVR 的方式是没有办法训练到任何东西的，如果这时候有个还可以的 process reward，可能能接近正确方向，过程分也是有帮助的。要看解决问题有多难、过程 reward 有多可靠等。
45. 过程分在 PRM 估算中，如果和真实有偏差就很好 hack。过程监督理论上是可能的，问题在于 process 的力度，以及基于 process 力度怎么给到 reward，现在结果监督也是用抽取出来的答案去做匹配，各家也没有很成熟的让模型打分而不 hack 的方案，模型自己迭代是最容易 hack 的。标过程也不难，可以枚举的，只是大家没有做，可能是一个有前途的方向。
46. 过程监督上限是人，人很多是想不到的。结果监督才是模型的上限。
47. AlphaZero 比较有效的原因在于棋局终局的时候是可以做输赢判断的，而且整个 reward 是可以根据胜率计算，但是 LLM 不知道最后不停生成能不能给出答案，有点类似遗传算法，上限可能更高，但也有可能 hack 不到。
48. AlphaGo 到 AlphaZero 的一个优势是围棋的规则是固定的，现在模型从 math 和 coding 开始就是因为比较容易验证，验证的方法是不是足够好会影响最后 RL 的质量。规则得足够完善，不然模型会去 hack，模型能满足规则，但生成的结果不是想要的。
49. OpenAI 和 Anthropic 之前没有做 DeepSeek 的方向是一个公司聚焦方向的问题，OpenAI 和 Anthropic 可能觉得把现有算力投入其他地方会更有价值。
50. 相比大厂，DeepSeek 可能因为没有在多模态上做事，而是集中在语言，所以能做出成果。大厂的模型能力不弱，但得低调，不能发太多。现在多模态不是很关键，智能来源主要是语言，对于提升智能没有帮助。
51. 模型在 25 年会发生分化。最诱人的愿景是不断推进智能的边界，可能有很多突破的路径，方法可能会发生变化，比如合成数据、别的架构。
52. 25 年首先关注新的架构，除了 Transformer 之外能不能找别的，现在已经有了一些探索，可以降低成本，在降低成本的同时也可以探索智能的边界；其次，RL 的全部潜力还没有发挥出来；产品上，大家关心 agent，还没有被大规模应用。
53. 25 年多模态可能会出现能挑战 ChatGPT 形态的产品。
54. R1 和 V3 带来的低成本、高效果，说明这是一个方向，和另一个扩硬件、涨参数的方向是不冲突的，国内是受到限制只能走前者。
55. 第一，DeepSeek 是从 base model 逼出来的，还是遵循 Scaling Law，第二，从蒸馏角度，DeepSeek 蒸馏还是先大后小，对于越做越大的闭源模型是好事，第三，对技术发展中，还没有出现反规模指标，如果出现，那对于 Scaling Law 可能是一个比较大的打击，而且开源模型的所有东西都可以在闭源模型做一遍，同时还可以降低成本，对于闭源模型也是利好。
56. 据了解，Meta 目前还在复现 DeepSeek 的过程中，但目前还没有特别影响 infra 或者长期 roadmap（路线图） 的地方出现。长期来说除了探索边界之外，也要考虑成本，只有成本更低，才能有更多的玩法。
57. 开发者是否会从闭源模型迁移至 DeepSeek？目前看还没出现大批迁移，因为领先模型的 coding 指令遵循能力是比较有利的，但不确定这一优势在未来是否会被攻克。
58. 开发者角度来说，Claude-3.5-Sonnet 是做了 tool use（工具使用）专门训练，对于做 agent 非常有利，但 DeepSeek 之类模型暂时没有提供，但 DeepSeek 带来的空间很大。
59. 对于大模型应用者，DeepSeek V2 就已经满足了所有需求，R1 速度提高了，没有带来特别大的额外价值，但开启深度思考的时候，以前能答对的题目现在反而错了。
60. 应用者选择模型的时候会用工程方法把问题简化，25 年可能是一个应用年，各行各业会使用现有的能力做，可能慢慢会到一个瓶颈了，因为日常可能用不到那么聪明的模型。
61. 现在 RL 是解决了有标准答案的问题，并没有比 AlphaZero 做更多突破，甚至更简单，蒸馏解决了标准答案的问题，有标准答案后用 RL 的方法去训练时可以得到很好的效果，这是为什么现在蒸馏或者 RL 能很快突破的原因。
62. 人类对智能的需求是远远被低估的，比如癌症问题、SpaceX 上的隔热材料都还没有被解决。现有的任务是自动化的问题，还有很多问题，对未来增量的爆发非常乐观，智能是不能停下来的。
63. DeepSeek 的出现让大家开始质疑英伟达（NVIDIA）和 OpenAI 最新的 500B 叙事。训练资源问题目前还没有清晰判断，OpenAI 的 500B 叙事是给自己加救命稻草。
64. 对于 OpenAI 500B 基础设施投入的事情是存疑的，因为 OpenAI 是商业公司，如果涉及举债，那可能是有风险的。
65. 500B 是一个很夸张的数字，可能会分 4、5 年去执行。因为 leading 的角色是软银和 OpenAI，前者是资金，后者是技术，软银现在账上的资金没有办法支持 500B，而是用手上的资产去做抵押，而 OpenAI 本身资金也不是很充沛，其他更多是技术参与方，而不是资金提供方，因此要完整实现 500B 是有挑战。
66. OpenAI 500B 的算力是有道理的，在探索阶段，试错成本很高，人力和投资成本都很高，但因为路线是不明确的，从 o1 到 R1 可能也不容易，但至少知道最后是怎么样的一个结果，中间的特征词也可以观察到，可以一开始就对着别人的最终形态去做，比较有方向感。而如果是在前线探索下一代，是最费资源的，而追赶者不需要承担探索，但永远只是追赶。如果 Google、Anthropic 在探索的领域做成功了，可能就会成为最前沿的那家公司
67. Anthropic 未来有可能把所有的 inference 都换成 TPU 或者 AWS Chip。
68. 国内公司原来受困于算力，现在证明了潜在的技术空间是非常大的。对于更加 efficient 的模型，可能不需要特别大的卡，可以提供相对定制化的芯片，可以在 AMD、ASIC 芯片上提供适配，从投资角度，英伟达壁垒非常高，但 ASIC 也会有更大的机会。
69. DeepSeek 的事情和算力没有太大关系，更多让美国觉得中国比较厉害，比较有效率，英伟达的软肋不在 DeepSeek，只要 AI 还在发展，英伟达就能发展，英伟达的优势在生态，这是靠时间积累的。技术在快速发展的时候，生态就很重要，真正危机在于技术成熟后，类似电力，变成标准品，大家会关注做产品，就会有很多 ASIC 芯片出来做特定场景的优化。
70. DeepSeek 短期对美国 AI 圈冲击大，短期上对股价有影响：pretrain 需求增速放缓，post-train 和 inference scaling 还没有足够快地 scale up，在相关公司的叙事上会有一个 gap，对于短期交易确实会有影响；
71. DeepSeek 更多是 FP8，美国是 FP16，DeepSeek 所有都是基于有限算力工程能力的提升，对于算力高效的使用是最大亮点。上周五 DeepSeek 在北美有巨大的发酵，扎克伯格对 Meta 资本支出给了更高的预期，但英伟达和台积电都是跌，只有博通是涨的。
72. DeepSeek 在短期情绪上对股价、估值有压力，对二级的算力相关公司，甚至能源公司有压力，但长期叙事会继续。
73. 二级从业者会担心英伟达从 H 卡到 B 卡的转换上会有一些 air pocket，再加上 DeepSeek 的压力，短期会有股价承压，但可能是长期看更好的机会。
74. 短期受影响是 DeepSeek 在训练上的低成本投入的情绪体现，比如英伟达的股价就很直接，但 AI 是一个增量市场，潜力很大，长期来看，AI 才刚开始，如果 CUDA 还是大家喜欢的选择，那硬件增长空间还是很大的。
还没有评论，来说两句吧...