我觉得很多人对于伯克希尔的理解是很片面的，大家拜服于他常年冷静的价值投资，对于风险的厌恶，成就了巨大的财富。相当多的价值投资者以巴菲特的理论和逻辑为指导，这本身没问题，但大家不知道的是，哪怕自己和巴菲特投得一样准，最终收益也不会超过伯克希尔的 20%。

因为伯克希尔本身是一个完整的企业，而不是一个投资股票市场的基金。伯克希尔实质上是一家以保险业务为核心增长引擎，以全资收购、控股、二级市场购入股票、购入短期债券的方式配置保险业务浮存金以获得超额收益的一家保险公司。

1. 利润：2023 年，保险业务总收入约 950 亿美元，占伯克希尔总收入的 26%，但却贡献了 49% 的税前利润

2. 浮存金：从 1967 年收购 National Indemnity 时的不到 2000 万美元到 2024 年的 1710 亿美元，伯克希尔的保险浮存金增长了 8000 多倍，年均复合增长率约 18%（这是什么概念？！），浮存金占股东权益的比例近年来保持在 30% 左右。

年复合增长 18% 的浮存金 + 保险业的利润，60 年来贡献了伯克希尔绝大部分的内在价值。如果没有保险业务，60 年来伯克希尔的内在价值会比现在缩水至少 80%。

大家在买 BRK 的时候，一定要知道 BRK 不是一个 GP 是巴菲特的基金，你不是在赌巴菲特的投资眼光；你买的是一个保险公司，只是这个保险公司的经营模式极其独特，全世界只有这一家，和你买其他上市公司的业务无异。

如果以保险公司的视角看伯克希尔，那伯克希尔实际上比其他保险公司要明显更具风险偏好：其他保险公司的股权类投资最多占 20-30%，而伯克希尔能占到 70%，且持股集中度相当高，80% 的股权投资集中在前 5 家公司。想象一下，社保基金拿 70% 的钱出来投在 A 股，而且 80% 投资在 5 家公司是什么情景。

大家都说价值投资就不应该动用杠杆，但巴菲特使用浮存金进行投资就是一种杠杆投资，有人计算过，浮存金常年提供了 1.6x 的杠杆，且没有资金成本。

我们觉得他是股神，但其实他是一个享受了巨大资本主义红利的企业家。从 20 岁时就看上了他导师格雷厄姆做董事长的 GEICO 保险公司的商业模式，并用了一生的时间在保险业务上寻求交易。

我认为巴菲特赚的钱来源于：

1. 对保险业务的超前认知：他对于保险业务的资金/信用的飞轮效应的深刻理解，不追求业务规模，而是必须要求保险业务承保盈利，做时间的朋友。

2. 关键时候敢于交易：在 GEICO 业务巨大滑坡濒临破产的时候（股价从 60 块跌到 2 块），大幅买入优先股和普通股，这是与市场共识有巨大差异的“豪赌”，最后证明巴菲特的认知和眼光是正确的。包括之后以当初投资时 20 多倍价格私有化 GEICO 和不断买入其他保险企业。

3. 对于保险公司的经营范式有突破性创新：其他保险公司只将浮存金用于固定收益投资，而巴菲特在别人看来更具风险的股票市场用浮存金投资优质公司，他认为波动性本身不是风险，优质的股票是比债券更可靠长期风险更低的投资品。这部分收益来源于有他对于股票和债券的风险的深刻认知。

4. 没有重大的连续性灾情。伯克希尔现在是全球再保险的重要参与者，为全世界投保者兜底了巨大风险，只要没有连续出现的巨灾，伯克希尔就能持续赚这个兜底全世界风险的保险费。（我不清楚现在 1710 亿美元浮存金对应的风险敞口是多少 ……）

5. 赌对了美国的国运，至少在这 60 年里。

大家觉得保守，其实是因为巴菲特像其他伟大的企业家一样，基于深刻的认知在一个宏观层面上（或商业模式）上做了巨大创新，而在更微观更局部的层面上不做创新（保守）而已。

以下是 Claude 的研究分析，原始链接。

巴菲特将保险业务转化为伯克希尔哈撒韦的超级引擎，创造了一个独特的价值创造循环：低成本浮存金为公司提供了巨额投资资本，而与传统保险公司截然不同的激进投资策略则产生了卓越回报。保险业务不仅贡献了公司近一半的利润，还提供了约 30% 的额外投资杠杆，使伯克希尔能够在市场低迷时进行逆势投资。这种商业模式的背后，是巴菲特精心塑造的”低风险”形象与实际的高集中度、高杠杆投资策略之间的精妙平衡。

保险业务的核心引擎：浮存金如何推动伯克希尔增长

伯克希尔哈撒韦的保险业务不仅是公司最大的收入和利润来源之一，更重要的是提供了独特的”浮存金”(float)，这是公司投资帝国的关键支柱。浮存金是保险公司收取保费与支付理赔之间的时间差所产生的可投资资金，本质上是一种低成本甚至零成本的资本来源。

浮存金的历史增长轨迹：从百万到千亿的飞跃

从 1967 年收购 National Indemnity 时的不到 2000 万美元到 2024 年的 1710 亿美元，伯克希尔的保险浮存金增长了 8000 多倍，年均复合增长率约 18%。这一增长可归因于三个关键因素：有机业务扩张、战略收购和承保纪律。

浮存金的重要增长节点包括：

• 1996 年全资收购 GEICO（美国最大的直销保险商之一）

• 1998 年收购 General Re（全球最大的再保险公司之一）

• 2022 年收购 Alleghany（增加了新的保险浮存金来源）

保险浮存金规模变化（亿美元）

• 1967: 0.19

• 1980 年代中期：约 10

• 1999：250

• 2009：620

• 2016：916

• 2020：1380

• 2021：1470

• 2022：1640

• 2023：1690

• 2024：1710

保险业务的经济贡献：超越表面数字的价值

保险业务在伯克希尔的整体价值创造中扮演着远超其收入占比的角色：

• 收入占比：2023 年，保险业务总收入约 950 亿美元，占伯克希尔总收入的 26%

• 利润贡献：2023 年第三季度，保险业务贡献了 49.2% 的息税前利润

• 浮存金杠杆：浮存金与股东权益的比例近年来保持在约 30% 左右，这意味着伯克希尔通过保险业务额外获得了相当于其股东权益约 30% 的投资资本

保险业务的三大支柱——GEICO、伯克希尔哈撒韦再保险集团和伯克希尔哈撒韦初级保险集团——各自发挥着重要作用。2024 年，GEICO 的承保利润达 78 亿美元，较 2023 年增长 116%；再保险集团贡献了 27 亿美元的承保利润；初级保险集团贡献了 8.55 亿美元。

浮存金的真实成本与价值：低成本甚至负成本的资本

浮存金的真正价值在于其极低甚至为负的成本。当保险业务实现承保利润时，浮存金实际上成为”负成本资本”——公司不仅免费使用这些资金，还因持有它们而获得额外收益。

浮存金成本计算（2022-2024 年）

过去 20 年，伯克希尔保险业务累计产生了 320 亿美元的税后承保利润，相当于每销售 1 美元保费获得 3.3 美分的税后利润。这种低成本甚至负成本的资本来源，为巴菲特提供了独特的投资优势。

承保纪律与浮存金质量：巴菲特的”宗教信条”

伯克希尔保险业务的核心竞争优势在于其严格的承保纪律。正如巴菲特在 2016 年股东信中所强调的：承保纪律在伯克希尔”是一种宗教，旧约风格”。这种纪律体现在：

• 宁可放弃业务量增长，也不降低承保标准

• 注重长期盈利能力而非短期市场份额

• 避免参与不理解或无法准确定价的风险

GEICO 的转型案例特别能说明这一点。在 Todd Combs 领导下，通过提高效率和更新承保实践，GEICO 在 2024 年实现了 78 亿美元的承保利润，较 2023 年大幅增长。巴菲特在 2024 年的股东信中特别称赞：“GEICO 是一颗长期持有的宝石，需要重新打磨，Todd 努力完成了这项工作。“

颠覆常规：巴菲特的保险资金投资策略

伯克希尔哈撒韦与传统保险公司最根本的区别在于其投资策略：巴菲特将大量保险浮存金投资于股票和全资企业收购，而非仅限于固定收益证券。这种战略选择产生了显著的超额回报，但也隐含着更高的风险。

投资组合构成比较：另辟蹊径的伯克希尔

伯克希尔哈撒韦的投资组合与传统保险公司形成鲜明对比：

伯克希尔哈撒韦 vs 传统保险公司投资组合（2023 年）

截至 2023 年底，伯克希尔的保险投资组合总规模达到 4521 亿美元，其中股权投资规模达到 3107 亿美元，占比 68.7%，远高于普通保险公司 20%-30% 的权益资产比例。更值得注意的是，伯克希尔的股权投资高度集中，约 79% 的股权投资集中在五家公司：苹果 (1743 亿美元)、美国银行 (348 亿美元)、美国运通 (284 亿美元)、可口可乐 (236 亿美元) 和雪佛龙 (188 亿美元)。

与之对比，典型的传统保险公司如 Travelers，93% 的投资组合配置在固定收益证券，只有 7% 投资于权益类资产。即使在这 7% 的非固定收益投资中，大部分也是相对保守的资产类别，如私募股权、房地产和对冲基金，而非高集中度的公开市场股权投资。

监管限制与伯克希尔的应对策略

保险监管通常限制保险公司的投资风险，以保护保单持有人的利益。主要监管限制包括：

1. 投资比例限制：多数司法管辖区限制保险公司对权益类资产的投资比例，通常不超过投资组合的 15-30%

2. 风险基础资本要求：对风险较高的投资类别要求更多的资本金支持

3. 集中度限制：对单一发行人或行业的投资通常有上限

伯克希尔采取了几种策略来在监管框架内实现其独特的投资方法：

• 独立子公司结构：通过将不同的保险业务组织为独立的子公司，使每个实体能够遵守各自司法管辖区的要求

• 超额资本持有：伯克希尔各保险子公司持有远超监管要求的资本，提供了更大的投资灵活性

• 混合控股公司结构：作为一个控股公司，伯克希尔可以在公司层面进行更灵活的资本配置

• 部分资产隔离：将部分保险资产分配给固定收益投资，以确保流动性和监管合规性

伯克希尔投资策略的风险与收益特征

伯克希尔激进的投资策略包含更高风险，但长期回报显著超过行业平均水平：

风险特征：

• 波动性风险：权益投资面临更大的市场价值波动

• 流动性风险：大规模且集中的持股可能难以在不影响市场的情况下快速出售

• 集中度风险：投资组合高度集中，前 10 大持股占比近 90%

收益特征：

• 长期超额回报：1965-2023 年，伯克希尔实现了 19.8% 的年复合增长率，远超标普 500 指数同期 10.2% 的回报

• 战略灵活性：大量现金储备使伯克希尔能够在市场低迷时期进行逆势投资

• 协同效应：全资收购的企业为保险业务创造了稳定的现金流，形成正向循环

保险业务的杠杆效应：没有它的伯克希尔会怎样？

保险浮存金为伯克希尔提供了相当于其股东权益约 30% 的额外投资能力，这种”好杠杆”是公司长期卓越业绩的关键驱动因素之一。如果没有保险业务，伯克希尔的投资表现将受到重大影响。

保险浮存金的投资杠杆效应量化

截至 2023 年底，伯克希尔的投资资本主要由两部分构成：

• 股东权益：约 5,613 亿美元

• 保险浮存金：约 1,690 亿美元

总投资资本约为 7,303 亿美元。浮存金占总投资资本的比例约为 23.1%，这意味着若没有保险业务，伯克希尔将损失近四分之一的投资能力。

浮存金与股东权益比例（2022-2024 年）

更重要的是，保险浮存金的成本远低于其他融资渠道。2023 年，浮存金的成本为 -3.3%（负成本），而公司债券融资成本约为 4-6%，优势差距高达 7.3-9.3 个百分点。这种成本优势使伯克希尔能够在其他公司无法获利的投资中获取可观收益。

无保险业务情境下的账面价值模型

如果伯克希尔没有保险业务，其投资能力和账面价值将受到多重影响：

1. 短期影响（1 年）：

   • 账面价值减少约 23%（对应浮存金占总投资资本的比例）

   • 年度收益减少约 45-50%（考虑到保险业务贡献了近 50% 的利润）

2. 中期影响（5-10 年）：

   • 复合年增长率从历史的约 19.8% 下降至约 12-14%

   • 账面价值累计差距扩大至约 40-50%

3. 长期影响（20 年以上）：

   • 终值差距可能超过 75%，复利效应显著

   • 投资组合规模限制参与大型收购的能力

以 GEICO 收购为例：1995 年，伯克希尔以 47 亿美元收购 GEICO，获得了当时约 30 亿美元的浮存金。如果没有保险业务提供的浮存金杠杆，类似的大型收购将更加困难，限制公司的扩张能力。

保险与非保险业务的盈利能力对比

保险业务在利润贡献方面显著优于非保险业务：

• 收入占比：保险业务占总收入 26%，非保险业务占 74%

• 利润贡献：尽管收入占比较小，保险业务贡献了约 49.2% 的息税前利润

• 资本回报率：保险业务的 ROE 约为 14-18%，高于非保险业务的 9-12%

• 增长率：过去 7 年（2016-2023），保险业务收入增长约 90%，超过非保险业务约 60% 的增长率

保险业务的高 ROE 主要归功于：较低的资本密集度、浮存金带来的杠杆效应、以及巴菲特对保险业务风险的精准把控。

保险业务对投资策略的影响

保险业务为伯克希尔的投资策略提供了四个关键优势：

1. 稳定性：保险浮存金通常具有长期存续性，不像短期借款那样受到市场波动影响

2. 成本优势：浮存金成本远低于传统融资渠道

3. 规模效应：1,690 亿美元的浮存金规模使伯克希尔具备了参与大型交易的能力

4. 反周期特性：保险业务在市场低迷时期继续提供稳定资金，恰好是最需要现金进行投资的时机

2008-2009 金融危机是这种优势的绝佳例证：当时伯克希尔利用保险浮存金以优惠条件向高盛和美国银行各投资 50 亿美元，这些交易后来产生了巨额回报。没有保险浮存金，伯克希尔将无法在市场最低迷时进行如此大规模的投资。

风险偏好与形象差异：巴菲特的精妙平衡

巴菲特的”低风险”投资者形象与实际的投资行为之间存在微妙差异。这种看似矛盾的策略为伯克希尔哈撒韦创造了巨大的商业价值，特别是在保险领域。

保险业务视角下的真实风险偏好

从表面上看，巴菲特一直强调价值投资、长期持有和理性决策，构成了他谨慎保守的公众形象。然而，伯克希尔的实际投资策略却体现了精心计算的高风险特征：

1. 保险浮存金作为杠杆工具：伯克希尔将保险浮存金作为低成本杠杆使用，增加了公司的实际风险敞口

2. 高度集中的投资组合：伯克希尔的股票投资组合高度集中，前 10 大持股占比近 90%

3. 大手笔全资收购：巴菲特常进行大规模的全资企业收购，如花费 320 亿美元收购 Precision Castparts

巴菲特的资产配置也展现了看似矛盾的”双重标准”：一方面公开赞扬指数基金的价值并建议普通投资者广泛分散投资，另一方面伯克希尔自身却采取高度集中的投资组合。

流动性与保险偿付能力的深层考量

巴菲特强调保持充足现金储备，这通常被解读为保守主义的表现。截至 2024 年第一季度，伯克希尔持有创纪录的 3280 亿美元现金及短期美国国债。然而，这种流动性策略具有更深远的战略意义：

1. 机会主义投资准备：大量现金储备使伯克希尔能够在市场低迷时期进行大规模投资

2. 保险业务结构优势：伯克希尔的保险合同结构设计确保赔付以可预测的方式分布

3. 资本结构的战略管理：同时维持 AAA 信用评级和进攻性投资能力

伯克希尔保险子公司维持的超额资本水平远超监管要求，这使它们能够承接其他保险公司因资本限制而无法承保的大型特殊风险。

“低风险”形象的商业价值

巴菲特的保守形象为伯克希尔的保险业务创造了显著的商业价值：

1. 高额保费承接能力：特别是在再保险和特殊风险市场，保险购买者愿意向伯克希尔支付溢价以获取其”无可匹敌的财务安全保障”

2. 市场份额的选择性增长：伯克希尔能够在硬市场条件下迅速扩大承保规模，在软市场条件下保持纪律性收缩

3. 吸引独特保险机会：伯克希尔成为大型复杂保险交易的首选合作伙伴

伯克希尔的”低风险”形象促进了其保险产品的创新，使公司成为超巨灾保险、追溯责任保险和大型特殊风险保险的主要提供者，这些领域具有较高的利润率和较少的竞争。

市场极端条件下的实际反应

巴菲特在市场极端条件下的行动同时体现了谨慎和机会主义：

2008 年金融危机：

• 向高盛注资 50 亿美元，向通用电气投资 30 亿美元，交易包含优先股和认股权证

• 在《纽约时报》发表”买入美国股票，我正在买入”的评论文章，提振市场信心

• 保持大量现金储备，平衡风险承担与保守性

2020 年疫情：

• 疫情初期出售航空股并增加现金持有，表现出更高的谨慎性

• 随着市场企稳，开始增加对日本五大商社和能源公司的投资

• 2020-2021 年进行创纪录的股票回购（约 520 亿美元）

巴菲特的风险管理哲学重点不是避免风险，而是在理解风险的基础上战略性地选择风险。他通常避免短期市场波动风险和无法理解的复杂投资，但积极接受他理解并能控制的长期投资风险。

结论：保险浮存金的战略价值

伯克希尔哈撒韦的保险业务和浮存金机制是巴菲特商业哲学的完美体现，展示了他如何将看似平凡的保险业务转化为创造非凡价值的引擎。这一模式的核心价值在于：

1. 低成本资本来源：保险浮存金提供了大量低成本甚至负成本的投资资本，为伯克希尔的投资活动提供了独特优势。

2. 复合效应的利用：巴菲特充分利用了保险业务的长期性质，将浮存金投资于高回报资产，并通过长期持有最大化复合收益。

3. 形象与实质的战略平衡：巴菲特精心维护的”低风险”形象为保险业务创造了商业价值，同时其实际投资策略则体现了精心计算的风险承担。

4. 协同效应最大化：保险业务与投资业务之间形成了正向循环——良好的承保纪律产生低成本浮存金，而投资回报又增强了保险业务的竞争力。

如果没有保险业务，伯克希尔将变成一个规模更小、增长更慢、投资灵活性更低的企业，其与标准普尔 500 指数相比的超额回报率可能从历史的 9.6 个百分点（19.8% 对比 10.2%）降至约 2-4 个百分点。

巴菲特对保险业务的深刻理解和战略运用，不仅创造了巨大的股东价值，也提供了一个独特的商业模式案例，展示了如何将行业常规视为可打破的限制而非不可逾越的边界。这种打破常规的思维方式，正是巴菲特投资智慧的精髓所在。

观点 1：DeepSeek-V3 训练成本符合行业的降本曲线

• 2020 年 Dario 还在 OpenAI 的时候，他的团队发过一篇论文：每年因为算法的改进就能将相同质量模型的训练成本降低 1.68x，这还不算硬件性能的改进。他粗略预计，包含硬件的进步这个数字现在大约是 4x/年。这里的关键词是 “相同质量“。虽然技术和硬件的进步使得成本每年下降 4 倍，但大家都在全力增加投入来训练更大更智能的模型，所以给大家一种错觉模型在越来越贵。他举例，Claude-3.5-Sonnet 是在 GPT-4 之后 15 个月上线的，几乎在所有基准测试上的表现都优于 GPT-4，而 API 价格只是当时 GPT-4 的 1/10。

• DeepSeek-V3 的训练大致在 24 年 11/12 月，是 Claude-3.5-Sonnet 之后的 7~10 个月。

• 在多项测试（比如 coding）中观测到弱于 Sonnet。

• Sonnet 的训练花了小几千万美元。

综上，他认为更准确的描述是：DeepSeek-V3 以低得多的训练成本（600 万美元） “差不多” 追上了美国 AI 企业 7~10 个月前的模型。V3 确实有不少创新，但前沿的 AI 企业每年也都有降本上的创新，综合时间点和模型性能，V3 并没有显著超出当前业界的降本曲线。

观点 2：DeepSeek-R1 摘取了二阶段训练的低垂果实

• 2024 年，在 post-training 阶段使用 RL 让模型产生推理能力已经成为业界关心的新焦点。Anthropic 也已经发现这个方式在数学和 coding 的领域已经可以增强模型的推理能力。他暗示 R1 和 OpenAI 训练 o1 的方式一致。—— 巧合的是，Mark Chen（OpenAI 首席研究官）在 X 上也说 DeepSeek 独立发现了 o1 的核心方法。

• 用 RL 来提升 reasoning 能力也符合 scaling law 的成本/收益对数曲线，现在正在早期阶段，效果提升非常显著。美国各家公司很快就会投入几亿到几十亿美元在第二阶段训练上，同时不影响在第一阶段训练上的增量投入。—— Mark Chen 也说 OpenAI 会在 pre-training 和 reasoning 这两条轴上把计算资源 push 到极限。

• R1 是第一个公开技术报告（使用 RL 训练 R1-Zero）、公开模型、显示思维过程的（他相信 OpenAI 只是选择在 UI/API 上隐藏了具体思维过程），叠加了 V3 的降本概念，又是中国公司，在传播上获得了引爆。—— 这点 DeepSeek 是非常值得称赞的，OpenAI / Anthropic / Google 显然都在用 RL 来提升推理能力上有显著进展，但却没有公开。

观点 3：几乎在所有事情上超过所有人类的 AI 大概率在 2026~27 年实现

• Dario 预言随着技术和硬件的进步，几乎在所有事情上超越所有人类的 AI 很有可能在 2026~27 年实现。无论有没有 DeepSeek 的创新都不影响这个时间点。

• 在此之前，所有前沿 AI 公司都会尽量加大投入，尽力扩大计算。

• 实现这样的 AI 需要数百万颗 Hooper 架构芯片。

• 一旦实现这样的 AI，AI 就能自己产生更强大的 AI，因此谁先能跨入这个零界点，谁就很有可能可以持续保持领先。

OpenAI o1 是在 inference 时增加思维链推理的长度从而获得推理能力，而 R1 是第一个验证了在 post-training 时使用 RL 让千亿参数的模型获得推理能力的研究。在 post-training 阶段使用 RL 一直是业界探索的方向，但难的是如何在这个尺寸的模型下实现成本和时间可控的 RL，之前业界主流的探索方向是 Process Reward Model (PRM) 和 Monte Carlo Tree Search (MCTS)（被传得很神的 OpenAI 的 Q* 据说是 MCTS），这次 DeepSeek 用的是自己研究的一个叫 GRPO 的 RL 框架，论文于 2024 年 2 月发表 arXiv:2402.03300。

第一步：R1-Zero

1. DeepSeek 首先基于 DeepSeek-V3-Base 这个预训练模型，在不使用任何监督数据的情况下仅靠 RL 就训练出极具推理能力的 R1-Zero —— 取名 Zero 暗示了这个模型的推理能力的获得路径类似于不依赖人类棋谱 的 AlphaGo Zero（感觉致敬与炫耀并存）。

   

2. RL 只对 2 种结果做奖励：准确性与格式。准确性很容易理解；格式是指模型必须把思考过程放在 <think/> 标签内，这个点很有趣，并不是传统 CoT 的做法，结果是使得 R1 成为了一种富含推理过程的合成数据源，后续还会讲到用途。

   

3. 有意思的发现：R1-Zero 在没有对于推理步骤长度进行奖励的情况下，发现模型为了在复杂问题下获得更准确的结果，自己自然地增加了推理步骤。

   

4. 有意思的发现：R1-Zero 在思考过程中出现了 “Wait, wait. Wait. That’s an aha moment I can flag here.” 的语句 —— 这也是研究人员的 Aha moment。

   

5. 有意思的发现：R1-Zero 会混合使用多语言来思考（主要是中英），如果为了迎合人类的读性强制模型使用一种语言来思考，则会略微降低模型的表现。

   

6. 在应用 majority voting （我理解为通过采样不同 decode 参数生成多个候选答案后选择最高频作为结果）后，R1-Zero 在数学领域的推理表现直接追平了 o1。

   

第二步：R1

1. 在 R1-Zero 之后再去开发了更具通用性的 R1 是因为：1. 探索能否通过一些高质量的训练数据集作为冷启动，使得相同的 RL 过程最终让模型获得更好的推理表现？2. 让模型在非推理场景也有好的表现，并且让思考与结果对人类更具可读性，让模型获得更广泛的适用性。

   

2. 合成冷启动数据集 —— 60 万条推理数据集：1. 让 R1-Zero （规定格式）生成大量长思考链的合成数据集；2. 取其中可以通过简单规则就判断正确性的数据，如数学答案的数值验证、选择题选项是正确；3. 取可通过 DeepSeek-V3 来和真实结果进行比较校验真实性的数据；4. 过滤掉其中包含

   混合语言、超长段落和代码快的数据。

   

3. 合成冷启动数据集 —— 20 万条非推理数据集：在例如写作、QA、自我认知、翻译 …… 等非推理场景下，沿用了 V3 的 pipeline 和 SFT 数据集约 20 万条。

   

4. 在 DeepSeek-V3-Base 的预训练模型的基础上，先对这大约 80 万条冷启动数据进行 SFT 后，再应用 R1-Zero 的 RL pipeline，让模型在除了数学领域也获得了和 o1 类似的表现。

   

5. 最后为了对齐人类偏好（可读性、安全性）进行了额外一轮的 RL。

对小模型的影响

1. 展示了仅使用 R1 的蒸馏数据作为 SFT 数据集，就能将现有小模型的推理能力获得巨大的提升。报告仅测试了 Qwen 和 Llama，结果是仅在 Qwen2.5-7B 和 Llama3.1-8B 的尺寸上，模型在数学基准上的推理能力就超越了 GPT-4o-0513，也超越了各自的 32B 版本。

   

2. 报告也指出自己在 Qwen2.5-32B 上进行了一样的 RL 训练，但并没有让模型获得推理能力的提升，说明小模型的推理能力（可能受限于模型容量对长推理链的建模能力而）存在明显的上限，提升推理能力的关键是直接学习高质量的富含推理过程的训练数据即可 —— 有点像笨学生最有效提升成绩的办法就是刷题，不太需要知道为什么 🤣

   

Coding 能力

1. 工程上，相比生成一道数学题的答案并验证其是否正确，生成一段代码并运行成功验证结果其稀疏性大了非常多，且非常耗时。因此 R1 在 coding 方面 RL 的训练量目前还非常受限，所以成绩还不突出。

   

2. 不过相信后续可以仅仅通过工程上的调优就能改善，比如过滤一些验证起来非常耗时的代码，以及通过异步验证来提升 RL 过程的效率。

   

对业界的影响

以下部分是私货：

1. 目前，scale law 虽然理论上还 work 但业界大模型的性能都已受限于人类数据都已经用完。在这个时候 R1 的出现指出了一条除了在大幅提升数据量来暴力训练之外获得更智能模型的技术路线，这种级别的技术路线的突破和对人类科技进步可能造成的深渊影响是由一家中国的中型公司做出的，这才是大家最兴奋的点。至于训练降本其实是几个月前 V3 已经实现的，这个虽然也价值巨大，但我觉得目前在传播上被过度放大了，重点并不是这个。R1 已经演示了，目前只需要把优先级放在 RL 上，想办法通过更具效率的 RL 来获得一个强推理能力的旗舰模型，其他问题（比如小模型的性能和高质量合成数据）都能迎刃而解。

2. R1 的技术报告展示的是一个 post-training 的 pipline，并不局限于 DeepSeek 的 base 模型，技术上可以在当今任何类似规模的基底模型上复现，只是 RL 的训练成本可能有差异。而且 R1（以及其基于的 R1-Zero 和 V3-Base）的模型是开放的，相当于给了整个开源社区高质量合成数据的源头以及强大的模拟环境，大家马上就能用 R1/R1-Zero 来在其他模型上做各种调整。

3. R1 只给出了一个比较粗略的技术报告，缺乏过程数据具体如何生成。大家目前都在尝试复现，Hugging Face 就建了一个 open-r1 的项目，尝试从头推导出一个 R1，并将所有代码以及数据集开源，相信很快就有进展，我们可以从完全开源的项目中获得更具体的信息。