智东西 作者 | 黄菲 编辑 | 江宇 智东西10月22日报道,昨夜,前Meta FAIR研究总监田渊栋参与创办的AI初创公司Recursive Superintelligence(以下简称Recursive)推出首款本地编程模型Flint,该模型主打高速推理,在英伟达RTX Spark上的生成速度超过 150 Token/秒 ,在搭载苹果M4 Pro芯片的MacBook Pro上超过 125 Token/秒 ,最高可达同类模型的 2倍 。 ▲Recursive官宣推出Flint模型,图源:X 田渊栋随后在X平台转发了这一消息,并介绍了Flint的四大亮点。 ▲田渊栋发文Flint亮相,图源:X 性能方面,Flint在Terminal-Bench 2.1、SWE-Bench Pro v2和SWE-Bench Verified三项Agent编程基准测试中,分别取得了 54.9%、89.7%和74.2% 的成绩,表现 领先于总参数量低于500亿的其他MoE模型 。 ▲Flint在Terminal-Bench 2.1、SWE-Bench Pro v2和SWE-Bench Verified的表现,图源:Recursive 训练方面,Flint完全从零构建 ,经历了分词器开发、预训练、中期训练、监督微调(SFT)和强化学习(RL)等环节。推理速度方面,Flint最高生成速度可达同类模型的2倍。 值得一提的是, Recursive仅用了4个月,就完成了Flint整套模型训练流程的搭建。 有网友在体验Flint后称,模型能够很好地完成自己交给它的任务,但执行时间比预期更长。此外,该网友还反馈,即使关闭思考模式,模型的回答依然过于冗长。 另一位网友则称,Flint 每Token 仅激活25亿参数 这一点最吸引他。他目前在一台配备48GB内存的M5 Pro设备上运行约50个Agent,系统往往会因内存压力提前终止部分进程,算力反而还没成为瓶颈。因此,他希望Flint能够常驻本地内存、随时调用,接手部分原本由Qwen处理的日常任务,并考虑将其加入自己的模型调度系统。 Flint的亮相,也让其背后的AI初创公司Recursive再次受到关注。 今年5月,Recursive正式公开亮相,并宣布获得 6.5亿美元融资(约合人民币43.68亿元) ,公司估值达到 46.5亿美元(约合人民币312.46亿元) 。 彼时,田渊栋在官宣加入Recursive时就曾提到,其将 递归自我改进(Recursive Self-Improvement,RSI)作为核心研究方向 ,希望让AI系统自主开展实验、持续改进自身,进而推动科学研究自动化。 时隔约5个月,Recursive交出了首款模型Flint。Recursive联合创始人、首席执行官、“提示工程之父”理查德·索赫尔(Richard Socher)也在社交平台X上称,其团队借助自动化研究系统Eureka Machine,从零开发了Flint。 Flint可以直接在用户自己的设备上运行,帮助开发者分析代码库、修复程序错误、实现新功能和编写测试。 ▲Recursive联合创始人兼首席执行官理查德·索赫尔,图源:X 目前,Flint已采用Apache 2.0许可证开源。开发者可以通过Hugging Face获取模型权重,并借助兼容的推理工具在本地部署运行。 开源地址: GitHub: https://github.com/recursive-oss/rec Hugging Face: https://huggingface.co/stepfun-ai/Step-3.5-Flash 一、编程基准表现领先,挑战同规模MoE模型 Flint采用仅解码器的混合专家(Mixture of Experts,MoE)架构, 总参数量为398亿 ,每Token处理时约激活25亿参数。 与每次推理都需要调用全部模型参数的稠密模型相比,MoE架构可以根据输入选择部分专家参与计算,从而减少单次推理需要激活的参数量。 在Terminal-Bench 2.1、SWE-bench Pro v2、SWE-bench Verified、LiveCodeBench v6、IFBench和IFEval这6项基准测试中,Flint BF16版本的平均得分为 80.6分 ,仅次于Qwen3.8的 84.7分 ,高于Muse Glimmer的 74.8分 、Qwen3.6的 71.7分 和Qwen3.5的 68.9分 。 具体来看,Qwen 3.8在Terminal-Bench 2.1和LiveCodeBench v6上分别 领先Flint 18.1和10个百分点 ; Flint则在IFBench和IFEval两项指令遵循测试中领先其他对比模型。 Flint的NVFP4量化版本在6项测试中的平均得分为 80.0分 ,比BF16版本 低0.6分 ;在LiveCodeBench v6测试中,其得分则比BF16版本 高0.5个百分点 。 ▲Flint在编程基准测试中的表现,图源:Recursive 总体来看,Flint的编程表现可以媲美总参数量为 250亿至400亿 的稠密模型,生成速度则是这些模型的 5倍 。 在上下文长度方面, Flint最高支持约51.2万Token的上下文 ,并建议开发者将实际使用长度控制在 25.6万Token 以内,以获得更好的编程效果。 不过,与参数规模更大的闭源编程模型相比,Flint在处理复杂任务时可能需要更明确的指令。Recursive建议开发者将复杂任务拆分为较小的子任务,以提高执行效果。 二、适配本地设备运行,推理速度最高超150 Token/秒 在推理速度方面,Recursive公布的测试数据显示,在配备48GiB内存的苹果M4 Pro设备上,Flint 40B A2B使用MLX推理框架时,短上下文场景下的生成速度达到 131.22 Token/秒 ,约为Qwen3.6 35B A3B(65.55 Token/秒)的 2倍 、Nemotron 3.5 Lightning 30B A3B(58.00 Token/秒)的 2.3倍 ,也明显快于Muse Glimmer 30B(14.54 Token/秒)。 在英伟达RTX Spark上,Flint NVFP4版本的生成速度达到 155.82 Token/秒 。 ▲Recursive公布的Flint推理速度,图源:Recursive 针对不同硬件,Recursive还优化了专用计算内核。这些优化使Flint在RTX Spark上的 生成速度提升55% ,且无需修改模型权重。 Recursive还推出了 自研推理引擎rec ,用于在本地运行其语言模型。 官方测试显示,在配备48GB内存的苹果M4 Pro设备上,使用4 bit量化模型时,rec的Token生成速度达到llama.cpp的 1.4至2.6倍 。 该测试覆盖了1K至252K Token的不同输入长度,每次生成1024 Token,各组测试均重复运行5次,统计结果不包含提示词预填充阶段的耗时。 ▲推理引擎rec与llama.cpp在苹果M4 Pro上的Token生成吞吐量对比,图源:GitHub 在部署方面,Flint支持通过SGLang、Ollama和LM Studio等工具在本地运行。 模型支持离线使用,开发者可以根据自身硬件条件选择合适的运行方式,减少对远程服务的依赖。 三、自动化系统参与研发,优化模型架构与推理效率 Recursive在Flint的开发过程中,通过持续实验、评估和迭代优化,不断提高模型训练和推理效率。 该公司自研的自动化研究系统Eureka Machine能够自动提出研究方案、编写实现代码并开展实验,再根据实验结果决定下一步尝试方向。该系统还可以并行探索多条技术路线,利用此前实验结果调整后续方案,并组合不同方案中的有效改进。 其团队借助自动化研究系统Eureka Machine,在不到4个月的时间内从零开发了Flint。在研发过程中,Eureka Machine还参与了训练数据处理、优化器选择和训练方案设计,并对模型基础设施与推理性能进行优化。 模型架构调整就是一个例子。 Recursive最初测试的基准方案总参数量为350亿,每Token激活30亿参数。随后,该自动化研究系统Eureka Machine探索了不同的专家配置和网络宽度,最终选出总参数量约400亿、每Token激活约25亿参数的架构。 Recursive认为,这一方案在其测试过的配置中,更好地兼顾了运行速度与编程能力。 模型训练完成后,该系统又继续优化模型占用的内存和推理效率。 在量化环节,Eureka Machine尝试将模型输出层的 参数精度压缩至4位 ,并 加入离线蒸馏步骤 ,以弥补低精度处理可能造成的性能损失。最终采用NVFP4格式的模型,在其基准测试中的得分与16位精度版本 相差不到0.7分 。 Recursive的模型训练时间优化实验经历了 6轮 迭代,训练耗时从最初的 141.5秒逐步降至77.5秒 ,整体 缩短约45% 。最后一轮采用递归优化方案,将训练耗时进一步压缩至77.5秒, 较此前纪录快2.2秒 ,创下该组实验的新低。 ▲Eureka Machine优化模型训练耗时的实验结果,图源:Recursive Recursive希望将这种研发方式延伸至后续模型开发,让每一代模型的研发成果反过来提高Eureka Machine的研究能力,进而加快下一代模型的开发。 四、八位AI大牛联手创业,三位华人坐镇创始团队 Recursive于2026年
AI