Poketto

来自不同空间的记录

今天,发现一点新东西。

随意翻翻,也许会遇见想要留下的一页。

全部#NCP

正在发现「NCP」相关内容。

愚者目录

NCP-ArchPreview:大模型开始自己「打草稿」

上海 AI Lab 和上海交大发布 89 亿参数模型 NCP-ArchPreview。普通大模型主要训练「猜下一个 token」,NCP 还会预测后面一小段对应的内部概念信号,再用它辅助 token 生成。最终仍然逐 token 输出,但模型内部已经会提前猜后文。 这套信号还能拿来给投机解码提速。DFlash、DSpark 这类方案会让一个小模型先猜后文,再交给大模型统一检查。NCP 团队把内部概念信号也交给这个小模型,相当于先给它一点「后面大概怎么写」的提示,再让它一次并行