AI 独立研究者

冯俊杰.

专注于深度学习与大规模预训练的前沿研究。致力于探索 Scaling Law 的演进规律,通过数据动力学框架挑战算力瓶颈。

研究方向

架构优化

Transformer 梯度冲突检测及多机环境分布式训练优化。

数据动力学

量化数据分布对预训练 Loss 曲线的影响及动态评估。

集群调优

内核级算子优化与训练流水线构建(A800/H800)。

算法工程

大规模预训练中的数据清洗与自动化筛选流程设计。

研究成果

2026 / PRE-PRINT

Claritas: 预训练数据动力的自动化量化框架

通过量化样本对模型 Loss 的梯度贡献度,实现对预训练数据的实时估值与动态筛选。

×