Thinking Machines Lab近日发布首款产品Tinker API,该产品专为语言模型微调设计。据悉,Tinker可以让用户轻松微调出属于自己的模型,解决了研究者和开发者在SOTA模型上进行实验和定制时面临的分布式训练基础设施难题。用户只需专注于算法和数据,Tinker将处理所有后台工作。
Tinker的核心功能包括采用LoRA技术降低成本,提供底层操作原语,支持微调各种规模的开放权重模型。从小模型切换到大模型仅需修改Python代码中的一个字符串。目前Tinker支持Qwen系列和Llama系列的模型。
Tinker还发布了开源库Tinker Cookbook,包含基于Tinker API运行的各种先进后训练方法代码。目前Tinker处于免费私测阶段,未来几周内将推出基于使用量的定价模型。
据悉,Tinker已在多家研究实验室投入使用,早期采用者包括来自伯克利、普林斯顿、斯坦福等机构的团队。该API支持从经典监督式微调到高度实验性强化学习流水线等多种应用场景。


粤公网安备 44010602000162号
网友评论