王荣柴
2025 年 10 月 10 日 15:57
Together.ai 推出 ATLAS，这是一个通过适应工作负载来增强 LLM 推理速度的系统，在 DeepSeek-V3.1 上实现了 500 TPS。
Together.ai 推出的自适应学习推测器系统 (ATLAS) 标志着利用运行时学习加速器在大语言模型 (LLM) 推理领域取得了重大进步。这一创新系统旨在提高法学硕士推理过程的效率，在适应用户工作负载时显着提高速度。
LLM 推理的增强
ATLAS 旨在在 DeepSeek-V3.1 模型上提供令人印象深刻的每秒 500 笔交易 (TPS)，与基准性能相比，速度提高了四倍。这是无需手动调整即可实现的，对于寻求优化其 LLM 操作的用户而言，它是一个高效的解决方案。
持续适应工作负载
ATLAS 的突出特点之一是它能够持续适应不同的工作负载。此功能可确保 LLM 推理过程随着持续使用而逐渐变得更快。据 Together.ai 称，这种功能对于保持高性能水平至关重要，而无需频繁进行手动调整。
对人工智能和机器学习的影响
ATLAS 的推出可能会对人工智能和机器学习领域产生深远的影响。通过简化法学硕士推理过程并减少人工干预的需要，ATLAS 可以更有效地利用计算资源，从而有可能带来人工智能技术更广泛的应用和创新。
如需进一步了解 ATLAS 及其功能，请访问 Together.ai 网站。
图片来源：Shutterstock
关键词：人工智能,加密,区块链,新闻
