MLOps

AI 智能体正在迅速超越聊天。它们检查代码、运行测试、阅读文档、搜索知识库、查询内部系统，并代表用户运行几个小时。这样不仅可以提高工作效率，

随着上下文窗口变长，高效移动大型模型权重对性能至关重要。解决此问题的常用方法是量化，这是一种将模型权重压缩为较小数据格式的优化技术。