WEKA发布NeuralMesh架构,通过并行文件系统软件变革加速大规模AI应用。该架构采用微服务构建动态连接的节点网格,解决传统存储在分布式AI训练和推理环境中的规模、延迟和并发需求。NeuralMesh可提供微秒级延迟保证,随规模扩展而增强弹性,硬件故障时可在分钟内重建。系统支持从TB到EB的容量扩展,在genomics研究机构实现从2PB到12PB的无停机扩容。
Nvidia 推出 NeMo 微服务,将 AI 智能体嵌入企业流程,实现数据采集、模型更新和安全管控;研究显示,近半数企业 AI 投资仅带来微小改善,但大部分获得良好 ROI。
英伟达为其 NeMo Guardrails 软件工具新增了 AI 防护微服务,旨在提高企业代理型 AI 应用的准确性、安全性和控制力。这些微服务包括内容安全、话题控制和越狱检测,有助于解决 IT 领导者在采用代理型 AI 技术时的主要顾虑,为 AI 应用部署提供更好的治理和保障。
英伟达推出新的推理微服务,旨在帮助企业开发可信、安全的 AI 代理。这些微服务包括主题控制、内容安全和越狱保护,可优化大型语言模型的响应,提高应用性能。此举将帮助企业更安全、可靠地部署生成式 AI 模型,解决 AI 代理在信任、安全等方面的关键问题。
Traefik,作为一款云原生环境下流行的反向代理和负载均衡器,以其动态配置、智能路由和卓越性能,为构建高性能 AI 网关提供了强大的支持。
中科江南结合在财政信息化领域的经验,研发了基于微服务架构的财政预算管理一体化系统。