端侧推理
-
Decision 3.0 登上苹果芯片：文本、图像与视频决策在一台 Mac 上完成
vLLM Semantic Router 团队宣布 Decision 3.0 已在苹果芯片上运行。
-
Google 开源端侧 GPU 推理引擎 ML Drift：Apache 2.0，统一 OpenGL、Metal 与 WebGPU
Google AI Edge 团队宣布以 Apache 2.0 许可开源 ML Drift――一个高性能、跨平台的端侧 GPU 计算引擎。
