2026年11月8日,微软副总裁斯科特·汉塞尔曼在GitHub平台正式开源一款名为gputaskman的GPU任务管理工具。该工具兼容Windows、Linux与macOS三大操作系统,能够以进程为单位实时呈现GPU利用率、显存占用量及活跃运行时环境等关键指标,并特别针对人工智能与大语言模型类工作负载提供深度解析能力。
当用户选中llama-server.exe进程时,界面底部信息栏即刻显示当前加载的模型名称为Qwen3-0.6B,并进一步展开呈现模型权重分布、KV缓存使用情况、参数总量等技术细节。这意味着本地部署大模型的用户无需切换多个监控工具,即可在一个界面内完成全链路资源可视化的操作。
目前该工具最新版本为v0.3.0,已提供Windows便携式安装包供直接下载。开发者亦在公开交流中提到,此类GPU监控功能有望在未来成为Windows操作系统原生支持的一部分。

评论
更多评论