中关村在线

热点资讯

微软开源跨平台GPU任务管理工具gputaskman,深度支持大模型本地监控

2026年11月8日,微软副总裁斯科特·汉塞尔曼在GitHub平台正式开源一款名为gputaskman的GPU任务管理工具。该工具兼容Windows、Linux与macOS三大操作系统,能够以进程为单位实时呈现GPU利用率、显存占用量及活跃运行时环境等关键指标,并特别针对人工智能与大语言模型类工作负载提供深度解析能力。

当用户选中llama-server.exe进程时,界面底部信息栏即刻显示当前加载的模型名称为Qwen3-0.6B,并进一步展开呈现模型权重分布、KV缓存使用情况、参数总量等技术细节。这意味着本地部署大模型的用户无需切换多个监控工具,即可在一个界面内完成全链路资源可视化的操作。

目前该工具最新版本为v0.3.0,已提供Windows便携式安装包供直接下载。开发者亦在公开交流中提到,此类GPU监控功能有望在未来成为Windows操作系统原生支持的一部分。

展开全文
人赞过该文 赞
内容纠错

相关电商优惠

评论

更多评论
还没有人评论~ 快来抢沙发吧~

读过此文的还读过

点击加载更多

内容相关产品

说点什么吧~ 0

发评论,赚金豆

收藏 0 分享
首页查报价问答论坛下载手机笔记本游戏硬件数码影音家用电器办公打印 更多

更多频道

频道导航
辅助工具