GitHubDaily (@GitHub_Daily) “在 Mac 上跑本地大模型，系统自带的活动监视器看不到神经网络引擎和内存带宽的数据。” — TopicDigg
GitHubDaily
@GitHub_Daily
加入 May 2023
0 正在关注 0 粉丝
在 Mac 上跑本地大模型，系统自带的活动监视器看不到神经网络引擎和内存带宽的数据。
于是找到 SiliconScope，一款专为 Apple Silicon 芯片打造的原生系统监控工具。
补上了缺失的关键指标，直接把神经网络引擎、媒体引擎的功耗以及内存带宽的实时数据可视化。
GitHub：
内置 AI 负载分析功能，可直接告诉我们本地大模型当前的瓶颈在哪，是带宽不够、算力不足还是温度降频。
还能把 CPU、GPU、温度、电池等指标单独钉在菜单栏，每个都有独立的实时图表和下拉详情，可以替代 iStat Menus 工具。
工具提供了打包好的开箱即用安装包，下载后拖进应用程序就能直接运行。
显示更多
