Lume Metal 能力 Shimming 实战在 Apple Silicon 虚拟机中解锁 llama.cpp 原生推理加速M1 Ultra 基准验证全记录【免费下载链接】cuaScale computer-use 2.0 with open-source drivers, cross-OS fleets, and benchmarks for training, evaluation, and data generation.项目地址: https://gitcode.com/GitHub_Trending/cua/cua导读在 macOS 虚拟机中运行大模型推理性能往往与宿主机相差一个数量级核心瓶颈之一是 paravirtualized Metal 设备向访客暴露的 GPU 能力不完整导致 llama.cpp 等推理框架无法走上原生 GPU 快速路径。本文基于 Cua 开源仓库中 Lume 项目的metal-capability-shimMetal 能力垫片及其 2026-08-09 在 Apple M1 Ultra 宿主机 / Tahoe 访客上的完整验证记录介绍如何通过进程级注入的方式安全提升访客报告的 Metal Apple GPU Family 与线程组内存上限使 llama.cpp 在虚拟化环境中的 prompt 处理吞吐恢复至接近宿主机水平并给出完整的环境、构建、运行、验证与数据解读方案。一、问题背景虚拟机里的 Metal 能力为什么成为推理瓶颈在 libs/lume/metal-capability-shim/README.md 中可以看到 Lume 对这一问题给出的技术定性macOS 虚拟机内的 GPU 命令仍然走 Apple 的 paravirtualized graphics 路径——shim 不会把物理设备透传给访客、不会打补丁宿主机、也不会修改访客内核。它只是在进程作用域内改变访客中 Metal 设备对象对若干 capability 查询的回答。具体到推理性能llama.cpp 的 Metal 后端在启动时会通过supportsFamily:等查询决定是否启用新一代 GPU 家族对应的快速 kernel 路径并通过maxThreadgroupMemoryLength决定 kernel 可用的线程组共享内存上限。而 paravirtualized 设备在默认情况下对这些查询的回答偏保守从本次验证记录看Stock 访客下supportsFamily:1009Apple 9 家族返回false线程组内存上限仅为 32,768 字节32 KB。这直接导致推理框架回退到通用较慢的 kernel 路径。2026-08-09 的这份 M1 Ultra 验证给出了量化差距来自 README.md 与 results.csvWorkloadBare-metal hostStock guestSafe-shim guestGuest speedupShim/hostTinyLlama 1.1B Q4_K_M, pp5124,871.99 tok/s431.86 tok/s4,786.70 tok/s11.08×98.25%TinyLlama 1.1B Q4_K_M, tg128286.71 tok/s12.63 tok/s206.60 tok/s16.36×72.06%也就是说同样的 TinyLlama 1.1B 模型、同样的 512 token prompt仅凭一个安全的 capability shim访客的 prompt 处理吞吐从 431.86 tok/s 提升到 4,786.70 tok/s11.08 倍达到裸金属宿主机的 98.25%token 生成tg128从 12.63 tok/s 提升到 206.60 tok/s16.36 倍达到宿主机的 72.06%。这正是报告的能力不等于真实硬件能力、但足以让框架选择更快代码路径的典型收益。数值说明表格中的值均为llama-bench对每个 workload 输出的 10 个samples_ts的中位数median。该细节见 README.md 的Result一节原 JSON 文件保留在同目录下。二、验证环境的完整可复现清单所有环境信息均记录在 metadata.md这是还原实验、对照结果的第一手依据2.1 宿主机Host项目值机型Mac13,2芯片Apple M1 Ultra48 核 GPUCPU20 核内存128 GiBmacOS26.6.125G76MetalMetal 42.2 访客Guest项目值镜像ghcr.io/trycua/macos-tahoe-cua:latestPulled manifestsha256:ed1783e80e08e888889b54a8c0387105a37fbcfc995079f76db48e2280081487macOS26.5.225F84虚拟硬件VirtualMac2,1CPU / 内存8 vCPU / 16 GiBSIP测试镜像中已禁用disabledLume0.5.1官方 Developer ID 签名并公证notarized的 release2.3 基准 workload 与二进制指纹llama.cpp 部分对应 metadata.mdllama.cpp官方 releaseb10167build commitee3d1b54cllama-benchSHA-25628faa552714d0d8150b1daa4e991181d62084c88e25afe9d49d08351794f0da7模型tinyllama-1.1b-chat-v1.0.Q4_K_M.ggufSHA-2569fecc3b3cd76bba89d504f29b616eedf7da85b96540e490ca5824d3f7d2776a0命令llama-bench -p 512 -n 128 -r 10 -t 8 -ngl -1 -o json-p 512512 个 prompt token-n 128生成 128 个 token-r 10重复 10 次取中位数-t 88 线程-ngl -1全部层 offload 到 GPU从原始 JSONtiny-safe-shim-10x-final.json还能看到更多实现细节gpu_info为Apple Paravirtual device、backends为MTL,BLAS、模型参数量约 11 亿model_n_params: 1100048384、KV cache 精度f16、batch 2048 / ubatch 512、load_mode: mmap。其中samples_ts数组即 README 所述中位数的来源。MLX-LM 部分benchmark-mlx-lm.pyPython 3.12.13、MLX 0.32.0、MLX-LM 0.31.3模型mlx-community/Llama-3.2-3B-Instruct-4bitrevision7f0dc925e0d0afb0322d96f9255cfddf2ba5636e配置512 prompt token / 128 生成 token / 10 次重复 / seed 42 / 禁用 EOS 停止Harness SHA-2561daee0e796a62744c1288ea77b29de07d6f2a92434a35c5cf1b261c725aacee42.4 Shim 二进制与激活方式Safe-profile 产物 revision5336ee9b61f35ffa058c746af237cb334e58bab9激活DYLD_INSERT_LIBRARIESarm64 dylib LUME_METAL_APPLE_FAMILY_MAX1009关键哈希完整清单见 metadata.md源码 SHA-256a0d055caa64afe60d1139ded329d4062f271ab6f1a7f24e6f5738a6f3da4fd40arm64dylib515b9d84ab67e86d959282e95c194a5ad8a947261514b947d6f7483c57797b31arm64edylib62504be341ed74191eab22f19e21d99b2afbe6cc029902c760578ffbbd0588cb三、Shim 的设计边界只改 Apple Family绝不越界在动手之前先理解这个 shim 能做什么、不能做什么这直接决定了它为什么叫safe shim。来自 README.md 的边界声明启动产物刻意保持窄只提升 Apple GPU family 的报告支持范围通过一个配置上限与线程组内存上限不改动Common、Mac、Metal family 区间不包含任何私有 feature-profile hook、时钟插值clock interposition、mesh-draw 替换、ray-tracing 覆盖或 pipeline 编译回退。对照源码 LumeMetalCapabilities.m 可以验证这些声明Fail-closed 的配置加载loadConfigurationparseUnsignedEnvironmentValueLumeMetalCapabilities.mLUME_METAL_APPLE_FAMILY_MAX必须存在且落在[1001, 2000)区间缺失、为 0、超出 Apple family 区间或格式非法strtoull解析失败/尾随垃圾字符都会让 shim 直接保持进程不变——这就是 README 中malformedLUME_METAL_APPLE_FAMILY_MAX产生 stock 结果确认 fail-closed 激活的源码依据。只抬高不压低LumeMetalCapabilities.mhookMaxThreadgroupMemoryLengthoriginal maxThreadgroupMemory时才返回配置值否则保留原值hookSupportsFamily仅当family 1001 family appleFamilyMax时额外返回true其余 family 一律沿用设备原始回答hookRecommendedMaxWorkingSetSize同理仅在显式设置时参与。在正确的时机挂钩通过构造函数__attribute__((constructor))在进程启动早期解析配置挂钩私有类_MTLDevice的initGPUFamilySupport在该方法执行前调用installDeviceHooks替换supportsFamily:、maxThreadgroupMemoryLength、recommendedMaxWorkingSetSize三个实例方法的实现再调用原始实现继续初始化LumeMetalCapabilities.m。方法缺失即放弃如果_MTLDevice上找不到必要的方法maxThreadgroupMemoryLength/supportsFamily:以及设置了 working-set 时的recommendedMaxWorkingSetSizeshim 打印日志并保持 stock 能力不变installDeviceHooks中的 early return。这种只改 Apple family 区间、fail-closed、只抬不压的设计是它与此前更激进的 research hook 的关键区别也是本次验证中 MLX-LM 能保持稳定工作的原因见第五节。四、构建、验证与打包发布4.1 构建在 Apple Silicon 上安装 Xcode Command Line Tools 后./Scripts/build.sh ./Scripts/verify.sh脚本产出arm64与arm64e两个 dylib、SHA256SUMS校验清单和一个小型 capability 探针位于dist/。务必记录 Xcode 版本、SDK、源码 revision、检出路径与产物哈希——因为工具链与构建环境细节会改变二进制字节。证据匹配的 M1 Ultra/Tahoe release 二进制使用 Command Line Tools 26.4。当安装了匹配工具链时可按 Release/PROVENANCE.md 的规范复现DEVELOPER_DIR/Library/Developer/CommandLineTools ./Scripts/build.sh ./Scripts/verify.sh --no-buildPROVENANCE.md给出了完整的工具链指纹Command Line Toolscom.apple.pkg.CLTools_Executables26.4.0.0.1774242506、Apple clang 21.0.0clang-2100.0.123.102、SDK 26.4、deployment target 13.0、linker 1266.8。二进制 inspect 结果显示两个 dylib 均为 thin 架构、69,456 字节、ad-hoc 签名install name 为rpath/LumeMetalCapabilities.dylib。4.2 验证脚本做了什么verify.sh 的检查项恰好对应安全边界承诺lipo -verify_arch校验两个 dylib 的架构分别为arm64、arm64ecodesign --verify --strict校验签名strings黑名单扫描拒绝任何包含 research 专属行为标记的产物包括GPU_HOOK_TIME_SCALE、mach_absolute_time、clock_gettime、gettimeofday、MESH_FALLBACK、IGNORE_ARGTYPE、SYNC_COMPUTE时钟/时序插值与 mesh/参数布局/pipeline 回退类逻辑第二组strings扫描拒绝LUME_METAL_FEATURE_PROFILE、featureProfile、LUME_METAL_FAMILY_MAX宽泛 profile 行为shasum -a 256 -c SHA256SUMS校验哈希清单。4.3 打包 releaseScripts/package-release.sh ARTIFACT_DIR RELEASE_DIR会将已验证的二进制集、冻结源码归档git archive自 revisiond9554541生成LumeMetalCapabilities-source-d9554541.tar.gz与已提交的校验清单打包到 release 目录并且拒绝覆盖任何已存在的 release 输出随后自动调用verify.sh --no-build复验。release 资产有意不提交到dist/目录下。五、运行方式进程级激活与关键环境变量5.1 单进程激活选择与目标进程架构匹配的 dylib测试 profile 使用 Apple family 上限1009Apple 9与 64 KB 上报线程组内存DYLD_INSERT_LIBRARIES/path/to/LumeMetalCapabilities-arm64.dylib \ LUME_METAL_APPLE_FAMILY_MAX1009 \ ./metal-capabilities 1009LUME_METAL_APPLE_FAMILY_MAX是必填项。缺失、为 0、超出 Apple family 区间或格式非法时库保持进程不变fail-closed。其余控制变量均可选变量默认值行为LUME_METAL_MAX_THREADGROUP_MEMORY65536将上报的最大线程组内存抬高到至少该字节数LUME_METAL_RECOMMENDED_WORKING_SET_SIZE不变仅当显式设置时抬高推荐 working-set 大小shim 只改变 Apple family 区间1001到配置上限内的supportsFamily:回答保留设备对 Common、Mac、Metal 及未知 family 的原始回答。报告的能力不等于所有使用该能力的 Metal API 都能正常工作——只能在经过测试的 workload 与 host/guest 组合下使用这些控制项。5.2 Capability 探针验证激活是否生效可用 Tests/metal-capabilities.m 编译出的metal-capabilities探针接受可选 family 参数默认 1009它依次打印设备名、目标 family、supports_family布尔值与max_threadgroup_memory。本次验证的探针结果来自 README.mdCapabilityStockSafe shimsupportsFamily:1009falsetrueMaximum threadgroup memory32,768 bytes65,536 bytes同时tiny-hooked-minimal/candidate-hooked-smoke等早期文件使用的是已被取代的宽泛 profile仅作为开发历史保留不作为头条证据最终 10 次重复的 llama.cpp 与 MLX-LM 运行使用 Apple-family-only 候选5336ee9b61f35ffa058c746af237cb334e58bab9。5.3 移除移除非常简单从 workload 环境中删掉DYLD_INSERT_LIBRARIES与所有LUME_METAL_*变量重启该 workload 即可。shim 不做任何持久的系统改动。六、MLX-LM 兼容性验证为什么发布版只改 Apple family6.1 结果无实质性能变化但功能保持正常用 MLX-LM 0.31.3 MLX 0.32.0 Llama-3.2-3B-Instruct-4bit同一 512 token prompt、128 token 生成各重复 10 次WorkloadStock guestSafe-shim guestRatioPrompt processing1,656.55 tok/s1,665.47 tok/s1.005×Token generation172.09 tok/s170.86 tok/s0.993×safe profile 对 MLX-LM 没有造成实质速度变化同时确认 MLX-LM 仍然可正常运行benchmark harness 见 Tests/benchmark-mlx-lm.py它固定了 seed、warmup 与 10 次重复采样输出 median 与 peak memory。6.2 负面对照组宽泛 profile 为什么被否决关键证据在 mlx-broad-profile-failure.stderr一个更宽泛的研究 profile日志显示familyMax5001 featureProfile10在 MLX 设备初始化阶段直接崩溃[LumeMetalCapabilities] Enabled for python (familyMax5001 featureProfile10 maxThreadgroupMemory65536) RuntimeError: [metal::Device] Unable to construct residency set.原因README 已说明该宽泛 profile 会额外上报MTLGPUFamilyMetal3而 MLX 会依据这个回答去请求创建 residency set但paravirtualized 设备无法创建 MLX 在该路径下请求的 residency set导致初始化失败。这正是发布 shim只改 Apple family 回答的直接原因——窄到刚好触发 llama.cpp 的快速路径又不至于让 MLX 走入虚拟化设备撑不住的代码路径。这一组对照实验safe shim 正结果 broad profile 负结果也是评估这类 capability 垫片价值的标准方法先量化瓶颈路径再以最小能力增量为目标设计 profile并用至少两个独立推理框架做正反验证。七、结果解读、使用边界与注意事项7.1 本次验证证明了什么、不证明什么按 README.md 的 Important scope 原文本运行证明精简后的 shim 无需私有 feature-profile hook也无需 research hook 的 timing、mesh、ray-tracing、argument-layout 或 pipeline fallback即可激活 llama.cpp 的目标快速路径它不验证所有 Metal 特性或所有 workload官方llama.cpp b10167release 二进制的 SHA-256 与历史 handoff 二进制不同这份证据系列必须与 M5 表格分开看待——它是独立于历史 M5 Max 基准集合的全新 stock-vs-safe-shim 验证绝不能表述为对 M5 绝对数值的复现。7.2 兼容性风险来自 README.md该代码依赖 macOS 访客中私有且随版本敏感的 Metal 实现细节Apple 可能在任意 macOS 版本中更改保持激活范围限于单进程独立测试每个 host/guest 版本组合遇到私有类或方法缺失一律视为不支持不要通过上报MTLGPUFamilyMetal3来扩宽 profile原因见第六节。7.3 证据文件地图本次验证的全部原始数据均保留在 evidence/lume-metal-capability-shim/2026-08-09-m1-ultra/ 目录可直接复阅README.md结论表、能力探针表、scope 声明metadata.mdhost/guest/workload/shim 的完整环境与哈希results.csv两条 llama.cpp 与两条 MLX-LM workload 的结构化汇总tiny-safe-shim-10x-final.json/mlx-stock-10x.json/mlx-safe-shim-10x.jsonREADME 中位数发布的原始数据源mlx-broad-profile-failure.stderr否决宽泛 family 策略的负面对照SHA256SUMS与tiny-*/candidate-*等历史文件完整性校验与开发历史。若想继续追溯实现与流程可依次阅读 Sources/LumeMetalCapabilities.m、Scripts/verify.sh、Scripts/package-release.sh、Release/PROVENANCE.md以及相邻证据集 2026-08-10-m1-ultra-gemma4Gemma 4 12B 验证。八、可复现验证清单Checklist将以上内容收敛为一份可直接照做的验证清单准备 Apple Silicon 宿主机与 macOS 虚拟机本证据使用 M1 Ultra Tahoe 访客SIP 需在测试镜像中禁用在宿主机记录 Metal 4 / macOS 版本 / 芯片型号在访客记录VirtualMac2,1、vCPU、内存、Lume 版本固定 workload 二进制llama.cpp b10167 tinyllama-1.1b-chat-v1.0.Q4_K_M.gguf记录 SHA-256MLX-LM 0.31.3 MLX 0.32.0 Llama-3.2-3B-Instruct-4bitrevision 固定用 Command Line Tools 26.4 构建 shim运行verify.sh通过黑名单与哈希检查依次运行三组基准并各取 10 次重复中位数bare-metal host → stock guest → safe-shim guest用metal-capabilities 1009探针确认supportsFamily:1009true与 65,536 字节线程组内存复现负面对照宽泛 profilefamilyMax5001在 MLX 下应出现Unable to construct residency set以此论证窄 profile 的必然性保留全部 JSON / stderr / CSV / SHA256SUMS 作为证据并记录 toolchain 指纹以支持字节级复现本项目在 2026-08-10 用独立本地构建集完成了 dylib 与探针的 byte-for-byte 复现。【免费下载链接】cuaScale computer-use 2.0 with open-source drivers, cross-OS fleets, and benchmarks for training, evaluation, and data generation.项目地址: https://gitcode.com/GitHub_Trending/cua/cua创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考 Lume Metal 能力 Shimming 实战：在 Apple Silicon 虚拟机中解锁 llama.cpp 原生推理加速（M1 Ultra 基准验证全记录）
Lume Metal 能力 Shimming 实战在 Apple Silicon 虚拟机中解锁 llama.cpp 原生推理加速M1 Ultra 基准验证全记录【免费下载链接】cuaScale computer-use 2.0 with open-source drivers, cross-OS fleets, and benchmarks for training, evaluation, and data generation.项目地址: https://gitcode.com/GitHub_Trending/cua/cua导读在 macOS 虚拟机中运行大模型推理性能往往与宿主机相差一个数量级核心瓶颈之一是 paravirtualized Metal 设备向访客暴露的 GPU 能力不完整导致 llama.cpp 等推理框架无法走上原生 GPU 快速路径。本文基于 Cua 开源仓库中 Lume 项目的metal-capability-shimMetal 能力垫片及其 2026-08-09 在 Apple M1 Ultra 宿主机 / Tahoe 访客上的完整验证记录介绍如何通过进程级注入的方式安全提升访客报告的 Metal Apple GPU Family 与线程组内存上限使 llama.cpp 在虚拟化环境中的 prompt 处理吞吐恢复至接近宿主机水平并给出完整的环境、构建、运行、验证与数据解读方案。一、问题背景虚拟机里的 Metal 能力为什么成为推理瓶颈在 libs/lume/metal-capability-shim/README.md 中可以看到 Lume 对这一问题给出的技术定性macOS 虚拟机内的 GPU 命令仍然走 Apple 的 paravirtualized graphics 路径——shim 不会把物理设备透传给访客、不会打补丁宿主机、也不会修改访客内核。它只是在进程作用域内改变访客中 Metal 设备对象对若干 capability 查询的回答。具体到推理性能llama.cpp 的 Metal 后端在启动时会通过supportsFamily:等查询决定是否启用新一代 GPU 家族对应的快速 kernel 路径并通过maxThreadgroupMemoryLength决定 kernel 可用的线程组共享内存上限。而 paravirtualized 设备在默认情况下对这些查询的回答偏保守从本次验证记录看Stock 访客下supportsFamily:1009Apple 9 家族返回false线程组内存上限仅为 32,768 字节32 KB。这直接导致推理框架回退到通用较慢的 kernel 路径。2026-08-09 的这份 M1 Ultra 验证给出了量化差距来自 README.md 与 results.csvWorkloadBare-metal hostStock guestSafe-shim guestGuest speedupShim/hostTinyLlama 1.1B Q4_K_M, pp5124,871.99 tok/s431.86 tok/s4,786.70 tok/s11.08×98.25%TinyLlama 1.1B Q4_K_M, tg128286.71 tok/s12.63 tok/s206.60 tok/s16.36×72.06%也就是说同样的 TinyLlama 1.1B 模型、同样的 512 token prompt仅凭一个安全的 capability shim访客的 prompt 处理吞吐从 431.86 tok/s 提升到 4,786.70 tok/s11.08 倍达到裸金属宿主机的 98.25%token 生成tg128从 12.63 tok/s 提升到 206.60 tok/s16.36 倍达到宿主机的 72.06%。这正是报告的能力不等于真实硬件能力、但足以让框架选择更快代码路径的典型收益。数值说明表格中的值均为llama-bench对每个 workload 输出的 10 个samples_ts的中位数median。该细节见 README.md 的Result一节原 JSON 文件保留在同目录下。二、验证环境的完整可复现清单所有环境信息均记录在 metadata.md这是还原实验、对照结果的第一手依据2.1 宿主机Host项目值机型Mac13,2芯片Apple M1 Ultra48 核 GPUCPU20 核内存128 GiBmacOS26.6.125G76MetalMetal 42.2 访客Guest项目值镜像ghcr.io/trycua/macos-tahoe-cua:latestPulled manifestsha256:ed1783e80e08e888889b54a8c0387105a37fbcfc995079f76db48e2280081487macOS26.5.225F84虚拟硬件VirtualMac2,1CPU / 内存8 vCPU / 16 GiBSIP测试镜像中已禁用disabledLume0.5.1官方 Developer ID 签名并公证notarized的 release2.3 基准 workload 与二进制指纹llama.cpp 部分对应 metadata.mdllama.cpp官方 releaseb10167build commitee3d1b54cllama-benchSHA-25628faa552714d0d8150b1daa4e991181d62084c88e25afe9d49d08351794f0da7模型tinyllama-1.1b-chat-v1.0.Q4_K_M.ggufSHA-2569fecc3b3cd76bba89d504f29b616eedf7da85b96540e490ca5824d3f7d2776a0命令llama-bench -p 512 -n 128 -r 10 -t 8 -ngl -1 -o json-p 512512 个 prompt token-n 128生成 128 个 token-r 10重复 10 次取中位数-t 88 线程-ngl -1全部层 offload 到 GPU从原始 JSONtiny-safe-shim-10x-final.json还能看到更多实现细节gpu_info为Apple Paravirtual device、backends为MTL,BLAS、模型参数量约 11 亿model_n_params: 1100048384、KV cache 精度f16、batch 2048 / ubatch 512、load_mode: mmap。其中samples_ts数组即 README 所述中位数的来源。MLX-LM 部分benchmark-mlx-lm.pyPython 3.12.13、MLX 0.32.0、MLX-LM 0.31.3模型mlx-community/Llama-3.2-3B-Instruct-4bitrevision7f0dc925e0d0afb0322d96f9255cfddf2ba5636e配置512 prompt token / 128 生成 token / 10 次重复 / seed 42 / 禁用 EOS 停止Harness SHA-2561daee0e796a62744c1288ea77b29de07d6f2a92434a35c5cf1b261c725aacee42.4 Shim 二进制与激活方式Safe-profile 产物 revision5336ee9b61f35ffa058c746af237cb334e58bab9激活DYLD_INSERT_LIBRARIESarm64 dylib LUME_METAL_APPLE_FAMILY_MAX1009关键哈希完整清单见 metadata.md源码 SHA-256a0d055caa64afe60d1139ded329d4062f271ab6f1a7f24e6f5738a6f3da4fd40arm64dylib515b9d84ab67e86d959282e95c194a5ad8a947261514b947d6f7483c57797b31arm64edylib62504be341ed74191eab22f19e21d99b2afbe6cc029902c760578ffbbd0588cb三、Shim 的设计边界只改 Apple Family绝不越界在动手之前先理解这个 shim 能做什么、不能做什么这直接决定了它为什么叫safe shim。来自 README.md 的边界声明启动产物刻意保持窄只提升 Apple GPU family 的报告支持范围通过一个配置上限与线程组内存上限不改动Common、Mac、Metal family 区间不包含任何私有 feature-profile hook、时钟插值clock interposition、mesh-draw 替换、ray-tracing 覆盖或 pipeline 编译回退。对照源码 LumeMetalCapabilities.m 可以验证这些声明Fail-closed 的配置加载loadConfigurationparseUnsignedEnvironmentValueLumeMetalCapabilities.mLUME_METAL_APPLE_FAMILY_MAX必须存在且落在[1001, 2000)区间缺失、为 0、超出 Apple family 区间或格式非法strtoull解析失败/尾随垃圾字符都会让 shim 直接保持进程不变——这就是 README 中malformedLUME_METAL_APPLE_FAMILY_MAX产生 stock 结果确认 fail-closed 激活的源码依据。只抬高不压低LumeMetalCapabilities.mhookMaxThreadgroupMemoryLengthoriginal maxThreadgroupMemory时才返回配置值否则保留原值hookSupportsFamily仅当family 1001 family appleFamilyMax时额外返回true其余 family 一律沿用设备原始回答hookRecommendedMaxWorkingSetSize同理仅在显式设置时参与。在正确的时机挂钩通过构造函数__attribute__((constructor))在进程启动早期解析配置挂钩私有类_MTLDevice的initGPUFamilySupport在该方法执行前调用installDeviceHooks替换supportsFamily:、maxThreadgroupMemoryLength、recommendedMaxWorkingSetSize三个实例方法的实现再调用原始实现继续初始化LumeMetalCapabilities.m。方法缺失即放弃如果_MTLDevice上找不到必要的方法maxThreadgroupMemoryLength/supportsFamily:以及设置了 working-set 时的recommendedMaxWorkingSetSizeshim 打印日志并保持 stock 能力不变installDeviceHooks中的 early return。这种只改 Apple family 区间、fail-closed、只抬不压的设计是它与此前更激进的 research hook 的关键区别也是本次验证中 MLX-LM 能保持稳定工作的原因见第五节。四、构建、验证与打包发布4.1 构建在 Apple Silicon 上安装 Xcode Command Line Tools 后./Scripts/build.sh ./Scripts/verify.sh脚本产出arm64与arm64e两个 dylib、SHA256SUMS校验清单和一个小型 capability 探针位于dist/。务必记录 Xcode 版本、SDK、源码 revision、检出路径与产物哈希——因为工具链与构建环境细节会改变二进制字节。证据匹配的 M1 Ultra/Tahoe release 二进制使用 Command Line Tools 26.4。当安装了匹配工具链时可按 Release/PROVENANCE.md 的规范复现DEVELOPER_DIR/Library/Developer/CommandLineTools ./Scripts/build.sh ./Scripts/verify.sh --no-buildPROVENANCE.md给出了完整的工具链指纹Command Line Toolscom.apple.pkg.CLTools_Executables26.4.0.0.1774242506、Apple clang 21.0.0clang-2100.0.123.102、SDK 26.4、deployment target 13.0、linker 1266.8。二进制 inspect 结果显示两个 dylib 均为 thin 架构、69,456 字节、ad-hoc 签名install name 为rpath/LumeMetalCapabilities.dylib。4.2 验证脚本做了什么verify.sh 的检查项恰好对应安全边界承诺lipo -verify_arch校验两个 dylib 的架构分别为arm64、arm64ecodesign --verify --strict校验签名strings黑名单扫描拒绝任何包含 research 专属行为标记的产物包括GPU_HOOK_TIME_SCALE、mach_absolute_time、clock_gettime、gettimeofday、MESH_FALLBACK、IGNORE_ARGTYPE、SYNC_COMPUTE时钟/时序插值与 mesh/参数布局/pipeline 回退类逻辑第二组strings扫描拒绝LUME_METAL_FEATURE_PROFILE、featureProfile、LUME_METAL_FAMILY_MAX宽泛 profile 行为shasum -a 256 -c SHA256SUMS校验哈希清单。4.3 打包 releaseScripts/package-release.sh ARTIFACT_DIR RELEASE_DIR会将已验证的二进制集、冻结源码归档git archive自 revisiond9554541生成LumeMetalCapabilities-source-d9554541.tar.gz与已提交的校验清单打包到 release 目录并且拒绝覆盖任何已存在的 release 输出随后自动调用verify.sh --no-build复验。release 资产有意不提交到dist/目录下。五、运行方式进程级激活与关键环境变量5.1 单进程激活选择与目标进程架构匹配的 dylib测试 profile 使用 Apple family 上限1009Apple 9与 64 KB 上报线程组内存DYLD_INSERT_LIBRARIES/path/to/LumeMetalCapabilities-arm64.dylib \ LUME_METAL_APPLE_FAMILY_MAX1009 \ ./metal-capabilities 1009LUME_METAL_APPLE_FAMILY_MAX是必填项。缺失、为 0、超出 Apple family 区间或格式非法时库保持进程不变fail-closed。其余控制变量均可选变量默认值行为LUME_METAL_MAX_THREADGROUP_MEMORY65536将上报的最大线程组内存抬高到至少该字节数LUME_METAL_RECOMMENDED_WORKING_SET_SIZE不变仅当显式设置时抬高推荐 working-set 大小shim 只改变 Apple family 区间1001到配置上限内的supportsFamily:回答保留设备对 Common、Mac、Metal 及未知 family 的原始回答。报告的能力不等于所有使用该能力的 Metal API 都能正常工作——只能在经过测试的 workload 与 host/guest 组合下使用这些控制项。5.2 Capability 探针验证激活是否生效可用 Tests/metal-capabilities.m 编译出的metal-capabilities探针接受可选 family 参数默认 1009它依次打印设备名、目标 family、supports_family布尔值与max_threadgroup_memory。本次验证的探针结果来自 README.mdCapabilityStockSafe shimsupportsFamily:1009falsetrueMaximum threadgroup memory32,768 bytes65,536 bytes同时tiny-hooked-minimal/candidate-hooked-smoke等早期文件使用的是已被取代的宽泛 profile仅作为开发历史保留不作为头条证据最终 10 次重复的 llama.cpp 与 MLX-LM 运行使用 Apple-family-only 候选5336ee9b61f35ffa058c746af237cb334e58bab9。5.3 移除移除非常简单从 workload 环境中删掉DYLD_INSERT_LIBRARIES与所有LUME_METAL_*变量重启该 workload 即可。shim 不做任何持久的系统改动。六、MLX-LM 兼容性验证为什么发布版只改 Apple family6.1 结果无实质性能变化但功能保持正常用 MLX-LM 0.31.3 MLX 0.32.0 Llama-3.2-3B-Instruct-4bit同一 512 token prompt、128 token 生成各重复 10 次WorkloadStock guestSafe-shim guestRatioPrompt processing1,656.55 tok/s1,665.47 tok/s1.005×Token generation172.09 tok/s170.86 tok/s0.993×safe profile 对 MLX-LM 没有造成实质速度变化同时确认 MLX-LM 仍然可正常运行benchmark harness 见 Tests/benchmark-mlx-lm.py它固定了 seed、warmup 与 10 次重复采样输出 median 与 peak memory。6.2 负面对照组宽泛 profile 为什么被否决关键证据在 mlx-broad-profile-failure.stderr一个更宽泛的研究 profile日志显示familyMax5001 featureProfile10在 MLX 设备初始化阶段直接崩溃[LumeMetalCapabilities] Enabled for python (familyMax5001 featureProfile10 maxThreadgroupMemory65536) RuntimeError: [metal::Device] Unable to construct residency set.原因README 已说明该宽泛 profile 会额外上报MTLGPUFamilyMetal3而 MLX 会依据这个回答去请求创建 residency set但paravirtualized 设备无法创建 MLX 在该路径下请求的 residency set导致初始化失败。这正是发布 shim只改 Apple family 回答的直接原因——窄到刚好触发 llama.cpp 的快速路径又不至于让 MLX 走入虚拟化设备撑不住的代码路径。这一组对照实验safe shim 正结果 broad profile 负结果也是评估这类 capability 垫片价值的标准方法先量化瓶颈路径再以最小能力增量为目标设计 profile并用至少两个独立推理框架做正反验证。七、结果解读、使用边界与注意事项7.1 本次验证证明了什么、不证明什么按 README.md 的 Important scope 原文本运行证明精简后的 shim 无需私有 feature-profile hook也无需 research hook 的 timing、mesh、ray-tracing、argument-layout 或 pipeline fallback即可激活 llama.cpp 的目标快速路径它不验证所有 Metal 特性或所有 workload官方llama.cpp b10167release 二进制的 SHA-256 与历史 handoff 二进制不同这份证据系列必须与 M5 表格分开看待——它是独立于历史 M5 Max 基准集合的全新 stock-vs-safe-shim 验证绝不能表述为对 M5 绝对数值的复现。7.2 兼容性风险来自 README.md该代码依赖 macOS 访客中私有且随版本敏感的 Metal 实现细节Apple 可能在任意 macOS 版本中更改保持激活范围限于单进程独立测试每个 host/guest 版本组合遇到私有类或方法缺失一律视为不支持不要通过上报MTLGPUFamilyMetal3来扩宽 profile原因见第六节。7.3 证据文件地图本次验证的全部原始数据均保留在 evidence/lume-metal-capability-shim/2026-08-09-m1-ultra/ 目录可直接复阅README.md结论表、能力探针表、scope 声明metadata.mdhost/guest/workload/shim 的完整环境与哈希results.csv两条 llama.cpp 与两条 MLX-LM workload 的结构化汇总tiny-safe-shim-10x-final.json/mlx-stock-10x.json/mlx-safe-shim-10x.jsonREADME 中位数发布的原始数据源mlx-broad-profile-failure.stderr否决宽泛 family 策略的负面对照SHA256SUMS与tiny-*/candidate-*等历史文件完整性校验与开发历史。若想继续追溯实现与流程可依次阅读 Sources/LumeMetalCapabilities.m、Scripts/verify.sh、Scripts/package-release.sh、Release/PROVENANCE.md以及相邻证据集 2026-08-10-m1-ultra-gemma4Gemma 4 12B 验证。八、可复现验证清单Checklist将以上内容收敛为一份可直接照做的验证清单准备 Apple Silicon 宿主机与 macOS 虚拟机本证据使用 M1 Ultra Tahoe 访客SIP 需在测试镜像中禁用在宿主机记录 Metal 4 / macOS 版本 / 芯片型号在访客记录VirtualMac2,1、vCPU、内存、Lume 版本固定 workload 二进制llama.cpp b10167 tinyllama-1.1b-chat-v1.0.Q4_K_M.gguf记录 SHA-256MLX-LM 0.31.3 MLX 0.32.0 Llama-3.2-3B-Instruct-4bitrevision 固定用 Command Line Tools 26.4 构建 shim运行verify.sh通过黑名单与哈希检查依次运行三组基准并各取 10 次重复中位数bare-metal host → stock guest → safe-shim guest用metal-capabilities 1009探针确认supportsFamily:1009true与 65,536 字节线程组内存复现负面对照宽泛 profilefamilyMax5001在 MLX 下应出现Unable to construct residency set以此论证窄 profile 的必然性保留全部 JSON / stderr / CSV / SHA256SUMS 作为证据并记录 toolchain 指纹以支持字节级复现本项目在 2026-08-10 用独立本地构建集完成了 dylib 与探针的 byte-for-byte 复现。【免费下载链接】cuaScale computer-use 2.0 with open-source drivers, cross-OS fleets, and benchmarks for training, evaluation, and data generation.项目地址: https://gitcode.com/GitHub_Trending/cua/cua创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考