如何用 Foundry Toolkit for VS Code4 步完成从选模型到本地测试【免费下载链接】foundry-dev-tools项目地址: https://gitcode.com/GitHub_Trending/vs/foundry-dev-toolsFoundry Toolkit for Visual Studio Code前身是 AI Toolkit是微软 Foundry 开发者工具套件里的一款 VS Code 扩展。它把浏览模型目录、与模型对话测试、微调模型、调试 Agent、查看调用链这些环节收进同一个编辑器用一套扩展串起完整流程。本文按你脑子里问题的顺序一步步带你走通。认识 Foundry Toolkit它能替你做什么很多人第一反应是这和我直接写代码有什么区别。一句话区分Foundry Toolkit 管的是 AI 应用里的模型这一侧——找模型、试模型、调模型、看模型而你的业务代码照旧写在 VS Code 里不需要换环境。官方把整条工具链分成了 4 个入口你可以按自己的工作习惯挑工具干什么Foundry Toolkit for VS Code在 VS Code 里浏览模型、聊天测试、微调、管理资源本文主角Azure Developer CLIazd用终端命令脚手架项目、部署、自动化Foundry Skills给你的编程助手coding agent提供可复用的 Foundry 开发指引Foundry Canvas预览版在引导式可视化面板里设计、配置、部署托管 Agent这四者不冲突可以混用。典型路径是先在 VS Code 里把项目搭起来再用azd命令行部署到云端。安装 Foundry Toolkit 并验证环境用 1 次点击或 1 个脚本装好扩展最直接的方式按CtrlShiftX打开扩展面板搜索 AI Toolkit点安装。正式发布版功能稳定预发布版可以提前体验新特性。装完你会看到扩展出现在左侧活动栏并提示重新加载窗口。另一条路是用官方 DevPack 一键安装器把整套开发工具一次装齐。它检测到系统里有 VS Code 或 GitHub Copilot App 时才会装上 Toolkit 和 Canvas 扩展不会替你把开发环境改面目全非。仓库里放着这两个安装脚本devpack-installer/scripts/ 下的foundry-devpack.shLinux/macOS和foundry-devpack.ps1Windows。⚠️ 安装后记得重新加载 VS Code 窗口。首次启动时扩展会自动检测 Python 依赖缺什么会弹出安装提示跟着走几分钟就能完成。首次启动后做 3 件事让扩展把环境检测跑完。如果你有 NVIDIA 显卡先确认终端里nvidia-smi能正常输出否则后面微调时容易遇到未检测到 GPU。从侧边栏进入内置的快速入门引导它会带你完成选模型、建项目这些基础动作。确认侧边栏树视图里出现了 Models、Playground、Tracing 等节点——看到这个说明安装完成。图 1Foundry Toolkit 首次启动的内置引导页跟着走完就能进入 Playground 与模型对话为你的电脑找到合适的模型用模型目录的 3 组筛选条件在侧边栏点Models打开模型目录。模型来自 GitHub、ONNX、OpenAI、Anthropic、Google 等多个托管源卡片列表支持 3 组筛选Hosted by / Publisher模型托管在谁家、哪家机构出品Device TypeCPU、GPU 还是 NPU 能跑——这是决定我电脑能不能跑的关键Fine-tuning Support打开后只显示支持微调的模型 拿不准就先按 Device Type 筛再从知名出品方里挑个小模型。等它在你机器上跑通了再换大的试错成本几乎为零。看懂模型卡片上的 3 个按钮每张模型卡片上有 3 个入口Try in Playground不下载模型直接试推理Download从 Hugging Face 等源把模型文件拉到本地Load in Playground把已下载的模型载入聊天面板。点完前一个按钮几秒后你就会看到 Playground 面板自动弹出、模型已选中的状态。图 2模型目录以卡片展示模型可按托管源、出品方和设备类型筛选在 Playground 里直接测试模型不下载模型先试聊Playground 就是下决定前的试驾场。在顶部下拉框选一个模型可选地填上下文指令、调 temperature 等参数然后在底部输入框直接提问。多模态模型还支持附加本地文件点附件图标选一个图片或文档模型会把它和文字 prompt 一起理解。图 3Playground 聊天测试界面上方选模型与参数下方输入问题即可看到生成结果把你已有的模型接进来目录之外的模型有两条接入路径远程模型BYOM把鼠标悬停在MY MODELS上点填入模型名、托管 URL 和可选的认证信息任何 OpenAI 兼容的聊天端点都能变成一个可选模型。本地 Ollama装好 Ollama 后选 Add an Ollama model它会列出本机已下载的模型供你勾选加入。ollama pull model-name列表里没有想要的模型时先在终端跑上面这条命令下载。 Ollama 列表只展示已下载过的模型且 Ollama 模型暂不支持附件功能需要多模态的话请选目录模型或远程端点。Playground 的完整用法可参考 doc/playground.md。让通用模型变成懂你业务的模型从微调项目模板起步微调就是用你的小数据集让一个已受过教育的模型学会你的具体任务。Toolkit 提供开箱即用的微调项目模板选好模型、给项目起名、指定存放位置点 Generate Project扩展会把运行环境替你准备好。训练参数拿不准就直接用默认值配合项目里自带的示例数据集先跑通一遍流程。数据如果来自 Hugging Face先登录一次数据集才能替你下载huggingface-cli login把微调和推理放到云端跑本地没有 GPU 也没关系。创建项目时不勾选本地微调扩展会引导你预配 Azure Container Apps 环境然后云端提交微调任务用 QLoRA 方式产出 LoRA 适配器。训练全程可以在 VS Code 的输出面板里看流式日志。完成后还能部署推理端点通过自带的 Gradio 网页立刻验证微调效果。图 4微调完成后启动的 Gradio 网页可直接对话验证微调后的模型表现⚠️ 微调任务可能因资源不足进入排队流式日志迟迟不出时等一会儿再用Show Streaming Logs命令重连GPU 检测不通过时先更新 NVIDIA 驱动。云端微调与推理的完整步骤见 doc/finetune.md。观察你的 AI 应用内部在做什么用 Agent Inspector 一键调试模型包成 Agent 之后问题从能不能出结果变成是不是在对地出结果。Agent Inspector 就是为此设计按 F5它会带着调试器启动你的 Agent你在聊天区发消息触发工作流Agent 之间的执行图实时可视化双击任意节点就能跳到对应代码。没有现成 Agent 也能玩在 Inspector 里选Scaffold a Sample它先生成一个预配置好的示例项目再按 F5 体验完整流程。图 5Agent Inspector 的快速开始入口选择 Scaffold a Sample 即可获得可运行的 Agent 示例接入追踪收集器另一层观察手段是分布式追踪在树视图选中Tracing点Start Collector扩展会在本地起一个 OTLP 收集服务给 AI 应用加上插桩代码后运行它每次模型调用都会以 span 的形式出现在追踪列表里点进去能看到输入、输出和完整元数据。支持的 SDK 清单与插桩示例见 doc/tracing.md。Foundry Toolkit 并不替代你的业务代码它只是把 AI 开发里模型这一侧统一收进了 VS Code。现在打开模型目录挑一个标注为能在你设备运行的模型在 Playground 里完成第一次对话就是最快的第一步。【免费下载链接】foundry-dev-tools项目地址: https://gitcode.com/GitHub_Trending/vs/foundry-dev-tools创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考 如何用 Foundry Toolkit for VS Code：4 步完成从选模型到本地测试
如何用 Foundry Toolkit for VS Code4 步完成从选模型到本地测试【免费下载链接】foundry-dev-tools项目地址: https://gitcode.com/GitHub_Trending/vs/foundry-dev-toolsFoundry Toolkit for Visual Studio Code前身是 AI Toolkit是微软 Foundry 开发者工具套件里的一款 VS Code 扩展。它把浏览模型目录、与模型对话测试、微调模型、调试 Agent、查看调用链这些环节收进同一个编辑器用一套扩展串起完整流程。本文按你脑子里问题的顺序一步步带你走通。认识 Foundry Toolkit它能替你做什么很多人第一反应是这和我直接写代码有什么区别。一句话区分Foundry Toolkit 管的是 AI 应用里的模型这一侧——找模型、试模型、调模型、看模型而你的业务代码照旧写在 VS Code 里不需要换环境。官方把整条工具链分成了 4 个入口你可以按自己的工作习惯挑工具干什么Foundry Toolkit for VS Code在 VS Code 里浏览模型、聊天测试、微调、管理资源本文主角Azure Developer CLIazd用终端命令脚手架项目、部署、自动化Foundry Skills给你的编程助手coding agent提供可复用的 Foundry 开发指引Foundry Canvas预览版在引导式可视化面板里设计、配置、部署托管 Agent这四者不冲突可以混用。典型路径是先在 VS Code 里把项目搭起来再用azd命令行部署到云端。安装 Foundry Toolkit 并验证环境用 1 次点击或 1 个脚本装好扩展最直接的方式按CtrlShiftX打开扩展面板搜索 AI Toolkit点安装。正式发布版功能稳定预发布版可以提前体验新特性。装完你会看到扩展出现在左侧活动栏并提示重新加载窗口。另一条路是用官方 DevPack 一键安装器把整套开发工具一次装齐。它检测到系统里有 VS Code 或 GitHub Copilot App 时才会装上 Toolkit 和 Canvas 扩展不会替你把开发环境改面目全非。仓库里放着这两个安装脚本devpack-installer/scripts/ 下的foundry-devpack.shLinux/macOS和foundry-devpack.ps1Windows。⚠️ 安装后记得重新加载 VS Code 窗口。首次启动时扩展会自动检测 Python 依赖缺什么会弹出安装提示跟着走几分钟就能完成。首次启动后做 3 件事让扩展把环境检测跑完。如果你有 NVIDIA 显卡先确认终端里nvidia-smi能正常输出否则后面微调时容易遇到未检测到 GPU。从侧边栏进入内置的快速入门引导它会带你完成选模型、建项目这些基础动作。确认侧边栏树视图里出现了 Models、Playground、Tracing 等节点——看到这个说明安装完成。图 1Foundry Toolkit 首次启动的内置引导页跟着走完就能进入 Playground 与模型对话为你的电脑找到合适的模型用模型目录的 3 组筛选条件在侧边栏点Models打开模型目录。模型来自 GitHub、ONNX、OpenAI、Anthropic、Google 等多个托管源卡片列表支持 3 组筛选Hosted by / Publisher模型托管在谁家、哪家机构出品Device TypeCPU、GPU 还是 NPU 能跑——这是决定我电脑能不能跑的关键Fine-tuning Support打开后只显示支持微调的模型 拿不准就先按 Device Type 筛再从知名出品方里挑个小模型。等它在你机器上跑通了再换大的试错成本几乎为零。看懂模型卡片上的 3 个按钮每张模型卡片上有 3 个入口Try in Playground不下载模型直接试推理Download从 Hugging Face 等源把模型文件拉到本地Load in Playground把已下载的模型载入聊天面板。点完前一个按钮几秒后你就会看到 Playground 面板自动弹出、模型已选中的状态。图 2模型目录以卡片展示模型可按托管源、出品方和设备类型筛选在 Playground 里直接测试模型不下载模型先试聊Playground 就是下决定前的试驾场。在顶部下拉框选一个模型可选地填上下文指令、调 temperature 等参数然后在底部输入框直接提问。多模态模型还支持附加本地文件点附件图标选一个图片或文档模型会把它和文字 prompt 一起理解。图 3Playground 聊天测试界面上方选模型与参数下方输入问题即可看到生成结果把你已有的模型接进来目录之外的模型有两条接入路径远程模型BYOM把鼠标悬停在MY MODELS上点填入模型名、托管 URL 和可选的认证信息任何 OpenAI 兼容的聊天端点都能变成一个可选模型。本地 Ollama装好 Ollama 后选 Add an Ollama model它会列出本机已下载的模型供你勾选加入。ollama pull model-name列表里没有想要的模型时先在终端跑上面这条命令下载。 Ollama 列表只展示已下载过的模型且 Ollama 模型暂不支持附件功能需要多模态的话请选目录模型或远程端点。Playground 的完整用法可参考 doc/playground.md。让通用模型变成懂你业务的模型从微调项目模板起步微调就是用你的小数据集让一个已受过教育的模型学会你的具体任务。Toolkit 提供开箱即用的微调项目模板选好模型、给项目起名、指定存放位置点 Generate Project扩展会把运行环境替你准备好。训练参数拿不准就直接用默认值配合项目里自带的示例数据集先跑通一遍流程。数据如果来自 Hugging Face先登录一次数据集才能替你下载huggingface-cli login把微调和推理放到云端跑本地没有 GPU 也没关系。创建项目时不勾选本地微调扩展会引导你预配 Azure Container Apps 环境然后云端提交微调任务用 QLoRA 方式产出 LoRA 适配器。训练全程可以在 VS Code 的输出面板里看流式日志。完成后还能部署推理端点通过自带的 Gradio 网页立刻验证微调效果。图 4微调完成后启动的 Gradio 网页可直接对话验证微调后的模型表现⚠️ 微调任务可能因资源不足进入排队流式日志迟迟不出时等一会儿再用Show Streaming Logs命令重连GPU 检测不通过时先更新 NVIDIA 驱动。云端微调与推理的完整步骤见 doc/finetune.md。观察你的 AI 应用内部在做什么用 Agent Inspector 一键调试模型包成 Agent 之后问题从能不能出结果变成是不是在对地出结果。Agent Inspector 就是为此设计按 F5它会带着调试器启动你的 Agent你在聊天区发消息触发工作流Agent 之间的执行图实时可视化双击任意节点就能跳到对应代码。没有现成 Agent 也能玩在 Inspector 里选Scaffold a Sample它先生成一个预配置好的示例项目再按 F5 体验完整流程。图 5Agent Inspector 的快速开始入口选择 Scaffold a Sample 即可获得可运行的 Agent 示例接入追踪收集器另一层观察手段是分布式追踪在树视图选中Tracing点Start Collector扩展会在本地起一个 OTLP 收集服务给 AI 应用加上插桩代码后运行它每次模型调用都会以 span 的形式出现在追踪列表里点进去能看到输入、输出和完整元数据。支持的 SDK 清单与插桩示例见 doc/tracing.md。Foundry Toolkit 并不替代你的业务代码它只是把 AI 开发里模型这一侧统一收进了 VS Code。现在打开模型目录挑一个标注为能在你设备运行的模型在 Playground 里完成第一次对话就是最快的第一步。【免费下载链接】foundry-dev-tools项目地址: https://gitcode.com/GitHub_Trending/vs/foundry-dev-tools创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考