【免费下载链接】liftExtract structured data from documents quickly and accurately.项目地址https://gitcode.com/gh_mirrors/lift21/lift点击查看免费下载lift是一款开源文档抽取Document Extraction工具它是一个 9B 参数的视觉模型只要你传入一份 JSON Schema就能把 PDF 或图片中的内容提取为与 Schema 对齐的结构化 JSON并借助 schema 约束解码保证输出合法。对于要部署 lift 的新手来说最常被问到的问题就是local.env文件该放在哪里面的环境变量到底控制什么哪些参数值得调本文基于官方仓库的配置系统 lift/settings.py 逐参数讲解帮你在 10 分钟内完成 lift 环境变量配置并完成关键性能调优。一、先搞懂 lift 的两种推理模式lift 内置两种推理后端你调哪些参数、怎么调取决于你选哪一种模式说明典型场景vllm默认连接 vLLM 推理服务器OpenAI 兼容 API批量处理、生产部署推荐hf进程内直接加载 HuggingFace 模型需要 torch单机快速体验、小规模任务vLLM 请求与重试逻辑lift/model/vllm.pyHF 模型加载逻辑lift/model/hf.py两种模式下模型字段级准确率均保持高水平且 lift 单文档处理延迟明显低于同类方案二、local.env 快速上手3 分钟完成配置lift 使用pydantic-settingspython-dotenv读取配置。你只需在当前工作目录下创建一个名为local.env的文件所有设置即可生效查找逻辑见 lift/settings.py 中的find_dotenv(local.env)。一个最小可用的local.env模板完整示例见 README.md 的 Configuration 一节# 模型设置 MODEL_CHECKPOINTdatalab-to/lift MAX_OUTPUT_TOKENS12384 # vLLM 设置 VLLM_API_BASEhttp://localhost:8000/v1 VLLM_MODEL_NAMElift 小技巧local.env中多写的无关变量会被自动忽略extra ignore可以放心混放。三、8 大关键调优参数详解以下 8 个参数覆盖了 lift 日常部署中 90% 以上的调优需求。每个参数都给出默认值 → 作用 → 何时修改 → 建议值。1️⃣ MODEL_CHECKPOINT —— 模型检查点默认值datalab-to/lift作用HF 模式下加载哪个模型权重见 lift/model/hf.pyvLLM 模式下lift_vllm启动 Docker 容器时传入的--model参数见 lift/scripts/vllm_launcher.py。何时改需要加载自托管/微调的模型副本时。2️⃣ MAX_OUTPUT_TOKENS —— 最大输出 token 数默认值12384作用限制模型单次生成上限两种后端共用HFmax_new_tokensvLLMmax_tokens。字段很多的 Schema如长明细清单若输出被截断就是它太小了。建议默认值已足够绝大多数场景超大表格类文档可保持默认或略调高。3️⃣ TORCH_DEVICE —— 指定 HF 后端设备默认值None即device_mapauto自动分配作用把 HF 后端固定到指定设备例如TORCH_DEVICEcuda:0实现见 lift/model/hf.py。何时改多 GPU 机器上想避开被占用的显卡或明确指定推理卡时。4️⃣ TORCH_ATTN —— 注意力实现方式默认值Nonetransformers 默认实现作用设置attn_implementationHF 模式下强烈建议设为 flash attention 以获得更好性能。建议已安装 flash-attention 时设为flash_attention_2README 的官方推荐。5️⃣ IMAGE_DPI —— PDF 渲染 DPI默认值96作用PDF 转图片时的渲染分辨率下限。渲染逻辑在 lift/input.py实际 DPI 会按页面尺寸自动放大但不会低于IMAGE_DPI。何时改扫描件模糊、小字提取不准时可适当调高如 120–150追求速度则调低。6️⃣ VLLM_API_BASE —— vLLM 服务器地址默认值http://localhost:8000/v1作用OpenAI 兼容 API 的 Base URLlift_extract、Python SDK 都靠它定位服务器。何时改vLLM 跑在远程机器或改了端口时指向http://host:port/v1即可。7️⃣ VLLM_GPUS —— 指定 GPU 设备号默认值0作用lift_vllm启动 Docker 容器时的--gpus deviceN参数见 lift/scripts/vllm_launcher.py。何时改机器有多张卡、想让推理服务占用指定显卡时。8️⃣ MAX_VLLM_RETRIES —— 失败自动重试次数默认值6作用vLLM 检测到重复 token 死循环或请求报错时自动重试含递增等待逻辑见 lift/model/vllm.py。重试时会自动抬高 temperature 以跳出重复模式。建议高负载环境可适当调大追求快速失败则调小。四、其他实用配置速查表以下参数在 lift/settings.py 中同样可配使用频率稍低参数默认值说明VLLM_API_KEYEMPTYvLLM 的 API Key本地服务留默认即可VLLM_MODEL_NAMElift服务端注册的模型名需与--served-model-name一致SCHEMA_DIR包内lift/schemas/命名 Schema 库目录覆盖后可指向你自己的库示例文件lift/schemas/invoice.jsonMIN_PDF_IMAGE_DIM692PDF 页面渲染图最小边长像素MIN_IMAGE_DIM692图片输入最小边长小图会被自动放大见 lift/input.py五、两套可直接抄的实战配置场景 A本地 HuggingFace 模式单机体验MODEL_CHECKPOINTdatalab-to/lift TORCH_DEVICEcuda:0 TORCH_ATTNflash_attention_2 MAX_OUTPUT_TOKENS12384然后执行lift_extract input.pdf ./output --schema schema.json --method hf场景 BvLLM 远程模式批量/生产推荐VLLM_API_BASEhttp://10.0.0.5:8000/v1 VLLM_MODEL_NAMElift MAX_VLLM_RETRIES8服务器上先按 GPU 型号启动lift_vllm --gpu a100-80。启动器会按显存自动缩放批处理参数H100 80GB 为基准支持h100、a100-80、a100、l40s、a10、l4、4090、3090、t4见 lift/scripts/vllm_launcher.py。六、常见问题FAQQ1改完 local.env 需要重启进程吗需要。配置在进程启动时读取一次修改后请重启lift_extract会话或 Python 进程。Q2输出 JSON 总是被截断怎么办优先检查MAX_OUTPUT_TOKENS是否偏小其次确认 Schema 是否过于冗长——字段越多生成的 JSON 越长。Q3--max-output-tokens命令行参数和MAX_OUTPUT_TOKENS什么关系命令行参数见 lift/scripts/extract_cli.py只在单次调用中生效未传时回退到local.env的配置相当于临时覆盖。Q4远程 vLLM 连不上如何排查依次确认VLLM_API_BASE的 host/port 是否正确、服务器上VLLM_MODEL_NAME与容器--served-model-name是否一致、VLLM_API_KEY是否与服务端匹配。 完整项目信息、基准数据与安装方式详见 README.mdCLI 选项一览见 lift/scripts/extract_cli.py。掌握local.env与这 8 大参数后你即可在单机体验与生产集群之间自由切换把 lift 的文档抽取能力稳定地跑起来。赞分享【免费下载链接】liftExtract structured data from documents quickly and accurately.项目地址https://gitcode.com/gh_mirrors/lift21/lift点击查看免费下载相关推荐Dataherald环境变量配置全面参数调优手册Dataherald环境变量配置全面参数调优手册 引言 还在为Dataherald的复杂环境配置而头疼面对数十个环境变量不知从何下手本文将为你提供一份完整后端人工智能大模型RAG微调wigolo 配置完全指南零配置起步与环境变量调优手册wigolo 配置完全指南零配置起步与环境变量调优手册 本文档面向希望把 wigolo https://link.gitcode.com/i/2e85204b人工智能AI 应用MCP 服务AI Agent网页爬虫Proton配置完全手册20个关键环境变量和运行时选项详解Proton配置完全手册20个关键环境变量和运行时选项详解 Proton是Valve开发的Steam Play兼容工具让Windows游戏能在Linux系统游戏开发创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考 lift 配置完全手册：local.env 环境变量与 8 大关键调优参数
【免费下载链接】liftExtract structured data from documents quickly and accurately.项目地址https://gitcode.com/gh_mirrors/lift21/lift点击查看免费下载lift是一款开源文档抽取Document Extraction工具它是一个 9B 参数的视觉模型只要你传入一份 JSON Schema就能把 PDF 或图片中的内容提取为与 Schema 对齐的结构化 JSON并借助 schema 约束解码保证输出合法。对于要部署 lift 的新手来说最常被问到的问题就是local.env文件该放在哪里面的环境变量到底控制什么哪些参数值得调本文基于官方仓库的配置系统 lift/settings.py 逐参数讲解帮你在 10 分钟内完成 lift 环境变量配置并完成关键性能调优。一、先搞懂 lift 的两种推理模式lift 内置两种推理后端你调哪些参数、怎么调取决于你选哪一种模式说明典型场景vllm默认连接 vLLM 推理服务器OpenAI 兼容 API批量处理、生产部署推荐hf进程内直接加载 HuggingFace 模型需要 torch单机快速体验、小规模任务vLLM 请求与重试逻辑lift/model/vllm.pyHF 模型加载逻辑lift/model/hf.py两种模式下模型字段级准确率均保持高水平且 lift 单文档处理延迟明显低于同类方案二、local.env 快速上手3 分钟完成配置lift 使用pydantic-settingspython-dotenv读取配置。你只需在当前工作目录下创建一个名为local.env的文件所有设置即可生效查找逻辑见 lift/settings.py 中的find_dotenv(local.env)。一个最小可用的local.env模板完整示例见 README.md 的 Configuration 一节# 模型设置 MODEL_CHECKPOINTdatalab-to/lift MAX_OUTPUT_TOKENS12384 # vLLM 设置 VLLM_API_BASEhttp://localhost:8000/v1 VLLM_MODEL_NAMElift 小技巧local.env中多写的无关变量会被自动忽略extra ignore可以放心混放。三、8 大关键调优参数详解以下 8 个参数覆盖了 lift 日常部署中 90% 以上的调优需求。每个参数都给出默认值 → 作用 → 何时修改 → 建议值。1️⃣ MODEL_CHECKPOINT —— 模型检查点默认值datalab-to/lift作用HF 模式下加载哪个模型权重见 lift/model/hf.pyvLLM 模式下lift_vllm启动 Docker 容器时传入的--model参数见 lift/scripts/vllm_launcher.py。何时改需要加载自托管/微调的模型副本时。2️⃣ MAX_OUTPUT_TOKENS —— 最大输出 token 数默认值12384作用限制模型单次生成上限两种后端共用HFmax_new_tokensvLLMmax_tokens。字段很多的 Schema如长明细清单若输出被截断就是它太小了。建议默认值已足够绝大多数场景超大表格类文档可保持默认或略调高。3️⃣ TORCH_DEVICE —— 指定 HF 后端设备默认值None即device_mapauto自动分配作用把 HF 后端固定到指定设备例如TORCH_DEVICEcuda:0实现见 lift/model/hf.py。何时改多 GPU 机器上想避开被占用的显卡或明确指定推理卡时。4️⃣ TORCH_ATTN —— 注意力实现方式默认值Nonetransformers 默认实现作用设置attn_implementationHF 模式下强烈建议设为 flash attention 以获得更好性能。建议已安装 flash-attention 时设为flash_attention_2README 的官方推荐。5️⃣ IMAGE_DPI —— PDF 渲染 DPI默认值96作用PDF 转图片时的渲染分辨率下限。渲染逻辑在 lift/input.py实际 DPI 会按页面尺寸自动放大但不会低于IMAGE_DPI。何时改扫描件模糊、小字提取不准时可适当调高如 120–150追求速度则调低。6️⃣ VLLM_API_BASE —— vLLM 服务器地址默认值http://localhost:8000/v1作用OpenAI 兼容 API 的 Base URLlift_extract、Python SDK 都靠它定位服务器。何时改vLLM 跑在远程机器或改了端口时指向http://host:port/v1即可。7️⃣ VLLM_GPUS —— 指定 GPU 设备号默认值0作用lift_vllm启动 Docker 容器时的--gpus deviceN参数见 lift/scripts/vllm_launcher.py。何时改机器有多张卡、想让推理服务占用指定显卡时。8️⃣ MAX_VLLM_RETRIES —— 失败自动重试次数默认值6作用vLLM 检测到重复 token 死循环或请求报错时自动重试含递增等待逻辑见 lift/model/vllm.py。重试时会自动抬高 temperature 以跳出重复模式。建议高负载环境可适当调大追求快速失败则调小。四、其他实用配置速查表以下参数在 lift/settings.py 中同样可配使用频率稍低参数默认值说明VLLM_API_KEYEMPTYvLLM 的 API Key本地服务留默认即可VLLM_MODEL_NAMElift服务端注册的模型名需与--served-model-name一致SCHEMA_DIR包内lift/schemas/命名 Schema 库目录覆盖后可指向你自己的库示例文件lift/schemas/invoice.jsonMIN_PDF_IMAGE_DIM692PDF 页面渲染图最小边长像素MIN_IMAGE_DIM692图片输入最小边长小图会被自动放大见 lift/input.py五、两套可直接抄的实战配置场景 A本地 HuggingFace 模式单机体验MODEL_CHECKPOINTdatalab-to/lift TORCH_DEVICEcuda:0 TORCH_ATTNflash_attention_2 MAX_OUTPUT_TOKENS12384然后执行lift_extract input.pdf ./output --schema schema.json --method hf场景 BvLLM 远程模式批量/生产推荐VLLM_API_BASEhttp://10.0.0.5:8000/v1 VLLM_MODEL_NAMElift MAX_VLLM_RETRIES8服务器上先按 GPU 型号启动lift_vllm --gpu a100-80。启动器会按显存自动缩放批处理参数H100 80GB 为基准支持h100、a100-80、a100、l40s、a10、l4、4090、3090、t4见 lift/scripts/vllm_launcher.py。六、常见问题FAQQ1改完 local.env 需要重启进程吗需要。配置在进程启动时读取一次修改后请重启lift_extract会话或 Python 进程。Q2输出 JSON 总是被截断怎么办优先检查MAX_OUTPUT_TOKENS是否偏小其次确认 Schema 是否过于冗长——字段越多生成的 JSON 越长。Q3--max-output-tokens命令行参数和MAX_OUTPUT_TOKENS什么关系命令行参数见 lift/scripts/extract_cli.py只在单次调用中生效未传时回退到local.env的配置相当于临时覆盖。Q4远程 vLLM 连不上如何排查依次确认VLLM_API_BASE的 host/port 是否正确、服务器上VLLM_MODEL_NAME与容器--served-model-name是否一致、VLLM_API_KEY是否与服务端匹配。 完整项目信息、基准数据与安装方式详见 README.mdCLI 选项一览见 lift/scripts/extract_cli.py。掌握local.env与这 8 大参数后你即可在单机体验与生产集群之间自由切换把 lift 的文档抽取能力稳定地跑起来。赞分享【免费下载链接】liftExtract structured data from documents quickly and accurately.项目地址https://gitcode.com/gh_mirrors/lift21/lift点击查看免费下载相关推荐Dataherald环境变量配置全面参数调优手册Dataherald环境变量配置全面参数调优手册 引言 还在为Dataherald的复杂环境配置而头疼面对数十个环境变量不知从何下手本文将为你提供一份完整后端人工智能大模型RAG微调wigolo 配置完全指南零配置起步与环境变量调优手册wigolo 配置完全指南零配置起步与环境变量调优手册 本文档面向希望把 wigolo https://link.gitcode.com/i/2e85204b人工智能AI 应用MCP 服务AI Agent网页爬虫Proton配置完全手册20个关键环境变量和运行时选项详解Proton配置完全手册20个关键环境变量和运行时选项详解 Proton是Valve开发的Steam Play兼容工具让Windows游戏能在Linux系统游戏开发创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考