- 在 NVIDIA CUDA 与 AMD ROCm/HIP 上用 llama.cpp、SGLang 和 vLLM 搭建 Linux 推理环境,在 macOS 上通过外接 GPU 运行 MLX,并用 Strata 与 Project Maya 部署量化版 Qwen3.8-Flash-Next、DeepSeek V4.1 Flash 和 GLM-5.3-Flash。搭建 CUDA 与 ROCm 推理环境,部署量化 MoE 模型。
- 在 RunPod、AMD Cloud 和 Google Colab 等新型云平台上私有部署开源权重模型,按硬件选择模型,持久化模型与编译缓存,并通过 OpenAI 兼容 API 接入客户端框架。在新型云平台上私有部署开源权重模型。
- 通过专家缓存、张量并行、GPU 点对点传输、量化 KV 缓存、投机解码以及 CPU 内存与 NVMe 固态硬盘卸载优化多 GPU 混合专家推理,在预填充、解码速度与上下文长度之间取得平衡。优化多 GPU MoE 推理的速度与上下文。
- 用 Turnstone、DSH、Codex 和 Hermes 将本地框架与智能体流程接入前沿 API 和注重隐私的本地推理;自动路由与切换模型,启用原生工具调用,并自动完成启动、健康检查与关闭。将智能体框架接入前沿与本地模型,自动路由。
- 以威胁建模和提示词注入防御加固智能体;用 Hysteria 2、VLESS/REALITY 及 Tailscale/WireGuard VPN 保护本地局域网;并打造本地 RTSP AI 摄像头,支持人脸识别以及基于 Wi-Fi 和步态的入侵检测。加固智能体与本地网络,打造 RTSP AI 摄像头。
工作经历
5 年以上一线经验,横跨网络安全运营、AI 安全研究、网络工程、IT 管理与数字化咨询。
网络安全与威胁研究
智能体安全与本地推理
使用 Claude Code、Codex、OpenCode、Hermes 和 OpenClaw 构建并加固 AI 智能体流程,可接入前沿 API 或自托管 LLM。研究重点包括提示词注入防御和 STRIDE 威胁建模,并自建多 GPU 环境,运行 llama.cpp、vLLM 与 SGLang 承载量化模型,同时支持 Apple Silicon 本地推理。
安全运营
在 Questrade 金融集团担任网络安全分析师期间,曾在漏洞遭全球大规模利用期间完成 CVE 修复,并借助 Rapid7 与 Device42 运行完整的漏洞管理生命周期:资产发现、扫描、基于 CVSS 的优先级排序和补丁验证,同时编写事件响应与漏洞处置手册。
安全框架与政策
熟悉 ISO 27001、SOC 2、NIST 网络安全框架等主流安全框架,以及 GDPR 和 PIPEDA 隐私法规,并通过为企业环境制定安全策略将这些要求落到实处。
网络工程与基础设施
Linux VPS 与混合基础设施
设计、部署并长期运维 Linux 虚拟专用服务器(VPS)与混合基础设施,从裸机搭建到生产环境,全程实操。
代理协议与加密传输
熟练配置安全代理与隧道架构,包括在 Linux VPS 上部署启用 SSL 加密的 3X-UI 面板,以及在生产环境中使用 VLESS、Hysteria 2 与 REALITY 协议,实现加密数据传输和复杂网络环境下的可靠连接。
自托管网状 VPN 基础设施
部署并运维带自托管 DERP 中继的 Headscale 控制服务器,在分布式设备间构建基于 WireGuard 的网状 VPN,并通过合理的中继与隧道配置提升受限网络环境下的连接可靠性。
IT 管理与技术支持
企业 IT 运维
在滑铁卢大学与多伦多地铁(TTC)的岗位中打下扎实的 IT 管理基础,面向大型机构环境开展终端运维、硬件部署、网络升级,以及 Windows 与 Linux 之间的系统迁移。
VBA、Excel 与 Power BI
用 Microsoft Excel 的 VBA 宏和 Power BI 处理 IT 管理系统数据,生成结构化的绩效报表,管理者可以直接使用。
中小企业咨询与 CRM 集成
曾担任数字化转型顾问,帮助数百家小微企业集成 CRM 平台并搭建线上基础设施,使用 HubSpot、Salesforce 与 Shopify 为多个行业提供解决方案。
有合作意向吗?
欢迎通过邮件或 LinkedIn 联系,随时交流。