claude

model-infer-optimize

NPU 模型推理端到端优化 Team。涵盖从零适配到 baseline 的固定阶段优化(并行、KVCache/FA、融合算子、量化、图模式),以及 baseline 之上 profiling 驱动的探索式优化(多方向发现候选、Plan/round 自循环,按需调用多流、预取、SuperKernel 等单点优化)。

0 on GitHubby CANNBotv1.0.6CANN-2.0updated 21 days agodevelopment
/

Plugin model-infer-optimize from marketplace cannbot in catman626/cannbot-skills. Commands read from the repo's manifest — 19 days ago.

This plugin runs code on your machine — its hooks fire automatically on events like tool use. The exact commands are listed below; read them before installing.

What it installs

Subagents (9)

  • model-infer-analyzer

    模型优化分析专家,负责模型架构分析、并行策略推荐、优化方案设计和性能/精度 Profiling 数据解读。适用于模型结构理解、部署策略决策、各优化阶段的方案评估等分析类任务。触发:模型架构分析、并行策略推荐、优化方案设计、profiling 数据解读时使用。

  • model-infer-implementer

    模型优化实施专家,负责按已确认方案实施代码改造和调试修复。适用于并行切分、算子替换、模式适配等各优化阶段的代码实施和问题修复。

  • model-infer-reviewer

    模型优化审查专家,负责验证代码改造的正确性、精度、性能和代码规范性,输出结构化诊断报告。适用于各优化阶段的精度验证、性能对比、策略校验、代码规范检查和仓库一致性审查。

  • model-infer-sota-candidate

    优化候选发现专家,按候选来源(multi-stream DAG 拆解 / wiki / perf-insight)并行发现不限于多流的优化候选,产出候选 Plan 草案。供 model-infer-optimize 在候选发现阶段为每个来源派发。

  • model-infer-sota-implementer

    NPU 推理性能优化实施专家,用主 agent 按 Plan 内容选定的单点技术 skill 实施单个优化 Plan(多流 / 融合 / 图模式 / prefetch / KVCache / SuperKernel / 并行等),保留 enable 开关并自验证。供 model-infer-optimize 在 Plan 实施/review/派生循环中派发。

  • model-infer-sota-profile-analyzer

    性能数据分析专家,用 model-infer-perf-breakdown 按主 agent 敲定的拆解 spec 非交互地跑性能分析,产出时间分布 + 逐算子实测/理论 gap 报告。供 model-infer-optimize 在分析 baseline 与重采轮时派发。

  • model-infer-sota-profiling-instrumenter

    NPU profiling 采集专家,用 model-infer-profiling 为已跑通的场景插桩/启用采集并产出 profile。非交互、可关闭回退,供 model-infer-optimize 在 baseline(round0) 与重采轮采集时派发。

  • model-infer-sota-reviewer

    NPU 推理性能优化复核专家,只复核不改代码,验证 Plan 是否真实生效、精度与性能是否达验收口径,给出通过/淘汰/保持建议。供 model-infer-optimize 在 Plan 实施/review/派生循环中派发。

  • model-infer-sota-scenario

    推理场景构造专家,负责构造可复现的推理输入、跑通精度基线、并定一把可机判的判定口径。只读不改优化代码,供 model-infer-optimize 编排流程在“构造输入并跑通精度基线”阶段派发。

Hooks (5)

  • SessionStart

    "${CLAUDE_PLUGIN_ROOT}/hooks/run-hook.cmd" session-start-model-infer

  • PreToolUse

    python3 "${CLAUDE_PLUGIN_ROOT}/hooks/pre_tool_use.py"

  • PreToolUse

    python3 "${CLAUDE_PLUGIN_ROOT}/hooks/time_reminder.py"

  • PostToolUse

    python3 "${CLAUDE_PLUGIN_ROOT}/hooks/post_tool_use.py"

  • SubagentStop

    python3 "${CLAUDE_PLUGIN_ROOT}/hooks/subagent_stop.py"

View source on GitHub gitcode.com

More from catman626/cannbot-skills

All 40 plugins →

AISS-TilingSolver:Ascend C 算子 Tiling 参数自动求解工具(MatMul / Vector)。下载安装、构造 JSON 输入、运行求解、结果解读与故障排查。

94 skills

0

Ascend C 代码审查 Skills(2 个)。代码审查规范和 API 文档检索。

94 skills

0

Ascend C Kernel 直调算子开发 Skills(40+ 个)。API 检索、Tiling 设计、精度调试、性能采集、环境检查、代码模板等。

94 skills

0

Ascend C 算子性能进化优化共享 Skills(2 个)。NPU 架构与芯片规格查询、性能采集与分析。

94 skills

0

AscendC 算子性能调优 Skills(6 个)。性能仿真、Profiling 采集、Tiling 建模与流水分析、性能优化最佳实践、MC² 最佳实践、API 文档检索。

94 skills

0

Ascend C 注册调用算子开发 Skills(21 个)。API 检索、Tiling 设计、精度调试、性能采集、环境检查、代码模板、测试设计、UT 开发等。

94 skills

0

Similar plugins

superpowers

claudecodex

Core skills library for Claude Code: TDD, debugging, collaboration patterns, and proven techniques

15 skills · hooks

obra/superpowers 316,836

context7

claudecodex

Up-to-date documentation lookup. Pull version-specific documentation and code examples directly from source repositories into your coding agent's context.

1 MCP server

upstash/context7 64,709

Build powerful, stateful CLI interfaces for any GUI application using the cli-anything harness methodology.

5 commands

HKUDS/CLI-Anything 58,665

Automates browser interactions for web testing, form filling, screenshots, and data extraction

12 skills

vercel-labs/agent-browser 50,373

Use Alibaba Open Code Review from local Codex.

2 skills

alibaba/open-code-review 50,068

slidev

claude

Claude Code skill for creating and presenting Slidev slidedecks

1 skill

slidevjs/slidev 49,452

Maintain model-infer-optimize?

This page updates itself from your repo. Add the badge to your README, or get it Featured to pin it above the organic results with a followed link to your site.

claude & codex plugins40 plugins