DNA-ViT:一个可渐进“发育”的 ViT 模型档案
核心演示:静态 PTQ 难以适配不同存储预算;DNA-ViT 先恢复关键功能单元,再随 bitstream 到达逐步细化模型。
关键问题与核心思路visual pitch
现有压缩:统一降比特
问题:ViT 的 Attention / MLP / block 敏感度不同,单一低比特模型难以服务多种存储与带宽预算。
DNA-ViT:优先表达关键“编码区”
3D Haar
高密度映射
高密度映射
Hessian
敏感度排序
敏感度排序
Bitplane
渐进重构
渐进重构
思路:把模型存成可分阶段接收的 archive;先得到 functional skeleton,再逐步恢复到高精度模型。
核心效果交互演示拖动变量,右侧立即变化
Progressive code-streamcoding regions received
skeleton
critical
coding
refine
渐进重构:越接收越接近完整模型
同等 bit-width 下的 Top-1 对比
敏感度优先保护:关键块先拿到更多 archive 预算
AttentionMLP接收比例控制保留程度block index 0–11
一句话 takeawayfor group meeting
压缩对象从“静态权重”变成“可表达档案”一个 archive 可以服务不同存储预算与精度需求。
关键单元优先恢复Hessian-aware allocation 把预算投向对任务最敏感的功能区域。
低预算时收益最大先恢复 functional skeleton,让模型在完整 stream 到达前就可用。