ConvNeXt
ConvNeXt 是一个完全由标准卷积搭出来的图像分类器,从 ResNet 出发,一个模块一个模块地朝 vision transformer 的设计选择改造。LibreYOLO 只支持它的一个任务:分类。
- 任务
- classify
- 尺寸
- t, s, b at 224 px
- 安装
pip install libreyolo- 支持层级
- 已支持,自 v 起。起支撑作用的可训练家族:在 CI 里保持绿色,功能视情况落地。
- 许可
- 代码采用 MIT,权重采用 Apache-2.0。商用
安装
ConvNeXt 不需要任何可选 extra。它导入的所有东西都在基础安装里。
pip install libreyolo用 lora=True 做适配器微调是个例外,需要 lora 这个 extra。
pip install "libreyolo[lora]"预测
权重在首次使用时从 Hugging Face 下载,并缓存在本地。
from libreyolo import LibreYOLO, SAMPLE_IMAGE model = LibreYOLO("LibreConvNeXtt-cls.pt")result = model(SAMPLE_IMAGE, save=True) print(result.probs.top1, result.probs.top1conf)print(result.probs.top5)libreyolo predict model=LibreConvNeXtt-cls.pt source=cat.jpg save=True返回的 Results 对象和每个家族返回的都是同一个,所以换成另一个模型只是一行的改动。分类器不带检测框,也不带掩码:result.probs 保存整图的预测,包含 top1、top5、top1conf 和 top5conf。conf、iou 和 max_det 出于 API 一致性会被接受,但不起任何作用,因为在单个概率向量上既没有可以卡阈值的东西,也没有可以抑制的东西。关于输入源、流式处理和结果处理,见预测。
变体
三种尺寸,tiny/small/base,训练和评测方式完全一样,所以选哪个就是一次直接的参数量换精度的取舍。任务是固定的:每种尺寸都只覆盖分类。每种尺寸的权重文件名都以 -cls.pt 结尾,工厂读的正是这个后缀,据此路由到这个家族;不需要 task= 参数。
训练
微调从已发布的 ImageNet 骨干开始,并自动把最后的分类层重建成目标数据集的类别数。
from libreyolo import LibreYOLO model = LibreYOLO("LibreConvNeXtt-cls.pt")model.train(data="imagenette160", epochs=5)libreyolo train model=LibreConvNeXtt-cls.pt data=imagenette160 epochs=5from libreyolo import LibreYOLO model = LibreYOLO("LibreConvNeXtt-cls.pt")model.train(data="imagenette160", epochs=5, lora=True)libreyolo train model=LibreConvNeXtt-cls.pt data=imagenette160 \ epochs=50 device=0,1 batch=-1不去动它的话,训练器会用 AdamW 跑 100 轮,lr0=1e-3,批大小 64,连续 50 轮没有提升就早停。data 接受一个数据集根目录(train/ 和 val/,每个类别一个文件夹)、一个像 imagenette160 这样的已知短名称,或者一个 .zip URL。ConvNeXt 的模块里带着 LoRA 需要的 nn.Linear MLP,所以这里支持 lora=True,它会把适配器注入模块的 MLP,而不是微调整个骨干。
关于数据集、数据增强、多卡训练和 logger,见训练。
验证
val() 返回一个由 metrics/ 键组成的字典。对分类来说就是验证集上的 top-1 和 top-5 精度。
from libreyolo import LibreYOLO model = LibreYOLO("LibreConvNeXtt-cls.pt")metrics = model.val(data="imagenette160") print(metrics["metrics/accuracy_top1"])print(metrics["metrics/accuracy_top5"])libreyolo val model=LibreConvNeXtt-cls.pt data=imagenette160导出
| 任务 | ONNX | TorchScript | ExecuTorch | TensorRT | OpenVINO | Paddle | MNN | RKNN | ncnn | TFLite | CoreML | Core AI |
|---|---|---|---|---|---|---|---|---|---|---|---|---|
| classify | classify to ONNX:支持 | classify to TorchScript:支持 | classify to ExecuTorch:支持 | classify to TensorRT:支持 | classify to OpenVINO:支持 | classify to Paddle:不支持 | classify to MNN:不支持 | classify to RKNN:不支持 | classify to ncnn:支持 | classify to TFLite:支持 | classify to CoreML:不支持 | classify to Core AI:支持 |
导出产物会按文件后缀通过 LibreYOLO() 重新加载回来,所以一个 .onnx 或 .engine 文件的表现就像一个检查点,返回同样的 Results。导出列出了每种格式都接受的参数,以及少数格式额外加上的参数。
检查点
这个家族已发布的每一个权重文件。
| 文件 | 输入(px) | 权重许可 |
|---|---|---|
| classify | ||
| LibreConvNeXtt-cls.pt | 224 | apache-2.0 |
| LibreConvNeXts-cls.pt | 224 | apache-2.0 |
| LibreConvNeXtb-cls.pt | 224 | apache-2.0 |
上面的每个文件目前都在 LibreYOLO 组织中,并会在首次使用时下载。
许可证
请检查你所下载的具体权重在 Hugging Face 仓库中的许可。LibreYOLO 组织里的每个检查点都附有许可,同一家族内也不一定相同。该仓库是权威来源;以下摘要说明本页上次验证时适用的情况。
这里只说明涉及的许可证,不构成法律意见。如果答案对商用很重要,请自行阅读许可证并咨询法律顾问。
- 原始工作
- ConvNeXt, Meta AI (FAIR)
- 上游许可
- Apache-2.0
- LibreYOLO 代码
- MIT
- 权重
- 采用 Apache-2.0 许可,重新发布在 huggingface.co/LibreYOLO
- 解读
- Apache-2.0 is a permissive license, so these weights can be used in commercial and closed-source products. It asks you to keep its license text and attribution notices with any copy of the weights you redistribute, and it grants a patent license. It places no obligation on your own application code, and weights you train yourself on your own data are yours. The architecture is Meta AI's original design, released under MIT at facebookresearch/ConvNeXt; the block definitions, layer-scale parameter and module naming that LibreYOLO's implementation follows come from timm, whose convnext_{tiny,small,base}.fb_in1k ImageNet-1k weights are licensed Apache-2.0 and are what LibreYOLO ships. Only ConvNeXt V1 is shipped here: ConvNeXt-V2's small pretrained checkpoints are CC-BY-NC 4.0 and are deliberately excluded as not redistributable in a commercial library.
这个家族只提供 ConvNeXt V1。ConvNeXt-V2 的小尺寸预训练检查点采用 CC-BY-NC-4.0 许可,被刻意排除在外,因为非商用权重没法在一个 MIT/商用库里重新分发。
引用
@Article{liu2022convnet,
author = {Zhuang Liu and Hanzi Mao and Chao-Yuan Wu and Christoph Feichtenhofer and Trevor Darrell and Saining Xie},
title = {A ConvNet for the 2020s},
journal = {Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR)},
year = {2022},
}复制自作者在 github.com/facebookresearch/ConvNeXt#citation 上提供的引用块。