EdgeCrafter
Một vision transformer nhỏ gọn cho dự đoán dày đặc trên phần cứng biên, được upstream công bố dưới dạng ba mô hình cùng họ: ECDet, ECPose và ECSeg. LibreYOLO nạp cả ba thành một family, với tác vụ được xác định bởi checkpoint.
- Tác vụ
- detection, pose, instance segmentation
- Kích thước
- s, m, l, x at 640 px
- Cài đặt
pip install libreyolo- Bậc hỗ trợ
- Cốt lõi, từ v1.2.0. Các bộ phát hiện cốt lõi có thể huấn luyện: tính năng theo sau các mô hình chủ lực trong cùng đợt phát hành.
- Giấy phép
- Mã nguồn Apache-2.0, trọng số Apache-2.0. Sử dụng thương mại
Cài đặt
EdgeCrafter không cần thành phần tùy chọn nào. Mọi nội dung mà mô hình import đều có trong bản cài đặt cơ sở.
pip install libreyoloTinh chỉnh adapter với lora=True là ngoại lệ và cần thành phần bổ sung lora.
pip install "libreyolo[lora]"Dự đoán
Trọng số được tải từ Hugging Face trong lần sử dụng đầu tiên và lưu vào cache cục bộ.
from libreyolo import LibreYOLO, SAMPLE_IMAGE model = LibreYOLO("LibreECs.pt")result = model(SAMPLE_IMAGE, save=True) for box in result.boxes: print(box.cls, box.conf, box.xyxy)libreyolo predict model=LibreECs.pt source=https://raw.githubusercontent.com/LibreYOLO/libreyolo/release/libreyolo/assets/parkour.jpg save=Truefrom libreyolo import LibreYOLO, SAMPLE_IMAGE # Hậu tố -pose trong tên tệp chọn keypoint head, vì vậy không cần# đối số task ở đây.model = LibreYOLO("LibreECs-pose.pt")result = model(SAMPLE_IMAGE, save=True) print(result.keypoints.xy)print(result.boxes.conf)from libreyolo import LibreYOLO, SAMPLE_IMAGE model = LibreYOLO("LibreECs-seg.pt")result = model(SAMPLE_IMAGE, save=True) print(result.masks.data.shape)Tác vụ được xác định từ tên tệp, vì vậy checkpoint có -pose hoặc -seg sẽ tự
chọn head và không nhận đối số task. Cả ba đều trả về đối tượng Results giống
mọi family khác, với result.keypoints được thêm cho tư thế và result.masks
cho phân đoạn. Tác vụ tư thế bao gồm một lớp đối tượng là người, với 17 keypoint
COCO, và số lượng được cố định khi dựng mô hình. Nó không có box head, vì vậy
mỗi hộp tư thế là phạm vi bao của chính các keypoint, còn kênh keypoint thứ ba
là một hằng số thay vì điểm số theo từng điểm.
conf và max_det lọc quá trình chọn query; iou được chấp nhận để giữ tính
tương thích API nhưng không có tác dụng, vì cả ba head đều decode một tập query
không có bước NMS. Xem dự đoán để biết về nguồn, stream và cách
xử lý kết quả.
Biến thể
Có bốn kích thước. Tất cả đều chạy ở cùng độ phân giải đầu vào, vì vậy bảng phân biệt chúng theo số lượng tham số và độ chính xác.
| Checkpoint | Đầu vào (px) | mAP 50-95 | Tham số (M) |
|---|---|---|---|
| LibreECl | 640 | 60.1 | 32.97 |
| LibreECm | 640 | 58.4 | 19.43 |
| LibreECs | 640 | 54.3 | 9.88 |
| LibreECx | 640 | 61.1 | 49.94 |
COCO val2017, 500 images. Được đo bằng bộ benchmark LibreYOLO và công bố trên Vision Analysis, nơi so sánh độ trễ giữa các phần cứng và runtime, đồng thời lưu trữ đầy đủ bản ghi của từng lần chạy.
Upstream công bố ECDet, ECPose và ECSeg dưới dạng ba mô hình riêng thay vì một mô hình có ba head. Chúng dùng chung backbone ECViT và hybrid encoder, chỉ khác ở head, nên LibreYOLO gộp chúng thành một family và để tên tệp checkpoint mang thông tin tác vụ. Do đó, một chữ cái chỉ kích thước biểu thị cùng backbone và encoder trên cả ba mô hình, còn các lệnh dự đoán, xác thực và xuất nhận cùng đối số bất kể bạn nạp mô hình nào.
Huấn luyện
Cả ba tác vụ đều huấn luyện qua train(). Phương thức này đọc tác vụ từ
checkpoint đã nạp và chọn trainer tương ứng.
from libreyolo import LibreYOLO model = LibreYOLO("LibreECs.pt")model.train( data="my-dataset.yaml", epochs=50, imgsz=640, batch=8, lr0=5e-4,)libreyolo train model=LibreECs.pt data=my-dataset.yaml epochs=50 imgsz=640 batch=8 lr0=5e-4from libreyolo import LibreYOLO # Cần dataset keypoint một lớp có data.yaml khai báo kpt_shape,# và imgsz bằng kích thước gốc của checkpoint.model = LibreYOLO("LibreECs-pose.pt")model.train( data="my-pose-dataset.yaml", epochs=50, imgsz=640,)from libreyolo import LibreYOLO # Cần nhãn polygon và imgsz bằng kích thước gốc của checkpoint.model = LibreYOLO("LibreECs-seg.pt")model.train( data="my-dataset.yaml", epochs=50, imgsz=640,)from libreyolo import LibreYOLO model = LibreYOLO("LibreECs.pt")model.train( data="my-dataset.yaml", epochs=50, lora=True,)Những nội dung đã được kiểm tra cho phát hiện và phân đoạn: độ tương đồng
inference với upstream ở mức 1e-5, theo từng lớp và từng kích thước, cùng khả
năng chạy loss và một bước huấn luyện trên đầu vào tổng hợp. Những nội dung chưa
được kiểm tra, theo docstring của chính train(): độ hội tụ của một lượt tinh
chỉnh đầy đủ, huấn luyện multi-GPU, bước nạp lại mô hình tốt nhất sau khi dừng
augmentation và ánh xạ lại lớp đối tượng từ Objects365 sang COCO. Đường dẫn tư
thế tuân theo recipe đã công bố của DETRPose, dùng Hungarian matcher trên chi
phí lớp đối tượng, keypoint L1 và OKS với cơ chế khử nhiễu keypoint tương phản;
độ hội tụ đầu cuối của nó cũng chưa được kiểm tra.
Nếu giữ nguyên, trainer chạy 74 epoch ở lr0=5e-4 và bật mixed precision, theo
recipe upstream: AdamW, lịch flat cosine, EMA ở 0.9999 và đầu vào được chuẩn hóa
theo ImageNet. Cả tư thế lẫn phân đoạn đều yêu cầu imgsz bằng kích thước gốc
của checkpoint vì evaluation anchor grid được dựng khi khởi tạo mô hình; giá
trị khác sẽ phát sinh lỗi trước khi lượt chạy bắt đầu. Tư thế còn yêu cầu
dataset một lớp có data.yaml khai báo kpt_shape, với số lượng keypoint khớp
với head.
lora=True chỉ áp dụng cho phát hiện; tư thế và phân đoạn sẽ phát sinh
ValueError khi dùng tùy chọn này. Trên Apple silicon, trainer giữ lượt chạy
trên GPU và gửi một phép toán sang CPU, đó là phép lan truyền ngược grid-sample
bên trong deformable attention mà PyTorch chưa triển khai trong Metal.
Xem huấn luyện để biết về dataset, tăng cường dữ liệu (data augmentation), multi-GPU và logger.
Xác thực
val() trả về một dictionary được lập chỉ mục bằng tên metric và in kết quả
theo từng lớp đối tượng khi vẫn bật verbose.
from libreyolo import LibreYOLO model = LibreYOLO("LibreECs.pt")metrics = model.val(data="my-dataset.yaml") print(metrics["metrics/mAP50-95"])print(metrics["metrics/mAP50"])libreyolo val model=LibreECs.pt data=my-dataset.yamlfrom libreyolo import LibreYOLO model = LibreYOLO("LibreECs-pose.pt")metrics = model.val(data="my-pose-dataset.yaml") print(metrics["metrics/keypoints_mAP50-95"])print(metrics["metrics/keypoints_mAP50"])from libreyolo import LibreYOLO model = LibreYOLO("LibreECs-seg.pt")metrics = model.val(data="my-dataset.yaml") print(metrics["metrics/mAP50-95(M)"]) # mặt nạprint(metrics["metrics/mAP50-95(B)"]) # hộpTác vụ tư thế báo cáo metric OKS của keypoint dưới metrics/keypoints_*. Tác vụ
phân đoạn báo cáo mặt nạ dưới key metrics/mAP50-95 thuần và lặp lại cả hai góc
nhìn trong một lượt, hộp dưới (B) và mặt nạ dưới (M).
Xuất
| Tác vụ | ONNX | TorchScript | ExecuTorch | TensorRT | OpenVINO | Paddle | MNN | RKNN | ncnn | TFLite | CoreML | Core AI |
|---|---|---|---|---|---|---|---|---|---|---|---|---|
| Detection | Detection to ONNX: được hỗ trợ | Detection to TorchScript: được hỗ trợ | Detection to ExecuTorch: được hỗ trợ | Detection to TensorRT: được hỗ trợ | Detection to OpenVINO: được hỗ trợ | Detection to Paddle: được hỗ trợ | Detection to MNN: được hỗ trợ | Detection to RKNN: không được hỗ trợ | Detection to ncnn: không được hỗ trợ | Detection to TFLite: không được hỗ trợ | Detection to CoreML: không được hỗ trợ | Detection to Core AI: được hỗ trợ |
| Pose | Pose to ONNX: được hỗ trợ | Pose to TorchScript: được hỗ trợ | Pose to ExecuTorch: được hỗ trợ | Pose to TensorRT: được hỗ trợ | Pose to OpenVINO: được hỗ trợ | Pose to Paddle: được hỗ trợ | Pose to MNN: không được hỗ trợ | Pose to RKNN: không được hỗ trợ | Pose to ncnn: không được hỗ trợ | Pose to TFLite: không được hỗ trợ | Pose to CoreML: không được hỗ trợ | Pose to Core AI: không được hỗ trợ |
| Instance segmentation | Instance segmentation to ONNX: được hỗ trợ | Instance segmentation to TorchScript: được hỗ trợ | Instance segmentation to ExecuTorch: được hỗ trợ | Instance segmentation to TensorRT: được hỗ trợ | Instance segmentation to OpenVINO: được hỗ trợ | Instance segmentation to Paddle: được hỗ trợ | Instance segmentation to MNN: không được hỗ trợ | Instance segmentation to RKNN: không được hỗ trợ | Instance segmentation to ncnn: không được hỗ trợ | Instance segmentation to TFLite: không được hỗ trợ | Instance segmentation to CoreML: không được hỗ trợ | Instance segmentation to Core AI: không được hỗ trợ |
Artifact đã xuất được nạp lại qua LibreYOLO() dựa trên hậu tố tệp, vì vậy tệp
.onnx hoặc .engine hoạt động như một checkpoint và trả về cùng một đối tượng
Results. Tư thế và phân đoạn xuất ở đầu vào cố định 640 x 640 thay vì shape
động, và một số target phát hiện cũng dùng canvas cố định, gồm OpenVINO, Paddle,
MNN, ExecuTorch và Core AI. Phần Xuất liệt kê các đối số mà mọi
định dạng chấp nhận và những thành phần bổ sung mà một số định dạng yêu cầu.
from libreyolo import LibreYOLO model = LibreYOLO("LibreECs.pt")model.export(format="onnx", imgsz=640)model.export(format="tensorrt", imgsz=640, half=True)libreyolo export model=LibreECs.pt format=onnx imgsz=640libreyolo export model=LibreECs-pose.pt format=onnx imgsz=640libreyolo export model=LibreECs-seg.pt format=onnx imgsz=640from libreyolo import LibreYOLO, SAMPLE_IMAGE # Factory định tuyến theo hậu tố tệp, vì vậy artifact đã xuất được nạp# như mọi checkpoint khác và trả về cùng một đối tượng Results.model = LibreYOLO("LibreECs.onnx")result = model(SAMPLE_IMAGE) print(result.boxes.xyxy)Checkpoint
Tất cả tệp trọng số đã công bố cho family này.
| Tệp | Đầu vào (px) | Giấy phép trọng số |
|---|---|---|
| Detection | ||
| LibreECs.pt | 640 | apache-2.0 |
| LibreECm.pt | 640 | apache-2.0 |
| LibreECl.pt | 640 | apache-2.0 |
| LibreECx.pt | 640 | apache-2.0 |
| Pose | ||
| LibreECs-pose.pt | 640 | apache-2.0 |
| LibreECm-pose.pt | 640 | apache-2.0 |
| LibreECl-pose.pt | 640 | apache-2.0 |
| LibreECx-pose.pt | 640 | apache-2.0 |
| Instance segmentation | ||
| LibreECs-seg.pt | 640 | apache-2.0 |
| LibreECm-seg.pt | 640 | apache-2.0 |
| LibreECl-seg.pt | 640 | apache-2.0 |
| LibreECx-seg.pt | 640 | apache-2.0 |
Mọi tệp ở trên hiện đều có trong tổ chức LibreYOLO và được tải xuống trong lần sử dụng đầu tiên.
Giấy phép
Hãy kiểm tra giấy phép trong repo Hugging Face của trọng số cụ thể mà bạn tải xuống. Mỗi checkpoint trong tổ chức LibreYOLO đều có giấy phép riêng và giấy phép có thể khác nhau trong cùng một họ. Repo đó là nguồn có thẩm quyền; phần tóm tắt dưới đây mô tả các điều khoản áp dụng khi trang này được kiểm chứng lần gần nhất.
Đây là phần mô tả các giấy phép liên quan, không phải tư vấn pháp lý. Nếu câu trả lời có ý nghĩa về mặt thương mại, hãy tự đọc các giấy phép và tham khảo cố vấn của riêng bạn.
- Công trình gốc
- EdgeCrafter, Intellindust AI Lab
- Giấy phép thượng nguồn
- Apache-2.0
- Nguồn thượng nguồn
- github.com/Intellindust-AI-Lab/EdgeCrafter
- Mã nguồn LibreYOLO
- MIT
- Trọng số
- Apache-2.0, được phát hành lại tại huggingface.co/LibreYOLO
- Diễn giải
- Apache-2.0 is a permissive license, so these weights can be used in commercial and closed-source products. It asks you to keep its license text and attribution notices with any copy of the weights you redistribute, and it grants a patent license. One license covers all three upstream models, so the detection, pose and segmentation weights carry identical terms, and weights you train yourself on your own data are yours.
Trích dẫn
@article{liu2026edgecrafter,
title={EdgeCrafter: Compact ViTs for Edge Dense Prediction via Task-Specialized Distillation},
author={Liu, Longfei and Hou, Yongjie and Li, Yang and Wang, Qirui and Sha, Youyang and Yu, Yongjun and Wang, Yinzhi and Ru, Peizhe and Yu, Xuanlong and Shen, Xi},
journal={arXiv},
year={2026}
}Được sao chép từ khối trích dẫn của tác giả tại github.com/Intellindust-AI-Lab/EdgeCrafter#-citation.