ILD

转换脚本如下：import torchfrom transformers import AutoModel, AutoTokenizerimport torch.nn as nnclass ImageEmbedder(nn.Module): def __init__(self, model):

通过onnx runtiome核心代码是：vision_session = ort.InferenceSession("siglip_image_embed.onnx")image_embeds = vision_session.run(None, {input_name: pixel_values

前几篇文章，将siglip2转成了onnx格式，并且使用onnx runtime进行了推理验证。手上有rk3588的开发版，尝试使用rknn-toolkit2将其转换成rknn的模型，在rk3588上使用NPU进行推理。下载rknn-toolkit2https://github.com/airock