ncnn 移植和优化

项目描述：

ncnn 是非常优秀的高性能神经网络计算框架，并且已经有着良好的 RISC-V 支持。本项目要求在 upstream 的基础上，尽最大可能利用 Duo 的算力资源，提高 ncnn 自带性能测试集的分数。

产出及评分要求：

1. 回归测试不引入新的 failure。
2. 使用 RVV0.7、TPU 或者 Duo 上其它可用计算部件进行加速。
3. 尽可能多的正确的跑起来 benchmark 目录下的模型，并记录运行时间。

提交说明：

1. 提交仓库链接为 https://github.com/plctlab/rvspoc-s2310-ncnn
2. 请以 Pull Request 的形式，将结果提交到上述仓库中。
3. 提交时，请详细说明复现所需要的软件环境，可以参照「验收说明」内默认软件环境做修改。
4. 在比赛期间，所有经过优化过的内容的提交方式可以有：
   1. 二进制的形式
   2. 加密源码的形式（加密信息需通过邮件发送至 rvspoc@cyberlimes.cn）
   3. 源码形式
5. 最终结果公布后，需对提交内容进行完整开源。
6. 组委会会在比赛结束后（即 2024 年 2 月 16 日2 月 29 日以后），关闭赛题仓库的 Pull Request 通道，并开始对结果进行验收。

验收标准：

1. 验收平台为 Milk-v Duo 64M 版本
   1. 验收时会统一成相同规格的 TF 卡
   2. 不建议使用 SWAP
   3. 不进行 CPU 超频
   4. 统一无额外散热
2. 对 Duo 上的系统没有额外要求，如果参赛者要求，可在 Pull Request 中申明需要的系统。
3. ncnn 仓库为： https://github.com/Tencent/ncnn
4. 使用 ncnnbench 作为验收程序，详细的优化权重待定.
5. 总体跑分应不低于 Milk-V 官方镜像 55MB 内存下的分数.
6. 部分 Benchmark 的项目在 55MB 内存不加 SWAP 分区的情况下无法运行。此部分内容待评委会通知。
7. （本赛题的实际优化进展，初始有未考虑到的地方，后期可能会有调整，请保持对赛事网站的关注，最终解释权归属于本比赛的赛题评审委员会）

知识产权及开源协议说明：

所有参赛结果要求开源，并提交至主办方指定仓库。参赛者（作者）持有作品的所有权。主办方鼓励参赛者将结果回馈贡献至 upstream。

相关资源

• S2310 快速上手直播回放
• S2310 快速上手文字版回放