Zou XiKun / vpt_det_trt

Blame view

linux/vpt_det_demo/tr_models/10cls-fpn-caffe/readMe.txt 535 Bytes
Edit Raw Normal View History Permalink
2434ed4a   Zou XiKun   trt 20210304 
1
2
3
4
5
6
7
8
9
10
11
 
  10类结构化模型
  
  caffe里边不支持空的blob，而FPN中由于需要把不同的proposals分配到不同的层提取特征，
  很有可能当前图片中没有大目标，所以导致fpn5没有分配到rois，所以会导致roi_align层
  出错，所以在collect_distribute_fpn_rpn_proposals_layer层中强制加入了无效的大rois.
  
  修改后的collect_distribute_fpn_rpn_proposals_layer.cu:
  1、line89 (batch_size * rpn_post_nms_topN_  -->>  batch_size * rpn_post_nms_topN_ + 1)
  2、新加入line157~162
  
  输入720*1280