我看目前的infer.py是单样本处理的,可不可以考虑后续支持一下批量batch处理呢? finetune.py目前写死了system id,可不可以考虑后续在数据集格式中加入system字段,然后可以自定义system?
我看目前的infer.py是单样本处理的,可不可以考虑后续支持一下批量batch处理呢?
finetune.py目前写死了system id,可不可以考虑后续在数据集格式中加入system字段,然后可以自定义system?