如题
目前RWKV6没有计划调更大尺寸的模型,7会有计划
RWKV6官方模型有14B的,只是还没训练完成https://huggingface.co/BlinkDL/temp-latest-training-models/blob/main/rwkv-x060-14b-world-v2.1-81%25trained-20240527-ctx4k.pth
目前微调更大尺寸的模型计划预定在RWKV7 7B出来后进行
· Sign up or log in to comment