loss is aways 0

[yimuu]

微调internlm-xcomposer2d5-7b时，损失一直为0

[yuhangzang]

Please check your SFT data format, and you may set a breakpoint here.

[yimuu]

我添加了打印语句，但是运行的时候没有任何输出

[yimuu]

我设置了断点，但是它并没有在这里停住，这个文件好像并不会执行

[yimuu]

我将max_length设置为8192时不会出现loss为0的情况，但是将其设置为更小时就会出现。出现这种情况的原因是什么？

[yuhangzang]

我设置了断点，但是它并没有在这里停住，这个文件好像并不会执行

You may (1) clone the repo in your local dir, (2) set the breakpoint in your local dir, and (3) replace the export MODE path with your local dir path and have a try.