显卡明明空着但是RuntimeError: CUDA out of memory.

问题遇到的现象和发生背景

我看了显卡状态

img

问题相关代码，请勿粘贴截图

我的设置

img

img

img

运行结果及报错内容

报错如下：

img

运行时错误：CUDA 内存不足。 尝试分配 196.00 MiB（GPU 1；10.76 GiB 总容量；9.55 GiB 已分配；82.56 MiB 空闲；PyTorch 总共保留 9.62 GiB）如果保留内存是 >> 分配内存尝试设置 max_split_size_mb 以避免碎片。 请参阅内存管理和 PYTORCH_CUDA_ALLOC_CONF 的文档

我的解答思路和尝试过的方法
我想要达到的结果

请大家帮助解答一下