【AI帮我忙之补知识 显存和卡顿的关系】

背景之前只知道显存大了会卡 超出了显存他会和CPU那边交换数据 会爆卡但是对于还没超过的情况为什么会卡一直懵懵懂懂 这次问问AI 解开疑惑问问AI答案精简过问我如果只有8G显存 总体资源不超过8G 除非资源太碎 触发cache频繁更新才会卡对吗AI:1 总资源小于8G 不会触发VRAM内存的PCle低速交换 这是最严重的那种2 但依然会有两种轻度卡顿 和你说的碎片 cache有关系情况1 显存碎片物理上显存是一块 但是实际和CPU的malloc类似地址加偏移涵盖一片内存空间GPUI硬件访问纹理 FBO 计算张量时 硬件接口要求 单个资源必须要放在单一连续地址段不能两个非连续的存当需要一大块连续空间 但是没有这么大的空闲空间驱动就会腾空间分配内存 这块是显存内部高速拷贝 带宽高 卡顿轻微 但总归是有开销的情况2 就是L1 L2纹理cache频繁失效cache只有几MB 只存当前着色器正在读取的一小块像素贴图数量极多 画面纹理跳转剧烈 快速转身 大范围视野切换 这时候cache存不下当前需要采样的像素 只能反复去取新数据 这里的损耗是显存内部读取延迟不会卸载贴图 小幅度降低帧率 这里即使超多小贴图 也比不过显存超的情况