问题描述
我们使用具有动态分配和外部 shuffle 服务的 Spark 3.0.1（独立模式）。
在切换到专用永久性磁盘后，我们开始出现“磁盘空间不足错误”，因此我们查看了 /tmp 文件夹并注意到许多较旧的应用程序 shuffle 文件仍然存在，这在一定程度上可以理解，因为 shuffle 文件应该保持可用状态只要工人还活着。
但是这些文件在什么时候被删除？我认为在作业完成时不再需要随机播放文件并且可以（并且应该）被删除，但是查看 spark 代码库（ExternalShuffleBlockResolver）它显示目录清理器仅在以下时间被触发：
我错过了什么吗？什么服务应该清理已完成/失败作业的 shuffle 文件？
请注意，我们使用多租户架构，这意味着我们的 Spark 应用程序充当多个请求的服务器。
解决方法
暂无找到可以解决该程序问题的有效方法，小编努力寻找整理中！
如果你已经找到好的解决方法，欢迎将解决方案带上本链接一起发送给小编。
小编邮箱:dio#foxmail.com (将#修改为@）