有没有办法在任务运行时完成之前从Azue Batch任务动态流数据

问题描述

我正在运行一个Azure Batch HPC,它会以CSV文件作为计算的输出(任务运行)。 我想在计算仍在运行时将数据实时流式传输到客户端应用程序 。有没有办法做到这一点?有什么可以用作模型的例子吗?

解决方法

如果没有在节点上专门为流文件建立长期生存的过程,最好的解决方案可能是使用GetFile API之一并定期调用它。根据您的应用程序写入数据的频率以及您希望数据如何同步,还可以使用GetFileProperties API进行一些优化,以获取文件的最后写入时间。

, 布莱克林的答案很明确。这是函数的example in Python,它在等待任务完成时将文件流式传输出去。在示例代码中捕获了一些细微之处。

另一种方法是将文件作为程序的一部分流式传输到Azure存储附加blob,该blob可能具有不错的属性,例如持久性,独立于计算节点的生存期。

免责声明:我是所引用代码的贡献者。