数据融合:GCS创建创建文件夹而不是对象

问题描述

我正在尝试使用Data Fusion的GCS create插件创建GCS对象(文件)。

enter image description here

但是它正在创建一个文件夹。

enter image description here

如何创建文件而不是文件夹?

解决方法

似乎该插件的描述导致了误解。 Cloud Storage不能像传统文件系统那样工作,因此您不能“严格”创建空文件。 The gsutil command没有等效于touch命令(在Linux上),并且此产品中的所有“基本”操作都仅限于cp命令(上传和下载文件)。 / p>

因此,由于在指定存储URL时没有文件,因此,预计将创建一个文件夹而不是一个文件。

基于此,我想向您推荐两个解决方法:

  1. 如果您正在使用此插件将文件创建为“标志”,则可以继续使用该插件,因为创建的文件夹也可以用作标志(例如,触发Cloud Function)

  2. 如果需要创建文件,则可以使用“接收器”插件组中的GCS插件创建文件,以将记录写入Google Cloud Storage目录中的一个或多个文件中。文件可以以多种格式写入,例如csv,avro,parquet和json。