问题标签 [azure-data-factory-2]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票
0 回答
561 浏览

azure - 为什么我的 Azure 数据工厂存储过程在 30 分钟后超时?

为什么我的 Azure 数据工厂存储过程在 30 分钟后超时?

这是 Azure SQL 链接服务定义:

而且,这是管道定义:

当我触发管道时,它在 30 分钟后失败并出现超时错误:

0 投票
2 回答
670 浏览

azure-data-factory - 无法发布 ADF 增量包

如前所述,这里参考这篇文章发布了一个将数据从 Premises Mysql 同步到 Azure SQL 的线程,发现用于水印检测的查找组件仅适用于 SQL Server。

所以尝试了一项工作,在使用“复制”数据流任务时,将选择大于从 Mysql 存储的最后一个水印的数据。

问题:能够成功验证包但无法发布相同的包。

问题:在复制数据流任务中,我使用以下查询从 MySql 获取大于可用水印的数据。

我们不能在 Mysql 等其他关系源上使用下面的查询吗

CopyTask SQL 查询预览 在此处输入图像描述

验证成功 在此处输入图像描述

没有详细信息的错误 在此处输入图像描述

调试成功 在此处输入图像描述

在执行 Franky Azure SQL Linked Service Error 提到的步骤后出现错误(通过在连接选项卡中重新配置连接/编辑凭据来解决) 在此处输入图像描述

源查询为空(通过重新选择源类型和重写查询解决) 在此处输入图像描述

0 投票
2 回答
1896 浏览

azure - 使用 Azure 数据工厂复制和解压缩 .tar 文件

我正在尝试将 .tar 文件从 FTP 复制并解压缩到 Azure Data Lake Store。.tar 文件包含 HTML 文件。在复制活动中,在数据集上,我选择压缩类型 GZipDeflate,但我想知道我需要使用什么文件格式?是否支持在没有自定义活动的情况下执行此类操作?

0 投票
2 回答
282 浏览

azure - 如何从数据工厂 v2 中的文件中读取带有表达式的设置?

我正在从带有表达式的 json 文件中读取设置,但该表达式不起作用。

设置为 outputPath -> @activity('GetSet').output.value[0].subs.outputPath

该文件具有以下表达式:

"outputPath": "/subs/@{formatDateTime(utcnow(), 'yyyy')}/subs.json"

结果应该是 /subs/2018/subs.json 但看起来与文件中的内容相同。如果我将表达式直接放在设置中,它可以工作。

我的管道的 json

我的文件是:

0 投票
1 回答
1230 浏览

azure - 从 Azure 数据工厂中的多个表构建单个数据集

我有一个问题,要求我在数据存储的查询中使用视图。内置的复制实用程序似乎不喜欢我的内部连接查询。我知道该查询有效,因为我在本地 SSIS 中对其进行了测试。如何构建连接 ADF 中 2 个或更多表的数据集?我尝试转到高级选项卡并使用我的查询引用 SqlDataReader,但我不知道如何查看结果的预览。请协助。

0 投票
1 回答
1072 浏览

c# - 如何获取管道 RunID

我是 Azure 的新手,我需要使用 c# 在 Azure 中查找管道的最新 Activity RunID。我不想调用管道实例,只想获取最后一个活动 RunID。当我尝试时,可以调用管道并获取 ID。任何人都可以帮助我吗?

0 投票
1 回答
515 浏览

azure-data-factory - U-SQL 活动未在 Azure 数据工厂上运行

我正在使用 Azure 数据工厂将本地数据传输到 Azure Data Lake 存储。复制数据后,我在上传的文件上运行 U-SQL 脚本以将其转换为新的 .csv 文件。如果从 Visual Studio 或直接从 Data Lake Analytics 运行,我的 U-SQL 作业运行良好。

但是如果在 Azure 数据工厂中添加和活动。复制数据后,此 U-SQL 脚本活动立即失败。我尝试了很多方法,但无法解决问题。它给了我以下错误。

在此处输入图像描述

我的 U-SQL 活动的 JSON 定义是

整个管道的 JSON 是

0 投票
1 回答
3452 浏览

azure-data-factory - 如何在 Azure 数据工厂 V2 中仅使用失败的活动/数据集重新运行管道?

我正在运行一个管道,在该管道中循环遍历 INFORMATION.SCHEMA.TABLES 中的所有表并将其复制到 Azure Data Lake 存储中。我的问题是,只有在任何表无法复制时,我才如何为失败的表运行此管道?

在此处输入图像描述

0 投票
2 回答
254 浏览

azure-data-factory - 如果两个管道成功执行,则在 Azure 数据工厂 V2 中执行存储过程

Azure 数据工厂 IF 条件图像

我要做的是执行存储的产品,但是只有在成功执行前面的两个“管道”时才应该执行它。请参阅上面的图片网址。

我正在为“IF 条件”中的正确表达而苦苦挣扎。我正在尝试完成类似的事情: IF TriggerCopyAX is succesfull AND TriggerCopyNav is succesfull Continue..

0 投票
1 回答
265 浏览

azure - 复制活动 - 接收器存储过程参数值被忽略

添加copy activity, 并指定要使用的存储过程后 - 我想添加一个存储过程参数:

在此处输入图像描述

运行活动时,我收到一条错误消息,指出没有为存储过程参数指定值projectId

查看为 生成的 JSON 代码copy activity,我确实可以看到没有为参数设置值:

通过单击 上的Advanced选项卡来设置参数的值copy activity,然后粘贴以下 JSON 使其工作:

我还尝试将数据工厂连接到 git,并进行提交以设置存储过程参数的值 - 但没有运气。复制活动加载后,它似乎会删除为参数设置的值。

为什么我不能设置存储过程参数的值,而不使用Advanced选项卡覆盖活动模板?