问题标签 [azure-data-factory]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票
1 回答
4946 浏览

azure - 如何使用数据工厂根据日期创建文件夹?

我正在使用数据工厂,并且我有一个将数据从一个位置复制到另一个位置的活动。但是,我希望目标位置类似于“容器/年/月/日”,其中自动生成年、月和日。源地址和目标地址作为参数提供给我的工作,因此它们应该位于活动的参数部分。我被卡住了,不知道如何指定它们

0 投票
3 回答
1468 浏览

azure - 如何从 http rest 端点获取数据作为 Azure 数据工厂的输入?

如何从 http rest 端点获取数据作为数据工厂的输入?

我的用例是每小时从一个休息 HTTP GET 获取新数据并将其更新/插入到 azure 中的文档数据库中。

您可以像这样创建一个端点并放入其余端点吗?

我要添加什么样的组件来创建数据转换作业 - 我看到有一堆东西,比如 hdinsight、数据湖和批处理,但不确定简单地将新集合插入到天蓝色文档数据库。

0 投票
1 回答
1850 浏览

sql-server - 在 Azure 数据工厂中更改 SliceStart\SliceEnd 的时区

使用 Azure 数据工厂复制活动时,我可以触发源 SQL 查询,例如

但是 SliceStart 和 SliceEnd 似乎是 UTC。假设我无法在源数据库上部署代码,我将如何将它们转换为另一个时区,特别是受 DST 影响的时区,例如 PST。

0 投票
1 回答
2124 浏览

azure - 触发 azure 数据工厂管道

有什么方法可以手动触发 Azure 数据工厂管道?我想在演示中使用此功能。

我知道我们可以使用 power shell 脚本暂停和恢复管道。

谢谢。

0 投票
1 回答
1031 浏览

sql-server - azure data factory中可以进行模糊查找和模糊分组操作吗

我是数据工厂的新手。有一段时间我在 Azure SQL 数据库上工作。到目前为止,所有数据转换操作(包括数据 移动、处理、修改数据、模糊分组和模糊查找)都是通过 SSIS 在我的系统上手动执行的。现在我们想要自动化所有的包。为此,我们希望在 Azure 上安排这些包。我知道 Azure SQL 不支持 SSIS,有人建议使用数据工厂。让我知道数据工厂是否可以执行我上面提到的所有要求。提前致谢...

0 投票
2 回答
2642 浏览

json - 如何加载到 Azure Blob 中存储为 JSON 的 Azure SQL 数据仓库数据?

我在 Azure Blobs 中有一堆数据作为 JSON 文件存储。我想将它们加载到 Azure SQL 数据仓库,但 Azure SQL 数据仓库似乎不接受 JSON 输入文件。

最好的方法是什么?

我研究的解决方案:

1)使用带有自定义活动的 Azure 数据工厂(例如https://github.com/Azure/azure-content/blob/master/articles/data-factory/data-factory-use-custom-activities.md)但似乎为此旋转 HDInsight 群集有点“开销”(而且我更喜欢使用 JavaScript 而不是 C# 解决方案)。

2) 编写 Azure api-app(或自定义代码)将文件转换为 CSV,然后编写外部表脚本将其上传到 Azure SQL 数据仓库,然后删除 CSV 文件。我不确定是否需要保留此 CSV 文件以供以后使用。

有更好的建议吗?

0 投票
1 回答
1424 浏览

azure - Azure 数据工厂数据集切片

我在理解 Azure 数据工厂中的切片(数据集可用性)时遇到了一些麻烦。假设我有一个永远不会改变的源数据集。然后我出于某种原因为我的源数据集设置了每小时切片。那么每个切片会是相同的吗?在这种情况下使用切片有什么意义(即为什么需要它)?或者另一种情况,假设我的源数据集连续附加了新数据(例如事件日志)。每天早上我都想对该日志的所有历史进行一些分析。然后我应该设置每日切片吗?每个切片会包含完整的历史记录还是仅包含最后一天?

0 投票
1 回答
4407 浏览

azure - 数据工厂:从 blob 复制到 SQL 后如何执行查询?

我正在尝试安排从 blob 到 SQL 的复制管道。复制完成后有没有办法运行自定义查询(例如在 SQL 数据库中创建/更新视图)?

sqlWriterCleanupScript 是在复制完成之前还是之后运行?

0 投票
2 回答
1521 浏览

azure - 无法从 VS2015 发布/部署数据工厂

我开始在我的公司创建 Azure 数据工厂。主要将数据从我们的本地 SQL 数据库加载到 Azure SQL 数据仓库。但是,我只能从 Microsoft Azure 门户网站发布它们,而不能从 Visual Studio 2015 发布。当我在解决方案资源管理器中右键单击项目并选择发布按钮时,系统会要求我登录 MS Visual Studio。在数据工厂配置页面登录后,我看不到任何现有的数据工厂,也看不到任何新的数据工厂。使用现有数据工厂名称、订阅、资源组和区域下拉菜单被禁用(见屏幕截图)。

数据工厂配置

我是数据工厂的所有者,并且在我创建的数据工厂中发布或运行管道没有任何其他问题。我是团队中使用数据工厂的唯一开发人员,而设置和配置我们 Azure 服务的人也找不到问题。

我想这是配置问题或与我的帐户有关。我从头开始重新安装了 VS2015 Enterprise,但无济于事。有什么建议么?

0 投票
2 回答
1785 浏览

azure - 如何在 Azure 数据工厂中调度管道

我按照 MS 的教程创建了一个管道,将数据从本地 SQL 平板电脑移动到 Azure Blob,然后还有另一个管道将 blob 数据移动到 azure sql 表。从提供的文档中,我需要指定管道的活动期(开始时间和结束时间)并且一切运行良好。

问题是如果我希望管道每 3 小时激活一次,直到我手动停止操作,我该怎么办。目前我需要更改json脚本中的开始时间和结束时间并每天再次发布,我认为应该有另一种方法来做到这一点。

我是天蓝色的新手,任何帮助/评论将不胜感激,谢谢。

ps 我无法进行事务复制,因为我的本地 SQL 位于 SQL2008 上。