我编写了控制台应用程序来监控/分析Azure数据湖存储中的文件。我在Azure活动目录中创建了一个应用程序来访问azure资源。我遵循了给出的所有步骤，让能够访问蔚蓝数据湖存储上的应用程序。我提供了对父目录和数据湖存储的所有幼童文件夹/文件的访问权限。
现在，我可以通过我的代码访问文件。我试图通过在代码中使用DataLakeStoreFileSystemManagement Client获取USQL作业在数据湖存储中生成的文件的修改时间和过期时间。我正在使用微软提供的.NET API进行数据湖分析和数据湖存储。
我正在为我提供访问的文件获取所有这些信息。但是，当usql作业在蔚蓝数据湖存储中添
浏览 1提问于2018-01-30得票数 0
我有一个很大的疑问。在同一台服务器上，我运行了一些qlikview的加载器和hadoop中的一个数据湖。我的qlikview加载器使用impala连接器(您可以在qlikmarkt中找到的连接器)查询数据湖的一些“表”，但我们将在数据湖中使用kerberos安全性。
有人知道我是否需要cloudera为kerberos提供的特殊连接器吗？我认为kerberos可能不会影响本地，但我不知道，有什么想法吗？
感谢所有人
浏览 0提问于2016-04-07得票数 1
我正在尝试从AWS湖编队控制台设置一个数据集。
我按照下面的资源进行同样的操作：
但在创建db的第二步中，输入db名称并选择s3位置后，我将得到
对s3的湖形成许可不足：
我检查了我的权限，我的管理角色映射到我的帐户，允许所有(*)
有人能帮上忙吗?实际问题是什么！
浏览 0提问于2020-09-15得票数 10
使用大数据湖的数据可视化是否需要一台功能强大的笔记本电脑？我被授予了P15学位，因为我的老板认为我的工作需要大量的计算，这通常是完全过分的。但我以前从未和大数据湖合作过，所以我不知道该怎么跟他说。
目前的计划是保持Python (Dash)中的所有内容。我对Dash没有太多的经验，但我的计划是从内部服务器执行Dash仪表板，所以我的笔记本电脑不会进行任何计算。在这种情况下，我看不出我的笔记本什么时候会做任何繁重的计算？
浏览 0提问于2022-03-28得票数 1
1回答
Kukreja在“Apache、Delta湖和Lakehouse的数据工程”中说，Kappa体系结构没有数据湖。微软在 (见图)中提到了一家“长期商店”，但没有透露它的实际情况。它使用这些数据来“重新计算”。对我来说，这是一个数据湖。
Kappa体系结构是否使用数据湖？
浏览 10提问于2022-07-21得票数 0
回答已采纳
我目前正在使用数据工厂将实体从Dynamics 365批量复制到Azure数据湖。实体每24小时保存为数据湖中的CSV文件。 我希望将实体截断为新数据，并附加到数据湖中已经存在的文件中，而不是批量复制。 我认为这是SQL数据库的常见操作，但这可以在Dynamics 365和数据湖之间完成吗？
浏览 14提问于2019-05-01得票数 1
2回答
我是这个Azure数据湖世界的新手。我正在寻找任何必要的先决条件和注意事项，以便使用蔚蓝数据湖.我找到了一个很好的链接，并发现安静有用。
现在，我不确定的一件事是数据保持策略在数据湖中。有些人说数据不应该从数据湖中删除/清除，而很少有人有不同的看法。
因此，在任何数据湖中，对于数据保留策略(归档、清除)，我们是否需要遵循特定和基本的考虑？我知道用例将是这方面的决定因素，但在作出决定之前，是否有任何高层次的考虑因素，是我的问题。
谢谢,
浏览 1提问于2017-02-19得票数 2
回答已采纳
2回答
我试着阅读了很多关于databricks delta lake的资料。据我所知，它为您的数据存储增加了ACID事务，并通过增量引擎提高了查询性能。如果是这样，为什么我们还需要其他不支持ACID事务的数据湖呢？Delta lakes声称将数据湖和数据仓库这两个世界结合在一起，我们知道，由于它目前对操作的支持，它还不能取代传统的数据仓库。但它应该取代数据湖吗？为什么需要两份数据副本-一份在数据湖中，另一份在德尔塔湖中？
浏览 21提问于2020-07-30得票数 0
回答已采纳
2回答
列名映射错误。
、、、、
我试图使用azure数据工厂从on数据湖中提取/加载数据到蔚蓝数据湖。
我只是想查询一下所有的列。我的水槽是蔚蓝数据湖Gen2。
但是我的列名在源和库上都是错误的。
我在on-prem数据湖中的列名类似于user_id、lst_nm等，但在Azure中，它就像、等，这里的user_tbl是我的表名。
我不希望将表名添加到列中。
浏览 14提问于2022-02-23得票数 0
1回答
目前，在我的组织中，我们持有弹性搜索中的半结构化数据，我们使用查询进行快速文本搜索和聚合，但是我们有其他产品在其他数据库中，所以我们希望将所有的数据放在像HDFS这样的数据湖中。
因此，如果我使用HDFS作为一个数据湖来保存原始数据，那么如何使用弹性搜索呢？我指的是在使用之前的弹性搜索索引数据，那么是否可以将数据保存在数据湖中，然后弹性搜索就可以直接从数据湖查询数据，而不需要将数据存储在弹性中？或者我会把数据保存在数据湖中，然后处理它，然后再用弹性存储它，这样它就可以索引它了吗？
总之，我想知道弹性和hadoop干涉的概念。
浏览 3提问于2022-11-21得票数 0
2回答
我们在Hadoop文件系统中创建了一个新的数据湖。数据以ORC的形式存储。目前分析系统直接连接到数据湖来读取这些ORC文件。
有没有办法在数据湖和分析系统之间创建一个中间层来服务数据？
浏览 16提问于2018-10-04得票数 0
我正在使用flink从Azure数据湖中读取数据。但flink无法找到Azure数据湖文件系统。我已经实现了spark来读取Azure Data Lake文件系统文件。
因此，我尝试从flink中触发火花，从Azure数据湖中读取数据，并执行一些逻辑操作，然后将列表返回给flink。所以flink可以使用这些数据？
是否可以从flink触发spark作业？或者如何配置flink来理解Azure数据湖文件系统。有人能在这方面给我指点一下吗？
浏览 2提问于2017-07-11得票数 0
2回答
我有以下问题。我需要从ADLS(Azure数据湖存储)源复制到接收器ADLS，但只复制最新的文件。每小时，到达源的一个.csv文件，这个文件必须被复制到宿数据湖。例如：
event: Hour1 - file_01.csv到达源。任务:复制file_01.csv以接收数据湖。event: Hour2 - file_02.csv到达源。任务:复制file_02.csv以接收数据湖。诸若此类。
有没有办法创建一个基于事件的触发器(新文件到达源代码)？这是我的第一个想法。
另一种方法是创建一个作业，由Azure Data lake analytics运行。在那里我会提取系统的日期和时间(我不知道怎么
浏览 2提问于2018-04-23得票数 0
我在Azure数据湖存储中有一个.csv文件，每当.csv文件加载到数据湖存储中时，我是否可以使用函数应用来触发Azure数据工厂(ADF)事件。当前的ADF支持blob存储的事件，但不支持数据湖。 谢谢，拉维
浏览 12提问于2019-05-25得票数 0
我正在移动数据到Azure数据湖存储和处理它使用Azure数据湖分析。数据是XML格式的，我正在通过读取它。现在，我想从Azure中访问这些数据，看起来Azure数据湖存储目前还不受直接支持。
用Azure ML使用Azure的可能方法是什么？
浏览 2提问于2016-03-21得票数 0
回答已采纳
2回答
如何显示实体框架数据库中的数据？
、、、、
我使用实体框架在Players中有两个表(Clubs，Database.cs )。我想显示数据从web服务到控制台应用程序(客户端)。
我想展示来自某个俱乐部的所有球员。
看起来应该是这样的。
控制台应用程序弹出并说:你想从哪个俱乐部展示球员？
我输入：“洛杉矶湖人”。
应用程序现在应该显示来自洛杉矶湖人的所有玩家。
这是我的密码：
[WebMethod]
public string playerClub(string clubName)
{
using (var db = new Database())
{
string player = ""
浏览 2提问于2014-10-27得票数 0
我将数据上传到Azure Databricks，可以看到DBFS列表中有数据集，但在Databricks所属的资源组中找不到任何数据集。
数据集存储在哪里？
此外，如果我创建达美湖，如何从Azure数据工厂调用Delta湖？我看不出三角洲湖存放在哪里。
浏览 11提问于2022-04-14得票数 0
回答已采纳
是否有类似三角洲湖数据库/表浏览器的工具？我们有一个开源的delta.io部署，并且想知道是否有任何工具可以提供类似SSMS、MySQL工作台、DBeaver等更好的开发体验。
浏览 3提问于2022-05-11得票数 3
2回答
我正在探索Azure数据湖，我是这个领域的新手。我探索了很多东西，读了很多文章。基本上，我必须从不同来源的数据开发Power仪表板。
在典型的Server栈中，我可以编写一个ETL (提取、转换、加载)进程，将我的系统数据库中的数据导入数据仓库数据库。然后利用SSAS等技术，利用Power实现数据仓库。
但是我想使用Azure数据湖，我探索了Azure和Azure ( use )。我绘制了如下的架构图。
在当前的申请流程中，我遗漏了什么东西吗？
我可以使用Power直接从Azure数据湖获取数据，因此不需要数据仓库。我说的对吗？
我可以在Azure数据湖创建一个数据库，那
浏览 1提问于2018-03-15得票数 3
回答已采纳
1回答
我一直困惑着是要创建一个数据湖还是一个数据仓库，希望一些有经验的现实世界的专业人士能给我一些启示。
我想用我从多个来源(IoT设备、API等)摄取的数据来存储、可视化和执行机器学习。我读到，在我们所处的当前环境中，企业将同时需要数据湖和数据仓库。
我的问题是：
我是否应该先创建一个数据湖，然后从湖中转换/处理这些原始数据，并将其摄取到数据仓库中？
还是数据湖本身是一个独立的数据处理管道？
还是这取决于用例？
这就是我一直在想的：
📷
PS:如果这是错误的StackExchange，请告诉我，谢谢:)
浏览 0提问于2022-05-13得票数 2
回答已采纳
2回答
将数据池与已删除的记录同步
、、、、
我正在建设的数据湖，以集成多个数据源的高级分析。
在开始时，我选择HDFS作为数据湖存储。但是我有一个更新和删除数据源的要求，我必须与数据湖同步。
要理解Data的不可变性质，我将考虑数据源中的LastModifiedDate，以检测该记录是否已更新，并将该记录插入数据湖中具有当前日期。这样做的目的是用最大值(日期)选择记录。
但是，我无法理解
我将检测删除的记录从来源和我将做什么与数据湖？
我应该使用诸如Cassandra之类的其他数据存储并执行delete命令吗？恐怕它会失去不可改变的财产。
你能建议我在这种情况下的良好做法吗？
浏览 2提问于2018-04-06得票数 1
1回答
我下载并安装了每个
我创建了一个控制台应用程序和
我还可以访问Azure的数据湖(尽管我不会向您展示)
我是不是遗漏了什么？
DOOD，我的TAB在哪里？
IT应该像THIS...RIGHT?那样出现
浏览 1提问于2016-06-14得票数 0
回答已采纳
2回答
我一直在为客户建立数据湖，在那里我们将数据从onprem或任何其他来源加载到S3 (一个数据湖)中。我们将在这些原始数据上创建一个AWS Glue目录来创建模式。
下一步是使用EMR或AWS Glue进行数据清理，将转换后的数据加载到RDS / REDSHIFT / S3中作为最终目标。
根据使用的用例/服务，可以使用数据管道、Glue Jobs或AWS Lambda事件触发器来调度作业。
分析人员、其他用户将使用IAM服务提供所需的数据/ S3桶访问，用于Quicksight可视化或使用雅典娜、data等进行数据查询，或在Sagemaker中为ML应用程序使用数据。
我的问题是，AWS湖的形
浏览 0提问于2019-08-20得票数 3
1回答
复制活动后继续在数据湖中进行分批
、、、、
我一直在使用Azure数据工厂(polybase)中的复制数据功能将日期复制到Synapse中，并启用了分阶段功能，以便在我们的蔚蓝数据湖中分阶段处理数据。但是，一旦复制到Synapse完成，我们的天蓝色数据湖中的暂存文件就会被删除。
在复制活动完成后，是否有任何方法将暂存的文件保存在数据湖中，而不是删除？
浏览 4提问于2022-04-11得票数 0
2回答
我在数据湖中有几个文件夹(例如:Test1 1容器)，每个月都以这种格式创建YYYY(示例:2022-11)，而在这个文件夹中，我没有几组数据文件，我希望将这些数据文件复制到数据湖中的不同文件夹中。
在接下来的一个月中，在同一个数据湖(例如:Test1 1容器)中创建新文件夹，其中包含2022-12，列表继续，2023-01.等等，我想每个月将这些文件夹中的文件复制到不同的数据湖文件夹中。
如何做到这一点？
浏览 8提问于2022-11-28得票数 0
1回答
我有一个要求分类的PII和非PII数据从Azure数据湖发电1文件。由于我不想复制数据湖中的物理文件创建，我们是否可以在数据湖中创建逻辑视图，最好与物化视图相比较。
更好的技术-天青同步分析/数据库/ VM与火花过程，.
此外，该技术易于与RBAC的Active Directory集成。
告诉我可能性。
浏览 4提问于2020-09-11得票数 0
回答已采纳
2回答
(Azure)数据湖的元数据管理
、、、、
据我所知，数据湖解决方案用于存储从原始格式的原始数据到经过处理的数据。不过，我还不能理解(Azure)数据湖中的元数据管理的概念。在数据湖中处理元数据的最佳实践是什么？
是否有任何自动读取元数据的机制(例如，从头文件中读取)，如果有，是否有任何方法来查看和编辑此元数据(可能是编程实现的API )？我担心，如果没有适当的管理，“湖”只会变成“数据坟墓”。一种解决方案可能是创建一个自己的数据库，我自己在其中存储每个文件的元数据。还有其他更先进的方法吗？
浏览 4提问于2017-03-27得票数 3
目前，我正在尝试从我的web应用程序中的数据湖分析中调用我的U作业。为此，我使用了正式的.net sdk。我授权由另一个网页应用程序，被放置在蔚蓝活跃目录，并有权访问数据湖文件(这在我的应用程序也很完美)，并有读取权利的数据湖分析资源组。我只是在尝试一些来自互联网的选项(在这两个服务上打开防火墙，检查我是否在数据湖分析中有数据湖存储的az数据源)，但这不是工作:/那么，也许还有其他的工作来解决我的问题呢？或者我应该使用另一种方式在中授权我并执行我的use工作？
下面是我在visual studio中的错误消息：
附加信息:用户没有执行此操作的权限.
浏览 3提问于2017-07-10得票数 0
回答已采纳
我所处的位置是，我们使用Azure数据仓库中的外部表从Azure数据湖中读取数据。
这使我们能够使用众所周知的SQL从数据湖中读取数据。
然而，另一种选择是使用数据湖分析，或HDInsight的一些变体。
在性能方面，我看不到太大的区别。我假设Data Warehouse正在后台运行某种形式的分布式查询，正在转换到U-SQL(?)，那么为什么我们要将Data Lake Analytics与U-SQL的语法稍有不同呢？
浏览 1提问于2018-01-18得票数 3
我是Azure数据湖的新手。 下面的屏幕截图有2个文件夹(Storage Account和Catalog)，一个用于Datalake分析和其他数据湖存储。 我的问题是，为什么每个文件夹的目的是什么，为什么我们使用U-SQL进行转换，而这可以在数据工厂中完成。 请解释从数据存储到数据湖的数据流过程。 enter image description here 谢谢你，艾迪
浏览 18提问于2019-02-15得票数 0
1回答
最近我发现了数据湖世界，我计划用ADL建立一个数据湖。我不确定的一件事是数据湖应该如何跟踪随时间变化/处理与源不同版本的更改。
我遇到过这样的站点，声称数据湖按原样提供数据，其他状态是数据应该是时间戳，或者文件夹结构应该反映时间戳。
不管怎样，有什么最佳做法吗？
干杯!
浏览 0提问于2019-07-24得票数 0
回答已采纳
我拥有一个由datetime嵌套文件夹划分数据的蔚蓝数据湖gen2。
我想向我的团队提供增量湖格式，但是我不确定我是否应该创建一个新的存储帐户，将数据复制成增量格式，或者将当前的蔚蓝数据湖转换为增量湖格式是否是最佳实践。
有人能提供关于这件事的任何建议吗？
浏览 2提问于2022-08-09得票数 0
回答已采纳
我正在寻找一种方法来获取关于数据湖中存储的所有数据的总体大小的数据(蔚蓝数据湖gen2 2- adls2)。是否有人知道如何获取有关数据湖大小(存储了多少数据)的此类信息？试图找到合适的API，但到目前为止没有找到任何东西。会感谢你的任何建议。
浏览 2提问于2019-10-13得票数 1
回答已采纳
我想调用rest，并将结果保存为Azure Data Gen2中的csv或json文件。根据我所读到的，Azure函数是可行的。
The服务返回数据的格式如下：
"ID","ProductName","Company"
"1","Apples","Alfreds futterkiste"
"2","Oranges","Alfreds futterkiste"
"3","Bananas","Alfreds futt
浏览 1提问于2019-04-12得票数 1
回答已采纳
我们的团队有一个Azure Data Lake Gen2。另一个团队希望将数据输入到数据湖中，但他们不应该能够在数据湖中查看我们的内容。我怎样才能做到这一点？ 我认为部分访问是不可能的，需要为外部团队创建另一个Azure数据湖来放置数据。我说的对吗？
浏览 25提问于2020-09-24得票数 0
有没有办法将数据湖存储中的文件与azure数据湖存储的.net sdk合并在一起，而不是从数据湖文件中删除我想合并(合并)到一个文件中的文件？我在文档中进行了搜索，但目前我找不到任何在将文件连接到一个文件后不删除文件的方法。
浏览 0提问于2017-05-24得票数 0
芯片如何修补幽灵变体1和熔毁熔毁，如威士忌湖和琥珀湖，如何处理谱变体2？我在找一台新笔记本电脑。目前正在评估联想x390。它将与威士忌湖一起上市，该公司声称对熔毁和幽灵变体有硬件修复。
根据南德科技公司的说法
最大的性能标志是解决谱变体2。当软件修复时，英特尔预计性能将下降3%至10%，这取决于工作负载--在硬件修复时，英特尔表示性能下降要小得多，但预计新平台(比如Cascade Lake)将提供更好的整体性能。威士忌湖和琥珀湖都没有减轻v2的影响，但是威士忌湖对一些更危险的攻击(如v3和L1TF )进行了修复。威士忌湖也提供新的性能回收箱，因为该平台也在14++上，这将有助于提高性能和动力。
浏览 0提问于2019-02-28得票数 6
1回答
我们找不到连接到互联网或任何可以连接到azure数据湖存储的脚本或代码。这样我们就可以从azure数据湖中检索数据到API。
浏览 20提问于2021-10-05得票数 0
如何使用数据工厂将csv文件数据加载到azure数据湖的表存储中。 假设我有一个列和行都很少的文件，我想使用数据工厂将这些数据上传到azure data的azure table storage -lake gen-2。 我使用了azure数据工厂的复制活动和azure数据湖容器中的一个文件作为源，但对于接收器，我看不到选择azure数据湖表存储的选项。 如果我遗漏了什么，请告诉我好吗？
浏览 22提问于2020-01-28得票数 0
我正在处理从Azure blob存储到azure数据湖存储的文件，我需要从年份(文件夹)\月份(文件夹)\ do (txt文件在日基上)选择文件，.I能够使用hadrcoded路径完成一个文件，但我不能每天选择文件并处理复制在蔚蓝数据湖存储中。有人能帮帮我吗。
我正在使用ADF V2并使用UI设计器来创建我的连接、数据集和管道--我的步骤很好。
将文件从blob存储复制到数据湖存储
从数据湖存储中选择该文件，并通过usql处理转换数据。
转换我在Azure SQL DB中保存的数据。
请给我答案，我不能得到任何帮助b/c，所有的帮助都是在JSON中，我正在研究如何在UI设计
浏览 0提问于2018-10-28得票数 1
回答已采纳
我正在从事一个数据湖项目，我使用(编写pyspark代码)用于ETL，使用Azure DevOps用于CICD和源代码管理。我注意到了Devops中的测试计划:我的查询是，我可以使用测试计划进行数据湖测试吗？我浏览过与网络浏览相关的测试计划，但没有发现任何与数据湖、数据库或数据仓库相关的计划。
浏览 3提问于2020-01-19得票数 0
作业提交失败，user datalakeanalyticsaccountname对数据湖分析所需的/system/ path中的子文件夹没有权限。请从门户运行“添加用户向导”，或者使用Azure PowerShell授予用户对数据湖存储上的/system/及其子系统的访问权限。
数据工厂似乎将数据湖分析帐户的“名称”视为用户，并抱怨权限问题。我有U转换活动与Azure数据湖分析链接服务.
{
"name": "LsDataLakeAnalytics",
"properties": {
"type": "Az
浏览 3提问于2016-11-24得票数 0
7回答
我听说了数据湖这个新名词。我在谷歌上查到了
数据湖是一个大规模的存储库和处理引擎.数据池提供“任何类型的数据的大量存储、巨大的处理能力和处理几乎无限并发任务或作业的能力”。
术语数据湖通常与面向Hadoop的对象存储相关联。在这种情况下，组织的数据首先加载到Hadoop平台，然后将业务分析和数据挖掘工具应用于其驻留在Hadoop的商品计算机集群节点上的数据。
Hadoop也做了同样的事情。我们有存储的HDFS和用于计算的MapReduce。我对Hadoop和数据湖有点困惑。两者之间的区别是什么。如果它们是相同的，为什么会出现这个词。或者如何定义数据湖。
浏览 8提问于2016-03-14得票数 16
例如，我可以使用数据工厂中的复制活动将1000万条记录客户表复制到Azure数据湖中，并在源选项中使用“动态范围”分区选项。我的理解是，这将导致数据工厂将数据分解为湖中的许多文件。
使用此方法，如何强制湖中输出文件的命名约定？例如，每个文件名都以'cust_‘开头，这意味着文件将被称为cust_1、cust_2、cust_3、cust_4等。
浏览 3提问于2021-06-17得票数 1
回答已采纳
我想使用C#编写从事件中心到数据湖存储的事件，而不使用流分析。
我们可以在BLOB中写入，但是我们如何在数据湖中写入。
浏览 0提问于2017-06-09得票数 0
1回答
我的数据湖文件夹中没有几组月度文件，我希望将它们复制到数据湖中的另一个文件夹中，在将数据复制到目标数据湖文件夹时，我希望创建一个YYYY格式的文件夹(Ex: 2022-11)，并且我希望复制该文件夹中的文件。
在下个月，我将再次获得新的数据集，并希望将它们复制到(2022-12)文件夹，等等。
我想每个月运行管道，因为我们将获得每月负载的数据。
浏览 7提问于2022-11-23得票数 0
我正在使用Azure数据工厂，我必须复制/下载驻留在Azure数据湖gen2中的READONLY文件来存储blob。
是否可以从Azure数据湖gen2下载文件(标记为READONLY)？请指教
浏览 12提问于2022-09-26得票数 0
我在我的三角洲湖中保存了一个dataframe，下面是命令：
df2.write.format("delta").mode("overwrite").partitionBy("updated_date").save("/delta/userdata/")
此外，我还可以装载和看到三角洲湖/userdata：
dfres=spark.read.format("delta").load("/delta/userdata")
但是在这里，我有一个疑问，比如当我将几个块文件从blob移动到创建datafra
浏览 0提问于2019-12-13得票数 2
我们在中创建了一些视图。我们需要基于一个水标列来递增地查询这些数据，并且它必须被加载到Azure数据湖容器中，进入原始层，然后再加载到管理层。在原始层中，文件应该包含整个数据(满载数据).So，基本上我们需要附加这些数据并作为一个满载导出。我们是否应该使用Databricks Delta湖表来处理这个需求。如何将数据插入到达美湖表。此外，如果记录已从source.What中删除，则需要删除该记录，应将其用作此分区列。
浏览 4提问于2022-10-25得票数 0
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
实时音视频
对象存储
即时通信 IM活动推荐
腾讯云开发者
