检查亚马逊网络服务S3存储桶中是否存在多个文件的最佳/最快方法是什么?
例如,我在本地数据库中有100k的文件元数据。我想确保它们都存在于S3存储桶中。我可以对特定文件执行'aws s3 ls‘,但这意味着10万个aws请求。有没有更好的方法来解决这个问题?
发布于 2019-01-16 23:13:59
如果您只是执行一般审计,则可以使用Amazon S3 Inventory获取所有对象键和相关元数据的每日完整转储。
然后,您可以编写一些代码来将清单文件的内容与数据库条目进行比较。
发布于 2019-01-16 21:56:41
如果您希望在一个命令中检索特定存储桶中的所有密钥,则可以使用此命令。
aws s3api list-objects --bucket <bucket-name> --no-paginate
一旦你有了这个列表,你就可以通过一个定制的代码来处理它。
发布于 2019-07-19 03:52:09
https://stackoverflow.com/questions/54225450
复制相似问题