3

データレイクストアとサブディレクトリ内のディレクトリ内のすべてのファイルを一覧表示する方法を知っている人はいますか? どうやら、-recursive通常の環境でのように命令が機能しないようです

このスクリプトを Azure Data Lake Store で実行する必要があります (私のコンピューターでは適切に実行されます)。

$Quarentine = "C:\PSTest\QUARENTINE"

$validate = "C:\PSTest\Files"

get-childitem $validate -rec -af | Where-Object {$_.FullName -notmatch "^C:\\PSTest\\Files\\(.+\\)*(XX.+)\.(.+)$"} | 
move-item -destination {"C:\PSTest\QUARENTINE\"+ $_.BaseName +("{0:yyyyMMddHHmmss}" -f (get-date)) + $_.Extension}

Get-AzureRmDataLakeStoreChildItem明らかに-recursiveサポートされていないコマンドを使用しています。

誰か助けてくれませんか？

ありがとう

4

2 に答える 2

3

これを行うには再帰的な方法があります (注意: サブディレクトリごとに API 呼び出しを行い、並列化されず、すべてのファイルをメモリに保存するため、うまくスケーリングしません)。

function Get-DataLakeStoreChildItemRecursive ([hashtable] $Params) {
    $AllFiles = New-Object Collections.Generic.List[Microsoft.Azure.Commands.DataLakeStore.Models.DataLakeStoreItem];
    recurseDataLakeStoreChildItem -AllFiles $AllFiles -Params $Params
    $AllFiles
}

function recurseDataLakeStoreChildItem ([System.Collections.ICollection] $AllFiles, [hashtable] $Params) {
    $ChildItems = Get-AzureRmDataLakeStoreChildItem @Params;
    $Path = $Params["Path"];
    foreach ($ChildItem in $ChildItems) {
        switch ($ChildItem.Type) {
            "FILE" {
                $AllFiles.Add($ChildItem);
            }
            "DIRECTORY" {
                $Params.Remove("Path");
                $Params.Add("Path", $Path + "/" + $ChildItem.Name);
                recurseDataLakeStoreChildItem -AllFiles $AllFiles -Params $Params;
            }
        }
    }
}

Get-DataLakeStoreChildItemRecursive -Params @{ 'Path' = '/Samples'; 'Account' = 'youradlsaccount' }
于 2016-12-22T08:15:05.393 に答える
0

私は別のアプローチを取りましたが、はい、答えは自分の再帰関数を実行することでした

function Get-DataLakeStoreChildItemRecursive ([string]$path, [string]$account, [string]$quarantine) {

    $dirs = Get-AzureRmDataLakeStoreChildItem -Account $account -Path $path

    foreach ($dir in $dirs) {
        switch ($dir.Type) {
            "FILE" {
                if(($path + $dir.Name) -match "^/adls-dev/raw/amp/(.+/)*(amp.+)\.(.+)$") {
                }
                else {
                    $to = $quarantine + ("{0:yyyyMMddHHmmss}-" -f (get-date)) + $dir.Name
                    Move-AzureRmDataLakeStoreItem -AccountName $account -Path ($path + $dir.Name) -Destination $to
                }
            }
            "DIRECTORY" {
                $q = ($quarantine + $dir.Name + '/')
                $test = Test-AzureRmDataLakeStoreItem -AccountName $account -Path $q

                if($test -eq $False) {
                    New-AzureRmDataLakeStoreItem -AccountName $account -Path $q -Folder
                }

                Get-DataLakeStoreChildItemRecursive ($path + $dir.Name + '/') $account $q
            }
        }
    }
}

Get-DataLakeStoreChildItemRecursive "/adls-dev/raw/amp/" "asdf" "/adls-dev/quarantine/"
于 2016-12-22T23:27:59.367 に答える