Azure Blob StorageをPythonから操作する、前記事の続きです。さらに工夫したものは別の記事に分けていますので最終形態はそちらで。
引き続き検証環境はPython3.6+Windows 10 Pro、実装はPython3前提です。
さて、基本操作は前の記事で実装しましたが、フラットな構造に対応するために「ディレクトリ直下のファイルのみ同期」、というのはちょっと雑でした。
今回は、元のローカルパスを合わせてBLOBのメタデータとして記録することで、何とかツリー構造に対応させたいと思います。
もくじ:
メタデータの利用
今回はBLOB名をランダム文字列で作成し、メタデータを使ってローカルのパスを記録させ、サブディレクトリ含めツリー構造を保持することにします。
サブディレクトリを含むとなると、多数のファイルが存在するような場合が厄介なことになりますが、まあ今回は目をつぶります。ファイル数が気になる場合は書庫に固めてしまうなどの代替案が考えられますが、今回は触れません。
ついでにメタデータに他のファイル情報も書いておくことにします。うまくやれば、一定以下のサイズのファイルのみ転送したり、最近に更新があったもののみ転送する、などの使い方ができます。
今回のスクリプトです。前記事の_blob_client
クラスを変更しています。
ちょこちょこ変更していますが基本は同じ。変更点を以下に記載していきます。
メタデータの設定
メタデータはBLOBの作成時(ローカルファイルのアップロード時)に設定できる他、既存のBLOBに対して個別に設定できます。
今回のスクリプトでは_blob_client.upload()
メソッドを改変し、内部のcreate_blob_from_path()
メソッドにメタデータとして辞書を渡して設定します。ただし、内容(key-valueのペア)は文字列である必要があります。
今回はローカルにあるファイルのパス(対象ディレクトリからの相対パス)、最終更新日時、サイズ(バイト数)をメタデータとして設定します。
ローカルのファイルとBLOBの属性を比較できるように、ローカルファイルの検索時(_blob_client.fetch_local
メソッド)にも同等の情報を取得できるようにしました。
一方で、BLOB名にはランダムな文字列で生成したIDをセットしています。生成方法は何でもいいのですが、ファイル名のみでは重複する可能性があるのでこうしました。
メタデータの取得
get_blob_metadata()
メソッドを呼んで、特定のBLOBのメタデータ(辞書型)を取得します。
ここではダウンロードの際に(ダウンロード先の)ローカルファイルを作成すべきパスを生成するために使います。
ちなみに、ダウンロード時には途中のディレクトリが存在しない場合が考えられるので、明示的に作成しています。
日本語対応
マルチバイト文字といった方が正確かもしれませんが、メタデータに使える文字列には制約があり、日本語が使えません。今回はローカルのファイルのパスをメタデータに設定しているので、日本語を含む名前のファイルやディレクトリがあると困ったことになります。仕方ないのでURLエンコードを使います。
ちなみにBLOB名には日本語が使えます。おそらく内部的にエンコード(パーセントエスケープ)しているのでしょう。
ここではアップロード時にエンコードし、ダウンロード時にデコードしています。いずれもurllib.parse
モジュールを使用しています。
アップロードのとき:
ダウンロード、またはBLOB一覧表示のとき:
ファイル時刻の変更
何も考えずAzure Storageを経由すると、ファイルのメタ情報(タイムスタンプやパーミッション)が保持されません。
今回は最終更新日時のみ保持する仕組みを作っておくことにしました。
具体的には、メタデータに最終更新日時を書いてアップロードし、またダウンロード後にファイルのタイムスタンプを設定しなおす、という操作を行います。
BLOB自身にもタイムスタンプを表すプロパティがあるのですが、今回はメタデータにまとめるということで。
os.utime
メソッドに同じ最終アクセス日時と最終更新日時をセットして、ファイルのタイムスタンプを書き換えます。
また、各メソッドにファイルパスやBLOB名を個別に指定できるよう引数を変更しています。使い方は次回まとめて記載します。