Artifactの保存と識別#
Artifactは、問題・候補の評価結果・分析データなどをまとめて保存・受け渡すための入れ物です。 問題の評価や変換、Adapterの利用だけなら、Artifactを作る必要はありません。
初めてファイルを作る場合は問題と評価結果をファイルで受け渡すTutorialへ進んでください。このページでは、どの状態のデータを、どこに、どの名前で保存しているかを整理します。
入れるデータと、その関係#
Artifactは、データ本体と、その種類や説明をまとめた目録を持ちます。例えば、Instance、その候補を評価したSolution、分析メモのJSONを一つにまとめられます。各データ本体をレイヤー、目録をマニフェストと呼びます。
レイヤーのMedia Typeは、データをどう解釈するかを示します。add_instance()とget_instance()のような型別APIを使うと、保存形式を手作業で決めずに問題を保存・復元できます。レイヤーの説明などはannotationとして記録できます。
複数の問題や結果を保存しただけで、任意の二つの対応関係が自動的に決まるわけではありません。どの入力からどの結果が得られたかなど、利用側に必要な関係も明示的に残します。DescriptorはレイヤーのMedia Type、サイズ、内容の識別子などを持ちます。Tutorialでは、その識別子を分析メモにも保存しています。
Draftと確定したArtifact#
ArtifactDraftは、追加するレイヤーや説明を組み立てるためのオブジェクトです。commit()すると一覧が確定し、ArtifactとしてLocal Registry(SDKのローカル保存場所)から参照できるようになります。確定した内容に後からレイヤーを付け足す操作ではありません。違う内容を作る場合は、新しいDraftを作ります。
commit()はファイルの書き出しやリモートへの送信ではありません。確定したArtifactに対して、必要ならsave()やpush()を呼びます。Draftの操作でもデータがローカルに保存されるため、commit()前ならディスクに何も残らない、という意味でもありません。
三つの保存・受け渡し先#
場所 |
役割 |
主な操作 |
|---|---|---|
Local Registry |
そのマシンでの永続的な保存・再利用 |
|
|
通常のファイル転送での受け渡し |
|
リモートレジストリ |
チームや別のマシンへの配布 |
|
Local RegistryはSDKが利用するローカル保存場所です。標準の場所を使うほか、プロセスの起動時にOMMX_LOCAL_REGISTRY_ROOTで別の場所を指定できます。既存の保存場所を変更すると、その場所にあるデータだけが参照対象になります。ファイルを移動したことにはなりません。
Artifact.import_archive()はファイルの内容をLocal Registryへ取り込みます。後で同じ名前をArtifact.load()に渡して取り出せます。内容を取り込まず目録だけ確認したい場合は、inspect_archive()を使います。これはレイヤーのデータ本体を復元するAPIではありません。
リモートレジストリはOCI形式のデータを配布するサーバーです。認証や公開範囲はそのサービスに従います。Artifactは計算を実行するコンテナではなく、データを入れたパッケージです。Dockerなどの実行環境を使って最適化プログラムを起動するという意味ではありません。具体的な操作はレジストリでArtifactを共有するで説明します。
名前・タグと内容の識別子#
ghcr.io/my-team/my-project/candidates:trial-1のような参照は、保存先、名前、タグからなります。trial-1がタグです。名前やタグは人がデータを探す手がかりですが、同じタグが将来も同じ内容を指すとは限りません。
一方、digestは内容から計算する識別子です。マニフェストのdigestはArtifactの内容の一覧を識別し、各レイヤーにもそれぞれdigestがあります。特定の内容を指したい場合は、タグだけでなく対象のdigestも記録します。マニフェストとレイヤーのdigestは同じものではありません。アーカイブの目録からはmanifest_digestでマニフェストのdigestを確認できます。
Artifact.load(name)は、まずLocal Registryを参照し、見つからなければリモートから取得します。すでにあるタグを指定しても、毎回リモートの最新内容を取り直す操作ではありません。特定の配布物を使い続ける場合は、配布側が示すdigestによる参照を使います。
名前を考えずローカルで始めるには、ArtifactDraft.new_anonymous()を使えます。SDKが.ommx.localを含む名前を生成します。この名前はリモート配布先ではありません。ファイルとしては受け渡せますが、リモートへ配布する予定なら、作成時から配布先の名前を指定します。自動名は整理・削除の対象になりうるため、残したいデータの管理はCLIによる操作も確認してください。
Experimentとの違い#
Artifactはデータをまとめる汎用の保存形式です。試行のまとまりや各試行の条件・結果も整理したい場合は、Artifactを保存の土台として使うExperimentがあります。ExperimentはRunやSolve/Samplingの関係を記録しますが、汎用Artifactへデータを追加するだけでExperimentになるわけではありません。
どちらも、保存しなかった環境やソースコードを補完したり、保存済みの評価結果だけから計算の再実行を保証したりはしません。何を後で読みたいかに応じて、必要な入力や説明を残します。
SDKと形式のバージョン#
Python SDKのバージョンは、呼び出すAPIの版です。使用する版はインストール手順で確認してください。問題や評価結果の保存形式(OMMX Messageのwire schema)、Artifactそのものの形式・種別とは別です。例えば、汎用Artifactの種別application/org.ommx.v1.artifactにあるv1は、SDKのメジャーバージョンではありません。
言語をまたぐ読み書きでは、Artifact仕様とMessage定義を基準にします。開発版では形式も更新されるため、別のSDKの仕様やAPIを混ぜず、対象バージョンの資料を確認します。Python APIの正確な条件はommx.artifactを参照してください。