設定

GPUは以下です。

Fri Apr 29 06:26:29 2022       
+-----------------------------------------------------------------------------+
| NVIDIA-SMI 460.32.03    Driver Version: 460.32.03    CUDA Version: 11.2     |
|-------------------------------+----------------------+----------------------+
| GPU  Name        Persistence-M| Bus-Id        Disp.A | Volatile Uncorr. ECC |
| Fan  Temp  Perf  Pwr:Usage/Cap|         Memory-Usage | GPU-Util  Compute M. |
|                               |                      |               MIG M. |
|===============================+======================+======================|
|   0  Tesla V100-SXM2...  Off  | 00000000:00:04.0 Off |                    0 |
| N/A   35C    P0    23W / 300W |      0MiB / 16160MiB |      0%      Default |
|                               |                      |                  N/A |
+-------------------------------+----------------------+----------------------+
                                                                               
+-----------------------------------------------------------------------------+
| Processes:                                                                  |
|  GPU   GI   CI        PID   Type   Process name                  GPU Memory |
|        ID   ID                                                   Usage      |
|=============================================================================|
|  No running processes found                                                 |
+-----------------------------------------------------------------------------+

以下の画像を用いました。サイズは5000 x 3415 px で、 1.1 MB でした。

https://dl.ndl.go.jp/info:ndljp/pid/3437686/6

推論の処理内容として、以下の4つがありますが、今回は「レイアウト抽出」と「文字認識(OCR)」のみを実行しています。

'-p 0': ノド元分割
'-p 1': 傾き補正
'-p 2': レイアウト抽出
'-p 3': 文字認識(OCR)

Googleドライブの場合

マウントしたGoogleドライブをファイルの入出力に使用する場合について考察します。以下の入力オプションを使用します。

Sigle input dir mode（-s sで指定）※デフォルト

1ファイルを対象に実行したところ、以下のような結果になりました。

ID	処理	タイムスタンプ	かかった時間（秒数）
p1	開始	2022-04-29 05:30:58	11
p2	推論の開始	2022-04-29 05:31:09	2
p3	終了	2022-04-29 05:31:11	(合計) 13

p1からp2までの間は設定ファイル等のロードを行なっている時間です。画像に対する推論時間は2sでした。

同じ画像をもう1件登録して、2ファイルを対象に実行しました。

ID	処理	タイムスタンプ	かかった時間（秒数）
p1	開始	2022-04-29 05:38:02	10
p2	推論の開始	2022-04-29 05:38:12	6
p3	終了	2022-04-29 05:38:18	(合計) 16

さらに、同じ画像をもう1件登録して、3ファイルを対象に実行しました。

ID	処理	タイムスタンプ	かかった時間（秒数）
p1	開始	2022-04-29 05:40:26	10
p2	推論の開始	2022-04-29 05:40:36	8
p3	終了	2022-04-29 05:40:44	(合計) 18

上記の結果から、設定ファイルの初期ロードに10s程度かかり、各画像に対して、2~3s程度の処理時間がかかることがわかります。

冒頭で共有した私が作成したノートブックでは、複数の入力画像があっても、以下のオプションにより、画像ファイル毎にプログラム main.py を実行するようにしていました。

Image file mode（-s fで指定） (単体の画像ファイルを入力として与える場合はこちら)

このことから、各画像ファイルに対して、1ファイル目を除き、初期ロードに要する10s程度の時間が不要にかかっていることになります。

実際、 Image file mode を用いて2つのファイルを対象に実行したところ、 Sigle input dir mode に比べて、ちょうど10s（初期ロードに要する時間）増加していることが確認できました。

ID	処理	タイムスタンプ	かかった時間（秒数）
p1	1ファイル目の開始	2022-04-29 05:52:59	11
p2	推論の開始	2022-04-29 05:53:10	2
p3	終了	2022-04-29 05:53:12	1
p4	2ファイル目の開始	2022-04-29 05:53:13	10
p5	推論の開始	2022-04-29 05:53:23	2
p6	終了	2022-04-29 05:53:25	(合計) 26