GPUanalysys のバックアップ(No.6)

  [ トップ ]   [ 一覧 | 検索 | 履歴 | ログイン ]

• バックアップ一覧
• 差分 を表示
• 現在との差分 を表示
• ソース を表示
• GPUanalysys へ行く。
  • 1 (2024-09-03 (火) 03:42:18)
  • 2 (2024-09-03 (火) 05:49:37)
  • 3 (2024-09-04 (水) 17:12:35)
  • 4 (2024-09-04 (水) 19:26:15)
  • 5 (2024-09-05 (木) 04:49:34)
  • 6 (2024-09-08 (日) 14:45:29)

---

私的AI研究会 > GPUanalysys

AI 開発における GPU速度考察 †

　「AI プログラム」における GPU の速度について考察する

GPU 速度考察 †

実行速度比較 †

　※ プログラムの初回動作時は時間の要するモデルのダウンロードなどがあるので 2回目以降の速度数値を採用する

• 静止画から動画を作る：First Order Motion Model
  Windows

  機能	プログラム	GPU			CPU
  		RTX 4070Ti	RTX 4060	GTX 1050	i9-13900	i7-14700	i7-1260P
  トランプのように話すモナリザ	demo2.py	2秒	4秒	18秒	2分20秒	3分4秒	4分39秒
  トランプ似のモナリザ		2秒	5秒	18秒	2分19秒	3分5秒	4分35秒
  トランプのように話すモナリザ	fomm.py	2秒	4秒	17秒	2分24秒	3分5秒	4分40秒
  トランプのように話す北川景子	fomm_test.py	3秒	4秒	18秒	2分17秒	2分59秒	4分14秒
  「ファッション」カテゴリー	fomm_test.py	4秒	8秒	35秒	4分21秒	5分36秒	7分58秒
  「アニメーション」カテゴリー	fomm_test.py	0秒	0秒	2秒	20秒	25秒	36秒
  「太極拳」カテゴリー	fomm_test.py	4秒	8秒	32秒	4分4秒秒	5分10秒	7分22秒

  Linux

  機能	プログラム	GPU			CPU
  		RTX 4070Ti			i9-13900		i7-1185G7
  トランプのように話すモナリザ	demo2.py	2秒			35秒		1分52秒
  トランプ似のモナリザ		2秒			36秒		1分45秒
  トランプのように話すモナリザ	fomm.py	2秒			35秒		1分44秒
  トランプのように話す北川景子	fomm_test.py	2秒			32秒		1分37秒
  「ファッション」カテゴリー	fomm_test.py	4秒			1分2秒		3分11秒
  「アニメーション」カテゴリー	fomm_test.py	0秒			4秒		13秒
  「太極拳」カテゴリー	fomm_test.py	3秒			1分1秒		2分55秒

• 動画のパーツを入れ替える：Motion Supervised co-part Segmentation
  Windows

  機能	プログラム	GPU			CPU
  		RTX 4070Ti	RTX 4060	GTX 1050	i9-13900	i7-14700	i7-1260P
  赤い唇のトランプ	part_swap2.py	3秒	4秒	20秒	3分0秒	3分5秒	4分49秒
  青い目の女優		1秒	3秒	10秒	1分33秒	1分36秒	2分26秒
  赤い唇のトランプ	motion_seg.py	2秒	4秒	20秒	2分59秒	3分3秒	4分22秒
  青い目の女優		1秒	2秒	10秒	1分33秒	1分35秒	2分17秒

  Linux

  機能	プログラム	GPU			CPU
  		RTX 4070Ti			i9-13900		i7-1185G7
  赤い唇のトランプ	part_swap2.py	2秒			35秒		1分52秒
  青い目の女優		1秒			17秒		56秒
  赤い唇のトランプ	motion_seg.py	2秒			36秒		1分58秒
  青い目の女優		1秒			17秒		1分12秒

• 人間の年齢による顔の変化：DLFS
  Windows

  機能	プログラム	GPU			CPU
  		RTX 4070Ti	RTX 4060	GTX 1050	i9-13900	i7-14700	i7-1260P
  images/14.jpg	dlfs_test2.py	10秒	1分1.7秒	54分32秒 ※	×	×	×
  	dlfs_demo.py	13秒	53.7秒	53分26秒 ※	×	×	×

  Linux

  機能	プログラム	GPU			CPU
  		RTX 4070Ti			i9-13900		i7-1185G7
  images/14.jpg	dlfs_test2.py	8.4秒			×		×
  	dlfs_demo.py	12秒			×		×

  　×: CPU 動作不可
  　※ メモリ不足によりキャシュ動作のため速度低下
  

• StyleGANを使った画像編集：StyleGAN e4e
  Windows

  機能	プログラム	GPU			CPU
  		RTX 4070Ti	RTX 4060	GTX 1050	i9-13900	i7-14700	i7-1260P
  images/03.jpg	e4e_demo.py	1分30秒	1分35秒	3分37秒	×	×	×

  Linux

  機能	プログラム	GPU			CPU
  		RTX 4070Ti			i9-13900		i7-1185G7
  images/03.jpg	e4e_demo.py	1分16秒			×		×

  　×: CPU 動作不可
  

• 画像スタイル変換：CycleGAN
  Windows

  機能	プログラム	GPU			CPU
  		RTX 4070Ti	RTX 4060	GTX 1050	i9-13900	i7-14700	i7-1260P
  images/	test2.py	11秒	13.8秒	32秒	3分22秒	3分24秒	4分24秒
  images2/	gan_paint.py	10秒	12.5秒	26秒	3分19秒	3分21秒	4分50秒

  Linux

  機能	プログラム	GPU			CPU
  		RTX 4070Ti			i9-13900		i7-1185G7
  images/	test2.py	13秒			50秒		2分3秒
  images2/	gan_paint.py	9.4秒			47.7秒		1分56秒

• 顔の合成：StarGAN-v2
  Windows

  機能	プログラム	GPU			CPU
  		RTX 4070Ti	RTX 4060	GTX 1050	i9-13900	i7-14700	i7-1260P
  custom_src/	starv2_align.py	1.5秒	1.8秒	3.5秒	×	×	11.7秒
  src_3/, ref2_03/	starv2_sample.py	1分8秒	32.5秒	51.5秒	×	×	17分24秒

  Linux

  機能	プログラム	GPU			CPU
  		RTX 4070Ti			i9-13900		i7-1185G7
  custom_src/	starv2_align.py	1.6秒			×		5秒
  src_3/, ref2_03/	starv2_sample.py	51.8秒			×		22分13秒

  　×: CPU 選択不可（自動選択）
  

• GANによる似顔絵生成：QMUPD
  Windows

  機能	プログラム	GPU			CPU
  		RTX 4070Ti	RTX 4060	GTX 1050	i9-13900	i7-14700	i7-1260P
  examples/	qmupd_demo.py	29秒	30.7秒	1分13秒	2分23秒	2分27秒	3分4秒

  Linux

  機能	プログラム	GPU			CPU
  		RTX 4070Ti			i9-13900		i7-1185G7
  examples/	qmupd_demo.py	27.2秒			44.4秒		1分33秒

• 画像に別の画像のスタイルを転送：PAMA
  Windows

  機能	プログラム	GPU			CPU
  		RTX 4070Ti	RTX 4060	GTX 1050	i9-13900	i7-14700	i7-1260P
  content/10.jpg,style/03.jpg	pama.py	4秒	4秒	7秒	×	×	13秒
  video/02.mp4, style/03.jpg	pama_movie.py	13.8秒	20.2秒	1分12秒	×	×	23分9秒

  Linux

  機能	プログラム	GPU			CPU
  		RTX 4070Ti			i9-13900		i7-1185G7
  content/10.jpg,style/03.jpg	pama.py	3.5秒			×		7.8秒
  video/02.mp4, style/03.jpg	pama_movie.py	12.8秒			×		9分13秒

  　×: CPU 動作不可（自動選択）
  

• 顔画像に様々なスタイルをブレンドする：BlendGAN
  Windows

  機能	プログラム	GPU			CPU
  		RTX 4070Ti	RTX 4060	GTX 1050	i9-13900	i7-14700	i7-1260P
  pic/66.jpg	blendgan_demo.py	34.1秒	36.5秒	57秒	19.7秒※	19.6秒※	29.4秒※

  Linux

  機能	プログラム	GPU			CPU
  		RTX 4070Ti			i9-13900		i7-1185G7
  pic/66.jpg	blendgan_demo.py	31秒			18.9秒※		18.9秒※

  　※ CPU の場合表示のみの時間
  

速度について ここまでのまとめ †

• GPU 世代/クラスにより違いはあるが、その差は処理内容により異なり比較的小さいものもある。
  
• GPU 搭載メモリー容量は重要名ファクタ、少ないと極端に速度低下し（スワップにより）更に不足するとエラーでダウンする。
  
• 今のプロジェクトの実行には 8GB以上のメモリー搭載が必要。
  
• Windows/Linux について GPUは顕著な違いはないが、CPU動作は Linux方がかなり速い。
  
• GPU/CPU の速度差は圧倒的に大きく、AIプロジェクトの実行には不可欠である。
  

ハードウェア概要 †

• 計測に使用したハードウェア
  

  種別	GPU			CPU
  	RTX 4070Ti	RTX 4060	GTX 1050	i9-13900	i7-14700	i7-1260P	i7-1185G7
  GPU Memory	12GB	8GB	4GB	12GB	8GB	×	×
  Memory	64GB	32GB	32GB	64GB	32GB	32GB	32GB
  Main Storage	1TB M.2 SSD	1TB M.2 SSD	1TB SATA SSD	1TB M.2 SSD	1TB M.2 SSD	1TB SATA SSD	1TB M.2 SSD
  OS	Windows11pro	Windows11hme	Windows10pro	Windows11pro	Windows11hme	Windows11pro	-
  	Ubuntu22.04	-	-	Ubuntu22.04	-	-	Ubuntu20.04
  本体機種名
  	HP ENVY TE02	HP Victus TG02	HP EliteDesk 800	HP ENVY TE02	HP Victus TG02	DELL XPS Plus 9320	DELL Latitude 7520

• NVIDIA の GPUアーキテクチャ（参考）
  

  アーキテクチャ (読み方)	プロセスルール	販売開始	採用シリーズ
  Kepler (ケプラー)	28nm	2012年	GeForce GTX/GT 600シリーズ
  		2012年	GeForce GTX/GT 700シリーズ
  		2013年	GeForce GTX TITANシリーズ
  Maxwell (マクスウェル)	28nm	2014年	GeForce GTX 700シリーズ
  		2015年	GeForce GTX 900シリーズ
  Pascal (パスカル)	16nm/14nm	2016年	GeForce GTX 10シリーズ
  Turing (チューリング)	12nm	2018年	GeForce RTX 20シリーズ
  		2019年	GeForce GTX 16シリーズ
  Ampere (アンペア)	8nm	2020年	GeForce RTX 30シリーズ
  Ada Lovelace (エイダ・ラブレス)	5nm	2022年	GeForce RTX 40シリーズ

更新履歴 †

• 2024/09/03 初版
  
   

参考資料 †

• GeForce GPUの特徴とスペックの見方
  
• Your data science toolkit Anaconda Individual Edition
  
• CUDA Toolkit Downloads
  
• GPUの動作確認セット
• WindowsでCUDA+PyTorchのサンプル実行するまでのメモ
  
• PyTorchインストール時のCUDAバージョンの選び方
  
• WSL 2(Windows Subsystem for Linux 2)の違いとインストール方法
  

• Windows Updateを一定期間止める方法
  
• Windows10が夜中に勝手に再起動
  

Site admin: Masahiro Izutsu

PukiWiki 1.5.2 © 2001-2019 PukiWiki Development Team. Powered by PHP 7.4.3-4ubuntu2.24. HTML convert time: 0.037 sec.