なんとなく

誰得感満載な記事が多いかも。Mono関係とLinuxのサーバ関係、レビューとか。

RaspberryPi(Pi4)を使ってopentrackでonnxruntimeを試してみた

はじめに

前回、Pi3で試したのだけど4Hz程度しか実行速度が出ずにまともに使えるレベルではないことは確認できた。そして、11月に入ってRaspberry Pi4の在庫が復活してきたため、スイッチサイエンスさんでPi4の8GBのモデルを購入し確かめてみた。

準備とか環境とか

takeshich.hatenablog.com

構築手順とかは前回のにまとめたので、そちらを参照してほしい。クリーンな環境からだと特にハマることはない。なお、ストレージをSSDにしているためか、メモリが8GBになったためかはわからないが、onnxruntimeのビルドは実機で1時間半程度とかなり早くなった。ただ、11月に入り、BullseyeなRaspberry Pi OSがリリースされていた。それを試したところ使用するPi Cameraがまともに動かなかった。そのため5月にリリースされたbusterなものを使用している。

また、bullseyeからは今まで1.5GHzだったのが1.8GHz駆動になった。そのため、busterにおいてはオーバークロックにはなるが、2.1GHzにして動かしている。

結果

f:id:takeshich:20211121092214p:plain
結果

スレッドを1~4を試してみたが、4スレッドにしても2スレッド以上の値が出なかった。そのため2スレッドを通常利用に設定してみた。そして、2スレッドでも実行速度は13Hz程度で残念ながら使えるレベルには至らなかった。推論は70msでPi3の200msよりもかなり改善したがそれでもまだ使えるとは言えない。現行はCPUのみなので、おそらくGPUを使ったチューニングとか必要なんだろうと思う。

takeshich.hatenablog.com

他方、過去に書いたDELAN Clipを使った環境では、Pi3では120FPS程度であったのが、今回の環境では180FPS以上出るようになったので、普段使いにはそちらを使用している。