Raspberry Pi で Deep Learning

Raspberry Pi で Deep Learning 用のライブラリの TensofFlow をインストールする話。

Deep Learning というと、GPU 演算したりとか、もの凄く重い処理というイメージだし、実際重い。

なので、あまり Raspberry Pi 向きの話ではないが、学習済みのデータを読み込んで、予測を走らせたりするくらいならば十分出来る印象。
実際、学習の処理を走らせてみても 4コアの Raspberry Pi 3B ならば、GPU 無しで、ちょっと古めの i7 との性能比で 1/2~1/4 くらいの性能。
遅いといっても、3倍くらいで、10倍とかそういう話ではないので、低電力でのんびり走らせるのであれば、使えなくはない。

大昔 UNIX ワークステーションで、glibc のコンパイルを始めたら、半日かかったとか、そういう時代からすれば、5000円でスーパーコンピューターが買えているようなもので、凄い時代だよなあと。。。(歳バレネタ)

で、インストール手順なのだが、正直、このサイトにバッチリ書いてあるので、あえて、語るほどでもない(笑)

https://github.com/samjabrahams/tensorflow-on-raspberry-pi

しかし、深層学習。 なかなか難しい。正直、中身に関しては、よくわからない。
細かいところは正直、理解できる気がしないので、回帰分析の一種という大雑把なとらえ方で考えている。

でも、色々なアルゴリズムを組み合わせて、階層をつくって、データーを食わせてやると、確かに重みとバイアスの学習が行われて、値が収束していくのが分かる。
この、値の収束の仕方とか、学習結果から予想されるデータをグラフで見たりとかで、感覚に近いかどうか? で判断してみたりしている。
まあ、遊びだからこんな感じでいいのだ。

TensorFlow はそのまま使うと、結構頭を使うというか、解析モデルが分かってないと出来ないので、実際はラッパーライブラリを使っている。
最初は tflearn というのを使っていたが、今は Keras というライブラリを使っている。 Keras の方が全然早いしわかりやすかった。

あー、ネット上でも、こんなにフワフワな深層学習ネタはあまりなさそう(笑)
大体、数式を真面目に読まずにやってるんだから、こんな感じにしか書けない。
偏微分とか、思い出せないよ…
デタラメなニュース記事よりかはマシかなと思っていただければ幸い。

Deep Learning のとっかかりとしては、下の2冊がお勧め。
実際動かす話だと、詳解~の方が早いが、オライリーの方が理論については読みやすい。

Raspberry Pi で 最新の Nginx (1.13) を使う

Raspberry Pi の Raspbian (debian系) で apt-get すると、Nginx は結構古いやつが入る。 やっぱり新しいのが使いたいと思って試したことをまとめる。

今回は結構 experimental なネタなので、at your own risk でお願いします。
初心者向けではないです。

あと、タイトルは Raspberry Pi だけど、一般の Debian / Ubuntu でも使えるネタだと思います。 (未検証ですが)

作業時間は、3B で 2時間くらいか。 片手間で十分だけど、時間を確保してください。 3B以外の機種では。。。結構な忍耐が必要そうです。。。クロスビルドを検討しましょう。

HTTP/2 も使いたいので、TLSのための openssl の新しいバージョンを使う。
システムワイドの openssl をアップデートするのはリスクがあるので、
nginxに内包して、ここだけで使用するように、ビルドする。

今回は、debian の deb のソースリポジトリから取得したソースをビルドするけど、一旦古いやつをaptで入れて `nginx -V` で表示されたオプションを、configure に指定するという方法でも割といける。

準備
なんにもビルドしたことがない環境の人は。。。


sudo apt-get update
sudo apt-get install build-essential
sudo apt-get install git

など。。。

後々、必要に応じて、ビルドに必要なライブラリをインストールする必要があるかもしれない。
ビルド中に `error: libなんとか` や `warning: libなんとか` と出たら、
`sudo apt-get install libなんとか`
とか
`sudo apt-get install libなんとか-dev`
とやってみる(いい加減..)。

ソースの取得


pwd
/home/pi

mkdir nginx-latest
cd nginx-latest
git clone https://anonscm.debian.org/cgit/pkg-nginx/nginx.git

ちなみに、このリポジトリのパスは `apt-get source nginx` したら、
こっちから取りな。と出てきたパス。 `apt-get source nginx` だと、
1.10 あたりが落ちてくる。

ビルドにオリジナルのソースが必要で、かつ、別名で参照されているので


wget https://nginx.org/download/nginx-1.13.3.tar.gz
ln -s nginx-1.13.3.tar.gz nginx_1.13.3.orig.tar.gz

(ハイフンがアンダースコアになっているので注意)

openssl のソースを取得、展開


wget https://www.openssl.org/source/openssl-1.1.0f.tar.gz
tar xzvf openssl-1.1.0f.tar.gz

ビルドオプションの調整


cd nginx
vi debian/rules

configure の オプションを指定する箇所
`common_configure_flags := \ `(の後の72行目くらい)
があるので、そこに


--with-thread \
--with-openssl=/home/pi/nginx-latest/openssl-1.1.0f \
--with-openssl-opt=-fPIC

を追加。 もともとある `–with-thread` の後にバックスラッシュ付加。
お好みで makeに -j3 オプションを追加。

ビルドコマンド


dpkg-buildpackage -us -uc

エラーが出たら、パスを確認したり、最初のライブラリインストールを試す。
`dpkg-buildpackage`を使うと、また最初の clean, configure からになってしまうので、
参照URLにある、ビルドコマンドを活用すると多少時間短縮できる。
無理そうだったら、スパッと諦めて、また、体力のある時にリトライするのもいい。

ビルドが終わったら、


cd debian/nginx-full/usr/sbin
./nginx -v
./nginx -V

でビルドできたか確認する。


nginx version: nginx/1.13.3
built with OpenSSL 1.1.0f  25 May 2017
TLS SNI support enabled

(ドットスラッシュ無しの現行nginxとの比較もしてみよう)

設定ファイルなどのバックアップを取って、


cd ~/nginx-latest

sudo dpkg -i libnginx*.deb
sudo dpkg -i nginx-common_1.13.3-1_all.deb
sudo dpkg -i nginx-doc_1.13.3-1_all.deb
sudo dpkg -i nginx-full_1.13.3-1_all.deb

これで完了。

HTTP/2 を試したいときは、SSL(TLS) が必須なので、HTTPS の設定をしよう。
多分、HTTPS の設定をすれば、勝手になる。
Chromeの機能拡張 HTTP/2 and SPDY indicator というのを使うと、HTTP/2 使用時に青い稲妻が出て面白い。

参考URL
https://www.debian.org/doc/manuals/maint-guide/build.ja.html

Raspberry PiでCI(継続的インテグレーション)

。。。こんなタイトルで書いたけど、実質、ちょっとしたビルドタスクを動かすくらいの話。

仕事として、プログラムを組んでいるわけではないし、ビルド、テスト、デプロイにツールを使うほどの状況ではないのだが、環境構築遊びとして、ビルドツール / CI ツールを検討。

試したたのは、Jenkins と Strider と Rundeck  。。。と Git の hook。

動かしてみると、JenkinsStriderRundeck も Raspberry Pi には重すぎた。。。(結論早いw)
一応、Raspberry Pi 3B だったら、多少の我慢で動くけど、アクションを起こしたときにしか動かないツールに、普段から400~600MBものメモリを使う気にもならず、結局、あきらめた。

Strider が、若干軽いが、ほんの少しの違い。

で、結局、Git の hook を使うことにした。 同期処理になってしまうけど、gogs の常駐以外にメモリも使わないし、元々 gogs が動いていたのだから、追加コストなしで動作というのは大きい。

hookの注意点としては、

  • gogs / Git のユーザで動くので、それでできるように仕掛けておく必要がある。 事前に `sudo su – git` して、一連の操作を手動で実行できるか試すといい。
  • スクリプト中で、Git を使う場合、例えばワーキングディレクトリ内にいったん、clone もしくは pull したりするときは git に --git-dir=.git のように Git ディレクトリの明示指定が必要。
  • 普段ログインするユーザではないので、PATH とか ~/.ssh/id_rsa とかがいつもと違うので注意。

ということくらいか。 スクリプト中でエラーになると、クライアント側の push の際に画面にエラーが出るので、よく見ること。

もし、非同期でやりたかったら、gogs で Webhook を飛ばして、github-webhook-handler を使って、node.js で書いたコードで受けるのが Raspberry Pi らしいかな。ビルドに失敗したら、パトランプ点灯とか(笑)

cron で数分おきに監視する手もあるけど。 しょぼいが。。。

マルチユーザーで重なった時に、キューイングする事とかは、全く考えてません。悪しからず。

ワーキングディレクトリをタイムスタンプ名で作って clone してビルドで結構いけそうだけど、そこまでしたくないねえ。

Raspberry Pi Zero W 発売間近か

スイッチサイエンスさんのページによれば、ようやく技適とれたようです。

1296円は魅力だけど、処理速度は、かなり遅いので、ファースト ラズパイは3Bがお勧めです。
3Bでプロトタイピングして、組み込みの何かの見通しが立ったら、実装系として買う感じかなあ。

なんというか、処理速度の閾値みたいなのが自分の中にあって、3Bはありだけど、Zeroは厳しいなという印象です。

ハードウェア制御のエンジンにするなら、充分リッチな環境だと思いますが。

Raspberry Pi で Let’s Encrypt (続き)

サイトを引っ越した。
引っ越しページも何も無く、唐突に動かしたので、元々、独り言ブログだったのが、さらに極まることに(笑)

以前、dynamic dns サービスの mydns と Let’s Encrypt の組み合わせで、制限に当たってうまくいかないという話と、格安 SSL に関する調査の話を書いた。
今回はそれの続き。

色々考えたんだけど、ドメインを取って、Let’s Encrypt を使うのと、無料DNSで格安SSLを使うのとで、どっちがいいかと考えると、金額的には変わらないし、同じくらいの金額でシンプルなドメイン名がとれるならと、結局、ドメインを取って無料SSLという、非常にオーソドックスな解決法に落ち着いた。

ドメイン名を買って、mydns に登録して、Let’s Encrypt で暗号化して今に至っている。 ドメインは某有名格安業者だが、dynamic dns の更新が Windows にしか対応していないので、DNS サーバは継続して、mydns を使うことにした。

Let’s Encrypt の更新も cron に登録したが、実際に更新されるのは 2ヶ月後になる。

サイト全体をSSL化することができたので、ついでに HTTP/2 にも対応した。

サーバーは Raspberry Pi だが、サクサク動いて、ちょっと感動的である。