Google Coral USBアクセラレーターのすべて
人工知能に関する私たちのYouTube動画のひとつに、コメント欄から「謎のAIボックスにはそれほど興味がない」という書き込みがあった。それに触発され、その謎を解明する記事を書くことにした。というわけで、以下があなたが知る必要のあるすべてです。 グーグル コーラルUSBアクセラレーター.
Coral USBアクセラレーターは、主に低消費電力のエッジAIアプリケーション向けに設計されている。
ラズベリーパイやラップトップなどのデバイス上での画像やビデオ解析、物体検出、音声認識などのタスクに適している。
概要
要するに、Google Coral USBアクセラレーターは、Tensor Processing Unit(TPU)を利用したプロセッサーであり、行列の乗算と加算が得意な集積回路なのだ。
行列の掛け算は、ニューラルネットワークを構築するのに必要なものだ。
そして、Raspberry Piだけでニューラルネットワークを構築しようとしても、間違いなくうまくいかないだろう。
このアクセラレーターは、機械学習に必要な線形代数に特化したプロセッサーをもう1つ追加する。
ご存知のように、機械学習の背後にある考え方は、データセットからパターンを分析し、学習するモデルを開発することである。このデータセットには様々な入力とそれに対応する出力がある。一旦学習されると、これらのモデルは新しい入力を受け取り、学習されたパターンを合成し、適切な出力や予測を生成することができる。
TPUは、他のプログラムを実行せず、共有メモリにアクセスする必要がないため、機械学習用のCPUよりもはるかに速く、はるかに少ないエネルギーで動作する。
Coral USBアクセラレーターのTPUは、小型デバイス用に改良されたTensorFlow Liteを使用している。
Coral USBアクセラレーターの使用
特に素晴らしいのは、AI開発をいかに身近なものにしているかということだ。
始めるのは簡単だ。
本当に必要なのは、Google Coral USBアクセラレーター(当たり前だが)と、USBポートが1つ空いていて、Python 3.5以上のコンピューターだけだ。
また、Mac、Windows、Linux(特にUbuntuやRaspberry Pi OSのようなDebianベースのOS)で動作することも特筆に値する。そのため、確実に動作させることができる。
セットアップの際には、最大クロック周波数で動作させるか、クロック周波数を下げて動作させるかを決めなければならない。もちろん、最大クロック周波数の方がパワフルだが、その分消費電力も増える。そして、信じられないほど熱くなります。
画像認識モデルの実行
について グーグル コーラル ウェブサイトコーラルUSBアクセラレータがどのように機能するかを示す素晴らしいテストがある。彼らの例では、かなりの精度でさまざまな鳥を認識することができる。
そこで、Raspberry Piで画像認識モデルを実行する方法を紹介しよう。これはクロック周波数を下げても全く問題なく動作する。
まだアクセルを踏み込んではいけない。
まず、ターミナルで以下のコードを入力し、Edge TPUリポジトリを追加する:
echo "deb https://packages.cloud.google.com/apt coral-edgetpu-stable main" | sudo tee /etc/apt/sources.list.d/coral-edgetpu.list
curl https://packages.cloud.google.com/apt/doc/apt-key.gpg | sudo apt-key add -
sudo apt-get update
それからランタイムをインストールする:
sudo apt-get install libedgetpu1-std
アクセラレーターを接続すれば、すべてが同期する。接続が完了したら、PyCoralをインストールする必要がある:
sudo apt-get install python3-pycoral
そして今、あなたはこのモデルを稼働させることができる。まず、コードをダウンロードする:
mkdir coral && cd coral
git clone https://github.com/google-coral/pycoral.git
cd pycoral
次に以下を実行する:
bash examples/install_requirements.sh classify_image.py
そして最後に、モデルを実行する:
python3 examples/classify_image.py \
--model test_data/mobilenet_v2_1.0_224_inat_bird_quant_edgetpu.tflite \
--labels test_data/inat_bird_labels.txt \
--input test_data/parrot.jpg
出力は次のようになる:
入力が "parrot.jpg "であり、モデルがそれをコンゴウインコと正しく読み取ったことがわかる。
ノーザン・カーディナルの写真を見つけ、それをモデルにかけたところ、こうなった。
ご覧の通り、信頼度0.91という超正確な数値を示した。
そこで、猫の写真を食べさせたらどうなるか試してみた。
猫をシロフクロウだと思った理由はよくわかるが、その自信のほどには驚いた。
人物の写真を認識させ、どの鳥かを判断させようとしたが、残念ながら協力してくれなかった。
でも、何を引き出せるか、自由に試してみてください。結果を以下にコメントしてください!
結論
そう、これだ。超スリーキーな外観は神秘的な印象を与えるかもしれないが、Google Coral USBアクセラレーターはミステリーボックスではない。
エッジデバイスにAIをもたらすことができる強力なプロセッサーである。
つまり、あなたがIoTやロボット工学に興味があろうとなかろうと、あるいは日常的なデバイスにAIを導入するアイデアがあろうとなかろうと、Coral USBアクセラレーターはあなたの乗車券なのだ。画像認識モデルの例を挙げましたが、このアクセラレーターは、ビデオ認識、物体検出、デバイス上での転送学習など、さらに多くのことが可能です。
また、このようなことを可能にするAIYメーカーキットもあります:
AIにご興味のある方は、以下をご覧ください。 人工知能入門.
また、自分でAIプロジェクトを作ることに興味があるなら、以下のサイトでAIを活用したプロジェクトをチェックできる。 パラゴン・プロジェクト・シリーズ.
加速器で何をするつもりですか?
このような芸術家たちは、そのような芸術の世界に身を投じています。
Dzięki!
こんにちは、あなたはollamaのような任意のGenAIをインストールしたPCを加速するためにUSBプラケースを使用することができるかどうか知っていますか? llama 3.1またはGemmaのような任意のモデルで、ollamaを使用して?
「コメントした人は、ミステリーAIボックスにはそれほど興味がないと書いている。
最も懸念される理由は、MLの出力から実績が得られないことと、規制の可能性に対して実績が提供できないことである。
MLをどこで運営するかは、この点については何の役にも立たない。
訂正する:
「コメントした人は、ミステリーAIボックスにはそれほど興味がないと書いている」--コメントした人は、具体的な理由を述べていないのだろう。
最も懸念される理由は、MLの出力から実績が得られないことと、規制の可能性に対して実績が提供できないことである。
MLをどこで運営するかは、この点については何の役にも立たない。
興味深い指摘だね、デビッド。
GPUかTPUか?
Для искусственного интеллекта, TPU.Безусловно, быстрее.
1時間後に切断され、再起動するか、プラグを抜いて挿し直す必要がなければ最高だ。
フリゲートNVR, β3