Google Coral USBアクセラレーターのすべて

グーグル コーラルUSBアクセラレーターのタイトル画像

人工知能に関する私たちのYouTube動画のひとつに、コメント欄から「謎のAIボックスにはそれほど興味がない」という書き込みがあった。それに触発され、その謎を解明する記事を書くことにした。というわけで、以下があなたが知る必要のあるすべてです。 グーグル コーラルUSBアクセラレーター.

Coral USBアクセラレーターは、主に低消費電力のエッジAIアプリケーション向けに設計されている。

ラズベリーパイやラップトップなどのデバイス上での画像やビデオ解析、物体検出、音声認識などのタスクに適している。

概要

要するに、Google Coral USBアクセラレーターは、Tensor Processing Unit(TPU)を利用したプロセッサーであり、行列の乗算と加算が得意な集積回路なのだ。

行列の掛け算は、ニューラルネットワークを構築するのに必要なものだ。

そして、Raspberry Piだけでニューラルネットワークを構築しようとしても、間違いなくうまくいかないだろう。

このアクセラレーターは、機械学習に必要な線形代数に特化したプロセッサーをもう1つ追加する。

ご存知のように、機械学習の背後にある考え方は、データセットからパターンを分析し、学習するモデルを開発することである。このデータセットには様々な入力とそれに対応する出力がある。一旦学習されると、これらのモデルは新しい入力を受け取り、学習されたパターンを合成し、適切な出力や予測を生成することができる。

グーグル コーラルUSBアクセラレーター

TPUは、他のプログラムを実行せず、共有メモリにアクセスする必要がないため、機械学習用のCPUよりもはるかに速く、はるかに少ないエネルギーで動作する。

Coral USBアクセラレーターのTPUは、小型デバイス用に改良されたTensorFlow Liteを使用している。

Coral USBアクセラレーターの使用

特に素晴らしいのは、AI開発をいかに身近なものにしているかということだ。

始めるのは簡単だ。

本当に必要なのは、Google Coral USBアクセラレーター(当たり前だが)と、USBポートが1つ空いていて、Python 3.5以上のコンピューターだけだ。

また、Mac、Windows、Linux(特にUbuntuやRaspberry Pi OSのようなDebianベースのOS)で動作することも特筆に値する。そのため、確実に動作させることができる。

セットアップの際には、最大クロック周波数で動作させるか、クロック周波数を下げて動作させるかを決めなければならない。もちろん、最大クロック周波数の方がパワフルだが、その分消費電力も増える。そして、信じられないほど熱くなります。

グーグル珊瑚の裏側

画像認識モデルの実行

について グーグル コーラル ウェブサイトコーラルUSBアクセラレータがどのように機能するかを示す素晴らしいテストがある。彼らの例では、かなりの精度でさまざまな鳥を認識することができる。

そこで、Raspberry Piで画像認識モデルを実行する方法を紹介しよう。これはクロック周波数を下げても全く問題なく動作する。

まだアクセルを踏み込んではいけない。

まず、ターミナルで以下のコードを入力し、Edge TPUリポジトリを追加する:

echo "deb https://packages.cloud.google.com/apt coral-edgetpu-stable main" | sudo tee /etc/apt/sources.list.d/coral-edgetpu.list

curl https://packages.cloud.google.com/apt/doc/apt-key.gpg | sudo apt-key add -

sudo apt-get update

それからランタイムをインストールする:

sudo apt-get install libedgetpu1-std

アクセラレーターを接続すれば、すべてが同期する。接続が完了したら、PyCoralをインストールする必要がある:

sudo apt-get install python3-pycoral

そして今、あなたはこのモデルを稼働させることができる。まず、コードをダウンロードする:

mkdir coral && cd coral

git clone https://github.com/google-coral/pycoral.git

cd pycoral

次に以下を実行する:

bash examples/install_requirements.sh classify_image.py

そして最後に、モデルを実行する:

python3 examples/classify_image.py \
--model test_data/mobilenet_v2_1.0_224_inat_bird_quant_edgetpu.tflite \
--labels test_data/inat_bird_labels.txt \
--input test_data/parrot.jpg

出力は次のようになる:

パロット出力

入力が "parrot.jpg "であり、モデルがそれをコンゴウインコと正しく読み取ったことがわかる。

ノーザン・カーディナルの写真を見つけ、それをモデルにかけたところ、こうなった。

ノーザン・カーディナル

ご覧の通り、信頼度0.91という超正確な数値を示した。

そこで、猫の写真を食べさせたらどうなるか試してみた。

キャットアウトプット

猫をシロフクロウだと思った理由はよくわかるが、その自信のほどには驚いた。

人物の写真を認識させ、どの鳥かを判断させようとしたが、残念ながら協力してくれなかった。

でも、何を引き出せるか、自由に試してみてください。結果を以下にコメントしてください!

結論

そう、これだ。超スリーキーな外観は神秘的な印象を与えるかもしれないが、Google Coral USBアクセラレーターはミステリーボックスではない。

エッジデバイスにAIをもたらすことができる強力なプロセッサーである。

つまり、あなたがIoTやロボット工学に興味があろうとなかろうと、あるいは日常的なデバイスにAIを導入するアイデアがあろうとなかろうと、Coral USBアクセラレーターはあなたの乗車券なのだ。画像認識モデルの例を挙げましたが、このアクセラレーターは、ビデオ認識、物体検出、デバイス上での転送学習など、さらに多くのことが可能です。

また、このようなことを可能にするAIYメーカーキットもあります:

AIにご興味のある方は、以下をご覧ください。 人工知能入門.

また、自分でAIプロジェクトを作ることに興味があるなら、以下のサイトでAIを活用したプロジェクトをチェックできる。 パラゴン・プロジェクト・シリーズ.

加速器で何をするつもりですか?

10コメント

  1. adam m on 9月 6, 2023 at 6:17 am となります。

    このような芸術家たちは、そのような芸術の世界に身を投じています。

    • Adam on 9月 6, 2023 at 8:03 am となります。

      Dzięki!

    • Rodrigo on 9月 13, 2024 at 10:17 am となります。

      こんにちは、あなたはollamaのような任意のGenAIをインストールしたPCを加速するためにUSBプラケースを使用することができるかどうか知っていますか? llama 3.1またはGemmaのような任意のモデルで、ollamaを使用して?

  2. David Thomas on 9月 6, 2023 at 4:17 pm となります。

    「コメントした人は、ミステリーAIボックスにはそれほど興味がないと書いている。

    最も懸念される理由は、MLの出力から実績が得られないことと、規制の可能性に対して実績が提供できないことである。

    MLをどこで運営するかは、この点については何の役にも立たない。

  3. David Thomas on 9月 6, 2023 at 4:19 pm となります。

    訂正する:
    「コメントした人は、ミステリーAIボックスにはそれほど興味がないと書いている」--コメントした人は、具体的な理由を述べていないのだろう。

    最も懸念される理由は、MLの出力から実績が得られないことと、規制の可能性に対して実績が提供できないことである。

    MLをどこで運営するかは、この点については何の役にも立たない。

    • Adam on 9月 12, 2023 at 11:25 am となります。

      興味深い指摘だね、デビッド。

  4. Nick on 9月 8, 2023 at 12:19 pm となります。

    GPUかTPUか?

    • Adam on 9月 8, 2023 at 3:40 pm となります。

      Для искусственного интеллекта, TPU.Безусловно, быстрее.

  5. Nerds 2 You on 4月 23, 2024 at 12:46 am となります。

    1時間後に切断され、再起動するか、プラグを抜いて挿し直す必要がなければ最高だ。

  6. Alexandr on 6月 21, 2024 at 5:41 pm となります。

    フリゲートNVR, β3

コメントを残す