RaspiGPT - Bouw een AI-assistent

Met de razendsnelle opkomst van taalmodellen zoals GPT-4 wilden we de kracht van AI naar PiCockpit brengen. Dus ontwierp onze ontwikkelaar Chloe de nieuwe RaspiGPT Tool voor PiCockpitDit is een op GPT gebaseerde AI-assistent.

Het doel is om vragen over Rasperry Pi te beantwoorden hier in PiCockpit. Als je iets anders wilt weten, zal het natuurlijk graag je vraag beantwoorden, maar met een snelle herinnering dat het bedoeld is voor Raspberry Pi en technologie-gerelateerde onderwerpen.

We waren verbaasd hoe makkelijk het is om zo'n AI-assistent op te zetten, dus we willen je laten zien hoe je zelf een soortgelijke applicatie kunt maken!

1 Hoe werkt de AI-assistent?

De app is vrij eenvoudig, maar bevat bijna alles wat je nodig hebt. Er is een tekstveld om prompts in te voeren en knoppen om chats te hernoemen, rapporteren, verwijderen of aan te maken.

Noot Je hebt een OpenAI API Key nodig om je eigen versie van deze app te bouwen.

2 Afhankelijkheden installeren

We gaan de demo draaien op een Raspberry Pi 4, maar elk ander systeem dat node.js draait werkt precies hetzelfde. Het installeren van de afhankelijkheden voor onze AI assistent is vrij eenvoudig.

Eerst moeten we de Repository van GitHub klonen.

git clone https://github.com/pi3g/GPT-AI-Assistant.git

Nu moeten we node.js, npm en yarn installeren. Ga naar de node.js downlad pagina en download de vereiste versie voor jouw systeem.

Aangezien ik het voorbeeld op een Raspberry Pi 4 draai, moet ik de ARMv8 versie.

Voer het volgende uit om node.js uit te pakken en te installeren

tar -xavf node-v18.16.1-linux-arm64.tar.xz
cd node-v18.16.1-linux-arm64/
sudo cp -R * /usr/local/

Natuurlijk kan de bestandsnaam voor jou verschillen, afhankelijk van welke versie je hebt gedownload.

Gebruik deze commando's om te controleren of node.js en npm correct zijn geïnstalleerd.

node -v
npm -v

Deze zouden de juiste versie moeten weergeven of een foutmelding als er iets mis is gegaan tijdens de installatie.

Noot Verdere instructies zijn ook te vinden in de README-bestand.

Nu kunnen we yarn installeren met het volgende commando.

npm install -g yarn

Hiermee zijn alle afhankelijkheden geïnstalleerd en kunnen we verder gaan met het bouwen van de app.

3 De app bouwen

Laten we eens kijken hoe je de AI-assistent bouwt.

Navigeer naar de API Keys pagina van je OpenAI account en maak een nieuwe API Key aan.

Je kunt het iets noemen als "RaspiGPT-sleutel. Zorg ervoor dat je de API Key naar je klembord kopieert.

Dit moet worden geplakt in regel voor van de "nuxt.config.ts" dossier.

4 Start de AI-assistent

Op dit punt hoeven we alleen nog maar de AI-assistent te bouwen en uit te voeren. Hiervoor moeten we de volgende commando's uitvoeren (zorg ervoor dat je in de "gpt-demo" map).

yarn install
yarn build
yarn preview

De laatste opdracht zal de AI assistant lokaal hosten, dus om toegang te krijgen tot de App open je "http://localhost:3000" in je browser. Een coole functie is dat het antwoord wordt gestreamd terwijl het wordt gegenereerd, zodat je kunt meelezen.

Bekijk deze video (verschijnt binnenkort) om de AI-assistent in actie te zien.