Die GenAI Nerds Community hat ihr erstes großes Softwareprojekt namens Gapi, die Integrationsmaschine für generative KI, veröffentlicht. Sie ermöglicht es Nicht-KI-Experten, die neuesten Modelle in bestehende Systeme zu integrieren.
Parts list
| Qty | Produkt | Part number | |
|---|---|---|---|
| 1 | OStream GenRunner Node Single Board Computer for use with Generative AI | 267-4907 | |
| 1 | NVIDIA Jetson AGX Orin 64GB Development Kit | 253-9662 | |
| 1 | NVIDIA Jetson Orin Nano Developer Kit | 264-7384 | |
| 1 | OStream ROCK 5 AIO Development Kit for use with Edge AI | 267-4908 | |
Das Ziel des Projekts besteht darin, die Erstellung von Pilotprojekten und Demos der Ergebnisse des Jetson AI Lab in realen Umgebungen zu beschleunigen.
„On Device"-generative KI ist privater, kann schneller reagieren und ist kostengünstiger als eine vollständig cloudbasierte Lösung. Die Idee ist, die Nutzung all der großartigen GenAI-Errungenschaften für Technokraten des Alltags zu vereinfachen. Wir haben eine Vielzahl der führenden Modelle gebündelt und ermöglichen es Ihnen, sie mit realen Systemen wie Slack (IM), Twilio (SMS), SendGrid (E-Mail), Ticketsystemen usw. zu verbinden. usw.
Es wurde kürzlich vom NVIDIA Jetson AI Lab übernommen.
- Gapi Hosted Demo (You will need to create an account)
- Gapi ist eine Integrationsmaschine, die für Nicht-KI-Experten entwickelt wurde. Nutzen Sie die führenden, offenen GenAI-Modelle, von denen Sie täglich hören.
- Workflows mit Low-Code-Benutzeroberfläche, einschließlich Dutzender offener Integrationen und anpassbarer Clients für mobiles Web und Desktop.
- Mikroservice-Framework zum Umschließen von Jetson-Containern (Ollama, Whisper, Piper TTS usw. sind fertig, weitere folgen). Oder umschließen Sie Ihre eigenen Modelle/Ihren eigenen Code und integrieren Sie sie in Workflows.
- Echtzeit-, Hybrid-, Binary+JSON-Messaging vereinfacht dienstinterne Anrufe und reduziert die Latenz.
- Ein schneller Weg, um den Wert generativer KI für die Beteiligten in ihrer tatsächlichen Umgebung zu belegen.
Workflows
Workflows verbinden die Ausführung und den Datenfluss zwischen Knoten visuell.
Eine Transaktion (oder ein einzelner Vorgang) verfügt über „Rolling Input“-Daten, die sie als Knoten-zu-Knoten-Schritte bei jeder Kommunikation mit Mikrodiensten und APIs sammelt. Alle Knoten nutzen Variablen und Flusskontrolle unter Verwendung bekannter JSON- und JavaScript-Konzepte.
Jeder Knoten kann die rollierenden Daten in der Transaktion anhängen oder darauf verweisen, während er gleichzeitig Entscheidungen trifft.
Verfolgen Sie Transaktionen live, sobald sie von Clients, Webhooks und veröffentlichten Nachrichten von Micro Services mit visuellem Feedback und Debugging gestartet werden.
Kommentare