Wie man ein lokales KI-Modell zur Beantwortung von SMS-Nachrichten verwendet

In diesem Artikel führen wir Sie durch den Prozess der Einrichtung eines lokalen KI-Modells, um automatisch SMS-Nachrichten mit dem Ozeki AI Server und dem Ozeki SMS Gateway zu beantworten. Dieses Setup ermöglicht es Ihnen, einen KI-gestützten Chatbot bereitzustellen, der eingehende SMS-Anfragen effizient bearbeiten kann.

Was ist ein lokales KI-Modell?

Ein lokales KI-Modell ist ein künstliches Intelligenzmodell, das direkt auf einem lokalen Rechner oder Server installiert, gespeichert und ausgeführt wird, anstatt auf cloud-basierte Systeme angewiesen zu sein. Es ermöglicht Benutzern, KI-Anwendungen offline zu betreiben, und bietet volle Kontrolle über Datenschutz, Sicherheit und Anpassung.

Was ist der Ozeki AI Server?

Der Ozeki AI Server ist eine leistungsstarke Softwareplattform, die künstliche Intelligenz (KI) mit Kommunikationssystemen integriert und Unternehmen ermöglicht, KI-gestützte Anwendungen zu entwickeln und bereitzustellen. Es unterstützt verschiedene Automatisierungsaufgaben wie Textnachrichten, Sprachanrufe, Chatbots und maschinelle Lernprozesse. Durch die Kombination von KI mit Kommunikationsnetzwerken verbessert es den Kundenservice, optimiert Arbeitsabläufe und verbessert die Benutzerinteraktion in verschiedenen Branchen. Der Ozeki AI Server bietet eine umfassende Lösung für Organisationen, die die Kommunikationseffizienz mit KI-Technologie steigern möchten.

Was ist das Ozeki SMS Gateway?

Das Ozeki SMS Gateway ist eine vielseitige Softwarelösung, die es Unternehmen ermöglicht, SMS-Nachrichten zu senden und zu empfangen über mehrere Kommunikationskanäle. Es integriert sich nahtlos mit Anwendungen, Datenbanken und APIs und bietet Funktionen wie automatisierte Nachrichten, Zwei-Wege-Kommunikation und Massen-SMS-Versand. Häufig verwendet für Benachrichtigungen, Warnungen, Marketing und Kundensupport, bietet es ein zuverlässiges Tool zur Verbesserung der Kommunikation durch SMS-Technologie.

Wie man ein GGUF-Modell von Huggingface herunterlädt (Schnelle Schritte)

1. Öffnen Sie die Huggingface-Website
2. Wählen Sie GGUF-Modelle aus
3. Suchen Sie nach dem Modell
4. Laden Sie die Modell-Datei herunter
5. Speichern Sie die Modell-Datei

Wie man einen lokalen KI-Chatbot im Ozeki SMS Gateway konfiguriert (Schnelle Schritte)

1. Öffnen Sie den Ozeki AI Server
2. Erstellen Sie ein neues KI-Modell
3. Wählen Sie die Modell-Datei aus
4. Öffnen Sie das Ozeki SMS Gateway
5. Fügen Sie eine neue Anwendung hinzu
6. Installieren Sie den KI-Chatbot
7. Wählen Sie das KI-Modell aus
8. Aktivieren Sie den Chatbot

Test-SMS-Nachricht senden, die vom KI-Chatbot beantwortet wird (Schnelle Schritte)

1. Öffnen Sie den KI-Chatbot
2. Konfigurieren Sie den System-Prompt
3. Senden Sie eine Test-SMS
4. Erhalten Sie die KI-Antwort

Wie man ein GGUF-Modell von Huggingface herunterlädt (Video-Tutorial)

In diesem Video lernen Sie, wie Sie eine GGUF-Modell-Datei von der Huggingface-Website herunterladen und wo Sie sie korrekt auf Ihrem System platzieren, um sie mit dem Ozeki AI Server zu verwenden.

Schritt 1 - Öffnen Sie die huggingface.co-Seite

Gehen Sie zunächst auf die Huggingface-Website. Sie sollten eine ähnliche Seite sehen (Abbildung 1).

Schritt 2 - Wählen Sie GGUF-Modelle aus

Wählen Sie das Modelle-Menü oben im Fenster, dann Bibliotheken, und filtern Sie nach GGUF-Dateien (Abbildung 2).

Schritt 3 - Wählen Sie die Modell-Bibliothek aus

Geben Sie in der Suchleiste "Meta-Llama-3.1-8B-Instruct-hf-Q4_K_M-GGUF" ein und wählen Sie das Modell mit dem Titel "Meta-Llama-3.1-8B-Instruct-hf-Q4_K_M-GGUF". Dies ist das Modell, das wir verwenden werden (Abbildung 3).

Schritt 4 - Laden Sie die Modell-Datei herunter

Klicken Sie auf den "Files and versions"-Tab, wählen Sie die Version "meta-llama-3.1-8b-instruct-hf-q4_k_m.gguf" und laden Sie sie herunter. Sie können sie mit dem Pfeil nach unten herunterladen (Abbildung 4).

Schritt 5 - Kopieren Sie die GGUF-Modell-Datei nach C:\AIModels

Legen Sie die zuvor heruntergeladene .gguf-Datei in den folgenden Pfad: C:\AIModels (Abbildung 5).

Wie man einen lokalen KI-Chatbot im Ozeki SMS Gateway konfiguriert (Video-Tutorial)

In diesem Video-Tutorial lernen Sie, wie Sie einen lokalen KI-Chatbot im Ozeki SMS Gateway mit dem zuvor heruntergeladenen GGUF-Modell konfigurieren. Die Schritt-für-Schritt-Anleitung zeigt Ihnen, wie Sie das KI-Modell richtig mit dem Ozeki AI Server integrieren, um automatisierte Antworten auf eingehende SMS-Nachrichten zu ermöglichen.

Schritt 6 - Ozeki AI Server öffnen

Starten Sie die Ozeki 10-App. Falls Sie diese noch nicht haben, können Sie sie hier herunterladen. Öffnen Sie dann den Ozeki AI Server (Abbildung 6).

Schritt 7 - Neues GGUF-AI-Modell erstellen

Die Oberfläche des Ozeki AI Servers ist nun auf dem Bildschirm sichtbar. Um ein neues GGUF-Modell zu erstellen, klicken Sie oben auf dem Bildschirm auf "AI Models". Klicken Sie dann auf den blauen Button mit der Aufschrift "Create a new AI Model". Auf der rechten Seite der Oberfläche sehen Sie verschiedene Optionen, wählen Sie das "GGUF"-Menü aus (Abbildung 7).

Schritt 8 - Modell-Datei auswählen

Nachdem Sie das "GGUF"-Menü ausgewählt haben, wählen Sie den "General"-Tab aus, wählen Sie die Modell-Datei "C:\AIModels\Meta-Llama-3.1-8B-Instruct-Q4_K_M.gguf" aus und klicken Sie dann auf "Ok" (Abbildung 8).

Schritt 9 - SMS Gateway öffnen

Starten Sie das Ozeki SMS Gateway in Ozeki 10 (Abbildung 9).

Schritt 10 - Neuen Benutzer/Anwendung hinzufügen

Nachdem Sie das Ozeki SMS Gateway gestartet haben, navigieren Sie im rechten Bereich unter "Users and Applications" und klicken Sie auf "Add new user/application...", um eine neue Anwendung zu erstellen (Abbildung 10).

Schritt 11 - AI-Chatbot installieren

Wählen Sie aus den verfügbaren Optionen im Abschnitt "Chat bots" den "AI Chat Bot" aus und klicken Sie dann auf "Install" (Abbildung 11).

Schritt 12 - AI-Modell auswählen

Deaktivieren Sie im "General"-Tab die Option "Send welcome message" und wählen Sie das passende Modell aus, in diesem Fall "GGUF_Model_1". Klicken Sie abschließend auf "Ok" (Abbildung 12).

Schritt 13 - Chatbot aktivieren

Um die Verbindung herzustellen, schalten Sie den Schalter auf der linken Seite auf grün (Abbildung 13).

So konfigurieren Sie eine SMPP-Client-Verbindung für AI-SMS (Video-Tutorial)

In diesem Video führen wir Sie durch den Prozess des Erstellens, Konfigurierens und Verbinden eines SMPP-Clients für die Verwendung mit AI-SMS. Sie lernen, wie Sie die SMPP-Client-Verbindung Schritt für Schritt einrichten, die erforderlichen Einstellungen konfigurieren und sie erfolgreich in das AI-SMS-System integrieren.

Schritt 14 - Neue Verbindung hinzufügen

Um eine neue Verbindung zu erstellen, klicken Sie links im "Management"-Tab auf "Add new connection..." (Abbildung 14).

Schritt 15 - SMPP-Client installieren

Im Abschnitt "IP SMS connections (SMS)" finden Sie die Option "SMPP client" und klicken Sie auf "Install", um fortzufahren (Abbildung 15).

Schritt 16 - SMPP-Client konfigurieren

Konfigurieren Sie den "SMPP client", indem Sie im "General"-Tab die folgenden Felder ausfüllen: Host, Port, Username, Password (Abbildung 16).

Schritt 17 - Logging aktivieren

Aktivieren Sie im "Advanced"-Tab unter "Log level" alle vier Logging-Optionen (Abbildung 17).

Schritt 18 - SMPP-Client verbunden

Um die Verbindung herzustellen, schalten Sie den "Connection"-Schalter auf der linken Seite auf grün. Sobald die Verbindung erfolgreich hergestellt wurde, können Sie die Logs im "Events"-Tab einsehen (Abbildung 18).

Schritt 19 - Neue eingehende Route erstellen

Um eine neue eingehende Route einzurichten, klicken Sie auf die Schaltfläche "Routen" oben auf dem Bildschirm. Wählen Sie dann "Neue Route erstellen" und konfigurieren Sie die Sender- und Empfänger-Routen auf der rechten Seite (Abbildung 19).

Schritt 20 - Neue ausgehende Route erstellen

Um eine neue ausgehende Route zu erstellen, klicken Sie erneut auf "Neue Route erstellen", diesmal jedoch mit vertauschten Sender- und Empfänger-Einstellungen (Abbildung 20).

Test-SMS-Nachricht senden, die vom KI-Chatbot beantwortet wird (Video-Tutorial)

In diesem Video führen wir Sie durch die Konfiguration des System-Prompts und zeigen, wie SMS-Versand und -Empfang in Echtzeit funktionieren. Sie lernen, wie der System-Prompt für KI-generierte Antworten eingerichtet wird und beobachten den vollständigen Workflow des effektiven SMS-Versands und -Empfangs.

Schritt 21 - KI-Chatbot öffnen

Um den Chatbot einzurichten, wählen Sie rechts AI_Bot_1 aus und klicken Sie darauf (Abbildung 21).

Schritt 22 - System-Prompt konfigurieren

Um den Chatbot zu konfigurieren, navigieren Sie zum "Konfigurieren"-Tab und wählen Sie den "KI"-Bereich. Geben Sie im Feld "System-Prompt" den gewünschten Prompt ein, der die Antworten des Chatbots steuert, und aktivieren Sie die Option "System-Prompt verwenden" (Abbildung 22).

Schritt 23 - SMS-Nachricht senden

Wenn Sie diesen Punkt erreicht haben, ist es Zeit, das System zu testen. Senden Sie eine SMS, und Sie können den Prozess durch Protokollierung der Nachricht im SMPP-Client verfolgen (Abbildung 23).

Schritt 24 - KI-generierte Antwort empfangen

Sobald die SMS gesendet wurde, erhalten Sie die Antwort des Chatbots auf Ihrem Telefon und können sie auch im Protokoll von AI_Bot_1 einsehen (Abbildung 24).