Wie man ein lokales KI-Modell verwendet, um WhatsApp-Nachrichten zu beantworten

In diesem Artikel führen wir Sie durch den Prozess der Einrichtung eines lokalen KI-Modells, um automatisch auf WhatsApp-Nachrichten mit dem Ozeki SMS Gateway zu antworten. Durch die Integration eines lokalen KI-Modells können Sie Ihr Nachrichtensystem mit KI-gestützten Chatbots erweitern, die intelligente, sofortige Antworten liefern, ohne auf cloudbasierte Lösungen angewiesen zu sein. Lassen Sie uns den Schritt-für-Schritt-Prozess durchgehen!

Was ist WhatsApp?

WhatsApp ist eine beliebte Instant-Messaging-Plattform, die Meta gehört. Sie ermöglicht Benutzern das Senden von Textnachrichten, Sprachnachrichten, Fotos, Videos und Dateien sowie das Tätigen von Sprach- und Videoanrufen über das Internet. WhatsApp ist auf Smartphones, Desktops und Webbrowsern verfügbar und wird weltweit aufgrund seiner Ende-zu-Ende-Verschlüsselung, Zuverlässigkeit und benutzerfreundlichen Oberfläche für private und geschäftliche Kommunikation genutzt.

Was ist ein lokales KI-Modell?

Ein lokales KI-Modell ist ein künstliches Intelligenzmodell, das direkt auf einem lokalen Rechner oder Server installiert, gespeichert und ausgeführt wird, anstatt auf cloudbasierte Systeme angewiesen zu sein. Es ermöglicht Benutzern, KI-Anwendungen offline zu betreiben und bietet volle Kontrolle über Datenschutz, Sicherheit und Anpassung.

Was ist der Ozeki AI Server?

Der Ozeki AI Server ist eine leistungsstarke Softwareplattform, die künstliche Intelligenz (KI) mit Kommunikationssystemen integriert und Unternehmen die Entwicklung und Bereitstellung von KI-gestützten Anwendungen ermöglicht. Er unterstützt verschiedene Automatisierungsaufgaben wie Textnachrichten, Sprachanrufe, Chatbots und maschinelle Lernprozesse. Durch die Kombination von KI mit Kommunikationsnetzwerken verbessert er den Kundenservice, optimiert Arbeitsabläufe und verbessert die Benutzerinteraktionen in verschiedenen Branchen. Der Ozeki AI Server bietet eine umfassende Lösung für Organisationen, die die Kommunikationseffizienz mit KI-Technologie steigern möchten.

Was ist das Ozeki SMS Gateway?

Das Ozeki SMS Gateway ist eine vielseitige Softwarelösung, die es Unternehmen ermöglicht, SMS-Nachrichten über mehrere Kommunikationskanäle zu senden und zu empfangen. Es integriert sich nahtlos mit Anwendungen, Datenbanken und APIs und bietet Funktionen wie automatisierte Nachrichten, Zwei-Wege-Kommunikation und Massen-SMS-Versand. Häufig wird es für Benachrichtigungen, Warnungen, Marketing und Kundensupport verwendet und bietet ein zuverlässiges Tool zur Verbesserung der Kommunikation durch SMS-Technologie.

Herunterladen eines GGUF-Modells von Huggingface (Schnelle Schritte)

  1. Öffnen Sie die Huggingface-Website
  2. Wählen Sie GGUF-Modelle aus
  3. Wählen Sie eine Modellbibliothek aus
  4. Laden Sie die Modell-Datei herunter
  5. Speichern Sie die Modell-Datei

Wie man einen lokalen KI-Chatbot im Ozeki SMS Gateway konfiguriert (Schnelle Schritte)

  1. Öffnen Sie den Ozeki AI Server
  2. Erstellen Sie ein neues GGUF-KI-Modell
  3. Wählen Sie die Modell-Datei aus
  4. Öffnen Sie das SMS Gateway
  5. Fügen Sie eine neue Anwendung hinzu
  6. Installieren Sie den KI-Chatbot
  7. Wählen Sie das KI-Modell aus
  8. Aktivieren Sie den Chatbot

Wie man eine WhatsApp-Kontoverbindung für KI-Nachrichten konfiguriert (Schnelle Schritte)

  1. Öffnen Sie das SMS Gateway
  2. Fügen Sie eine neue Verbindung hinzu
  3. Installieren Sie das WhatsApp-Konto
  4. Konfigurieren Sie die WhatsApp-Zugangsdaten
  5. Legen Sie eine Standardvorlage fest
  6. Geben Sie die Telefonnummer ein
  7. Aktivieren Sie die WhatsApp-Verbindung
  8. Erstellen Sie neue Routen

Senden einer WhatsApp-Testnachricht, die vom KI-Chatbot beantwortet wird (Schnelle Schritte)

  1. Öffnen Sie den KI-Chatbot
  2. Konfigurieren Sie den System-Prompt
  3. Senden Sie eine WhatsApp-Nachricht
  4. Erhalten Sie die KI-Antwort

Herunterladen eines GGUF-Modells von Huggingface (Video-Tutorial)

Das folgende Video führt Sie durch alle Schritte in Bewegung, beginnend mit der Navigation zur Website bis hin zum Verschieben der LLM-Datei in den richtigen Ordner. Es lohnt sich, die 75 Sekunden zu investieren, da jeder wichtige Schritt detailliert erfasst wird.

Schritt 1 - Öffnen Sie die huggingface.co-Seite

Geben Sie in Ihrem Browser huggingface.co in die Adressleiste ein. Sie sollten auf einer Seite landen, die (Abbildung 1) ähnelt.

Öffnen Sie die huggingface.co-Seite
Abbildung 1 - Öffnen Sie die huggingface.co-Seite

Schritt 2 - Wählen Sie GGUF-Modelle aus

Klicken Sie zuerst auf Models am oberen Bildschirmrand. Im linken Panel setzen Sie den Filter auf Libraries und wählen dann GGUF aus den verfügbaren Optionen aus, wie in (Abbildung 2) zu sehen.

Wählen Sie GGUF-Modelle aus
Abbildung 2 - Wählen Sie GGUF-Modelle aus

Schritt 3 - Wählen Sie eine Modellbibliothek aus

Wählen Sie Ihr bevorzugtes LLM-Modell aus. Für dieses Tutorial verwenden wir das folgende Modell: Meta-Llama-3.1-8B-Instruct-hf-Q4_K_M-GGUF (Abbildung 3).

Wählen Sie eine Modellbibliothek aus
Abbildung 3 - Wählen Sie eine Modellbibliothek aus

Schritt 4 - Laden Sie die Modell-Datei herunter

Auf der Modellseite öffnen Sie den Tab "Files and versions" und suchen nach der Datei mit dem .gguf-Format, die in (Abbildung 4) rot markiert ist.

Laden Sie die Modell-Datei herunter
Abbildung 4 - Laden Sie die Modell-Datei herunter

Schritt 5 - Kopieren Sie die GGUF-Modell-Datei nach C:\AIModels

Laden Sie die .gguf-Datei herunter und verschieben oder kopieren Sie sie in den folgenden Ordner: C:\AIModels (Abbildung 5).

Abbildung 5 - Kopieren Sie die GGUF-Modell-Datei nach C:\AIModels

Wie man einen lokalen KI-Chatbot in der Ozeki SMS Gateway konfiguriert (Video-Tutorial)

In diesem Video-Tutorial erfahren Sie, wie Sie einen lokalen KI-Chatbot in der Ozeki SMS Gateway einrichten mit dem zuvor heruntergeladenen GGUF-Modell. Diese detaillierte, schrittweise Anleitung führt Sie durch den Prozess der Integration des KI-Modells mit dem Ozeki AI Server, um Ihren Chatbot so einzurichten, dass er automatisch auf eingehende SMS-Nachrichten antworten kann.

Schritt 6 - Ozeki AI Server öffnen

Starten Sie die Ozeki 10-App. Falls Sie diese noch nicht haben, können Sie sie hier herunterladen. Nach dem Öffnen starten Sie den Ozeki AI Server (Abbildung 6).

Ozeki AI Server öffnen
Abbildung 6 - Ozeki AI Server öffnen

Schritt 7 - Neues GGUF-KI-Modell erstellen

Die Oberfläche des Ozeki AI Servers ist nun sichtbar. Um ein neues GGUF-Modell zu erstellen, klicken Sie oben auf "AI Models". Anschließend klicken Sie auf den blauen Button mit der Aufschrift "Create a new AI Model". Auf der rechten Seite der Oberfläche sehen Sie verschiedene Optionen, wählen Sie das "GGUF"-Menü aus (Abbildung 7).

Neues GGUF-KI-Modell erstellen
Abbildung 7 - Neues GGUF-KI-Modell erstellen

Schritt 8 - Modell-Datei auswählen

Nachdem Sie das "GGUF"-Menü ausgewählt haben, wählen Sie den "General"-Tab aus, wählen Sie die "C:\AIModels\meta-llama-3.1-8b-instruct-hf-q4_k_m.gguf"-Modell-Datei aus und klicken Sie auf "Ok" (Abbildung 8).

Modell-Datei auswählen
Abbildung 8 - Modell-Datei auswählen

Schritt 9 - SMS Gateway öffnen

Starten Sie das Ozeki SMS Gateway in Ozeki 10 (Abbildung 9).

SMS Gateway öffnen
Abbildung 9 - SMS Gateway öffnen

Schritt 10 - Neuen Benutzer/Anwendung hinzufügen

Nach dem Start des Ozeki SMS Gateways navigieren Sie im rechten Bereich unter "Users and Applications" und klicken auf "Add new user/application...", um eine neue Anwendung zu erstellen (Abbildung 10).

Neuen Benutzer/Anwendung hinzufügen
Abbildung 10 - Neuen Benutzer/Anwendung hinzufügen

Schritt 11 - KI-Chatbot installieren

Wählen Sie aus den verfügbaren Optionen im Abschnitt "Chat bots" den "AI Chat Bot" aus und klicken Sie auf "Install" (Abbildung 11).

KI-Chatbot installieren
Abbildung 11 - KI-Chatbot installieren

Schritt 12 - KI-Modell auswählen

Deaktivieren Sie im "General"-Tab die Option "Send welcome message" und wählen Sie das passende Modell aus, in diesem Fall "GGUF_Model_1". Klicken Sie abschließend auf "Ok" (Abbildung 12).

KI-Modell auswählen
Abbildung 12 - KI-Modell auswählen

Schritt 13 - Chatbot aktivieren

Um die Verbindung herzustellen, schalten Sie den Schalter auf der linken Seite auf grün (Abbildung 13).

Chatbot aktivieren
Abbildung 13 - Chatbot aktivieren

Wie man eine WhatsApp-Konto-Verbindung für KI-Nachrichten konfiguriert (Video-Tutorial)

In diesem Video lernen Sie, wie Sie eine WhatsApp-Konto-Verbindung für KI-Nachrichten mit der Ozeki SMS Gateway einrichten. Dieses umfassende, schrittweise Tutorial führt Sie durch den Prozess der Konfiguration einer WhatsApp-Nachrichtenverbindung, mit der Sie mühelos Nachrichten empfangen und mit leistungsstarker KI-Technologie beantworten können.

Detaillierte WhatsApp-Konfiguration:
Wie man eine WhatsApp-Nachrichtenverbindung einrichtet
WhatsApp-Nachrichten in der SMS Gateway empfangen

Schritt 14 - SMS Gateway öffnen

Starten Sie das Ozeki SMS Gateway in Ozeki 10 (Abbildung 14).

SMS Gateway öffnen
Abbildung 14 - SMS Gateway öffnen

Schritt 15 - Neue Verbindung hinzufügen

Um eine neue Verbindung zu erstellen, klicken Sie links im "Management"-Tab auf "Add new connection..." (Abbildung 15).

Neue Verbindung hinzufügen
Abbildung 15 - Neue Verbindung hinzufügen

Schritt 16 - WhatsApp-Konto installieren

Wählen Sie unter "Chat connections" die Option "WhatsApp account" aus und klicken Sie auf "Install", um den Dienst zu installieren (Abbildung 16).

WhatsApp-Konto installieren
Abbildung 16 - WhatsApp-Konto installieren

Schritt 17 - WhatsApp-Zugangsdaten konfigurieren

Konfigurieren Sie die WhatsApp-Verbindung unter "Zugangsdaten", legen Sie die "WABA-ID" und den "Zugriffstoken" fest, scrollen Sie dann nach unten für weitere Einstellungen (Abbildung 17).

WhatsApp-Zugangsdaten konfigurieren
Abbildung 17 - WhatsApp-Zugangsdaten konfigurieren

Schritt 18 - Standardvorlage konfigurieren

Die "Standardvorlage" definiert die Standardnachrichtenstruktur und -formatierung, die bei der Beantwortung eingehender WhatsApp-Nachrichten verwendet wird. Durch die Festlegung von Tag 1 bis Tag 4 legen Sie vordefinierte Nachrichtenelemente fest (Abbildung 18).

Standardvorlage konfigurieren
Abbildung 18 - Standardvorlage konfigurieren

Schritt 19 - Telefonnummer festlegen

Scrollen Sie erneut nach unten zum Ende der Seite, legen Sie die "Telefonnummer" fest und klicken Sie auf "OK" (Abbildung 19).

Telefonnummer festlegen
Abbildung 19 - Telefonnummer festlegen

Schritt 20 - WhatsApp-Konto verbunden

Nachdem Sie die Zugangsdaten, die Standardvorlage und die Telefonnummer eingerichtet haben, stellen Sie sicher, dass die "Verbindung" aktiviert ist (Abbildung 20).

WhatsApp-Konto verbunden
Abbildung 20 - WhatsApp-Konto verbunden

Schritt 21 - Neue eingehende Route erstellen

Um eine neue eingehende Route zu erstellen, klicken Sie auf den "Routen"-Button oben auf dem Bildschirm, dann auf "Neue Route erstellen" und legen Sie die Sender- und Empfänger-Routen rechts fest (Abbildung 21).

Neue eingehende Route erstellen
Abbildung 21 - Neue eingehende Route erstellen

Schritt 22 - Neue ausgehende Route erstellen

Um eine neue ausgehende Route zu erstellen, erstellen Sie erneut eine neue Route, nur diesmal tauschen Sie den Sender und den Empfänger aus (Abbildung 22).

Neue ausgehende Route erstellen
Abbildung 22 - Neue ausgehende Route erstellen

WhatsApp-Testnachricht senden, die vom KI-Chatbot beantwortet wird (Video-Tutorial)

In diesem Video zeigen wir Ihnen, wie Sie die Verbindung und Antwortfunktionalität Ihres KI-Chatbots im Ozeki SMS Gateway testen, indem Sie eine WhatsApp-Nachricht senden und die KI-generierte Antwort bestätigen. Diese Demonstration hilft Ihnen zu überprüfen, ob Ihr Setup korrekt konfiguriert ist und eingehende Nachrichten effektiv verarbeitet.

Schritt 23 - KI-Chatbot öffnen

Um den Chatbot einzurichten, wählen Sie AI_Bot_1 rechts aus und klicken Sie darauf (Abbildung 23).

KI-Chatbot öffnen
Abbildung 23 - KI-Chatbot öffnen

Schritt 24 - System-Prompt konfigurieren

Um den Chatbot zu konfigurieren, navigieren Sie zum "Konfigurieren"-Tab und wählen Sie den "KI"-Bereich aus. Geben Sie im Feld "System-Prompt" den gewünschten Prompt ein, der die Antworten des Chatbots steuert, und aktivieren Sie die Option "System-Prompt verwenden" (Abbildung 24).

System-Prompt konfigurieren
Abbildung 24 - System-Prompt konfigurieren

Schritt 25 - WhatsApp-Nachricht senden

Wenn Sie alle vorherigen Schritte erfolgreich abgeschlossen haben, ist es an der Zeit, Ihr Setup zu testen. Senden Sie dazu eine Nachricht oder stellen Sie eine Frage über WhatsApp an die im Ozeki SMS Gateway konfigurierte Telefonnummer. Nachdem die Nachricht gesendet wurde, können Sie die Systemprotokolle überprüfen, um sicherzustellen, dass Ihre Nachricht ordnungsgemäß empfangen und aufgezeichnet wurde (Abbildung 25).

WhatsApp-Nachricht senden
Abbildung 25 - WhatsApp-Nachricht senden

Schritt 26 - Generierte Antwort erhalten

Nachdem Sie Ihre Nachricht gesendet haben, erhalten Sie eine Antwort vom KI-Chatbot, die Sie direkt in Ihrem WhatsApp-Konto einsehen können. Zusätzlich können Sie die Antwort des Chatbots in den Systemprotokollen überwachen und verfolgen, um sicherzustellen, dass der Kommunikationsprozess korrekt funktioniert (Abbildung 26).

Generierte Antwort erhalten
Abbildung 26 - Generierte Antwort erhalten

More information