[Frage] Eigener Open-Webui / Ollama Webserver und DynDNS Einrichtung

sykmuss

Neuer User
Mitglied seit
19 Okt 2024
Beiträge
3
Punkte für Reaktionen
1
Punkte
1
Hallo Ihr Lieben,

ich habe vor ein paar Tagen meine Grafik Karte aktualisiert um die neuesten Sprachmodelle wie z.B. Llama 3 oder Mistral 7B über das Programm Ollama selbst im lokalen Netzwerk zu hosten.

Aktuell verwende ich dazu eine Ubuntu Instanz. Die Ports wurden in der Firewall von Ubuntu geöffnet, für Ollama den Port 11443 und für das Webinterface (Open-Webui) der Port 8080.

Innerhalb meines lokalen Netzwerkes kann ich von meinem Laptop aus auf das Webinteface (Open-Webui) zugreifen mit: http://192.168.178.23:8080

Nun möchte ich über DynDNs von außerhalb auf meinen PC (Ubuntu Instanz) zugreifen. Dazu habe ich einen Account bei dem DynDNS Anbieter wie z.B. selfhost.de erstellt.

Ich möchte nun wie folgt auf meinen lokalen PC von außerhalb auf meine Sprachmodelle zugreifen:
wie z.B. http://beispiel.selfhost.co:8080

Ich habe mir eine Fritzbox (FRITZ!Box 6490 Cable) gekauft die DynDNS untersützt. Wir verwenden aktuell den dummen standard Router von Vodafone (Schwarzer Kasten). Bei diesem ist der Bridgemodus aktiv. Die Fritzbox ist mit dem LAN-Anschluss-1 mit dem Vodafone Router verbunden. Die restlichen Geräte hängen an der Fritzbox.

Welche Einstellungen muss ich nun im Webinterface der Fritzbox tätigen, um von außerhalb auf meine Sprachmodelle zuzugreifen, d.h auf den HTTP Webserver er Ubuntu Instanz auf Port 8080 (Aktuelle IP 192.168.178.23)

Beste Grüße,
Lucas
 

Anhänge

  • Screenshot 2024-10-19 165803.jpg
    Screenshot 2024-10-19 165803.jpg
    236.9 KB · Aufrufe: 12
  • Screenshot 2024-10-19 165838.jpg
    Screenshot 2024-10-19 165838.jpg
    210.6 KB · Aufrufe: 11
  • Screenshot 2024-10-19 165907.jpg
    Screenshot 2024-10-19 165907.jpg
    224.4 KB · Aufrufe: 11
  • Screenshot 2024-10-19 165925.jpg
    Screenshot 2024-10-19 165925.jpg
    250.3 KB · Aufrufe: 11
  • Screenshot 2024-10-19 170001.jpg
    Screenshot 2024-10-19 170001.jpg
    203.3 KB · Aufrufe: 11
  • Screenshot 2024-10-19 170041.jpg
    Screenshot 2024-10-19 170041.jpg
    229.7 KB · Aufrufe: 11
Um über IPv4 auf deinen Server zuzugreifen, bräuchtest du eine öffentliche IPv4-Adresse. Die hat deine Fritzbox aber nicht bekommen (siehe erstes Bild, IPv4-Adresse: 192.168.0.200). Vielleicht ist der Bridgemodus auch gar nicht aktiv.
Bei selfhost steht jetzt also eine im Internet nicht routbare Adresse drin.
Abhilfe: Verwende IPv6.
 
  • Like
Reaktionen: sykmuss
welche einstellungen müsste auf dazu setzen im webinterface? @KunterBunter
 

Anhänge

  • Screenshot 2024-10-19 173829.png
    Screenshot 2024-10-19 173829.png
    64 KB · Aufrufe: 11
Wenn der Bridgemodus aktiv wäre, kann diese Seite gar nicht funktionieren.
 
Poste doch bitte einmal aus der GUI der FRITZ!Box 6490 Cable einen Screenshot von der Seite "Übersicht".
 
Trage mal in der Fritzbox nur die selfhost Update-URL für IPv6 ein, sodass im ersten Bild unten nicht mehr "IPv6-Status: Fehler" steht.
 
Holen Sie sich 3CX - völlig kostenlos!
Verbinden Sie Ihr Team und Ihre Kunden Telefonie Livechat Videokonferenzen

Gehostet oder selbst-verwaltet. Für bis zu 10 Nutzer dauerhaft kostenlos. Keine Kreditkartendetails erforderlich. Ohne Risiko testen.

3CX
Für diese E-Mail-Adresse besteht bereits ein 3CX-Konto. Sie werden zum Kundenportal weitergeleitet, wo Sie sich anmelden oder Ihr Passwort zurücksetzen können, falls Sie dieses vergessen haben.