Neues von DEVONtechnologies
Wie Sie lokale KI in DEVONthink To Go nutzen
Wenn Sie KI auf Ihren Mobilgeräten nutzen, verwenden Sie in der Regel Cloud-Dienste wie Claude, Gemini oder ChatGPT. Derzeit ist es zwar noch nicht möglich, ein umfassendes lokales Modell auf einem iPhone auszuführen, aber Sie können eines auf Ihrem Mac laufen lassen und DEVONthink To Go damit verbinden.
Dafür muss Ihre KI-Anwendung im Netzwerk erreichbar sein. Falls das nicht der Fall sein sollte, suchen Sie dazu in den Einstellungen oder der Hilfe der Anwendung nach entsprechenden Optionen. Außerdem müssen Sie in den Einstellungen Ihres iPhones oder iPads unter Datenschutz & Sicherheit den Zugriff auf das lokale Netzwerk für DEVONthink To Go aktivieren. Stellen Sie auch sicher, dass die Verbindung in Ihrer Firewall oder Netzwerk-App zugelassen ist, falls nötig.
Nehmen wir nun LM Studio als Beispiel: Öffnen Sie dort in der Seitenleiste den Bereich Developer, laden Sie ein Modell und starten Sie den Server. Es wird eine URL in der Form http://localhost:1234 oder http://127.0.0.1:1234 angezeigt. Mit dieser verweist Ihr Mac auf sich selbst, sodass KI-fähige Anwendungen sie nutzen können, um eine Verbindung zu LM Studio auf dem selben Rechner herzustellen, auf dem sie selbst laufen. Da sich DEVONthink To Go jedoch nicht auf eben diesem Mac befindet, kann die App noch nicht auf LM Studio zugreifen. Öffnen Sie daher die Server Settings und aktivieren Sie Serve on Local Network. Die URL ändert sich auf die IP-Adresse, die Ihr Mac im lokalen Netzwerk hat. Klicken Sie auf das Kopier-Symbol neben der Adresse.
Öffnen Sie nun DEVONthink To Go. Öffnen Sie Einstellungen > KI und wählen Sie LM Studio aus. Das URL-Feld wird automatisch ausgefüllt. Markieren Sie alles vor dem Doppelpunkt und fügen Sie dann die kopierte IP-Adresse ein, z. B. http://192.168.12.185. Stellen Sie dabei sicher, dass die Portnummer :1234 nicht doppelt auftaucht, da die kopierte URL diese ebenfalls beinhalten könnte. Nun sollte sich die App mit LM Studio auf Ihrem Mac verbinden und Ihnen Ihre geladenen Modelle auflisten.
Beachten Sie, dass sich IP-Adressen ändern können. Wenn dies passiert, müssen Sie die URL in den Einstellungen aktualisieren. Sie können jedoch stattdessen den Bonjour-Namen Ihres Macs verwenden, z. B. http://leonidasx.local plus Portnummer. Dann bleibt die URL auch dann gültig, wenn sich die IP-Adresse ändert.