Nvidia erweitert ChatRTX: Kostenloser lokaler Chatbot für PCs mit Nvidia RTX-Grafikkarten erhält neue Bild- und Sprachfunktionen

Nvidia hat die Fähigkeiten von Chat for RTX (ChatRTX) erweitert, indem in der neuesten Version zusätzliche Large Language Models (LLM) sowie Bild- und Sprachunterstützung hinzugefügt wurden. Der kostenlose lokale Chatbot muss keine Daten online senden, wenn er mit Benutzerinformationen arbeitet, so dass die Chats anonym bleiben.

Es gibt verschiedene LLMs für unterschiedliche Zwecke - allgemeine Chats, wissenschaftliches Arbeiten, das Schreiben von Aufsätzen und vieles mehr. Einige LLMs haben auch eine strenge Zensur, so dass einige LLMs nützlicher sind als andere. Zu den bisher verfügbaren TensorRT-LLMs gehören das Standardmodell Mistral und Llama 2. Nvidia hat ChatRTX für zwei neue Modelle, Gemma und ChatGLM3, freigegeben:

• Gemma ist ein von Google DeepMind entwickeltes LLM, das 2024 als Modell mit zwei bzw. sieben Milliarden Parametern veröffentlicht wurde. Die Modelle sind hoch entwickelt, um sensible Sprache, persönliche Informationen und riskante oder gefährliche Antworten herauszufiltern.
• ChatGLM3 ist ein von Zhipu AI und Tsinghua KEG entwickeltes LLM, das 2023 als Modell mit sechs Milliarden Parametern veröffentlicht wurde. Das zweisprachige chinesisch-englische Modell ist als starke Open-Source-Konkurrenz zu OpenAIs ChatGPT gedacht.

Nvidia hat das neuronale Netzwerk CLIP von OpenAI in ChatRTX integriert, um Bilder automatisch zu erkennen und den dazugehörigen Text zuzuordnen. Wird CLIP beispielsweise mit einem Bild eines Fernsehmoderators, Kameras und Lichtern in einem Raum gefüttert, erkennt es das Bild als Foto eines Fernsehstudios. Auf diese Weise kann ChatRTX mit Bildern arbeiten, ohne dass die Inhalte manuell beschriftet werden müssen. Das Spracherkennungssystem Whisper von OpenAI wurde ebenfalls in ChatRTX integriert und ermöglicht es den Anwendern, ChatRTX-Aufforderungen per Sprache zu nutzen.

Wer den lokalen ChatRTX-Bot ausprobieren möchte, kann Nvidia ChatRTX hier herunterladen, sofern die folgenden Systemvoraussetzungen erfüllt sind: Der lokale Chatbot läuft auf PCs mit einer Grafikkarte der Nvidia GeForce RTX 30 oder 40 Serie, andere Ampere- und Ada-basierte Grafikkarten mit mindestens 8 GB VRAM werden ebenfalls unterstützt. Weitere Systemvoraussetzungen sind Windows 11, 16 GB RAM, mindestens 35 GB freier Festplattenspeicher und die Treiberversion 535.11 oder höher.