MWC 2024 | AI Überall: Qualcomm zeigt beeindruckende On-Device-Demos auf Snapdragon X Elite PC, Phones und IoT
Seit OpenAI in 2022 ChatGPT erstmals der staunenden Weltöffentlichkeit vorgestellt hatte ist das Thema Generative AI nicht mehr aus den Schlagzeilen verschwunden, egal ob in Börsenbriefen oder im Tech-Sektor. Auch am Mobile World Congress 2022 ist die Abkürzung für Artificial Intelligence allgegenwärtig. Wobei zu unterscheiden ist, wo die Künstliche Intelligenz ihr zuhause hat. Das merkt man etwa an Samsungs neuem "AI-Phone" Galaxy S24 bei vielen der neuen Galaxy Ai Features. Während einige davon direkt am Gerät laufen und auch offline funktionieren, ist bei vielen der Zugriff auf die Cloud nötig.
"On Device" ist also ein wichtiger Faktor, etwa aus Gründen des Datenschutzes, aber natürlich auch aufgrund der Offline-Fähigkeit und Performance, ganz unabhängig von der Verfügbarkeit des jeweiligen Cloud-Anbieters. Qualcomm demonstrierte auf dem heute startenden MWC 2024 in Barcelona, was mit direkt auf dem Gerät laufenden KI-Algorithmen heute bereits technisch möglich ist oder in Kürze möglich sein wird, spätestens im Sommer wenn auch die ersten auf dem Snapdragon X Elite basierenden AI-PCs auf den Markt kommen.
Snapdragon X Elite NPU gegen Intel Core Ultra 7 155H
In dem Demovideo oben wird mittels Stable Diffusion 1.5 im Open Source Bildbearbeitungsprogramm Gimp ein Photo mittels generativer AI berechnet, links auf Basis der 45 TOPs Hexagon NPU im Snapdragon X Elite Demogerät, rechts auf einem Intel-Laptop mit Core Ultra 7 155H. Das bereits vom Qualcomm Summit im Oktober 2023 bekannte, rote Qualcomm-Testgerät absolvierte die Bildgenerierung in 7,25 Sekunden, dreimal schneller als der Intel-PC daneben, der hierfür 22,26 Sekunden benötigte.
Der zweite Test ist fast noch beeindruckender: Während der Snapdragon X Elite Rechner in jeder Sekunde ein Bild ausspuckt, dauert die Bildgenerierung bei Intel im Durchschnitt 12 Sekunden, obwohl bei Meteor Lake ja ebenfalls eine NPU verbaut ist. Natürlich ist anzumerken, dass wir die konkreten Parameter dieses Tests nicht kennen, zumindest in Qualcomms Welt haben die in 2024 erwarteten Snapdragon X Elite Notebooks aber handfeste Vorteile, vor allem bei On-Device-AI.
Individuelle Bildanpassung mittels LoRA auf einem Android-Phone
Spannend auch die Demo oben, in der erstmals gezeigt wird, wie die generative AI mittels "Low Rank Adaptation" oder kurz LoRA das Ergebnis je nach Userwunsch individuell anpassen kann. Ob Katzen mit Kristallen oder Nudeln statt klassischem Fell - der Fantasie sind kaum noch Grenzen gesetzt. All das läuft hier direkt auf einem Android-Phone mit Snapdragon-Chip.
Erstes multimodales 7+ Milliarden Parameter Modell lokal am Handy ...
Ebenfalls eine Premiere ist das vom Qualcomm AI-Research-Team gezeigte LMM (Large Multimodal Model) mit mehr als 7 Milliarden Parametern, das lokal auf einem Android-Phone läuft. Das Video oben zeigt wie die künstliche Intelligenz nicht nur Text sondern auch Sprache und Bilder als Eingabe akzeptiert und darüber eine Konversation mit Benutzer oder Benutzerin führt. Das Ganze wir von Qualcomm LLAVA genannt oder Large Language and Vision Assistant.
... und natürlich auch auf einem Snapdragon X Elite PC
In der letzten Demo oben läuft ebenfalls ein 7+ Milliarden Parameter LMM auf einem Windows-On-ARM-PC, natürlich auf Basis des Snapdragon X Elite, der auch Audio-Dateien als Eingabe akzeptiert und diese - hier etwa Musik - analysieren kann. Qualcomm nennt das Audio Reasoning. Neben diesen Demos hat Qualomm am MWC 2024 auch den AI Hub angekündigt, mit dem App-Entwickler ihre Anwendungen in kürzester Zeit AI-fit machen können. Zudem gibt es von Qualcomm neue Hardware und zwar im Bereich Kommunikation. Mehr zum Snapdragon X80 5G-Modem und dem FastConnect 7900, dem ersten Chip, der Wi-Fi 7, Bluetooth 5.4 und Ultrawideband miteinander vereint, erfahrt ihr hier.
AI in IoT-Geräten und aktuellen Smartphones
Auch IoT-Geräte für Konsumenten nutzen teils bereits AI-Features auf Snapdragon-Basis, prominentes Beispiel der kontroversielle AI Pin von Humane. Auch die am Wochenende gelaunchten Smartphone-Flaggschiffe Xiaomi 14, Xiaomi 14 Ultra und Honor Magic6 Pro liefern jeweils unterschiedliche Beispiele, wie On-Device-AI genutzt werden kann, um jeweils unterschiedliche Schwerpunkte zu setzen. Bei Xiaomi insbesondere im Kamera-Bereich, bei Honor in der stärker Benutzer- statt Task-fokussierten Bedienung.
Quelle(n)
Qualcomm
