AIBOX-1684X: Neuer Mini-PC beschleunigt KI-Modelle auch lokal

Der Begriff künstliche Intelligenz ist aktuell in aller Munde. Tatsächlich sind zum Teil auch kostenfrei nutzbare KI-Modelle inzwischen doch mit beeindruckenden Fähigkeiten ausgestattet und ermöglichen etwa die Generierung von Texten und auch Bildern mit recht hoher Qualität. Dabei sind solche Modelle meist in der Cloud und nicht lokal ausführbar - das schafft neben einer großen Abhängigkeit auch Bedenken in Bezug auf die Privatsphäre und die Vertraulichkeit etwa von Unternehmensdaten.

Firefly hat mit dem AIBOX-1684X einen neuen Mini-PC im Angebot, welcher solche Anwendungen auch lokal ausführbar machen soll. Beworben wird die Nutzbarkeit der Large Language Models LLaMa2, ChatGLM und QWEN, weiterhin sollen sich auch Bilder erzeugen lassen. Ebenfalls denkbar ist die KI-unterstützte Auswertung von Bildern. Beispielsweise kann so der Verkehr analysiert werden, denkbar sind auch Überwachungsaufgaben in industriellen Kontexten.

Der 90,6 x 84,4 x 48,5 Millimeter große PC kommt mit einem SOPHON BM1684X-SoC mit Cortex A 53-Rechenkernen und einer besonders starken NPU. Diese soll KI-Anwendungen mit bis zu 32 TOPS (INT8) beschleunigen können. Je nach gewählter Ausstattungsvariante kommt ein 8, 12 oder 16 Gigabyte großer LPDDR4-Arbeitsspeicher zum Einsatz, der eMMC-Speicher besitzt eine Kapazität von bis zu 128 Gigabyte. Eine microSD-Speicherkarte kann genutzt werden. Es stehen jeweils zweimal Gigabit-Ethernet und USB 3.0 bereit.

Als Betriebssystem wird Ubuntu unterstützt. Das Aluminium-Gehäuse verspricht eine gute Haltbarkeit und auch Kühlung. In China wird das Modell zu einem Preis von umgerechnet rund 320 Euro angeboten, Informationen zu einem globalen Release liegen noch nicht vor.

Mögliche Alternative: Jetson Nano Developer Kit bei Amazon kaufen