KI: Lokale Verarbeitung auf dem Desktop
(TL). Die meisten generativen KI-Anwendungen (GenKI), wie ChatGPT, laufen bisher in der Cloud. Doch eine neue Generation von KI-PCs könnte dies ändern und eine Vielzahl von Vorteilen bieten.
Warum lokale KI?
Das Ausführen von KI-Anwendungen in der Cloud ist zwar leistungsfähig, aber auch teuer. Unternehmen, die GenKI-Lösungen kostengünstig im gesamten Betrieb einsetzen möchten, profitieren von der lokalen Ausführung. Weitere Probleme der Cloud-Nutzung sind langsame Antwortzeiten, hohe Netzbelastung und Datenschutzrisiken. Eine Forrester-Studie betont, dass lokale KI-Nutzung sensible Daten schützt, da keine Übertragung über das Internet notwendig ist.
Der Copilot auf dem Desktop
Große Anbieter wie Microsoft und Intel haben die Vorteile erkannt und bringen den KI-Assistenten Copilot von der Cloud auf den PC. Microsoft nennt die neuen Systeme „Copilot+ PCs“, die durch eine spezielle Architektur aus CPU, GPU und einer Neural Processing Unit (NPU) herausragen. Diese NPUs sind besonders energieeffizient und beschleunigen KI-Workloads, ohne dabei das Betriebssystem oder Grafiken zu verarbeiten.
Intel Core Ultra Prozessoren
Intel hat mit dem Core Ultra Prozessor ein beeindruckendes Paket aus CPU, GPU und NPU geschnürt, das 34 Billionen Operationen pro Sekunde (TOPS) erreicht. Über 300 KI-beschleunigte Funktionen für Kollaboration, Produktivität und Content-Erstellung sowie mehr als 500 optimierte KI-Modelle stehen zur Verfügung. Diese Modelle basieren auf Kategorien wie Sprache, Bildverarbeitung und Computer Vision und sind über Plattformen wie OpenVINO, Hugging Face und PyTorch verfügbar.
Sicherheits- und Verwaltungsvorteile
Intel hat seine vPro-Architektur für die neuen KI-PCs neu aufgestellt. Die neueste Version bietet erweiterte Sicherheit, Managebarkeit und Produktivität. Intel’s Threat Detection Technology (TDT) nutzt KI zur Überwachung und nutzt die Beschleunigung durch GPU und NPU voll aus.
Blick in die Zukunft
Die Nachfrage nach KI-PCs wird voraussichtlich stark ansteigen. Laut IDC werden KI-PCs bis 2027 60 Prozent der PC-Lieferungen ausmachen. Intel hat bereits die nächste Prozessor-Generation „Lunar Lake“ angekündigt, die über 100 TOPS erreichen soll.
Die Zukunft der KI liegt nicht nur in der Cloud, sondern zunehmend auch auf dem Desktop. Lokale KI-Nutzung ist kostengünstiger, effizienter und energieparender. Mit Hardware wie dem Intel Core Ultra Prozessor und der Integration von CPU, GPU und NPU eröffnen sich neue Möglichkeiten für Unternehmen und Nutzer.