Im Rahmen der IOWN-Initiative haben NTT und Red Hat in Zusammenarbeit mit NVIDIA und Fujitsu eine wegweisende Lösung entwickelt, die das Potenzial von Echtzeit-Datenanalysen mit Künstlicher Intelligenz am Edge erweitert. Unternehmen können von den zahlreichen Vorteilen dieser Lösung profitieren, darunter eine effiziente Verarbeitung großer Datenmengen, eine verringerte Latenz und reduzierter Stromverbrauch. Die Leistungsfähigkeit dieser Lösung wurde als Proof of Concept anerkannt und eröffnet Unternehmen neue Möglichkeiten für Skalierung und Innovation.
Inhaltsverzeichnis: Das erwartet Sie in diesem Artikel
Effiziente Verarbeitung von KI-Analysen durch innovative Lösung am Edge
In der heutigen Welt, in der KI, Sensortechnologie und Netzwerkinnovationen eine immer größere Rolle spielen, gewinnen KI-Analysen am Edge an Bedeutung. Die kontinuierlich zunehmende Anzahl von Datenquellen erfordert effiziente und schnelle Verarbeitungsmethoden. Die Implementierung solcher Analysen kann jedoch komplex sein und zu höheren Wartungskosten für Software und Hardware führen. Durch den Fortschritt von Edge-Computing-Fähigkeiten können die KI-Analysen näher an den Sensoren durchgeführt werden, was zu einer Verringerung der Latenz und einer Erhöhung der Bandbreite führt. Dadurch wird eine effiziente Verarbeitung von Echtzeit-Datenanalysen ermöglicht.
Die Lösung umfasst das IOWN All-Photonics Network (APN) sowie verschiedene Technologien, die die Datenpipeline in der IOWN Data-Centric Infrastructure (DCI) beschleunigen. NTT nutzt eine beschleunigte Datenpipeline für KI, die Remote Direct Memory Access (RDMA) über APN verwendet, um große Mengen an Sensordaten effizient zu sammeln und zu verarbeiten. Die Container-Orchestrierungstechnologie Red Hat OpenShift ermöglicht eine flexible Verwaltung von Workloads in der beschleunigten Datenpipeline über entfernte und geografisch verteilte Rechenzentren hinweg. Diese Lösung zeichnet sich durch einen effektiven Stromverbrauch und eine niedrige Latenz für Echtzeitanalysen mit KI am Edge aus.
Im Rahmen des Proof of Concept wurde die Echtzeit-KI-Analyse-Plattform in Yokosuka City mit installierten Sensoren und dem entfernten Rechenzentrum in Musashino City getestet. Dabei konnte die Latenz bei KI-Inferencing-Workloads um 60 Prozent im Vergleich zu herkömmlichen Methoden reduziert werden. Zusätzlich wurde der Stromverbrauch der KI-Analysen um 40 Prozent im Vergleich zu traditionellen Technologien gesenkt. Dank der Skalierbarkeit der GPUs kann die Lösung eine größere Anzahl von Kameras unterstützen, ohne dass die CPU zur Begrenzung wird. Es wird erwartet, dass der Stromverbrauch bei Verwendung von 1.000 Kameras um weitere 60 Prozent reduziert werden kann.
Optimierte Datenpipeline für KI-Inferencing verarbeitet Sensordaten effizient und reduziert Overhead
- Die Lösung gewährleistet eine schnelle und effiziente Verarbeitung großer Mengen Sensordaten im Rahmen des KI-Inferencing
- Mit Hilfe von Red Hat OpenShift können umfangreiche KI-Datenanalysen in Echtzeit durchgeführt werden, was die Einführung von Hardware-basierten Beschleunigern erleichtert
- In dieser Lösung kommen NVIDIA A100 Tensor Core GPUs und NVIDIA ConnectX-6 NICs zum Einsatz, um KI-Inferencing zu ermöglichen
Effiziente Datensammlung: Weniger Overhead bei großen Daten
- Die Verwendung dieser Lösung ermöglicht eine effiziente Datenerfassung ohne großen Overhead
- Die Möglichkeit, Daten über verschiedene Standorte hinweg zu sammeln, ermöglicht es Unternehmen, KI-Analysen schneller durchzuführen
- Die Lösung integriert erneuerbare Energien wie Solar- oder Windenergie, um nachhaltige und umweltfreundliche KI-Analysen am Edge zu ermöglichen
- Die Verwendung von Videokameras als Sensoren verbessert die Sicherheit beim Gebietsmanagement
Im Rahmen der IOWN-Initiative haben NTT und Red Hat eine wegweisende Lösung entwickelt, die Unternehmen dabei unterstützt, ihre KI-gestützten Technologien nachhaltig zu skalieren. Die Lösung ermöglicht eine effiziente Verarbeitung großer Datenmengen mit geringerer Latenz und niedrigerem Stromverbrauch. Durch die flexible Verwaltung von Workloads über verschiedene Standorte hinweg können Unternehmen ihre Effizienz steigern und neue Möglichkeiten für Wachstum und Innovation erschließen. Weitere Informationen zu dieser Lösung sind in der Session des IOWN Global Forum auf dem MWC in Barcelona am 29. Februar 2024 erhältlich.
Nachhaltige Skalierung: Lösung ermöglicht Nutzung erneuerbarer Energien in Echtzeit-Datenanalysen
Die Lösung für Echtzeit-Datenanalysen mit KI am Edge eröffnet Unternehmen vielfältige Vorteile. Sie ermöglicht eine effiziente Verarbeitung großer Datenmengen und reduziert gleichzeitig Latenz und Stromverbrauch, was zu schnelleren und kostengünstigeren KI-Analysen führt. Darüber hinaus bietet die Lösung Flexibilität bei der Verwaltung von Workloads über verschiedene Standorte hinweg und ermöglicht die Nutzung erneuerbarer Energien. Unternehmen können ihre Effizienz steigern und neue Möglichkeiten für Wachstum und Innovation erschließen.
