{"id":56749,"date":"2025-03-28T10:01:19","date_gmt":"2025-03-28T09:01:19","guid":{"rendered":"https:\/\/www.schneider.systems\/microsoft-und-nvidia-blackwell-nim-serverlose-gpus-und-mehr\/"},"modified":"2025-03-28T10:35:16","modified_gmt":"2025-03-28T09:35:16","slug":"microsoft-und-nvidia-blackwell-nim-serverlose-gpus-und-mehr","status":"publish","type":"post","link":"https:\/\/www.schneider.systems\/de\/microsoft-und-nvidia-blackwell-nim-serverlose-gpus-und-mehr\/","title":{"rendered":"Microsoft und NVIDIA: Blackwell, NIM, Serverlose GPUs und mehr"},"content":{"rendered":"

Mit Wirkung zum 24. M\u00e4rz 2025 haben Microsoft und NVIDIA<\/a> mehrere neue Fortschritte<\/strong> in ihrer Zusammenarbeit<\/strong> zur Beschleunigung der KI-Entwicklung und -Leistung<\/strong> angek\u00fcndigt<\/strong>. Zu diesen \u00c4nderungen geh\u00f6ren die Integration der neuesten NVIDIA Blackwell Plattform<\/strong> in die Azure AI Services Infrastruktur, die Einf\u00fchrung von NVIDIA NeMo Inference Microservices (NIM) <\/strong>in Azure AI Foundry, die Einf\u00fchrung von serverlosen GPUs<\/strong> und mehr<\/strong>.<\/p>\n

\"\"<\/p>\n

 <\/p>\n

\u00c4nderungen<\/strong><\/h2>\n

Integration der NVIDIA Blackwell Plattform<\/strong><\/h3>\n

Die NVIDIA Blackwell Plattform<\/strong> ist ein bedeutender Fortschritt im Bereich KI und beschleunigtes Computing und verf\u00fcgt \u00fcber die Blackwell GPU Architektur. Im Vergleich zu fr\u00fcheren Architekturen wie Hopper bietet Blackwell eine bis zu 2-fache Beschleunigung der Attention-Layer und 1,5-fache KI-Rechenleistung (FLOPS). Attention-Layer sind ein wichtiger Bestandteil moderner neuronaler Netzwerke, insbesondere in Modellen f\u00fcr nat\u00fcrliche Sprachverarbeitung (NLP). Sie helfen dem Modell, sich auf relevante Teile der Eingabedaten zu konzentrieren, indem sie den Fokus auf bestimmte W\u00f6rter oder Merkmale legen, die f\u00fcr die aktuelle Aufgabe wichtig sind. Diese Verbesserungen macht Blackwell ideal f\u00fcr die Verarbeitung von KI-Modellen mit Billionen von Parametern, die f\u00fcr generative KI, Datenverarbeitung und technische Simulationen entscheidend sind.<\/p>\n

Die neueste NVIDIA Blackwell Plattform ist jetzt in die Azure AI Services Infrastruktur integriert<\/strong>. Diese Integration nutzt die fortschrittliche GPU-Technologie von NVIDIA, um die KI-Leistung und Effizienz auf Azure zu verbessern. KI-Anwendungen, die auf Azure laufen, profitieren automatisch von der verbesserten Geschwindigkeit und Effizienz der Blackwell-GPUs, welche nicht extra ausgew\u00e4hlt oder konfiguriert werden m\u00fcssen.<\/p>\n

 <\/p>\n

Einf\u00fchrung von NVIDIA NIM Microservices<\/strong><\/h3>\n

\"\"<\/p>\n

NVIDIA NIM Microservices<\/strong> helfen, KI-Anwendungen schnell und zuverl\u00e4ssig in verschiedenen Umgebungen wie Cloud und Rechenzentren bereitzustellen. Sie werden mit vorgefertigten KI-Modellen geliefert und sind f\u00fcr hohe Leistung und niedrige Latenzzeiten optimiert. Das macht es f\u00fcr Unternehmen einfacher, KI zu nutzen, ohne eine komplexe Infrastruktur zu verwalten.<\/p>\n

\"\"<\/p>\n

Azure AI Foundry bietet jetzt NVIDIA NIM-Microservices<\/strong>, mit denen Entwickler schnell leistungsoptimierte KI-Anwendungen auf den Markt bringen k\u00f6nnen. Das offene Argumentationsmodell (reasoning model) NVIDIA Llama Nemotron Reason wird in K\u00fcrze ebenfalls in Azure AI Foundry integriert werden.<\/p>\n

 <\/p>\n

Leistungsoptimierung f\u00fcr Meta-Lama-Modelle<\/strong><\/h3>\n

Die Llama-Modelle von Meta<\/strong> (vorher bekannt als Facebook) sind eine Familie von gro\u00dfen Sprachmodellen (LLMs), die f\u00fcr verschiedene KI-Anwendungen entwickelt wurden. Im Vergleich zu Llama 3 bietet das neue Llama 3.1<\/strong> eine erweiterte Kontexthandhabung, verbesserte Inferenzgeschwindigkeit und verbesserte multimodale Unterst\u00fctzung. Sie unterst\u00fctzen mehrsprachige und multimodale F\u00e4higkeiten, so dass sie sowohl Text als auch visuelle Eingaben verarbeiten k\u00f6nnen.<\/p>\n

Microsoft und NVIDIA haben jetzt die Leistung von Meta Llama-Modellen mit TensorRT-LLM optimiert<\/strong> und damit den Durchsatz und die Effizienz verbessert. Wie funktioniert diese Opimierung?<\/strong><\/p>\n