JFrog und NVIDIA – Neue Partnerschaft für beschleunigte Bereitstellung sicherer KI-Modelle

Um die steigende Nachfrage nach skalierbarer generativer KI zu bedienen, integriert die JFrog-Plattform NVIDIA NIM für GPU-optimierte KI-Services

Sunnyvale, Kalifornien - 10. September 2024 - JFrog, das Liquid Software Unternehmen und Entwickler der JFrog Software Supply Chain Plattform,  welche durch die Übernahme von Qwak AI um eine einheitliche MLOps-Plattform erweitert wurde, kündigt eine neue Produktintegration mit NVIDIA NIM Microservices an, die Teil der NVIDIA AI Enterprise Softwareplattform sind. Durch die Integration der JFrog-Plattform mit der JFrog Artifactory-Modellregistrierung und NVIDIA NIM können GPU-optimierte, vorab genehmigte KI-Modelle mit zentralisierten DevSecOps-Prozessen in einem durchgängigen Software-Lieferketten-Workflow kombiniert werden. Dadurch können Unternehmen sichere Modelle für Machine Learning  (ML) und Large Language Models (LLMs) blitzschnell in die Produktion bringen, und zwar mit erhöhter Transparenz, Rückverfolgbarkeit und Vertrauenswürdigkeit.

„Da Unternehmen KI-Technologie heutzutage schnell einführen, ist es unerlässlich, Praktiken zu implementieren, die ihre Effizienz und Sicherheit gewährleisten und KI verantwortungsvoll einbeziehen“, sagt Gal Marder, EVP Strategy bei JFrog. „Durch die Integration von DevOps-, Sicherheits- und MLOps-Prozessen in einen durchgängigen Software-Lieferketten-Workflow mit NVIDIA NIM-Mikrodiensten können unsere Kunden sicherere Modelle effizient in die Produktion bringen und gleichzeitig ein hohes Maß an Transparenz, Rückverfolgbarkeit und Kontrolle in der gesamten Pipeline gewährleisten.“

Mit der zunehmenden und beschleunigten Nachfrage nach KI in Softwareanwendungen stehen Data Scientists und ML-Ingenieure vor großen Herausforderungen, wenn es darum geht, ML-Modelle in Unternehmensumgebungen zu skalieren. Die Integration von KI-Workflows in bestehende Softwareentwicklungsprozesse bringt zahlreiche Herausforderungen mit sich, wie z.B. fragmentiertes Asset-Management, Sicherheitslücken, Compliance-Probleme und Performance-Engpässe. Diese Komplexität sowie die Anforderungen an flexible und sichere Bereitstellungsoptionen in unterschiedlichen Umgebungen führen oft zu langwierigen, kostspieligen Bereitstellungszyklen und können letztlich das Scheitern von KI-Initiativen zur Folge haben.

„Wenn Unternehmen ihre generativen KI-Bereitstellungen skalieren, kann ein zentrales Repository ihnen helfen, schnell Modelle auszuwählen und bereitzustellen, die für die Entwicklung zulässig sind“, sagt Pat Lee, Vice President, Enterprise Strategic Partnerships bei NVIDIA. „Die Integration von NVIDIA NIM Mikroservices in die JFrog-Plattform kann Entwicklern dabei helfen, schnell vollständig konforme, leistungsoptimierte Modelle zu erstellen, die schnell in der Produktion eingesetzt werden können."

JFrog Artifactory bietet eine einzige Lösung für die Unterbringung und Verwaltung aller Artefakte, Binärdateien, Pakete, Dateien, Container und Komponenten, die in der gesamten Software-Lieferkette verwendet werden. Die Integration der JFrog-Plattform in NVIDIA NIM soll containerisierte KI-Modelle als Softwarepakete in bestehende Softwareentwicklungs-Workflows integrieren.Durch die Integration von NVIDIA NGC – einem Hub für GPU-optimierte Deep-Learning-, ML- und HPC-Modelle – mit der JFrog-Plattform und der JFrog Artifactory-Modellregistrierung können Unternehmen eine zentrale Quelle für alle Softwarepakete und KI-Modelle verwalten. Gleichzeitig nutzen sie bewährte DevSecOps-Praktiken, um Transparenz, Governance und Kontrolle über ihre gesamte Software-Lieferkette sicherzustellen.

Die Integration zwischen der JFrog-Plattform und NVIDIA NIM wird mehrere Vorteile bieten, darunter:

  • Einheitliche Verwaltung: Zentralisierte Zugriffskontrolle und Verwaltung von NIM-Mikroservice-Containern neben allen anderen Assets, einschließlich proprietärer Artefakte und Open-Source-Software-Abhängigkeiten, in JFrog Artifactory als Modellregister zur nahtlosen Integration in bestehende DevSecOps-Workflows.
  • Umfassende Sicherheit und Integrität: Kontinuierliches Scannen in jeder Phase der Entwicklung – einschließlich Containern und Abhängigkeiten – liefert kontextbasierte Einblicke in NIM-Mikroservices mit JFrog-Prüfungs- und Nutzungsstatistiken, die die Compliance fördern.
  • Außergewöhnliche Modell-Performance und Skalierbarkeit: Optimierte Performance der KI-Anwendungen durch NVIDIA-beschleunigte Recheninfrastruktur mit geringer Latenz und hohem Durchsatz für die skalierbare Bereitstellung von LLMs in großen Produktionsumgebungen.
  • Flexible Bereitstellung: Flexible Optionen zur Bereitstellung über JFrog Artifactory, einschließlich selbstgehosteter, Multi-Cloud- und Air-Gap-Bereitstellungsoptionen.

Tiefere Einblicke in die Integration von NVIDIA NIM in die JFrog-Plattform finden Sie hier: https://jfrog.com/nvidia-and-jfrog, wo sich Interessenten auch für das Beta-Programm anmelden können.

Über JFrog

JFrog Ltd. (Nasdaq: FROG) hat sich zum Ziel gesetzt, eine Welt zu schaffen, in der Software reibungslos vom Entwickler zum Endgerät geliefert wird. Angetrieben von der Vision einer „Liquid Software" bietet die JFrog Software Supply Chain Plattform ein einziges System, das es Unternehmen ermöglicht, Software schnell und sicher zu erstellen, zu verwalten und zu verteilen und dabei sicherzustellen, dass diese zugänglich, nachvollziehbar und manipulationssicher ist. Die integrierten Sicherheitsfunktionen helfen außerdem, Bedrohungen und Schwachstellen zu identifizieren, sich vor ihnen zu schützen und sie zu beheben. JFrogs hybride, universelle Multi-Cloud-Plattform ist sowohl als selbst gehosteter Service, als auch als SaaS bei den wichtigsten Cloud-Anbietern verfügbar. Millionen von Nutzer und mehr als 7.000 Kunden weltweit, darunter ein Großteil der Fortune 100, verlassen sich auf JFrog-Lösungen, um die digitale Transformation sicher zu bewältigen. Wer es einmal probiert hat, bleibt dabei! Erfahren Sie mehr unter jfrog.com und folgen Sie uns auf Twitter: @jfrog.

Pressekontakt

Kafka Kommunikation GmbH & Co. KG

Telefon: 089 747470580
E-Mail: info@kafka-kommunikation.de

Go back