Wir freuen uns, die Erweiterung der Gcore AI Cloud angetrieben von Graphcore Bow IPU zu unserem Rechenzentrum in Manassas, Virginia, bekannt zu geben. Manassas liegt strategisch günstig in der Nähe von Washington DC und befindet sich im Herzen der Eastern Seaboard-Region der USA, einem Zentrum der technischen Innovation. Die AI Cloud bietet virtuelle vPODs mit verschiedenen Konfigurationen, die sich für die Ausführung aller Arten von KI/ML-Workloads eignen – auch für die besonders anspruchsvollen.
Was ist die Grundlage der Infrastruktur?
Der AI-Cluster basiert auf dem GraphcoreBow Pod64, ein IPU-System, das mehrere Benutzer und verschiedene KI-Workloads über virtuelle vPODs unterstützt. Der Bow Pod64 enthält 94.208 IPU-Kerne und liefert 22,4 petaFLOPS an Gesamtrechenleistung. Diese Fähigkeiten ermöglichen es uns, leistungsstarkes KI-Computing für Training und Inferenz zu liefern, so dass unsere Kunden ihre KI/ML-Modelle in der Cloud und am Edge entwickeln und einsetzen können.
Bow Pod ist mit allen gängigen ML-Frameworks kompatibel, darunter TensorFlow, PyTorch und Paddle Paddle, sowie mit Cloud-nativen Anwendungen wie Kubernetes, Prometheus und Grafana.
Virtuelle vPOD-Konfigurationen von Manassas
Hier sind die virtuellen vPOD-Konfigurationen, die wir am neuen Standort in Manassas anbieten:
| Produkt | Instanzkonfiguration | Anzahl der IPUs | Preis pro Stunde |
| BOW-vPOD4 | 60 vCPU / 116 GB RAM / 1100 GB NVMe (ephemer) / 100 Gbit/s-Verbindung | 1 | 3,68 $ |
| BOW-vPOD16 | 120 vCPU / 232 GB RAM / 2200 GB NVMe (ephemer) / 100 Gbit/s-Verbindung | 16 | 13,70 $ |
| BOW-vPOD16 | 240 vCPU / 464 GB RAM / 4400 GB NVMe (ephemer) / 100 Gbit/s-Verbindung | 16 | 15,80 $ |
| BOW-vPOD64 | 240 vCPU / 464 GB RAM / 4400 GB NVMe (ephemer) / 100 Gbit/s-Verbindung | 64 | 64,30 $ |
Alle Konfigurationen sind jetzt verfügbar über unsere Cloud-Plattform.
Sie können vPOD4 auch kostenlos für 24 Stunden testen. Um die Testversion zu erhalten, kontaktieren Sie unser Vertriebsteam.
Was ist ein virtueller vPOD?
Ein virtueller vPOD ist eine Variante, bei der ein Poplar®-Server – ein Server, der Bow IPU-Server in einem Cluster verwaltet – auf einer virtuellen Maschine eingesetzt wird. Dies steht im Gegensatz zu einem dedizierten vPOD, bei dem ein Poplar®-Server auf einem dedizierten Bare-Metal-Server eingesetzt wird.
Ein virtueller vPOD bietet direkten Zugriff auf einen Host-Server und eine schnelle Verbindung zu physischen IPU-Beschleunigern. Damit bietet es eine kostengünstige Lösung für alle, die schnellen und dynamischen Zugriff auf IPU-Rechenleistung benötigen. Sie können virtuelle vPODs in nur 5 Minuten bereitstellen, verglichen mit 15 Minuten für dedizierte physische vPODs.
Vorteile von virtuellen vPODs
Mit virtuellen vPODs können Sie:
- Setzen Sie Ihre Entwicklungsumgebung nahtlos um.
- Installieren und führen Sie Code blitzschnell aus.
- Verbessern Sie Ihre Erfahrung mit beliebten ML-Frameworks wie TensorFlow, PyTorch und Keras.
- Nutzen Sie ephemeren Speicher für zustandslose Workloads.
- Verwenden Sie externe Volumes, um sich mit externem Blockspeicher zu verbinden und neue Datenvolumes hinzuzufügen.
- Verwenden Sie den Suspendierungsmodus, um Ihren Cluster anzuhalten, was für unvorhersehbare Workloads, Ressourcenmanagement und Kostenoptimierung nützlich ist. Sie können den Cluster in wenigen Minuten wieder aktivieren.
Mehr erfahren
Besuchen Sie unsere AI IPU-Produktseite, um alle Funktionen und Vorteile unserer AI Cloud zu entdecken.
Schauen Sie sich unser Webinar an und erfahren Sie, wie Sie mit IPUs KI-Modelle für verschiedene Anwendungen trainieren können.
Schauen Sie sich unseren Blog an, um herauszufinden, wie die Gcore AI IPU Cloud Ihnen bei der Entwicklung, dem Training und der Inferenz von KI/ML helfen kann.
