Wir stellen vor: Gcore Everywhere Inference, der nächste Schritt in der KI-Entwicklung
- January 16, 2025
- 2 Min.
Wir freuen uns, Ihnen eine entscheidende Weiterentwicklung unserer KI-Inferenzlösung der nächsten Generation präsentieren zu können: Everywhere Inference, bisher bekannt als Inference at the Edge. Dieses Update ist eine direkte Antwort auf die Herausforderungen heutiger Unternehmen. Es bietet alle notwendigen Tools, mit denen Hemmnisse wie steigende Inferenzanforderungen, betriebliche Komplexität und Compliance-Vorschriften bewältigt werden können.
Mit Everywhere Inference können Sie KI-Inferenzen jetzt nahtlos in jeder beliebigen Umgebung einsetzen – ob On-Premises, in der Cloud von Gcore, in öffentlichen Clouds oder in einer hybriden Konfiguration. Als Antwort auf die Anforderungen unserer Kunden, die sich mit der Evolution von KI laufend verändern, ermöglicht Everywhere Inference ein flexibles, effizientes und optimiertes Inferenzmanagement, unabhängig von Ihrem Anwendungsfall. Diese spannende Neuerung unterstreicht, wie sich die Perspektiven für KI bei Gcore erweitern. Was sich jedoch nie ändern wird, ist unser unermüdliches Engagement für niedrige Latenzzeiten, Skalierbarkeit und Compliance, wie Sie es von uns gewohnt sind.
Wie Gcore Everywhere Inference die KI-Workloads verändert
Everywhere Inference wurde entwickelt, um Unternehmen mehr Flexibilität und Kontrolle über ihre KI-Workloads zu geben. Verschaffen Sie sich hier einen Überblick über die neuesten Erweiterungen.
Intelligentes Routing für schnellere, nahtlose Performance
Workloads werden jetzt automatisch an die nächstgelegenen verfügbaren Rechenressourcen weitergeleitet, wodurch selbst bei zeitkritischen Anwendungen eine niedrige Latenz erreicht wird. Das bedeutet, dass geschäftskritische Anwendungen, die Präzision und Schnelligkeit erfordern – wie zum Beispiel Systeme zur Betrugserkennung in Echtzeit –, künftig schnellere Antworten liefern, ohne die notwendige Genauigkeit zu beeinträchtigen.
Multi-Tenancy für Ressourceneffizienz
Mit der neuen Multi-Tenancy-Funktion können Unternehmen mehrere KI-Workloads gleichzeitig auf einer gemeinsam genutzten Infrastruktur ausführen. Dieses Prinzip maximiert die Ressourcenauslastung und reduziert die Betriebskosten, insbesondere für Branchen wie Telekommunikation, die auf eine dynamische Netzwerkoptimierung angewiesen sind.
Flexible Bereitstellung in verschiedenen Umgebungen
Flexibilität bei der Bereitstellung ermöglicht Unternehmen eine schnelle Anpassung an sich verändernde Anforderungen und die nahtlose Integration in bestehende Infrastruktur. Ob On-Premises, in der Gcore-Cloud, in öffentlichen Clouds oder in einer hybriden Konfiguration – Everywhere Inference erleichtert es, Inferenz-Workloads überall dort einzusetzen, wo sie gebraucht werden.
Extrem niedrige Latenz durch unser globales Netzwerk
Mithilfe des globalen Netzwerks von Gcore mit mehr als 180 Points of Presence (PoPs) können Unternehmen ihre Workloads näher am Endbenutzer platzieren und so extrem niedrige Latenzzeiten erzielen. Unsere umfassende Infrastruktur ermöglicht Verarbeitung in Echtzeit, sofortige Bereitstellung und nahtlose Performance weltweit.
Dynamische Skalierung bei Lastspitzen
Die bedarfsorientierte Skalierung von Ressourcen findet nun noch schneller und präziser statt und erlaubt es Unternehmen, Lastspitzen auch ohne Überprovisionierung aufzufangen. Unternehmen mit temporären Lastspitzen, wie beispielsweise der Einzelhandel, können solche Phasen mithilfe dynamischer Skalierung leichter bewältigen und gleichzeitig ihre Infrastrukturkosten begrenzen.
Compliance-konforme Verarbeitung
Everywhere Inference wurde mit Blick auf die Einhaltung gesetzlicher Vorschriften entwickelt und erfüllt die Anforderungen an Datenhoheit, einschließlich die der DSGVO. Das macht es zur idealen Wahl für Branchen, in denen sensible Daten gespeichert und geschützt werden müssen, unter anderem im Gesundheitswesen.
Die Zukunft der KI-Inferenz ist schon da
Mit diesen Erweiterungen setzt Gcore Everywhere Inference neue Maßstäbe für KI-Inferenzlösungen. Ganz gleich, ob Sie Echtzeitanwendungen optimieren, schnell skalieren oder durch komplexe regulatorische Umgebungen navigieren müssen: Everywhere Inference sorgt für die Geschwindigkeit, Effizienz und Flexibilität, die Sie im Zeitalter der KI benötigen.
Mili Leitner Cohen
Content Marketing Lead, AI Products
Inhaltsverzeichnis
Testen Sie Gcore AI
Gcore all-in-one platform: cloud, AI, CDN, security, and other infrastructure services.
Ähnliche Artikel
Gcore als Leader im GigaOm Radar 2025 für KI-Infrastruktur ausgezeichnet
Wir freuen uns, bekannt zu geben, dass Gcore im GigaOm-Radar 2025 for AI Infrastructure zum Leader ernannt wurde – und damit als einziger europäischer Anbieter einen Platz in der ersten Reihe erhalten hat. Die unabhängige und strenge Bewertung durch GigaOm bestätigt unsere führende Position in den Bereichen Plattformkapazitäten und Innovation. Gleichzeitig unterstreicht sie unsere technologische Exzellenz in der Bereitstellung sicherer und skalierbarer KI-Infrastrukturen.Leader im GigaOm-Radar: Mehr als nur ein TitelDer GigaOm Radar-Bericht ist eine anerkannte Branchenanalyse, die maßgebliche Einblicke in die Wettbewerbslandschaft liefert und führende Anbieter in zentralen Technologiebereichen objektiv bewertet. Unternehmen erhalten damit eine fundierte Entscheidungsgrundlage für strategische Technologieinvestitionen und Partnerauswahl. In der aktuellen Ausgabe des GigaOm Radar-Berichts wurden 14 der weltweit führenden Anbieter im Bereich KI-Infrastruktur umfassend analysiert. Die Bewertung erfolgte auf Basis zentraler technischer Leistungsmerkmale sowie geschäftsrelevanter Kriterien. Die Bewertung der Anbieter erfolgt anhand von Faktoren wie Skalierbarkeit und Leistung, Flexibilität bei der Bereitstellung, Sicherheit und Compliance sowie Interoperabilität.Neben dem Anbieter-Ranking liefert der Bericht tiefgreifende Einblicke in die dynamische Entwicklung der KI-Infrastrukturlandschaft. Dazu zählen der zunehmende Einsatz hybrider KI-Architekturen, signifikante Fortschritte im Bereich des beschleunigten Computings sowie die verstärkte Einführung von Edge-Deployments – mit dem Ziel, KI-Anwendungen näher an die Quelle der Datenerzeugung zu bringen und so Performance, Effizienz und Reaktionsgeschwindigkeit zu optimieren. Darüber hinaus bietet er strategische Hinweise für Unternehmen, die skalierbare, sichere und souveräne KI-Funktionen aufbauen möchten.Warum wurde Gcore im GigaOm Radar zu einem der führenden Anbieter ernannt?Die spezifischen Bereiche, in denen sich Gcore hervorgetan und seinen Leader-Status verdient hat, sind die folgenden:Eine umfassende KI-Plattform mit Everywhere Inference und GPU Cloud-Lösungen, die skalierbare KI von der Modellentwicklung bis zur Produktion unterstützenHohe Leistung durch modernste NVIDIA A100, H100, H200 und GB200 Grafikprozessoren und ein globales privates Netzwerk, das extrem niedrige Latenzzeiten gewährleistetEin umfangreicher Modellkatalog mit flexiblen Bereitstellungsoptionen für Cloud-, On-Premises-, Hybrid- und Edge-Umgebungen, der maßgeschneiderte globale KI-Lösungen ermöglichtUmfangreiche Kapazitäten modernster GPUs und technischer Support in Europa zur Unterstützung europäischer souveräner KI-InitiativenDie Entscheidung für Gcore AI ist ein strategischer Schritt für Unternehmen, die Wert auf extrem niedrige Latenzzeiten, hohe Leistung und flexible Bereitstellungsoptionen in Cloud-, On-Premises-, Hybrid- und Edge-Umgebungen legen. Das globale Netzwerk von Gcore gewährleistet eine latenzarme Echtzeitverarbeitung von KI-Anwendungen - ein entscheidender Wettbewerbsvorteil für international agierende Unternehmen.GigaOm Radar, 2025Erfahren Sie mehr über die KI-InfrastrukturlandschaftBei Gcore haben wir uns der Förderung von Innovationen im Bereich der KI-Infrastruktur verpflichtet. GPU Cloud und Everywhere Inference ermöglichen es Unternehmen, KI effizient und sicher – ganz nach ihren individuellen Anforderungen – einzusetzen.Wenn Sie Ihre KI-Infrastruktur-Roadmap planen oder anpassen möchten, ist dieser Bericht eine hilfreiche Orientierung. Lesen Sie den Bericht und erfahren Sie, wie Gcore hochleistungsfähige KI im großen Maßstab unterstützen kann und Ihnen hilft, in einer KI-gesteuerten Welt die Nase vorn zu haben.Laden Sie den vollständigen Bericht herunter
Gcore und Northern Data Group arbeiten zusammen, um den globalen Einsatz von KI zu verändern
Gcore und Northern Data Group schlagen gemeinsam ein neues Kapitel der KI für Unternehmen auf. Durch die Kombination von Hochleistungsinfrastruktur und intelligenter Software wird die kommerzielle und technologische Partnerschaft die skalierbare Bereitstellung von KI-Anwendungen unabhängig vom Standort der Nutzer erheblich erleichtern. Im Mittelpunkt dieser aufregenden neuen Partnerschaft steht eine gemeinsame Vision: eine globale, sichere KI-Infrastruktur mit geringer Latenz, die einfach zu nutzen und schnell einsatzbereit ist.Das Intelligence Delivery Network im ÜberblickDie Implementierung von KI beschleunigt sich, aber die Infrastruktur bleibt ein großer Engpass. Viele Unternehmen stoßen auf Hindernisse in Bezug auf Latenz, Compliance und Skalierbarkeit, insbesondere bei der Bereitstellung von Modellen in mehreren Regionen. Der herkömmliche Cloud-Ansatz führt oft gerade dann zu Komplexität und Overhead, wenn Geschwindigkeit und Einfachheit am wichtigsten sind.An dieser Stelle kommt das Intelligence Delivery Network (IDN) ins Spiel.Das IDN ist ein global verteiltes KI-Netzwerk, das entwickelt wurde, um Inferenzen am Edge zu erleichtern. Es kombiniert die hochmoderne Infrastruktur von Northern Data mit Gcore Everywhere Inference, um skalierbare, hochleistungsfähige KI an 180 Standorten weltweit bereitzustellen.Durch die Verlagerung der KI-Workloads näher zu den Endnutzern reduziert IDN die Latenzzeiten und verbessert die Reaktionsfähigkeit – ohne Kompromisse bei Sicherheit oder Compliance. Die georeferenzierte, geobalancierte Architektur gewährleistet Ausfallsicherheit und Datenlokalisierung bei gleichzeitiger Minimierung der Bereitstellungskomplexität.Ein vollständiges Toolkit zur Umsetzung der KIDas IDN ist ein vollständiges KI-Implementierungs-Toolkit, das auf der Cloud-nativen Plattform von Gcore basiert. Die Lösung bietet einen vertikal integrierten Stack, der auf Geschwindigkeit, Flexibilität und Skalierbarkeit ausgelegt ist. Die wichtigsten Komponenten sindManaged Kubernetes für die OrchestrierungEine Container-basierte Deployment Engine (Docker)Eine umfangreiche Modellbibliothek, die Open-Source- und benutzerdefinierte Modelle unterstütztEverywhere Inferenz, die Software von Gcore für die Verteilung von Inferenzen über globale Edge-Points of PresenceDieses Toolset ermöglicht die schnelle und einfache Bereitstellung von KI-Workloads – mit integrierter Skalierung, Ressourcenverwaltung und Beobachtbarkeit. Die Partnerschaft ermöglicht auch den Zugang zu einem der weltweit größten flüssig gekühlten GPU-Cluster, der KI-Teams die Leistung bietet, die sie für anspruchsvolle Workloads benötigen.Unabhängig davon, ob Sie ein neues KI-basiertes Produkt entwickeln oder ein bestehendes Modell skalieren möchten, bietet IDN einen klaren Weg von der Entwicklung bis zur Produktion.Auf Skalierbarkeit und Performance ausgelegtDie gemeinsame Lösung orientiert sich an den Bedürfnissen von Unternehmenskunden. Sie unterstützt mandantenfähige Bereitstellungen, lässt sich in vorhandene Cloud-native Tools integrieren und bietet hohe Leistung, ohne die Kontrolle zu verlieren. Die Kunden erhalten die Flexibilität, die sie benötigen, um die Lösung überall und jederzeit zu implementieren und gleichzeitig Sicherheit und Compliance auf Unternehmensebene zu gewährleisten.Andre Reitenbach, CEO von Gcore, kommentiert: „Diese Zusammenarbeit unterstützt die Mission von Gcore, die Welt überall und jederzeit mit KI zu verbinden. Gemeinsam ermöglichen wir die nächste Generation von KI-Anwendungen mit niedriger Latenz und hoher Skalierbarkeit“.„Wir kombinieren die HPC- und Rechenzentrumsinfrastruktur-Expertise von Northern Data mit der Spezialisierung von Gcore auf Software-Innovation und -Entwicklung“, sagt Aroosh Thillainathan, Gründer und CEO der Northern Data Group. „Damit können wir unsere Vision beschleunigen, eine softwarebasierte KI-Infrastruktur über ein weltweit verteiltes Computernetzwerk bereitzustellen. Wir befinden uns in einer entscheidenden Phase, in der sich der Einsatz von KI-Lösungen weiterentwickelt, und wir glauben, dass diese Partnerschaft ein wichtiger Bestandteil davon sein wird“.Intelligentere und schnellere KI-Implementierung mit Gcore und Northern Data GroupKI ist die neue Grundlage des digitalen Geschäfts. Die globale Bereitstellung sollte kein Team von Infrastrukturingenieuren erfordern. Mit Gcore und der Northern Data Group erhalten Unternehmensteams die Tools und die Unterstützung, die sie benötigen, um KI in großem Umfang und mit hoher Geschwindigkeit zu betreiben.Ganz gleich, was Sie und Ihre Teams mit KI erreichen wollen, das neue Intelligence Delivery Network hilft Ihnen, intelligenter und schneller zu arbeiten.Lesen Sie die vollständige Pressemitteilung
Ein globaler KI-Spickzettel: KI-Vorschriften der wichtigsten Regionen im Vergleich
KI-Entwicklungen erobern die Welt im Sturm. Unternehmen sollten sich aber bewusst sein, dass neue Chancen auch neue Herausforderungen mit sich bringen. Dem Impuls, die Technologie zu nutzen, müssen verantwortungsvolle Regel für deren Einsatz vorausgehen. Nur so ist sichergestellt, dass durch KI weder Unternehmen noch ihre Kunden Risiken ausgesetzt sind. Um diesem Anspruch gerecht zu werden, entwickeln Regierungen weltweit Gesetze zur Regulierung von KI und Datennutzung.Sich in einem immer komplexeren Netz von internationalen Vorschriften zurechtzufinden, kann überfordernd sein. Deshalb werden wir in diesem Artikel die Gesetzgebung einiger führender KI-Hubs auf allen Kontinenten aufschlüsseln und Ihnen genau die Informationen zur Verfügung stellen, die Ihr Unternehmen benötigt, um KI optimal zu nutzen – sicher, legal und ethisch vertretbar.Falls Sie unsere früheren Blogs verpasst haben, in denen wir die KI-Vorschriften nach Regionen aufgeschlüsselt haben, lesen Sie sie hier: Nordamerika, Lateinamerika, Europa, APAC, Naher Osten.Um die Zusammenfassung zu lesen, gehen Sie bitte zur Übersichtstabelle.Globale Trends der KI-RegulierungAuch wenn die Vorschriften je nach Standort variieren, haben sich 2024 weltweit mehrere übergreifende Trends herauskristallisiert. Dazu zählen eine Fokussierung auf Datenlokalisierung, risikoabhängige Regulierung und eine Priorisierung des Datenschutzes. Sie sind zu allgemein anerkannten Leitlinien geworden. Das gemeinsame Ziel aller Länder ist es, Innovationen zu fördern und gleichzeitig die Verbraucher zu schützen – auch wenn die einzelnen Regionen diese Ziele auf unterschiedliche Weise zu erreichen versuchen.Viele Länder folgen dem Beispiel der EU, deren KI-Gesetz ein mehrstufiges Regulierungsmodell je nach potenziellem Risikograd vorsieht. Bei diesem System gelten für jede Risikostufe unterschiedliche Anforderungen: Für Hochrisikoanwendungen, die entweder die öffentliche Sicherheit oder Bürgerrechte betreffen, gilt eine andere Sicherheitsstufe als für allgemeine KI-Anwendungen, bei denen die Risiken weniger hoch eingestuft werden.Europa: strukturiert und stringentEuropa hat einige der strengsten KI-Vorschriften der Welt mit Schwerpunkt Datenschutz gemäß der DSGVO sowie dem neuen risikoabhängigen KI-Gesetz. Dieser Ansatz beruht vor allem darauf, dass die EU den Schwerpunkt auf Verbraucherrechte legt und dafür sorgt, dass die Sicherheit der Nutzerdaten durch die digitale Technologie gewährleistet wird. Das vorgeschlagene KI-Gesetz der EU, über das noch verhandelt wird und das bis 2025 verabschiedet sein soll, stuft KI-Anwendungen nach den Risikoklassen „inakzeptables Risiko“, „hohes Risiko“, „begrenztes Risiko“ und „niedriges Risiko“ ein. Risikoreiche KI-Tools, wie sie bei biometrischer Identifizierung oder Finanzentscheidungen eingesetzt werden, müssen strenge Standards in Bezug auf Datenverwaltung, Transparenz und menschliche Aufsicht erfüllen.Einige EU-Länder haben zusätzliche Standards zum EU-Rahmen eingeführt, insbesondere für mehr Datenschutz und Kontrolle. Der deutsche DSK-Leitfaden zum Beispiel konzentriert sich auf die Rechenschaftspflicht großer Sprachmodelle (LLM) und fordert mehr Transparenz, menschliche Kontrolle und die Zustimmung zur Datennutzung.Unternehmen, die KI in Europa einsetzen wollen, müssen sowohl die einheitlichen Anforderungen des KI-Gesetzes als auch die mitgliedsspezifischen Vorschriften berücksichtigen, die eine differenzierte und strenge Compliance-Landschaft schaffen.Nordamerika: neue VorschriftenDie Vorschriften für künstliche Intelligenz in Nordamerika sind weit weniger einheitlich als die in Europa. Die USA und Kanada sind noch dabei, ihre jeweiligen KI-Rahmenregelungen auszuarbeiten, wobei der derzeitige Ansatz der USA weniger streng und zugleich innovationsfreundlicher ist, während Kanada eine zentralisierte Steuerung bevorzugt.Die Vereinigten Staaten arbeiten mit einem Hybridmodell aus bundesstaatlichen Richtlinien, wie dem Blueprint for an AI Bill of Rights, sowie einzelstaatlichen Gesetzen, wie dem California Consumer Privacy Act (CCPA) und dem Virginia Consumer Data Protection Act (VCDPA), die dazu dienen, einige der strengeren Datenschutzvorschriften durchzusetzen. Die zweistufige Vorgehensweise ähnelt dem in der EU, wo es sowohl Vorschriften auf EU-Ebene als auch auf Länderebene gibt.Der grundsätzlich liberale Ansatz der USA entspricht dem dortigen Verständnis der freien Marktwirtschaft und räumt Innovation und Wachstum den Vorrang vor strengen Sicherheitsmaßnahmen ein. Doch nicht alle Staaten machen sich einen solch freizügigen Umgang zu eigen. Die Divergenz zwischen strengen einzelstaatlichen Gesetzen und eher lockeren Bundesrichtlinien kann zu einer fragmentierten Regulierungslandschaft führen, die für Unternehmen nur sehr schwer zu durchschauen ist.Asien-Pazifik (APAC): divergierende Strategien mit Fokus auf InnovationDie APAC-Region entwickelt sich schnell zu einem globalen Spitzenreiter in Sachen KI-Innovation, deren wichtigsten Märkte das technologische Wachstum in verschiedenen Sektoren maßgeblich vorantreiben. Die Regierungen in der Region haben darauf mit der Schaffung von Rahmenbedingungen reagiert, die den verantwortungsvollen Einsatz von KI und die Datensouveränität in den Vordergrund stellen. Indiens künftiges Gesetz zum Schutz digitaler personenbezogener Daten (Digital Personal Data Protection Bill, DPDPB), Singapurs Modellrahmen für KI-Governance (Model AI Governance Framework) und Südkoreas Gesetz zur Förderung der KI-Industrie (AI Industry Promotion Act) werfen ein Schlaglicht auf die regulatorische Vielfalt in der Region und unterstreichen gleichzeitig die gemeinsame Forderung nach Transparenz und Datenlokalisierung.Es gibt keinen einheitlichen Ansatz für die Regulierung von KI in der APAC-Region. Länder wie China setzen beispielsweise einige der weltweit strengsten Gesetze zur Datenlokalisierung durch, während Japan „Soft-Law“-Prinzipien eingeführt hat und bald verbindliche Vorschriften erwartet. Diese unterschiedlichen Ansätze spiegeln die spezifische Balance zwischen Innovation und Verantwortung in jedem Land wider.Lateinamerika: neue Normen für den DatenschutzDie lateinamerikanische KI-Regulierungslandschaft befindet sich noch in der Entstehungsphase, wobei ein gemeinsamer Schwerpunkt auf dem Datenschutz liegt. Brasilien, das in der Region führend bei der digitalen Regulierung ist, erließ das Allgemeine Datenschutzgesetz (General Data Protection Law, LGPD) ein, das in seinem datenschutzfreundlichen Ansatz – ähnlich wie das argentinische Datenschutzgesetz– eng an die DSGVO angelehnt ist. Mexiko prüft ebenfalls eine KI-Gesetzgebung und hat bereits unverbindliche Leitlinien herausgegeben, in denen ethische Grundsätze und Menschenrechte betont werden.Während sich die regionale KI-Politik noch in der Entwicklung befindet, tendieren andere lateinamerikanische Länder wie Chile, Kolumbien, Peru und Uruguay zu Rahmenwerken, die Transparenz, die Zustimmung der Nutzer und menschliche Kontrolle in den Vordergrund stellen. Mit der zunehmenden Verbreitung von KI werden die lateinamerikanischen Länder wahrscheinlich dem Beispiel der EU folgen und risikobasierte Vorschriften einführen, die sich mit Hochrisikoanwendungen, Datenverarbeitungsstandards und Datenschutzrechten befassen.Naher Osten: Zentren für KI-InnovationenDie Länder des Nahen Ostens investieren erheblich in KI, um das Wirtschaftswachstum anzukurbeln, weshalb auch die Politik besonders innovationsfreundlich ist. In vielen Fällen liegt der Schwerpunkt der Politik sowohl auf der Entwicklung technologischer Spitzenleistungen und der freiwilligen Einhaltung durch die Unternehmen als auch auf strengen gesetzlichen Anforderungen. Dies macht die Region zudem besonders komplex für Unternehmen, die sich bemühen, sich den Bedingungen jedes Landes anzupassen.Die VAE wollen sich durch Initiativen wie die UAE National AI Strategy 2031 als weltweit führend im KI-Sektor positionieren. Die Strategie umfasst ethische Leitlinien, legt aber auch Wert auf eine innovationsfreundliche Politik, die Investitionen anzieht. Saudi-Arabien geht einen ähnlichen Weg. Vorschriften wie die Standards für Datenmanagement und den Schutz personenbezogener Daten (Data Management and Personal Data Protection Standards)konzentrieren sich auf Transparenz und Datenlokalisierung, um die Daten der Bürger zu schützen und gleichzeitig die rasche Entwicklung von KI in allen Bereichen zu fördern. Israels KI-Regulierung stützt sich auf flexible, in den Datenschutzgesetzen verankerte Richtlinien, einschließlich des Datenschutzgesetzes (Privacy Protection Law, PPL), das 2024 geändert wurde, um es an die DSGVO der EU anzupassen.Übersichtstabelle mit ZusammenfassungRegionLand/RegionVorschrift/RichtlinieSchwerpunktAuswirkungen auf die WirtschaftEuropaEUKI-Gesetz (geplant)Risikoabhängige KI-Klassifizierung; hohe Standards bei Datenverwaltung, Transparenz und menschlicher AufsichtHöhere Aufwände bei Compliance, mögliche Verzögerungen bei der Einführung von KI aufgrund strikter Auflagen EUDatenschutzgrundverordnung (DSGVO)Datenschutz, Zustimmung zur Datenverarbeitung, Beschränkungen für grenzüberschreitende DatenübertragungenErhöhte Betriebskosten für die Einhaltung der Vorschriften, Herausforderungen für die globale Datenübertragung und -speicherungNordamerikaUSAEntwurf für ein KI-GrundgesetzKI-Sicherheit, Datenschutz, Fairness; unverbindliche staatliche LeitlinienFlexibilität ermöglicht Innovation, aber Gesetze auf Länderebene erhöhen das Risiko der Fragmentierung von Vorschriften USA (Bundesstaaten)California Consumer Privacy Act (CCPA) & Virginia Consumer Data Protection Act (VCDPA)Datenschutz, Verbraucherdatenschutz, strenge Einhaltung der Vorschriften zur DatenverarbeitungErhöhte gesetzliche Anforderungen für Unternehmen, die in strengen Bundesstaaten tätig sind KanadaArtificial Intelligence and Data Act (AIDA) (geplant)Nationale KI-Ethik und Datenschutz; Transparenz, Verantwortlichkeit für die Nutzung personenbezogener DatenErfordert Investitionen in KI-Auditsysteme und Dokumentation KanadaPersonal Information Protection and Electronic Documents Act (PIPEDA)Datentransparenz, Zustimmung der Nutzer, Verantwortlichkeit bei der Verwendung personenbezogener DatenBietet Organisationen die Möglichkeit, durch Transparenz das Vertrauen ihrer Kunden zu gewinnenAPAC (Asien-Pazifik)IndienDigital Personal Data Protection Bill (DPDPB)Datenschutz, Einwilligung der Nutzer, Datensouveränität, LokalisierungBetriebskosten für Systeme zur Datenlokalisierung, limitiert grenzüberschreitenden Datenfluss SingapurModell eines Rahmenwerks für KI-GovernanceVerantwortungsvolle KI-Nutzung, Data Governance, TransparenzUnternehmen, die sich frühzeitig an den Anforderungen orientieren, sichern sich einen Wettbewerbsvorteil SüdkoreaAI Industry Promotion ActUnterstützung der KI-Industrie, Transparenz, DatenlokalisierungFördert KI-Innovationen, bringt aber Lokalisierungskosten für internationale Unternehmen mit sich ChinaGesetze zur DatenlokalisierungStrenge Datenlokalisierung, Hoheit über die DatenverarbeitungDie Datenlokalisierung ist mit Kosten für die Einhaltung der Vorschriften verbunden und kann für ausländische Unternehmen, die in China tätig sind, Hindernisse darstellen JapanGesetz zum Schutz der Privatsphäre (Soft-Law-Grundsätze)Schutz der Privatsphäre, künftige verbindliche Vorschriften erwartetKurzfristige geschäftliche Flexibilität mit dem Potenzial für zukünftige Kosten für Compliance, wenn verbindliche Vorschriften eingeführt werdenLateinamerikaBrasilienAllgemeines Datenschutzgesetz (General Data Protection Law, LGPD)Datenschutz, Einwilligung in die Datenverarbeitung, Transparenz bei der DatennutzungDie Angleichung an die DSGVO kann europäischen Unternehmen den Einstieg erleichtern, birgt aber auch das Potenzial, die Kosten für die Einhaltung der Vorschriften zu erhöhen MexikoEthische Grundsätze der KI (nicht bindend)Ethische Grundsätze, Menschenrechte, Leitlinien für den verantwortungsvollen Umgang mit KIMinimale Compliance-Anforderungen, ein „Soft-Law“-Ansatz ermöglicht Unternehmen Flexibilität ArgentinienGesetz zum Schutz personenbezogener DatenDSGVO-konform; Einwilligung, Datenschutz, Nutzerrechte ChileNational Intelligence PolicyMenschenrechte, Transparenz, Vermeidung von Bias beim Einsatz von KIGeringe Compliance-Kosten, aber Fokus auf ethische KI-Praktiken erforderlich KolumbienNational Policy for Digital TransformationEthische KI-Nutzung, verantwortungsvolle Entwicklung, DatensouveränitätFokus auf ethische Praktiken könnte Wettbewerbsvorteile bei öffentlichen Ausschreibungen schaffen PeruNationale Strategie für KIKI-Infrastruktur, Ausbildung von Fachkräften, ethische DatenpraktikenSchafft Möglichkeiten für Unternehmen, die sich mit KI-Schulungen und -Infrastrukturen befassen, erfordert jedoch ethische Orientierung UruguayAktualisierte KI-Strategie (in Arbeit)Governance in der öffentlichen Verwaltung, KI-InnovationErleichterung des Marktzugangs für innovationsorientierte Unternehmen trotz anspruchsvoller Anpassung an Governance-RahmenbedingungenNaher OstenVAELeitfaden für KI-Ethik und für die Einführung von KIEthische Standards, Datenschutz, verantwortungsvoller Einsatz von KIUnterstützt ethische KI-Entwicklung mit minimaler regulatorischer Belastung VAEDubai International Financial Center (DIFC) DatenschutzbestimmungenDatennutzung in KI-Anwendungen, Datenschutzrechte, DatenlokalisierungKann die Datenübertragung erschweren, positioniert Dubai aber als führendes KI-Land VAEKI-ChartaGovernance, Transparenz und Datenschutz in der KI-PraxisFördert die internationale Zusammenarbeit und betont den verantwortungsvollen Einsatz von KI Saudi-ArabienStandards für Datenmanagement und Schutz personenbezogener DatenTransparenz, Datenlokalisierung, minimale Einschränkungen für KI-InnovationenUnterstützt Innovation, erhöht aber Kosten für lokalisierte Datenverarbeitung Saudi-ArabienEthische Grundsätze der KI und Richtlinien für generative KIEthische Standards, verantwortungsvolle KI-Nutzung, Leitlinien für die IndustrieNiedrige Compliance-Kosten fördern Innovation IsraelPrivacy Protection Law (PPL) und KI-PolitikDatenschutz, DSGVO-konforme Änderungen (KI-Politik), ethische und flexible KI-RegulierungFlexibilität für ethisch handelnde Unternehmen, Angleichung an DSGVO kann europäische Zusammenarbeit erleichternCompliance-Management angesichts sich überschneidender VorschriftenCompliance-Management stellt schon immer eine Herausforderung dar. Angesichts der vielfältigen und oft widersprüchlichen Anforderungen, die weltweit gelten, ist die Einhaltung von Vorschriften heute jedoch schwieriger denn je. International tätige Unternehmen müssen eine Balance zwischen der Einhaltung strenger Vorschriften wie der EU-Datenschutzgrundverordnung (DSGVO) oder den chinesischen Gesetzen zur Datenlokalisierung und der Einhaltung flexiblerer oder innovationsorientierter Rahmenwerke in Ländern wie Singapur und Saudi-Arabien finden. Unternehmen sind gefordert, ihre Abläufe an die unterschiedlichen Standards für Datenschutz, Transparenz und Governance anzupassen, was zu höheren Kosten und betrieblicher Ineffizienz führen kann. Diese Fragmentierung der Vorschriften zwingt Unternehmen oft zu erheblichen Investitionen in juristische Expertise, in Compliance-Infrastruktur und in maßgeschneiderte operative Strategien, um widersprüchliche Anforderungen zu erfüllen.Vereinfachung globaler KI-Compliance mit GcoreFür international tätige Unternehmen stellt die Einhaltung unterschiedlicher KI-Vorschriften eine große Hürde dar. State-of-the-Art-Technologien wie Sovereign Cloud und Edge Computing eröffnen jedoch neue Möglichkeiten, diese Standards zu erfüllen. Sovereign Clouds ermöglichen die Datenspeicherung und -verarbeitung innerhalb bestimmter Regionen, was es den Unternehmen erleichtert, die Gesetze zur Datenlokalisierung einzuhalten und gleichzeitig von der Skalierbarkeit der Cloud zu profitieren. Anbieter wie Gcore bieten Lösungen mit einem weltweiten Netz von Datenzentren an, die globalen Unternehmen einen nahtlosen Betrieb über Grenzen hinweg ermöglichen.Gcore ist führend im Edge Computing, das als Ergänzung zur Lokalisierung die Datenverarbeitung näher am Entstehungsort der Daten ermöglicht. Dies verringert den Bedarf an grenzüberschreitenden Datenübertragungen und verbessert sowohl Latenzzeit als auch Netzwerkeffizienz. Dies ist besonders vorteilhaft für KI-Anwendungen in Bereichen wie autonomes Fahren und Telemedizin, in denen sowohl Geschwindigkeit als auch Konformität entscheidend sind. Darüber hinaus vereinfacht Gcore die Einhaltung von Vorschriften wie der EU-DSGVO und dem KI-Gesetz, indem es dazu beiträgt, dass sensible Daten sicher und innerhalb der regionalen Grenzen bleiben.Entdecken Sie Gcore Inference at the Edge für die lückenlose Einhaltung von gesetzlichen Vorschriften
Einführung von Gcore Inference at the Edge: KI-Apps näher an Ihre Benutzer bringen, um blitzschnelle Reaktionen zu ermöglichen
Wir freuen uns, Gcore Inference at the Edge vorzustellen. Diese neue Lösung reduziert die Latenzzeit Ihrer ML-Modellausgabe und verbessert die Leistung von KI-gestützten Anwendungen. Es basiert auf Gcores globalem Netzwerk von über 180 Edge Points of Presence (PoPs), die von NVIDIA L40S GPUs angetrieben werden. Inference at the Edge kommt insbesondere latenzempfindlichen Echtzeitanwendungen zugute, darunter generative KI und Objekterkennung. Inference at the Edge befindet sich derzeit in der Beta-Phase und kann kostenlos genutzt werden. Lesen Sie weiter, um mehr über die Funktionen der Lösung, Anwendungsfälle und die ersten Schritte zu erfahren.Was ist Gcore Inference at the Edge?Gcore Inference at the Edge ermöglicht es Ihnen, ML-Modelle an Edge-Punkten einzusetzen. Anycast-Endpunkte leiten Endbenutzeranfragen an das nächstgelegene laufende Modell weiter, um eine geringe Latenzzeit zu erreichen, was zu einem nahtlosen Benutzererlebnis führt.Die zugrundeliegende Infrastruktur muss nicht verwaltet, skaliert und überwacht werden; die Einrichtung erfolgt vollständig automatisiert auf unserer Seite. Sie erhalten also einen einzigen Endpunkt zur Integration in Ihre Anwendung.Inference at the Edge stützt sich auf drei Komponenten:Unser Netzwerk mit niedriger Latenz von über 180 Edge-PoPs in über 90 Ländern mit Smart Routing und einer durchschnittlichen Netzwerklatenz von 30 msNVIDIA L40S GPUs auf Gcore Edge PoPs eingesetztden Modellkatalog von Gcore, der beliebte, quelloffene ML-Grundmodelle wie Mistral 7B, Stable-Diffusion XL und LLaMA Pro 8B enthältWie funktioniert Gcore Inference at the Edge?Wir bieten Ihnen einen einzigen Endpunkt für Ihre Anwendungen. Wenn Endbenutzer auf diesen Endpunkt zugreifen, werden ihre Anfragen an die ihnen am nächsten gelegenen Edge-PoPs weitergeleitet.Hier ist ein Beispiel dafür, wie der Dienst für Endnutzer funktioniert:Abbildung 1: So funktioniert Inference at the EdgeEine Benutzeranfrage und ein Modellergebnis können auf zwei Arten behandelt werden:Standardabfrage-Ergebnisroute: Wenn ein Benutzer eine Anfrage sendet, bestimmt ein Edge-Knoten die Route zur nächsten verfügbaren Inferenzregion mit der geringsten Latenz.Alternative Abfrage-Ergebnisroute: Wenn die nächstgelegene Region nicht verfügbar ist, leitet der Edge-Knoten die Anfrage des Nutzers dann an die nächste Region weiter, die räumlich am nahsten zum Benutzer ist.Warum sollte man sich für Gcore Inference at the Edge entscheiden?Inference at the Edge bietet viele Vorteile für Entwickler von KI-Anwendungen, die die KI-Inferenz optimieren und die Benutzerfreundlichkeit verbessern möchten.Hohe Performance: Der Dienst beschleunigt die Durchlaufzeit einer Abfrage und einer Modellantwort durch das Netz auf durchschnittlich 30 ms.Skalierbarkeit: Skalieren Sie Ihr ML-Modell automatisch nach oben und unten, entweder in einer bestimmten Region oder in allen ausgewählten Regionen.Kosteneffizient: Sie zahlen nur für die Ressourcen, die Ihr ML-Modell nutzt. Legen Sie Grenzen für die automatische Skalierung fest, um zu kontrollieren, wie viele Ressourcen Ihre Modelle bei Spitzenlasten verwenden.Schnelle Markteinführung: Indem Sie das Infrastrukturmanagement an das Gcore-Team delegieren, sparen Ihre Entwickler wertvolle Zeit und können sich auf ihre Kernaufgaben konzentrieren.Einfach zu bedienen: Inference at the Edge bietet einen intuitiven Entwickler-Workflow für eine schnelle und rationelle Entwicklung und Bereitstellung.Unternehmenstauglich: Der Service bietet Ihnen Sicherheit mit integriertem DDoS-Schutz für Endpunkte und lokaler Datenverarbeitung, um den Schutz und die Souveränität Ihrer Daten zu gewährleisten.Anwendungsfälle für Inference at the EdgeInference at the Edge kann branchenübergreifend eingesetzt werden. Hier sind nur einige Beispiele für mögliche Anwendungsfälle:TechnologieGamingEinzelhandelMedien und EntertainmentGenerative KI-Anwendungen Chatbots und virtuelle Assistenten KI-Tools für Softwareentwickler DatenerweiterungGenerierung von KI-Inhalten und Karten Echtzeit-KI-Bot-Anpassung und Konversation Echtzeit-Analyse von Media-PlayernIntelligente Lebensmittelgeschäfte mit Self-Checkout und Merchandising Erstellung von Inhalten, Vorhersagen und Empfehlungen Virtuelle AnprobeInhaltsanalyse Automatisierte Transkription Echtzeit-ÜbersetzungErste SchritteGcore Inference at the Edge befindet sich noch in der Betaphase und ist auf Anfrage erhältlich. Wenn Sie es ausprobieren möchten, nehmen Sie Kontakt über unser Kontaktformular auf oder, wenn Sie bereits Gcore-Kunde sind, wenden Sie sich an Ihren Kundenbetreuer.Sobald Sie Zugang haben, können Sie unsere Produktdokumentation einsehen:Erstellen Sie ein KI-ModellHinzufügen und Konfigurieren einer RegistryAPI-Schlüssel erstellen und verwaltenVerwalten Sie Deplyments im Gcore-KundenportalFazitGcore Inference at the Edge ist eine leistungsstarke und effiziente Lösung für die Bereitstellung Ihrer ML-Modelle und die Verbesserung des Benutzererlebnisses. Sie bietet niedrige Latenzzeiten und einen hohen Durchsatz für Ihre ML-Modelle, integrierten DDoS-Schutz, gängige Basismodelle und andere Funktionen, die für produktionsreife KI-Inferenz am Netzwerkrand unerlässlich sind.Wenn Sie eine persönliche Beratung oder Hilfe zum Produkt wünschen, setzen Sie sich bitte mit uns in Verbindung.Erkunden Sie „Gcore Inference at the Edge”
Einführung des KI-Bildgenerators: ein kostenloses Tool zur Erstellung von Bildern anhand von Texteingaben
Wir freuen uns, die Einführung unseres generativen KI-Tools KI-Bildgenerator anzukündigen, mit dem Sie Bilder anhand von Texteingaben erstellen können. Die Nutzung ist kostenfrei und unbegrenzt für Nutzer, die auf der Gcore-Plattform registriert sind. Der KI-Bildgenerator wird durch unsere KI-IPU-Infrastruktur angetrieben.So nutzen Sie den KI-BildgeneratorDer KI-Bildgenerator von Gcore nimmt Ihre Texteingaben und kreiert beeindruckende, realistische KI-Bilder anhand Ihrer Eingaben. Sie können diese Bilder nach Belieben für geschäftliche oder persönliche Zwecke nutzen.Das Tool ist in die Gcore-Cloud-Plattform eingebaut. So können Sie das Tool nutzen:Melden Sie sich bei der Gcore-Cloud-Plattform an. Wenn Sie noch kein Konto haben, registrieren Sie sich mit Ihrer E-Mail-Adresse oder mit Ihrem Google- oder GitHub-Konto. Rechnungsdaten sind nicht erforderlich.Wählen Sie den Abschnitt Bildgenerator im vertikalen Menü auf der linken Seite. Sie sehen dann das folgende Fenster:Abbildung 1: die Benutzeroberfläche des KI-BildgeneratorsGeben Sie unten die Aufforderung im grauen Feld Eingabe ein und klicken Sie dann auf die Zurück-Taste. Der KI-Bildgenerator erstellt daraufhin ein Bild anhand der Eingabe.Um das Bild zu speichern, klicken Sie mit der rechten Maustaste darauf und wählen Sie die OptionBild speichern als….Hier sind einige Beispiele für die erstellten Bilder aus dem KI-Bildgenerator:Abbildung 2: durch den KI-Bildgenerator erstellte BilderUm relevantere Ergebnisse zu erzielen, verwenden Sie spezifischere und detailliertere Texteingaben. Anstatt die Aufforderung „eine futuristische Stadt“ einzugeben, könnten Sie beispielsweise den folgenden Text verwenden: „eine pinke, futuristische und verspielte Stadt in den Wolken, wo Luftschiffe an haushohen Plattformen andocken und Wolken als Straßen dienen, sehr detailliert dargestellt“.Die Technologie unter der HaubeDer KI-Bildgenerator wird durch die KI-IPU-Infrastruktur angetrieben, die speziell für KI- und ML-Aufgaben entwickelt wurde. Diese KI-Cloud-Infrastruktur auf Grundlage der Graphcore Bow IPU POD Scale-Out-Cluster bietet eine unkomplizierte Möglichkeit, um modernes AI/ML-Computing auf Abruf auch ohne die Bereitstellung von Hardware vor Ort oder den Aufbau einer KI-Infrastruktur von Grund auf einzusetzen.Zur Entwicklung des Bildgenerators wurde das vorgefertigte GenAI-Modell von Openjourney eingesetzt und genau abgestimmt, damit der Bildgenerator genauere Ergebnisse erzielt.RoadmapWir nehmen aktiv Verbesserungen an unserem KI-Bildgenerator vor. Die folgenden Funktionen werden demnächst hinzugefügt:Erweiterte BildbearbeitungBilderzeugung basierend auf einem NutzerbildErweiterte KontrollfunktionalitätIntegration mit externen Diensten über APIJetzt loslegen!Um dieses Tool zu nutzen, melden Sie sich bei der Gcore-Cloud-Plattform an oder registieren Sie sich, wenn Sie noch kein Benutzerkonto haben. Gehen Sie dann zum Abschnitt Bildgenerator im vertikalen Menü auf der linken Seite — und viel Spaß!Weitere Informationen über generative KI und inwiefern die KI-IPU-Infrastruktur durch diese unterstützt wird, finden Sie in diesem Artikel in unserem Blog.
Gcore startet AI-Cloud auf Basis von Graphcore IPU in Manassas, US
Wir freuen uns, die Erweiterung der Gcore AI Cloud angetrieben von Graphcore Bow IPU zu unserem Rechenzentrum in Manassas, Virginia, bekannt zu geben. Manassas liegt strategisch günstig in der Nähe von Washington DC und befindet sich im Herzen der Eastern Seaboard-Region der USA, einem Zentrum der technischen Innovation. Die AI Cloud bietet virtuelle vPODs mit verschiedenen Konfigurationen, die sich für die Ausführung aller Arten von KI/ML-Workloads eignen – auch für die besonders anspruchsvollen.Was ist die Grundlage der Infrastruktur?Der AI-Cluster basiert auf dem GraphcoreBow Pod64, ein IPU-System, das mehrere Benutzer und verschiedene KI-Workloads über virtuelle vPODs unterstützt. Der Bow Pod64 enthält 94.208 IPU-Kerne und liefert 22,4 petaFLOPS an Gesamtrechenleistung. Diese Fähigkeiten ermöglichen es uns, leistungsstarkes KI-Computing für Training und Inferenz zu liefern, so dass unsere Kunden ihre KI/ML-Modelle in der Cloud und am Edge entwickeln und einsetzen können.Bow Pod ist mit allen gängigen ML-Frameworks kompatibel, darunter TensorFlow, PyTorch und Paddle Paddle, sowie mit Cloud-nativen Anwendungen wie Kubernetes, Prometheus und Grafana.Virtuelle vPOD-Konfigurationen von ManassasHier sind die virtuellen vPOD-Konfigurationen, die wir am neuen Standort in Manassas anbieten:ProduktInstanzkonfigurationAnzahl der IPUsPreis pro StundeBOW-vPOD460 vCPU / 116 GB RAM / 1100 GB NVMe (ephemer) / 100 Gbit/s-Verbindung13,68 $BOW-vPOD16120 vCPU / 232 GB RAM / 2200 GB NVMe (ephemer) / 100 Gbit/s-Verbindung1613,70 $BOW-vPOD16240 vCPU / 464 GB RAM / 4400 GB NVMe (ephemer) / 100 Gbit/s-Verbindung1615,80 $BOW-vPOD64240 vCPU / 464 GB RAM / 4400 GB NVMe (ephemer) / 100 Gbit/s-Verbindung6464,30 $Alle Konfigurationen sind jetzt verfügbar über unsere Cloud-Plattform.Sie können vPOD4 auch kostenlos für 24 Stunden testen. Um die Testversion zu erhalten, kontaktieren Sie unser Vertriebsteam.Was ist ein virtueller vPOD?Ein virtueller vPOD ist eine Variante, bei der ein Poplar®-Server – ein Server, der Bow IPU-Server in einem Cluster verwaltet – auf einer virtuellen Maschine eingesetzt wird. Dies steht im Gegensatz zu einem dedizierten vPOD, bei dem ein Poplar®-Server auf einem dedizierten Bare-Metal-Server eingesetzt wird.Ein virtueller vPOD bietet direkten Zugriff auf einen Host-Server und eine schnelle Verbindung zu physischen IPU-Beschleunigern. Damit bietet es eine kostengünstige Lösung für alle, die schnellen und dynamischen Zugriff auf IPU-Rechenleistung benötigen. Sie können virtuelle vPODs in nur 5 Minuten bereitstellen, verglichen mit 15 Minuten für dedizierte physische vPODs.Vorteile von virtuellen vPODsMit virtuellen vPODs können Sie:Setzen Sie Ihre Entwicklungsumgebung nahtlos um.Installieren und führen Sie Code blitzschnell aus.Verbessern Sie Ihre Erfahrung mit beliebten ML-Frameworks wie TensorFlow, PyTorch und Keras.Nutzen Sie ephemeren Speicher für zustandslose Workloads.Verwenden Sie externe Volumes, um sich mit externem Blockspeicher zu verbinden und neue Datenvolumes hinzuzufügen.Verwenden Sie den Suspendierungsmodus, um Ihren Cluster anzuhalten, was für unvorhersehbare Workloads, Ressourcenmanagement und Kostenoptimierung nützlich ist. Sie können den Cluster in wenigen Minuten wieder aktivieren.Mehr erfahrenBesuchen Sie unsere AI IPU-Produktseite, um alle Funktionen und Vorteile unserer AI Cloud zu entdecken.Schauen Sie sich unser Webinar an und erfahren Sie, wie Sie mit IPUs KI-Modelle für verschiedene Anwendungen trainieren können.Schauen Sie sich unseren Blog an, um herauszufinden, wie die Gcore AI IPU Cloud Ihnen bei der Entwicklung, dem Training und der Inferenz von KI/ML helfen kann.
Melden Sie sich für unseren Newsletter an
Erhalten Sie die neuesten Branchentrends, exklusive Einblicke und Gcore-Updates direkt in Ihren Posteingang.