30.08.2017 – IBM Power8 Plattform für Cognitive Computing und Deep Learning

Kognitive Systeme werden als eine Technologie definiert, die durch die tiefgehende Verarbeitung und das Verständnis natürlicher Sprache Fragen beantwortet. Das System stellt Hypothesen auf und formuliert mögliche Antworten anhand der verfügbaren Hinweise. Es kann durch die Analyse grosser Datenmengen trainiert werden. Das System lernt zudem aus seinen Fehlern und Misserfolgen. Bisher waren für den Einsatz dieser Technologie schnelle Vektoreinheiten auf Basis von INTEL x86 Rechnern mit PCI-Express-Karten und schnellen Grafikprozessoren (GPUs) notwendig. Diese Systeme können nur so schnell sein wie ihr PCI-Express-Bus – d.h. die verbauten GPUs werden nicht optimal genutzt. Seit diesem Jahr stellt IBM eine neue Technologie vor, die dies deutlich optimiert. INS stellt nun diese Technologie als attraktives Platform-as-a-Service-Modell (PaaS) über jeden gewünschten Zeitraum aus der deutschen Cloud zur Verfügung.

Systeme mit IBM Power8 Prozessoren und über eine NVLink-Schnittstelle angebundene Nvidia Tesla100 GPUs (IBM Power 822LC) sind die derzeit schnellste und genaueste Möglichkeit im Rahmen von Cognitive Computing Aufgaben zu rechnen.

Wir haben uns aktuell entschlossen unser Managed Service Portfolio um die aktuell schnellste Technologie im Einsatz von Nvidia Tesla GPUs zu erweitern. Wir schätzen diese Technologie als so zukunftsträchtig ein, dass wir ab September 2017 diese Systeme als Managed Service in unterschiedlichen Ausprägungen in einem transparenten PaaS-Modell anbieten.

Wir stellen jedem interessierten Kunden eine auf diesen Systemen basierende Plattform aus der Cloud zur Verfügung. So können Sie direkt auf unseren IBM Power 822LC Systemen Ihre Szenarien berechnen und selbst einschätzen, wie schnell und effektiv diese Systeme abseits jedes theoretischen Benchmarks im praktischen Einsatz tatsächlich sind. Der Vorteil dieses Modells ist der Verzicht auf Kapital bindende Investitionen (CAPEX) bereits in Testszenarien. Unser Managed Service Ansatz bietet die Möglichkeit eine leistungsfähige Cognitive Computing Plattform rein auf der Basis operationaler Kosten (OPEX) zu nutzen. Sie müssen dazu keine eigene Betriebsmannschaft aufbauen, die sich um diese speziellen Systeme kümmert..

Unsere auf Ubuntu (16.04 LTS) und Docker basierende Containertechnologie bietet Ihnen die Möglichkeit Ihr spezielles Szenario aufzubauen indem Sie die gewünschte(n) Container (Images) unkompliziert auf unserer Plattform einsetze.

Zu dem Betrieb der Infrastruktur und der Verwaltung des Gesamtsystems gehören auf Wunsch auch erweiterte Szenarien bis hin zum Vollbetrieb der Systeme inkl. Backup, Archivierung und Disaster-Recovery-Szenarien.

Durch den Einsatz modernster Cloud-Technologie schaffen Sie freie Ressourcen um sich um Projekte, Applikationen und Ihren Datenbestand zu kümmern. Die Infrastruktur ist sozusagen „einfach da“. Selbstverständlich bieten wir diesen Service auch in unterschiedlichsten Szenarien als On-Premise Lösung aus Ihrem Rechenzentrum oder auf Ihrem Campus an

Um Ihnen eine Vorstellung über die Überlegenheit der Kombination IBM Power mit NVLink und NVidia Tesla P100 zu geben, stellen wir Ihnen nachfolgend einen Benchmark (NVIDIA CUDA Example Bandwidth Test) über die zu erwartende Transferleistung vor:

Abb Host-Device using a NVLink

Abb. : Host <-> Device über NVLink

Der gleiche Transfer über PCI-E in einem x86 Rechner:

Abb Host-Device using a PCI-Express

Abb.: Host <-> Device über PCI-Expresst

Der Wert der „Device to Device Bandbreite ist die Leistung zwischen 2 GPUs lokal auf dem System. Aus den Werten lässt sich erkennen, dass die Transferleistung zwischen CPU und GPU bei der NVLink-Technologie um den Faktor 3 überlegen ist.

Was entsprechend zu bislang unerreichter Geschwindigkeit bei der Abarbeitung von Projekten führt. Weitere Informationen zu diesem Benchmark erhalten Sie unter: https://www.microway.com/hpc-tech-tips/comparing-nvlink-vs-pci-e-nvidia-tesla-p100-gpus-openpower-servers/

Die Veröffentlichung der Benchmark-Daten erfolgt mit freundlicher Genehmigung der Microway, Inc., Plymouth, MA.