AI-Teststellung für Ihre Use Cases
AI-Lösungen vor der Investition testen – passende IT-Infrastruktur einführen
Unterschiedliche AI-Plattformen mit realen Workloads evaluieren: Genau diese Möglichkeit bietet Ihnen unsere AI-Teststellung. Damit schaffen Sie die Grundlage für die erfolgreiche Umsetzung Ihrer AI-Projekte! Das zeichnet unsere Teststellung aus:
- Eigene AI Use Cases statt synthetischer Benchmarks
- Lokal bei Ihnen vor Ort oder gehostet von CANCOM in Deutschland
- Wahl zwischen Desktop-, Enterprise- und High-Performance AI
Zentrale Vorteile im Überblick
- Praxisnahe Evaluierung: Testen Sie AI-Anwendungen mit Ihren eigenen Daten, Modellen und Anwendungsfällen.
- Transparente Leistungsbewertung: Vergleichen Sie Performance, Skalierbarkeit und Ressourcenbedarf anhand realer Workloads.
- Fundierte Entscheidungsgrundlage: Gewinnen Sie belastbare Erkenntnisse für die Auswahl Ihrer zukünftigen AI-Infrastruktur.
- Schnellere Umsetzung: Reduzieren Sie Risiken und beschleunigen Sie den Weg vom Proof of Concept zum produktiven Einsatz.
Daniel Kiehl
Director Competence Center, Datacenter & Cloud bei CANCOM
„Wir nehmen der AI-Investition das Risiko, indem wir sie vorab erlebbar machen. Vom Entwickler-Desktop über den kompletten AI-Stack bis hin zur Blackwell-Plattform in unserer AI Factory können Kunden jede Ausbaustufe unter realen Bedingungen testen.“
So läuft die AI-Teststellung ab
Die Teststellung erfolgt in vier Schritten. Das Ergebnis ist eine produktionsreife Zielarchitektur, mit der sich Ihre Use Cases optimal abbilden lassen
Anfrage
1
Kurze Beschreibung von Ausgangslage und konkreten AI-Use Case(s)
Vorqualifizierung
2
Gemeinsame Prüfung der Use Cases und des Performancebedarfs der AI-Workloads, Validierung einer geeigneten Testumgebung
Testphase
3
Praktische Live-Durchführung der Teststellung auf entsprechender IT-Infrastruktur
Follow-Up
4
Bewertung der Ergebnisse, Aufsetzen eines Fahrplans für mögliche Zielarchitektur
Welche Infrastruktur passt zu Ihren AI-Anforderungen?
Je nach AI Use Case unterscheiden sich die Anforderungen an die zugrunde liegende IT-Infrastruktur. Deshalb bieten wir verschiedene Optionen für die AI-Teststellung an. Diese richten sich an AI Engineers, Data Scientists, AI Architekten sowie IT- und Infrastruktur-Verantwortliche, die AI-Lösungen entwickeln, testen oder produktiv einsetzen möchten.
Die folgende Übersicht zeigt, welche Infrastruktur für welchen Anwendungsfall geeignet ist:
| Produktname | Produkttyp | Anforderungen | Anwendungsbereich |
| NVIDIA DGX Spark | Desktop-System | Einstieg | Entwicklung, Prototyping, Validieren |
| FlexPod AI Reference Architecture Solution | Full-Stack-Infrastruktur | erweiterte Anforderungen | Skalierbare Enterprise-Plattform für produktiven Betrieb |
| CANCOM AI Factory – NVIDIA DGX B300 | Server | maximale Performance | Training, Fine-Tuning, anspruchsvolles Inferencing |
Für den Einstieg: NVIDIA DGX Spark
Mit NVIDIA DGX Spark bietet NVIDIA ein kompaktes Desktop-System an, mit dem sich erste, kleinere AI-Use Cases autark, kostengünstig und komplett lokal testen und abbilden lassen. Dafür werden Storage, Compute und Network in einem System vereint.
Das Desktop-System ist sofort startklar und schafft – besonders dank komplett lokaler Abwicklung der AI-Workloads – die ideale Basis für eine DSGVO-konforme Datenverarbeitung. Darüber hinaus fallen keine Cloud-Kosten an.
Welche typischen Anwendungsfälle sind mit NVIDIA DGX Spark möglich?
- Lokale Ausführung und Fine-Tuning von Large Language Models (LLMs)
- Aufbau und Test lokaler AI-Agenten und Copilot-Lösungen – ohne Cloud-Anbindung
- RAG-Anwendungen mit Unternehmensdaten und Dokumenten
- Datenanalyse, Machine Learning und Data Science Workloads
- Generative AI für Text, Bild, Audio und Video
- Vorbereitung und Skalierung von Workloads auf DGX-Systemen, DGX Cloud oder AI Factories
Komponenten und technische Daten
- AI-Leistung: bis zu 1 Petaflop (FP4), theoretisch mit Sparsity
- Unified Memory (gemeinsamer Arbeitsspeicher): 128 GB
- Speicher: 4 Terabyte NVMe-SSD
- Compute: NVIDIA GB10 Grace Blackwell Superchip; 20-Core Arm CPU
- Netzwerk: 10 GbE; ConnectX-7 bis 200 Gbit/s
- Modellgröße: bis 200 Mrd. Parameter
- Direkt im CANCOM-Shop bestellbar
Für erweiterte Anforderungen: FlexPod AI Reference Architecture Solution
Für anspruchsvolle AI-Anwendungen bieten wir mit FlexPod AI Reference Architecture Solution eine validierte Full-Stack-Infrastruktur für den produktiven Einsatz. Die Lösung vereint führende Technologien von NVIDIA, Intel, NetApp und Cisco zu einer optimal aufeinander abgestimmten, skalierbaren und sofort einsatzbereiten AI-Plattform.
NVIDIA GPUs | Intel CPUs | NetApp Storage | Cisco Networking
Welche typischen Anwendungsfälle sind mit FlexPod AI Reference Architecture Solution möglich?
- Unternehmensinterne Chatbots, AI-Assistenten und -Agenten, z.B. CANCOM Assistant oder CANCOM Digital Voice Agent
- Retrieval Augmented Generation (RAG) mit eigenen Unternehmensdaten
- Inferenz und Bereitstellung von Large Language Models (LLMs)
- Computer Vision und Bildanalyse
- Entwicklung, Bereitstellung und Betrieb von AI-Anwendungen im Unternehmensumfeld
Komponenten und technische Daten
- GPU-Compute: 4x NVIDIA RTX PRO 6000
- CPU-Compute: 2x Intel Xeon 6 CPUs
- High-Speed Network: Cisco Nexus bis 400 Gigabit Ethernet (GbE)
- Storage: NetApp AFF A90, AI-ready, 69 Terabyte nutzbar
- AI-Software: OpenShift AI, NVIDIA AI Enterprise
Für maximale Performance: CANCOM AI Factory
Mit der CANCOM AI Factory – NVIDIA DGX B300 bieten wir eine Hochleistungsplattform für das Training, das Fine-Tuning und die Inferenz großer AI-Modelle. Die Lösung vereint die neueste NVIDIA Blackwell Architektur mit leistungsstarker AI-Software und wurde für höchste Performance entwickelt, um auch besonders rechenintensive und anspruchsvolle AI-Workload optimal zu bewältigen.
NVIDIA GPUs | Intel CPUs | NVIDIA Networking | NVIDIA AI Enterprise
Welche typischen Anwendungsfälle sind mit der CANCOM AI Factory möglich?
- Training großer Sprachmodelle (LLMs)
- Fine-Tuning bestehender AI-Modelle mit Unternehmensdaten
- Hochperformante Inferenz für produktive AI-Anwendungen
- Simulationen, Computer Vision und datenintensive AI-Workloads
Komponenten und technische Daten
- GPU-Compute: NVIDIA DGX B300 mit 8x NVIDIA Blackwell GPUs
- GPU-Arbeitsspeicher: bis zu 2,3 Terabyte HBM3e
- Systemspeicher: bis zu 2 Terabyte
- CPU-Compute: 2x Intel Xeon Prozessoren
- Hochgeschwindigkeits-Netzwerk: NVIDIA ConnectX und BlueField DPU Technologie
- AI-Leistung: optimiert für Training, Fine-Tuning und Inferenz großer Modelle
- Erweiterbar: Integration in bestehende Rechenzentrums- und Storage-Umgebungen
CANCOM – Ihr Partner für Enterprise AI-Projekte
Wir verbinden herstellerübergreifende Beratungskompetenz mit weltweit führenden Technologieplattformen – sowohl bei der Durchführung der Teststellung als auch bei unseren weiteren AI-Leistungen. Dabei arbeiten wir eng mit einer Reihe namhafter Partner zusammen:
NVIDIA
Wir gehören als „NVIDIA Elite“ und „NVIDIA AI Factory Specialization“ zu einem ausgewählten Kreis globaler Partner, die von NVIDIA exklusiv für die Planung, Bereitstellung und den produktiven Betrieb industrieller AI-Plattformen zertifiziert wurden.
NetApp
Als langjähriger NetApp Prestige Partner stellen wir mit der NetApp AI Data Infrastructure die Grundlage für skalierbare Enterprise-AI bereit. Auf Basis von NetApp ONTAP profitieren Unternehmen von hoher Datensouveränität, integrierter Cyber Resilience, Hybrid-Cloud-Flexibilität und einem effizienten Datenmanagement für Training, Inferenz und RAG-Workloads. Dadurch stehen AI-Projekten die richtigen Daten jederzeit performant, sicher und standortunabhängig zur Verfügung.
Cisco
Wir sind in allen sechs Cisco-Architekturbereichen als „Cisco Preferred Partner“ gelistet. Damit wird offiziell bestätigt, dass wir über nachgewiesene und fundierte Expertise in den Bereichen Networking, Security, Cloud & AI-Infrastructure, Collaboration, Services und Splunk verfügen.
Intel
Durch den höchsten Partnerstatus als „Intel Prestige Partner“ haben wir Zugriff auf die neuesten Prozessor- und Beschleuniger-Generationen. Zudem bieten wir tiefgehendes technologisches Know-how rund um Intel-Technologien und -Lösungen.
Fragen Sie jetzt eine Teststellung an! Klicken Sie dafür bitte auf den unten stehenden Button „Jetzt AI-Teststellung beantragen“ und füllen Sie anschließend das Kontaktformular aus.
Bitte beachten: Um Sie optimal zur passenden IT-Infrastruktur für Ihre Teststellung beraten und die Umsetzung planen und durchführen zu können, beschreiben Sie bitte im Feld „Ihre Nachricht“
– die Ausgangslage,
– Ihre(n) AI Use Case(s),
– Ihren Wunschzeitraum für die Teststellung.
Es genügen Angaben in Stichpunkte.
Häufig gestellte Fragen (FAQs)
Nach Ihrer Anfrage qualifizieren unsere Architekten gemeinsam mit Ihnen den passenden AI Use Case und den genauen Leistungsbedarf. Anschließend stellen wir Ihnen die ausgewählte Validierungsumgebung für einen Testzeitraum zur Verfügung. Nach der Testphase werten wir die Ergebnisse gemeinsam aus und erstellen Ihnen auf Wunsch einen individuellen Fahrplan für die produktive Zielarchitektur.
Ihre Daten verbleiben während der Testphase entweder in Ihrer Umgebung oder in einer von CANCOM in Deutschland betriebenen Testumgebung. Gemeinsam legen wir vor Beginn der Teststellung fest, wie Ihre Daten verarbeitet, gespeichert und geschützt werden.
So stellen wir sicher, dass sämtliche Anforderungen an Datenschutz, Sicherheit und Compliance während der Testphase eingehalten werden.
Nein. Bei der Teststellung handelt es sich um eine mobile, vorkonfigurierte Demo-Infrastruktur, die ausschließlich für die vereinbarte Testphase zur Verfügung steht und anschließend im nächsten Kundenprojekt eingesetzt wird.
Wenn der Proof of Concept (PoC) Ihre Erwartungen erfüllt, konfigurieren und bestellen wir gemeinsam Ihre individuelle Produktivumgebung. Diese wird exakt auf Ihre Anforderungen abgestimmt und schlüsselfertig für Sie bereitgestellt.
Wenn die Teststellung Ihre Erwartungen erfüllt, planen und implementieren wir gemeinsam die passende Produktivumgebung. Diese wird individuell auf Ihre Anforderungen abgestimmt und schlüsselfertig bereitgestellt.