5. juni 2025

GPU-hosting til AI kræver mere end en GPU

GPU-hosting til AI kræver mere end rå regnekraft. Vi ser på samspillet mellem GPU, storage, netværk og Kubernetes – og hvorfor området er på vores roadmap.

Philip Leander Fjærå
Af: Philip Leander Fjærå

AI er ikke længere kun noget, de største teknologivirksomheder arbejder med. Vi får i stigende grad spørgsmål fra kunder, som vil udvikle egne AI-løsninger, arbejde med større datamængder eller køre modeller i et miljø, de selv har kontrol over.

Derfor er GPU-hosting også kommet på vores roadmap. Men vi vil ikke bare sætte et grafikkort i en server og kalde det AI-hosting. En brugbar AI-platform kræver væsentligt mere.

GPU’en er kun en del af infrastrukturen

En GPU kan levere den regnekraft, som blandt andet bruges til træning og drift af AI-modeller. Men den skaber ikke meget værdi alene.

Data skal kunne flyttes hurtigt mellem storage, hukommelse og GPU. Netværket skal kunne følge med, og platformen skal kunne fordele ressourcerne effektivt. Samtidig skal der være styr på backup, adgang, overvågning og kapacitet.

Hvis en dyr GPU står stille halvdelen af tiden, fordi resten af infrastrukturen ikke kan følge med, er det ikke en særlig god løsning. Hverken teknisk eller økonomisk.

Virtuozzo gør vores cloudplatform klar til AI

Vores nye cloudplatform er baseret på Virtuozzo, som har hovedsæde i Schweiz og gennem mange år har udviklet teknologi til virtualisering, cloud og open source.

Virtuozzo har nu også sat et tydeligt fokus på infrastruktur til AI og GPU-baserede workloads. Platformen understøtter blandt andet GPU-aware ressourcestyring, Kubernetes, dynamisk skalering og samlet styring af compute, storage og netværk.

Det betyder at GPU-ressourcer kan blive en integreret del af cloudplatformen fremfor en særskilt server, som skal administreres ved siden af alt andet. Det er interessant for os, fordi kunderne på sigt skal kunne kombinere traditionelle cloudservere, containere, storage og GPU-kapacitet i den samme løsning.

AI-infrastruktur handler også om kontrol

Mange AI-tjenester er nemme at komme i gang med. Det bliver mere kompliceret, når virksomheden vil anvende egne data, styre placeringen af dem eller have bedre kontrol over omkostninger og adgang.

Her kan en dansk driftet AI-platform blive et reelt alternativ. Infrastrukturen kan placeres i danske datacentre og drives af et team, kunden faktisk kan komme i kontakt med. Samtidig bygger den underliggende platform på teknologi fra en europæisk leverandør og på åbne standarder.

Det handler ikke om at afskære sig fra public cloud. Det handler om at have et valg, når data, økonomi eller den tekniske løsning gør en mere lokal platform relevant.

AI kan også ændre måden, vi driver hosting på

AI er ikke kun noget, der skal tilbydes som regnekraft til kunderne. Teknologien kan også bruges til at automatisere dele af den daglige drift.

Virtuozzo arbejder blandt andet med automatiseret provisionering, kapacitetsplanlægning og bedre udnyttelse af infrastrukturen. På sigt kan AI også hjælpe med at opdage unormale mønstre og give teknikere et bedre beslutningsgrundlag.

Automatisering fjerner ikke behovet for mennesker. Men det kan reducere en række manuelle opgaver og gøre det muligt at reagere tidligere når noget udvikler sig i den forkerte retning.

GPU-hosting er på vores roadmap

Vi er endnu ikke klar med et færdigt GPU-hostingprodukt. Interessen fra kunderne er dog tydelig, og Virtuozzos udvikling gør det muligt at bygge løsningen som en naturlig del af vores cloudplatform.

Næste skridt er at finde den rigtige kombination af GPU’er, storage, netværk, platform og prismodel. Målet er ikke bare at tilbyde mere hardware. Målet er at skabe en AI-infrastruktur, der er anvendelig, skalerbar og til at betale.

Har I allerede et konkret behov for GPU-kapacitet eller dansk drift af en AI-løsning, tager vi gerne en tidlig dialog om mulighederne.

Kontakt os

Del denne artikel

Relaterede nyheder

  • 3. oktober 2019

    3. oktober 2019

    Her kan du se vores aktuelle Tech Stack fra vores profil på Stackshare. Vi opdaterer vores Stack løbende, omend ikke [...]

    Her kan du se vores aktuelle Tech Stack fra vores profil på Stackshare. Vi opdaterer vores Stack løbende, omend ikke [...]

  • 6. juni 2019

    6. juni 2019

    Af Philip Hegaard Flere af vores kunder har spurgt, hvilket administrationssystem vi vil anbefale til webhosting. Svaret er Plesk. Her [...]

    Af Philip Hegaard Flere af vores kunder har spurgt, hvilket administrationssystem vi vil anbefale til webhosting. Svaret er Plesk. Her [...]