2. Specificaties server

Om gebruik te kunnen maken van de AI-modellen ontwikkeld door DHD, moet aan een aantal technische voorwaarden worden voldaan. Hieronder worden deze nader toegelicht voor de volgende onderdelen:

Systeemvereisten
Hardware
Software
Netwerk
Gebruikersaccount

Houd er rekening mee dat de systeemvereisten als de hardware eisen verschillend zijn voor een trainingsserver en een inferentieserver (= niet-trainingsserver).

2.1 Systeemvereisten

De systeemvereisten verschillen voor een trainingsserver en een inferentieserver. Hieronder vind je voor elk type server welke systeemvereisten gelden.

2.1.1 Trainingsserver

Voor de vantage6 node software, is een server nodig die (bij voorkeur) continue aanstaat. Dit mag ook een virtual machine zijn. De belangrijkste voorwaarden van de trainingsserver zijn:

Ubuntu 22.04 (server of desktop)
- Windows is helaas niet mogelijk. Eén van de hardware eisen van de trainingsserver is 1 GPU. Het is binnen Windows niet mogelijk om binnen Docker containers gebruik te maken van deze GPU.
Docker en Python moeten toegankelijk zijn
Toegang tot data

2.1.2 Inferentieserver

Voor de vantage6 node software, is een server nodig die (bij voorkeur) continue aanstaat. Dit mag ook een virtual machine zijn. De belangrijkste voorwaarden van de inferentieserver zijn:

Ubuntu 22.04 (Andere linux distributies zijn mogelijk indien de benodigde software geïnstalleerd kan worden)
Docker en Python moeten toegankelijk zijn
Toegang tot data

2.2 Hardware

De hardware eisen verschillen voor een trainingsserver en een inferentieserver. Hieronder vind je voor elk type server welke hardware eisen gelden.

2.2.1 Trainingsserver

Specificaties voor de hardware voor een trainingsserver zijn als volgt:

≥ 16 cores x86/x64 CPU
- ≥ 64 GB CPU RAM
1 GPU CUDA compatibel NVIDIA kaart
- ≥ 16 GB GPU RAM
≥ 360 GB (SSD)

2.2.2 Inferentieserver

Specificaties voor de hardware voor een inferentieserver zijn als volgt:

≥ 16 cores x86/x64 CPU
- ≥ 64 GB CPU RAM
≥ 360 GB (SSD)

2.3 Software

2.3.1 Specificaties software

Specificaties voor de software zijn als volgt:

Docker We gebruiken docker engine, docker desktop is niet mogelijk.
- Link naar installatie Docker Engine op Ubuntu server.
Python ≥ 3.10 (we gebruiken de venv versie)

2.3.2 Testen of Docker werkt

Graag willen wij u vragen om na de installatie van Docker te controleren of Docker werkt. Dit kunt u als volgt doen. Type in Command Prompt:

docker run hello-world

of

docker ps

Let op! Binnen Linux is het belangrijk dat het DHD-account (user) aan de Docker group wordt toegevoegd. Voor meer informatie: Add user to Docker group

2.3.3 Testen of Python werkt

Graag willen wij u vragen om na de installatie van Python te controleren of Python werkt. Dit kunt u als volgt doen. Type in Command Prompt:

python -v

2.4 Netwerk

Specificaties voor het netwerk zijn als volgt:

≥ 100Mbit ethernet
Port 443/TCP (https) open voor uitgaand verkeer naar de volgende vijf urls:
- DHD docker registry:
  - https://drplugindhdprd.azurecr.io
  - https://drplugindhdprd.westeurope.data.azurecr.io
- DHD blob storage: https://stplugindhdp.blob.core.windows.net
- DHD Vantage6 server: https://plugin.dhd.nl
- Container registry voor vantage6 updates: https://harbor2.vantage6.ai/

2.5 Gebruikersaccount

Tot slot hebben de data scientisten van DHD een gebruikersaccount nodig tot de lokale server. Voor het opvragen welke personen van DHD een gebruikersaccount nodig hebben kunt u contact opnemen met AI-coderen@dhd.nl. Het is belangrijk dat deze account “read” en “write” toegang hebben tot de map waar de data wordt geplaatst.