Wenn eine KI-Anwendung implementiert und ausgerollt wird, dann stellt sich auch die Frage: Wie kann eine effiziente und skalierbare IT-Architektur bereitgestellt werden? Wir geben Empfehlungen für das Design und den Aufbau einer leistungsfähigen KI-Architektur. Der Fokus liegt dabei auf Anwendungsfällen in der öffentlichen Verwaltung.
Was ist der Unterschied zwischen künstlicher Intelligenz und Machine Learning?
Bevor wir uns mit der IT-Architektur für KI-Anwendungen befassen, sollten wir zunächst einen Blick auf die Terminologie werfen. Der Begriff Künstliche Intelligenz (KI) bezeichnet grundsätzlich die Fähigkeit eines Computers, Aufgaben zu übernehmen, die normalerweise mit menschlichen Individuen verknüpft sind. Er wird funktional verstanden und definiert nicht die technologische Umsetzung. Machine Learning (ML) hingegen beschreibt ein Teilgebiet der eingesetzten KI Technologien. Beim Machine Learning geht es darum, anhand von historischen Daten einen Computer oder ein Programm in die Lage zu versetzen, ohne menschliches Eingreifen oder Unterstützung selbständig zu lernen und Handlungen entsprechend anzupassen.
Künstliche Intelligenz in der öffentlichen Verwaltung
Im Behördenumfeld gibt es viele Anwendungsfälle, bei denen eine KI-Umgebung hilfreich sein kann. Sei es bei der Automatisierung von behördlichen Abläufen, der Erkennung von Anomalien in den Abläufen, der Analyse von Dokumenten, der Erkennung von Mustern und Bildern oder einfach bei der Interaktion mit den Bürgern in Form von digitalen Assistenzsystemen (z.B. Chatbots).
Alle KI-Projekte haben eines gemeinsam: Sie beruhen auf der Eingabe und Verknüpfung von Daten. Der Prozess des maschinellen Lernens beginnt mit einem Datensatz und der Beobachtung dazu. In den Daten wird nach Mustern gesucht, damit später auf der Grundlage der Beobachtungen Schlussfolgerungen gezogen werden können. Es wird ein Vorhersagemodell verwendet, das durch eine mathematische Gleichung beschrieben wird und dessen Parametrisierung durch ein Optimierungsverfahren anhand eines vorbereiteten Datensatzes erfolgt. Wir sehen, dass KI-Projekte im öffentlichen Sektor immer wichtiger werden, so dass es notwendig ist, IT-Infrastrukturen aufzubauen, die den Anforderungen entsprechen. Darüber hinaus ist eine ganzheitliche Sichtweise notwendig, um ein solches Projekt erfolgreich umzusetzen, wie bereits im Blogpost „Künstliche Intelligenz baut auf durchdachte IT-Architekturen“ beschrieben.
Wie können IT-Infrastrukturen für KI-Projekte geplant werden?
Da Künstliche Intelligenz viel Rechenleistung benötigt, sollte man sich nach geeigneten Serverarchitekturen umsehen. Doch das ist längst nicht alles, denn auch die Netzwerkumgebung sowie das Management der KI-Prozesse müssen berücksichtigt werden. In der KI wird zwischen rechenintensiven und datenintensiven Workloads und der Speicherung von Daten unterschieden. Je nach Workload sollte die Infrastruktur entsprechend ausgewählt werden – “one size fits all” passt hier meist nicht.
Rechenintensive Workloads werden zunehmend mit GPUs ausgestattet, um ein Vielfaches an Berechnungen durchführen zu können. Lokale Speicherkapazität hingegen ist hier weniger erforderlich. Die datenintensiven Workloads hingegen erfordern lokale, direkt im Server angebundene Speichermedien. Hier kommt immer häufiger die schnelle NVMe-Technologie zum Einsatz, mit der mittlerweile mehrere hundert TB in einem einzigen Server abgebildet werden können. Alle zu verarbeitenden Daten müssen in SAN oder NAS-Speicher vorgehalten werden. Dabei können mehrere Petabyte-große Speicherlandschaften notwendig werden, die mit 100Gbps angebunden werden. Server müssen an ein hochleistungsfähiges Rechenzentrums-Netzwerk angeschlossen werden. Mit Verbindungen weniger als 25 Gbps fängt man hier meistens nicht mehr an, mittlerweile sind sogar redundante 100 Gbps End-to-End-Verbindungen möglich.
Cisco unterstützt den Aufbau von KI-Umgebungen mit validierten Netzwerkdesigns
Cisco hat ein validiertes und getestetes Design (CVD) entwickelt, das es potenziellen Anwendern ermöglicht, sich auf ihre eigenen KI-Anwendungsfälle zu konzentrieren und eine abgestimmte Lösung für die IT-Infrastruktur sowie den verwendeten Software-Stack zu nutzen. Unter dem Begriff “Cisco Data Intelligence Platform” hat Cisco in Zusammenarbeit mit Cloudera ein CVD veröffentlicht, dass sowohl für daten- als auch rechenintensive Workloads eine Lösung bietet. Die Skalierung beginnt mit einem einzigen Rack, kann auf Tausende von Nodes erweitert werden und bietet ein einheitliches Management.
Schlussfolgerung
Der Aufbau einer KI-Infrastruktur ist nicht einfach und sollte gut durchdacht sein. Der Erfolg von KI-Projekten hängt stark davon ab, wie gut die IT-Infrastruktur für solch leistungsstarke Anwendungen geeignet ist. Die Bereitstellung von validierten Netzwerk Design ermöglicht es der IT-Organisation einfach, sicher und regelkonform eine Data Science Umgebung als Service aus dem Rechenzentrum heraus anzubieten. Da insbesondere im öffentlichen Sektor viele KI-Projekte in der lokalen IT-Umgebung aufgebaut werden, ist auch die Frage nach Datenhoheit und Datensouveränität adressiert.
Vielen Dank an meinen Co-Autor Marcel Rothstein
Authors
