Wenn die IT die KI ausbremst: Engpässe beseitigen

Vie­le Unter­neh­men möch­ten KI ein­set­zen, doch häu­fig sind ihre Infra­struk­tu­ren nicht gut dar­auf vor­be­rei­tet. Chri­sti­an Schar­rer von Dell Tech­no­lo­gies erläu­tert die fünf gröss­ten struk­tu­rel­len Schwä­chen und zeigt, wie sie beho­ben wer­den können.

Christian Scharrer, Enterprise Architect und CTO Ambassador bei Dell Technologies. Abbildung: Dell Technologies
Chri­sti­an Schar­rer, Enter­pri­se Archi­tect und CTO Ambassa­dor bei Dell Tech­no­lo­gies. Abbil­dung: Dell Technologies

#1: Der Datenzugriff wird zum Flaschenhals

KI-Model­le benö­ti­gen einen schnel­len Zugriff auf hoch­wer­ti­ge Daten. Gleich­zei­tig müs­sen Unter­neh­men Infor­ma­tio­nen in Über­ein­stim­mung mit gesetz­li­chen Vor­ga­ben wie der DSGVO ver­wal­ten und über­tra­gen. Die­sen Anfor­de­run­gen ste­hen häu­fig Daten­si­los im Weg. Aus­ser­dem lie­fern älte­re Spei­cher­sy­ste­me oft nicht den erfor­der­li­chen Daten­durch­satz für das Trai­ning kom­ple­xer Modelle.

Moder­ne Daten­platt­for­men kon­so­li­die­ren Daten aus ver­schie­de­nen Quel­len und lie­fern gleich­zei­tig hohe Daten­durch­sät­ze und opti­mier­te Zugriffs­pfa­de, sodass Trai­ning und Infe­renz von KI-Model­len in der erfor­der­li­chen Geschwin­dig­keit durch­ge­führt wer­den können.

#2: Die Rechenressourcen stossen an ihre Grenzen

Der pro­duk­ti­ve Ein­satz von KI ist meist sehr rechen­in­ten­siv. Nur weni­ge Unter­neh­men trai­nie­ren gros­se Sprach­mo­del­le von Grund auf neu, aber vie­le set­zen KI ein, um Echt­zeit­ent­schei­dun­gen, Ana­ly­sen und zuneh­mend auch auto­no­me Work­flows zu unter­stüt­zen. Wenn die­se Auf­ga­ben mit den bestehen­den Geschäfts­an­wen­dun­gen um die­sel­ben Res­sour­cen kon­kur­rie­ren, lei­det die Lei­stung der KI.

Eine spe­zi­el­le Infra­struk­tur mit beschleu­nig­ter Rechen­lei­stung erlaubt es Unter­neh­men, ihre gemisch­ten Workloads effi­zi­ent zu unter­stüt­zen. Sie sorgt für prio­ri­sier­ten Zugriff auf Res­sour­cen, opti­miert die Ver­ar­bei­tung gros­ser Daten­men­gen in Echt­zeit und stellt sicher, dass KI-Anwen­dun­gen mit maxi­ma­ler Lei­stung betrie­ben wer­den können.

#3: Das Netzwerk produziert Staus

KI erfor­dert ein robu­stes Netz­werk, um rie­si­ge Daten­sät­ze zwi­schen Spei­chern, Ver­ar­bei­tungs­ein­hei­ten und End­be­nut­zern zu über­tra­gen. Ein lang­sa­mes oder unzu­ver­läs­si­ges Netz­werk kann zu erheb­li­chen Eng­päs­sen füh­ren und dadurch die Mit­ar­bei­ten­den und Kun­den frustrieren.

Eine schnel­le Netz­werk­struk­tur mit gerin­ger Latenz ist uner­läss­lich, um einen rei­bungs­lo­sen, kon­ti­nu­ier­li­chen Daten­fluss zu gewähr­lei­sten. Sol­che Infra­struk­tu­ren kom­bi­nie­ren hohe Band­brei­ten, sta­bi­le Ver­bin­dun­gen und opti­mier­te Kom­mu­ni­ka­ti­ons­pro­to­kol­le mit KI-opti­mier­ten Fea­tures und Traf­fic-Prio­ri­sie­rung, sodass gros­se Daten­men­gen in Echt­zeit über­tra­gen und KI-Anwen­dun­gen zuver­läs­sig betrie­ben wer­den können.

#4: Bereitstellung und Verwaltung sind komplex

Bei der Über­tra­gung von KI-Model­len aus der Ent­wick­lungs- und Test­um­ge­bung in den pro­duk­ti­ven Betrieb sind vie­le IT-Teams mit gros­ser Kom­ple­xi­tät kon­fron­tiert. Sie haben Schwie­rig­kei­ten, Res­sour­cen bereit­zu­stel­len, Soft­ware­ab­hän­gig­kei­ten zu ver­wal­ten und Anwen­dun­gen zu ska­lie­ren. Der Grund dafür sind meist star­re, manu­ell kon­fi­gu­rier­te Umgebungen.

Moder­ne Soft­ware-Stacks und Auto­ma­ti­sie­rungs­tools ermög­li­chen es IT-Teams, KI-Anwen­dun­gen schnell bereit­zu­stel­len, ein­fach zu ver­wal­ten und bei Bedarf zu ska­lie­ren. Sie stel­len kata­log­ba­sier­te, vali­dier­te Blue­prints und orche­strier­te Auto­ma­ti­sie­run­gen bereit, die manu­el­le Kon­fi­gu­ra­ti­ons­schrit­te eli­mi­nie­ren, Abhän­gig­kei­ten auto­ma­tisch ein­rich­ten und Infra­struk­tur­kom­po­nen­ten kon­si­stent konfigurieren.

#5: Es gibt keinen klaren Skalierungspfad

Auch wenn das erste KI-Pro­jekt eines Unter­neh­mens klein anfängt, soll­te sei­ne Infra­struk­tur für die näch­sten Schrit­te bereit sein. Dafür ist eine kla­re und kosten­ef­fi­zi­en­te Stra­te­gie zur Ska­lie­rung von KI-Anwen­dun­gen erforderlich.

Wenn die Erwei­te­rung der KI-Umge­bung eine voll­stän­di­ge und kost­spie­li­ge Über­ar­bei­tung der Infra­struk­tur ver­langt, ist es schwie­rig, den Erfolg eines ersten, begrenz­ten KI-Pro­jekts im gesam­ten Unter­neh­men zu wie­der­ho­len. Mit einer Infra­struk­tur, die auf einer ska­lier­ba­ren, modu­la­ren Archi­tek­tur basiert, kön­nen Unter­neh­men ihre KI-Res­sour­cen schritt­wei­se erweitern.

Fazit

KI braucht nicht nur Algo­rith­men und Daten, son­dern auch eine lei­stungs­star­ke und agi­le Grund­la­ge. Die Inve­sti­ti­on in eine moder­ne, ziel­ge­rich­te­te Infra­struk­tur ist eine Inve­sti­ti­on in die Zukunft. Sie stärkt die IT-Teams, ver­ein­facht kom­ple­xe Abläu­fe und schafft die Vor­aus­set­zung dafür, dass KI ihre Ver­spre­chen ein­lö­sen kann.