KI-Readiness: Bereiten Sie Ihr Unternehmen auf die Nutzung neuer Chancen durch KI vor und erweitern Sie Ihre Richtlinien und Grundsätze für Cybersicherheit, Daten und KI.
- Gartner-Kunde? Log in und personalisierte Ergebnisse entdecken.
Bereit für KI – was IT-Führungskräfte wissen und tun müssen
Vier wichtige Initiativen, um Ihr Unternehmen KI fit zu machen
Unabhängig davon, ob Ihr Unternehmen mit Hilfe von KI alltägliche Prozesse verbessern oder etwas völlig Neues schaffen möchte, benötigt das Unternehmen eine Reihe von grundlegenden Fähigkeiten, um erfolgreich zu sein.
Dieser Leitfaden kann IT-Führungskräften helfen, ihre Unternehmen darauf vorzubereiten:
ihr „KI-Ziel“ festzulegen und Ihre Geschäftschancen mit KI zu erkennen
sich auf das Thema KI-Cybersicherheit vorzubereiten
Daten KI-bereit zu machen
KI-Grundprinzipien einzuführen
Laden Sie jetzt Ihr Exemplar herunter.
KI-Ziele müssen Machbarkeit, Chancen und Risiken abwägen
Mehr als 60 % der CIOs geben an, dass KI-Teil ihres Innovationsplans ist, doch weniger als die Hälfte sind der Meinung, dass das Unternehmen die damit verbundenen Risiken richtig einschätzen kann. Schließen Sie diese Lücke, indem Sie zunächst Ihre KI-Ziele festlegen.
- 3 Bereiche der KI-Ziele
- Geschäftschancenziel mit KI
- KI-Bereitstellungsphase
- KI-Risiko
Ermitteln Sie Ihre Geschäftschancen mit KI, Einsatzmöglichkeiten und Risiken
GenAI hat es Maschinen ermöglicht, Tools zu Teamkollegen werden zu lassen. Dies ist eine große Veränderung, die auch ihre Schattenseiten mit sich bringen kann. Die C-Suite erwartet von CIOs, dass sie die KI-Strategie des Unternehmens leiten, um die Vorteile der KI zu nutzen und gleichzeitig die Risiken zu vermeiden.
Angesichts der Kombination aus KI-Begeisterung und Ernüchterung, die in jedem Unternehmen herrscht, steht viel auf dem Spiel – Ernüchterung, weil die meisten KI-Projekte nicht wie geplant umgesetzt wurden.
Eine Gartner-Studie zeigt, dass zwischen 17 % und 25 % der Unternehmen in den Jahren 2019 bis 2024 jedes Jahr den Einsatz von KI innerhalb der nächsten 12 Monate planten. Die eigentliche Implementierung in der Produktion stieg aber in Wirklichkeit jährlich nur 2 % bis 5 % an.
Um die Erfolgsquote zu erhöhen, sollten CIOs damit beginnen, die KI-Ziele des Unternehmens festzulegen – d. h. zu entscheiden, wo und wie Sie KI im Unternehmen einsetzen wollen. Angesichts der Tatsache, dass die heutige KI alles kann, einschließlich entscheiden, handeln, entdecken und generieren, ist es ebenso wichtig zu wissen, was Sie nicht mit ihr tun werden können.
Ein KI-Plan muss drei Schlüsselelemente berücksichtigen:
Geschäftsziele durch KI-Nutzung
Dabei geht es um die Art der geschäftlichen Vorteile, die Sie sich von der KI erhoffen. Ihre Zielsetzungen sollen klarstellen, wo Sie KI einsetzen werden (z. B. für interne Abläufe oder kundenorientierte Aktivitäten) und wie (z. B. zur Optimierung alltäglicher Aktivitäten oder zur Schaffung neuer Geschäftschancen). Nutzen Sie den Gartner KI-Geschäftschancen-Radar, um sich Ihrer Ziele im Klaren zu werden.
KI-Bereitstellungsphase
Diese spiegelt die technologischen Optionen wider, die für den Einsatz von KI zur Verfügung stehen und die Ihnen helfen, die von Ihnen angestrebten Ziele zu verwirklichen. Unternehmen können KI auf der Grundlage öffentlicher, handelsüblicher Modelle einsetzen, die mit öffentlichen Daten trainiert wurden. Sie können ein öffentliches Modell und Daten nutzen, die mit Ihren eigenen Daten angepasst wurden, oder einen eigenen Algorithmus entwickeln, der mit Ihren Daten trainiert wurde. Je mehr Anpassungen erforderlich sind, desto höher sind die Investitionskosten und die Zeit bis zur Bereitstellung – doch eine stärkere Anpassung ermöglicht auch ganz neue Möglichkeiten.
KI-Risiko
KI-Risiken gibt es in vielen Formen, darunter unzuverlässige oder undurchsichtige Ergebnisse, Risiken in Bezug auf geistiges Eigentum, Datenschutzbelange und Cyber-Bedrohungen. Es gibt auch aufkommende aufsichtsrechtliche Risiken im Zusammenhang mit den Regeln und Einschränkungen, die verschiedene Rechtssysteme für KI aufstellen können, einschließlich derer, die sich auf das Urheberrecht beziehen. Ihr Unternehmen muss seine Risikobereitschaft in Bezug auf den Grad der Automatisierung und den Grad der Transparenz klar definieren.
Beziehen Sie das Führungsteam in die Auswahl der zur Verfügung stehenden Geschäftschancen mit KI ein.
KI lässt sich in zwei übergeordnete Kategorien einteilen:
- Alltägliche KI steigert die Produktivität, indem sie Menschen in die Lage versetzt, Dinge, die Sie bereits tun, schneller und effizienter zu machen.
- Bahnbrechende KI steigert die Kreativität, indem sie Ihnen entweder ermöglicht, durch neue Produkte und Dienstleistungen oder durch neue Kernfähigkeiten Ergebnisse zu erzielen. Bahnbrechennde KI wird Geschäftsmodelle und ganze Branchen auf den Kopf stellen.
Sowohl alltägliche KI als auch bahnbrechende KI haben interne und externe Anwendungsbereiche. Um Ihre KI-Ziele festzulegen, müssen Sie prüfen, welche Kombinationen aus alltäglicher und bahnbrechender KI aus internen wie externen Anwendungsfällen Sie verfolgen wollen.
Investitionserwartungen werden diese Entscheidungen beeinflussen, da bahnbrechende KI nicht günstig ist. Obwohl 73 % der CIOs sagen, dass sie 2024 mehr in KI investieren wollen als 2023, sind die CFOs skeptisch, was die Ergebnisse angeht: 67 % der Finanzchefs sagen, dass die digitalen Investitionen hinter den Erwartungen zurückgeblieben sind.
Um realistische KI-Ziele setzen zu können, sollten Sie mit Ihrem C-Suite-Team drei KI-Investitionsszenarien durchspielen:
Ihre Position verteidigen, indem Sie in Quick Wins investieren, die bestimmte Aufgaben verbessern. Alltägliche KI-Tools sind zwar mit niedrigen Einführungskosten verbunden, werden Ihrem Unternehmen aber keinen nachhaltigen Wettbewerbsvorteil verschaffen. Hier investieren bedeutet den Status Quo aufrechterhalten.
Ihre Position ausbauen, indem Sie in maßgeschneiderte und individuelle Anwendungen investieren, die Ihnen einen Wettbewerbsvorteil verschaffen. Diese KI-Investitionen sind teurer und brauchen mehr Zeit, um ihre tatsächliche Wirkung zu entfalten, bringen aber auch mehr Vorteile.
Ihre Position verändern, indem Sie neue KI-gestützte Produkte und Geschäftsmodelle entwickeln. Diese Investitionen sind besonders teuer, risikoreich und zeitaufwendig, aber sie haben ein enormes Ertragspotenzial und könnten Ihre Branche auf den Kopf stellen.
Letztendlich müssen CIOs, wenn sie die Führungskräfte der Unternehmen von den Geschäftschancen mit KI überzeugen, sicherstellen, dass sie sich der Machbarkeit genau im Klaren sind. Zum Beispiel können ohne die erforderliche Technologie bestimmte Geschäftschancen nicht wahrgenommen werden. Sie können KI auch nicht einsetzen, wenn diejenigen, die sie nutzen werden – intern und extern – noch nicht bereit dafür sind.
Der Gartner KI-Geschäftschancen-Radar zeigt Ihnen den Zusammenhang zwischen KI-Zielen und Geschäftschancen in Hinblick auf die Machbarkeit. (Füllen Sie das obige Formular aus, um mehr zu erfahren.)
Beachten Sie, dass es sich bei den größten Geschäftschancen wahrscheinlich um wegweisende Innovationen handelt, die eine Branche grundlegend verändern und hohe wirtschaftliche Erträge bringen könnten. Diese sind jedoch schwer zu realisieren, da sie unerprobte Technologien nutzen und/oder die Unterstützung widerwilliger Stakeholder brauchen.
Verstehen der KI-Einsatzoptionen und der notwendigen Kompromisse bei Einführungsgeschwindigkeit und Differenzierung
In den letzten sechs Monaten haben KI-Modelle und -Tools den Markt regelrecht überschwemmt. Darüber hinaus binden viele große etablierte unabhängige Softwareanbieter (Independent Software Vendor, ISVs) KI in ihre bestehenden Anwendungen ein. Ein solcher Wettbewerb ist charakteristisch für die meisten Märkte, in denen viel auf dem Spiel steht, und sorgt für eine verwirrende Vielfalt an Auswahlmöglichkeiten.
Am Beispiel von GenAI sieht Gartner fünf Ansätze für den Einsatz von KI aufkommen:
Gebrauchsfertige GenAI eingebettet in Anwendungen, z. B. einer etablierten Design-Software, die jetzt auch Funktionen zur Bilderzeugung enthält (z. B. Adobe Firefly).
In einen benutzerdefinierten Anwendungsrahmen eingebettete GenAI-APIs, so dass Unternehmen ihre eigenen Anwendungen erstellen und GenAI über Basismodell-APIs integrieren können.
Durch Datenabruf erweiterte GenAI-Modelle, z. B. mit Retrieval Augmented Generation (RAG), die es Unternehmen ermöglicht, Daten von außerhalb eines Basismodells (oft Ihre internen Daten) abzurufen und Prompts mit diesen zu erweitern, um die Genauigkeit und Qualität der Modellantwort für domänenspezifische Aufgaben zu verbessern.
Durch Feinabstimmung eines großen, vortrainierten Basismodells mit einem neuen Datensatz erweiterte GenAI-Modelle, um zusätzliches Fachwissen einzubeziehen oder die Leistung bei bestimmten Aufgaben zu verbessern. Dies führt oft zu maßgeschneiderten Modellen, die speziell auf das Unternehmen zugeschnitten sind.
Von Grund auf erstellte individuelle Basismodelle, die sich vollständig an Ihre eigenen Daten und Geschäftsbereiche anpassen lassen.
Jeder Implementierungsansatz bringt Kompromisse zwischen Vorteilen und Risiken mit sich. Die wichtigsten Faktoren, die diese Kompromisse bestimmen, sind:
Kosten – Eingebettete Anwendungen und eingebettete Modell-APIs sind die kostengünstigste der KI-Implementierungsoptionen. Ein Modell von Grund auf neu zu erstellen, wäre am teuersten. Dazwischen variieren die Kosten stark, insbesondere bei der Feinabstimmung, für die bei der Aktualisierung von Modellen mit Milliarden von Parametern hohe Kosten anfallen.
Organisations- und Domain-Wissen – Die meisten KI-Grundlagenmodelle sind allgemeine Wissensmodelle. Um die Genauigkeit zu verbessern, müssen Unternehmen die Spezifität von Domänen und Anwendungsfällen durch Datenabrufe, Feinabgleiche oder die Generierung eigener Daten erhöhen.
Kontrolle der Sicherheit und des Datenschutzes – Die Überlegungen zu Sicherheit und Datenschutz sind bei GenAI derzeit recht breit gefächert. Der Aufbau eigener Modelle oder die Erstellung benutzerdefinierter Modelle durch Feinabstimmung bietet eine stärkere Eigenverantwortung für wichtige Vermögenswerte und mehr Flexibilität bei den Kontrollen, die Sie implementieren können.
Kontrolle der Modellausgabe – Ein KI-Grundlagenmodell ist anfällig für Täuschungen sowie für die Verbreitung von falschen oder unangemessenen Verhaltensweisen. Datenabruf, Modellfeinabstimmung und die Erstellung eigener Modelle eignen sich insbesondere für Umgebungen mit hoher Kontrolldichte. Bei geschäftskritischen Anwendungen ist die Einbindung eines Menschen erforderlich.
Einfache Implementierung – Die Nutzung von eingebetteten Anwendungen und die Einbettung von Modell-APIs bringen aufgrund ihrer inhärenten Einfachheit und der kurzen Markteinführungszeit Vorteile. Sie haben keine nennenswerten negativen Auswirkungen auf die aktuellen Arbeitsabläufe.
Artikulieren Sie die KI-Risikotoleranz der einzelnen Funktionen oder Geschäftsbereiche
Bei der endgültigen Festlegung der Geschäftschancen mit KI, die das Unternehmen nutzen will, müssen die Unternehmensleiter das Maß an Risiko formulieren, das sie bereit sind, in Bezug auf Themen wie Zuverlässigkeit, Datenschutz, Erklärbarkeit und Sicherheit der KI zu akzeptieren:
Zuverlässigkeit der KI
Je nachdem, wie sie trainiert wird, ist jede KI bis zu einem gewissen Grad anfällig für:
Sachliche Ungenauigkeiten, oder teilweise wahre Ausgaben, die in wichtigen Punkten falsch sind
Täuschungen oder fingierte Ergebnisse
Veraltete Informationen, aufgrund von Wissensaussparungen in den Trainingsdaten
Fehlerhafte Informationen in den Trainingsdaten, die zu fehlerhaften Ergebnissen führen
KI und Datenschutz
Die Fragen des Datenschutzes reichen von der Sorge um identifizierbare Details in den Trainingsdaten bis hin zur gemeinsamen Nutzung von Daten oder Ergebnissen, einschließlich:
der Weitergabe von Nutzerdaten an Dritte ohne vorherige Ankündigung, einschließlich Lieferanten oder Dienstleistern, verbundenen Unternehmen und anderen Nutzern
der Verarbeitung (wieder)identifizierbarer Daten
des Anlernens mit (re)identifizierbaren Daten, die in der Produktion konkrete Auswirkungen haben können
der unbeabsichtigten Weitergabe sensibler oder personenbezogener Daten
der Möglichkeit, dass proprietäre, sensible oder vertrauliche Daten, die als Prompt oder zum Abrufen von Daten eingegeben werden, Teil der Wissensdatenbank werden, die in Ausgaben für andere Nutzer verwendet wird
Erklärbarkeit von KI
Modelle des Machine Learnings (ML) sind für Nutzer und manchmal sogar für erfahrene Experten undurchsichtig. Obwohl Datenwissenschaftler und Modellentwickler verstehen, was ihre ML-Modelle zu tun versuchen, können sie die interne Struktur oder die algorithmischen Mittel, mit denen die Modelle Daten verarbeiten, nicht unbedingt entschlüsseln. Dieser Mangel an Modellverständlichkeit und damit an Erklärbarkeit – die Gartner als Fähigkeiten definiert, die die Funktionsweise eines Modells verdeutlichen – schränkt die Fähigkeit eines Unternehmens ein, KI-Risiken zu managen. Mangelnde Erklärbarkeit macht die Ergebnisse eines Modells:
Unvorhersehbar
Unverifizierbar
Unberechenbar
KI-Sicherheit
KI kann zu einem neuen Ziel für böswillige Akteure werden, die entweder auf private Daten zugreifen oder Code oder Trainingsparameter einfügen, um die KI dazu zu bringen, so zu handeln, dass sie den Interessen des Gegners dient. Einige Beispiele:
Personenbezogene oder sensible Daten, die von einem KI-Modell gespeichert werden, können von Hackern eingesehen werden.
Hacker nutzen Aufforderungen, um ein großes Sprachmodell (LLM) so zu manipulieren, dass es Informationen preisgibt, die es nicht preisgeben sollte.
LLMs, die zum Schreiben von Malware- oder Ransomware-Codes verleitet werden.
Arbeiten Sie mit Führungskräften zusammen, um ihre Risikoambitionen zu definieren
Um ein Gleichgewicht zwischen den Risiken der KI und den neuen Geschäftschancen, die das Unternehmen durch sie nutzen möchte, zu finden, müssen CIOs dabei helfen, die jeweiligen Rollen von Menschen und KI zu definieren. Ziel ist es, ein Gleichgewicht zwischen dem Grad der Automatisierung (von vollautomatisch bis zur Einbindung eines Menschens) und dem Grad der Erklärbarkeit (von völlig undurchsichtiger „Blackbox“-KI bis zu vollständig erklärbar) zu finden.
Jede Führungskraft muss die für sie akzeptablen KI-Risiken für die wichtigsten Prozesse in ihren Abteilungen angeben und sicherstellen, dass diese mit den Geschäftschancen, die sie durch KI nutzen möchte, in Einklang stehen. So könnte die Leitung der Personalabteilung aufgrund der sensiblen Natur ihrer Arbeit eine Risikotoleranz haben, die sich darauf konzentriert, die „sicherste“ Lösung zu wählen, während der Leitung des Kundendienstes eine „verantwortungsvolle Automatisierung“ anstrebt, um eine Automatisierung zu ermöglichen, die dem Kunden bei Bedarf erklärt werden kann.
