Vertrauen, Risiko und Sicherheit in KI-Modellen

Generative KI hat das Interesse an Prototypen für künstliche Intelligenz geweckt, doch oft bedenken Unternehmen die Risiken erst, wenn KI-Modelle oder -Anwendungen bereits eingesetzt oder produziert werden. Mithilfe eines umfassenden KI-Programms für das Vertrauens-, Risiko- und Sicherheitsmanagement (TRiSM) können Sie die dringend benötigte Governance schon vorab integrieren und proaktiv sicherstellen, dass KI-Systeme gesetzeskonform, fair und zuverlässig sind und entsprechende Datenschutzrichtlinien einhalten.

Wenn Sie an der Notwendigkeit von AI TRiSM zweifeln, dann sollten Sie sich diese sechs Risikofaktoren bewusst machen, denn viele davon sind darauf zurückzuführen, dass die Benutzer nicht verstehen, was in den KI-Modellen wirklich vor sich geht.

• Erklären Sie nicht nur KI-Begriffe, sondern seien Sie in der Lage, Folgendes darzulegen:

  • Einzelheiten oder Gründe, die für eine bestimmte Zielgruppe verdeutlichen, wie ein Modell funktioniert

  • die Stärken und Schwächen des Modells

  • wie es sich wahrscheinlich verhält

  • mögliche Vorbehalte

• Stellen Sie die für das Training verwendeten Datensätze und die für die Auswahl der Daten verwendeten Methoden zur Verfügung, wenn Sie diese Information zur Hand haben.

• GenAI kann zwar die Art und Weise verändern, wie Unternehmen miteinander konkurrieren und ihre Tätigkeiten durchführen, aber sie birgt auch neue Risiken, die mit herkömmlichen Kontrollmechanismen nicht umgangen werden können.

• Insbesondere sind die mit gehosteten, cloudbasierten generativen KI-Anwendungen verbundenen Risiken erheblich und entwickeln sich schnell weiter.

• Wenn Ihr Unternehmen KI-Modelle und -Tools von Drittanbietern einführt, übernehmen Sie auch die großen Datensätze zum Trainieren dieser KI-Modelle.

• Ihre Nutzer greifen möglicherweise auf vertrauliche Daten in den KI-Modellen von Dritten zu, wodurch sich rechtliche, wirtschaftliche und rufschädigende Folgen für Ihr Unternehmen ergeben könnten.

• Damit KI konform, fair und ethisch vertretbar bleibt, müssen spezialisierte Risikomanagementprozesse in den KI-Modellbetrieb (ModelOps) integriert werden.

• Da es aber kaum Standardtools gibt, müssen Sie wahrscheinlich maßgeschneiderte Lösungen für Ihre KI-Pipeline entwickeln.

• Die Kontrollen müssen kontinuierlich durchgeführt werden, beispielsweise während der Modell- und Anwendungsentwicklung, der Test- und Bereitstellungsphase und des laufenden Betriebs.

• Böswillige Angriffe auf KI (sowohl auf eigens entwickelte Modelle als auch auf Modelle von Drittanbietern) verursachen verschiedene Arten von Schäden und Verlusten für Unternehmen, etwa in finanzieller Hinsicht, in Bezug auf das Image oder auf geistiges Eigentum sowie personenbezogene oder geschützte Daten.[

• Führen Sie zusätzlich spezialisierte Kontrollen und Verfahren zur Prüfung, Validierung und Verbesserung der Robustheit von KI-Workflows ein, die mehr bieten als die für andere Arten von Anwendungen verwendeten Methoden.

• Das Gesetz über Künstliche Intelligenz der EU und weitere Rechtsrahmen in Nordamerika, China und Indien legen bereits Vorschriften für den Umgang mit den Risiken von KI-Anwendungen fest.

• Sie sollten sich auf die Einhaltung von Vorschriften einstellen, die über das hinausgehen, was bereits erforderlich ist, beispielsweise in Bezug auf den Schutz der Privatsphäre.