Künstliche Intelligenz (KI) hat sich innerhalb weniger Jahre zu einem festen Bestandteil unseres Alltags entwickelt. Wir setzen sie in zahlreichen Bereichen ein, beispielsweise für Filmempfehlungen oder in selbstfahrenden Autos. Die Fortschritte in der KI haben zwar zu einer Verbesserung der Cybersicherheit geführt. Allerdings bergen die schnelle Entwicklung und der zunehmende Einsatz von KI auch gewisse Risiken.
KI-Systeme ermöglichen eine effizientere Skalierung, schnellere Bereitstellung und bessere Qualität von Dienstleistungen. Die Systeme müssen in der Lage sein, schnell vertrauliche Daten zu verarbeiten und Entscheidungen zu treffen – häufig ohne direkte Überwachung durch den Menschen. Die entscheidende Frage ist nun, wie angemessener Schutz, wirksame Kontrollen und die verantwortungsvolle Nutzung von KI-Systemen gewährleistet werden können.
Bei der Entwicklung und Bereitstellung von KI-Systemen stehen diese Aspekte für Proofpoint im Vordergrund. Wir wollen Anwendern besseren Schutz vor Cybersicherheitsbedrohungen bieten und potenzielle Risiken durch KI minimieren. Daher haben wir uns zu verantwortungsvollem Umgang mit KI verpflichtet und uns zum Ziel gesetzt, unser Unternehmen in diesem dynamischen Bereich als Vorreiter zu positionieren.
Wir wollen unseren Ansatz transparent machen und mit gutem Beispiel vorangehen. In diesem Beitrag stellen wir unsere sechs Grundsätze vor und erläutern, wie wir ihre Einhaltung sicherstellen. Zunächst geben wir jedoch einige Hintergrundinformationen und erklären, weshalb die Grundsätze wichtig sind und welche Bedeutung der verantwortungsvolle Umgang mit KI hat.
Hintergrund
Wir legen großen Wert darauf, das Vertrauen unserer Kunden zu bewahren. Unsere sechs Grundsätze für verantwortungsvolle KI spiegeln dies wider.
- Rechenschaftspflicht
- Transparenz
- Erklärbarkeit
- Datenschutz und Systemsicherheit
- Sicherheit
- Fairness
Die Grundsätze stehen im Einklang mit unseren Grundwerten und unterstreichen unser Bestreben, stets den Menschen in den Mittelpunkt zu stellen. Um die Einhaltung dieser Grundsätze zu gewährleisten, haben wir ein Bewertungsverfahren eingeführt, mit dem wir die Eignung unserer KI-Systeme für einen verantwortungsvollen Einsatz im Produktivbetrieb ermitteln.
Außerdem haben wir mit dem Proofpoint Responsible AI Council (RAIC) ein Aufsichtsgremium eingerichtet, das unsere KI-Teams bei der Einhaltung der Grundsätze unterstützt. Diese Maßnahmen sollen sicherstellen, dass unsere Mitarbeiter sowie unsere externen Partner im Einklang mit unserem Ansatz zum verantwortungsvollen Einsatz von KI handeln.
Die Bedeutung verantwortungsvoller KI
KI-Systeme können ohne menschliches Zutun aus Informationen lernen und Vorhersagen treffen. Sie verfügen jedoch nicht über das menschliche Urteilsvermögen – kritisches Denken, ethisches Verständnis und Intuition – und können daher immer nur ihre eigene Architektur und die Trainingsdaten widerspiegeln.
Diese Einschränkungen sind einer der Gründe, warum es so wichtig ist, KI-Ethik in KI-Systeme zu integrieren. In der Regel umfasst diese Ethik die miteinander verbundenen Konzepte des verantwortungsvollen und ethischen Einsatzes von KI:
- Verantwortungsvolle KI bezieht sich auf die Konzeption, die Entwicklung und den Einsatz von KI basierend auf geeigneten Leitlinien
- Ethische KI bezieht sich auf die gesellschaftlichen und moralischen Auswirkungen von KI, z. B. „gute“ und „schlechte“ Anwendungsfälle für KI-Systeme
Ein verantwortungsvoller und ethischer Umgang mit KI erfordert die Behebung von Mängeln in den Trainingsdaten, auf denen KI-Systeme basieren. Mängel können zur Reproduzierung oder Verstärkung von Verzerrungen führen, die wiederum Schaden für Gruppen oder Einzelpersonen verursachen können. Bekannte Beispiele für derartige Vorfälle sind das sexistische Bewerbungstool von Amazon, die rassistische Gesichtserkennungssoftware von Google und die polarisierenden Nachrichten-Feeds von Facebook.
Mit der zunehmenden Nutzung von KI-Systemen steigen auch die damit verbundenen Risiken. Daher ist es wichtig, die Rolle von KI-Systemen in allen Phasen der Produktentwicklung und -bereitstellung zu berücksichtigen.
Unsere Grundsätze für verantwortungsvolle KI
Die nachfolgenden Grundsätze wurden von Proofpoint auf Basis der Konzepte für verantwortungsvolle KI entwickelt. Sie sind ein integraler Bestandteil all unserer KI-bezogenen Aktivitäten und sollen uns helfen, unsere personenbezogenen Verpflichtungen und unsere Unternehmenswerte einzuhalten. Dabei sollen sie allen Mitarbeitern sowie externen Partnern unseres Unternehmens als Leitlinie dienen.
Wir freuen uns, Ihnen diese Grundsätze vorstellen zu dürfen, und wir hoffen, dass sie bei Ihren Bemühungen um einen verantwortungsvollen Umgang mit KI-Systemen nützlich sein können.
1. Rechenschaftspflicht
„Wir stellen sicher, dass KI-Systeme von Menschen beaufsichtigt werden und diese die Verantwortung für sie tragen.“
Was bedeutet das?
Der Grundsatz der Rechenschaftspflicht besagt, dass die an der Entwicklung, Bereitstellung und Verwendung von KI-Systemen beteiligten Personen die Verantwortung für die Ausgaben und Auswirkungen dieser Systeme tragen. Dazu zählen auch Erklärungen und Begründungen für die maßgeblichen Entscheidungen und Maßnahmen, die während des Lebenszyklus des Modells getroffen und vorgenommen wurden.
Wie wird dies sichergestellt?
Durch etablierte Governance-Strukturen verfügt Proofpoint über Durchsetzungsmechanismen, die die Rechenschaftspflicht sicherstellen (z. B. durch Bewertungen von KI-Systemen), sowie über Entschädigungsmöglichkeiten im Falle unerwünschter Konsequenzen.
2. Transparenz
„Wir kommunizieren offen und ehrlich über unseren Einsatz von KI-Systemen.“
Was bedeutet das?
Der Grundsatz der Transparenz besagt, dass die Konzeption, Entwicklung und Bereitstellung von KI-Systemen nachvollziehbar und offen sein müssen. Das heißt, es muss sichergestellt sein, dass alle Entscheidungsprozesse einer KI für die Menschen, die die Systeme nutzen, nachvollziehbar und zugänglich sind.
Wie wird dies sichergestellt?
Durch eine klare und offene Kommunikation über die KI-Systeme mit den jeweils Verantwortlichen sorgt Proofpoint für Transparenz. Diese Kommunikation erfolgt während des gesamten Lebenszyklus der Systeme. Dazu gehört auch die Erläuterung unserer Entscheidungsprozesse sowie die Bereitstellung weiterer Informationen zu den Algorithmen.
3. Erklärbarkeit
„Wir versuchen zu erläutern, wie und warum unsere KI-Systeme ihre Entscheidungen treffen.“
Was bedeutet das?
Der Grundsatz der Erklärbarkeit besagt, dass KI-Systeme in der Lage sein müssen, ihre Entscheidungsprozesse klar und offen zu kommunizieren, sodass sie leicht nachvollziehbar sind.
Wie wird dies sichergestellt?
Um diesem Grundsatz gerecht zu werden, sorgt Proofpoint für größtmögliche Transparenz über die internen Abläufe der KI-Systeme. Bei Bedarf stellen wir Anwendern, Verantwortlichen und Regulierungsbehörden unterstützende Daten zur Verfügung, um ihnen ein besseres Verständnis der Faktoren zu ermöglichen, die die Ausgaben des Systems beeinflussen.
4. Datenschutz und Systemsicherheit
„Wir entwickeln und implementieren KI-Systeme unter Berücksichtigung von Datenschutz und Systemsicherheit.“
Was bedeutet das?
Der Grundsatz für Datenschutz und Systemsicherheit besagt, dass personenbezogene Daten und vertrauliche Unternehmensdaten geschützt werden müssen. Zudem müssen die Konzeption und die Bereitstellungsarchitektur von KI-Systemen so gestaltet sein, dass die Systeme vor Cybersicherheitsbedrohungen geschützt sind.
Wie wird dies sichergestellt?
Proofpoint gewährleistet den Datenschutz und die Sicherheit von KI-Systemen mithilfe eines etablierten Datenschutzprogramms durch Technikgestaltung (Datenschutzfreundlichkeit) und eines Informationssicherheitsprogramms. Diese Programme haben das Ziel, die Daten und Systeme in allen Bereichen unseres Unternehmens zu schützen. (Weitere Informationen finden Sie in unserer Verpflichtungserklärung zu Datenschutz und Vertrauen.)
5. Sicherheit
„Wir bewerten die potenziellen Risiken, die mit dem Einsatz von KI-Systemen verbunden sind, und ergreifen geeignete Maßnahmen, um sie zu minimieren.“
Was bedeutet das?
Der Grundsatz der Sicherheit besagt, dass KI-Systeme so konzipiert und bereitgestellt werden müssen, dass Schäden, Risiken und unbeabsichtigte Folgen minimiert werden.
Wie wird dies sichergestellt?
Um diesem Grundsatz gerecht zu werden, führt Proofpoint umfassende Tests und Risikobewertungen durch. Mit diesen Maßnahmen können wir potenzielle Gefahren von KI-Systemen identifizieren und abwehren. Unser Sicherheitsversprechen schließt auch die Bereitstellung von KI-Systemen ein, die mit Sicherheitsvorkehrungen und Leitlinien ausgestattet sind, um ein schnelles Eingreifen durch Menschen zu ermöglichen.
6. Fairness
„Wir minimieren unerwünschte Verzerrungen in unseren KI-Systemen so weit wie möglich.“
Was bedeutet das?
Der Grundsatz der Fairness besagt, dass KI-Systeme so zu konzipieren und zu implementieren sind, dass unbeabsichtigte Verzerrungen und Diskriminierungen vermieden werden.
Wie wird dies sichergestellt?
Um diesem Grundsatz gerecht zu werden, geht Proofpoint aktiv gegen Verzerrungen in Daten und Algorithmen vor und reduziert diese. Wir sind uns bewusst, dass die Daten je nach Bedrohungslandschaft verzerrt sein können. In diesem Fall analysieren wir die Daten und versuchen, die Verzerrungen soweit wie möglich zu minimieren.
Unser Bekenntnis zu verantwortungsvoller KI
Wir verpflichten uns, diese Grundsätze für verantwortungsvolle KI in all unseren Produkten und KI-Systemen anzuwenden. Wir haben die sechs Grundsätze in praktische Leitlinien übersetzt, die auf alle Phasen der Produktentwicklung und -bereitstellung Einfluss nehmen. Zudem haben wir ein Aufsichtsgremium eingerichtet.
Bewertungsverfahren für verantwortungsvolle KI
Zur Umsetzung der KI-Grundsätze wurden ein Bewertungsverfahren für verantwortungsvolle KI und eine Modellkarte entwickelt, um sicherzustellen, dass alle KI-Systeme unseren Standards und Best Practices entsprechen. Die Fragen decken alle Grundsätze ab. Sie fördern die Rechenschaftspflicht in den Entwicklungsteams und stellen sicher, dass das Aufsichtsgremium ein umfassendes Verständnis unserer KI-Systeme hat.
Die Bewertung besteht unter anderem aus folgenden Fragen:
- Wie könnten sich False Positives und False Negatives auf den Zweck und die Leistung des Systems sowie auf die betroffenen Ziele der Analyse auswirken?
- Wie wird sichergestellt, dass die Sicherheit des KI-Systems im Produktivbetrieb jederzeit gewährleistet ist?
- Inwieweit sind die Daten, mit denen das KI-System trainiert wurde, für den vorgesehenen Anwendungsfall repräsentativ?
Anhand der Antworten und einer anschließenden Überprüfung der Bewertung können wir feststellen, welche Maßnahmen vor dem Einsatz eines KI-Systems in unseren Produkten erforderlich sind. Jedes KI-System ist mit einer Modellkarte verknüpft, die die wichtigsten Informationen zusammenfasst sowie die Funktionen und Grenzen des Systems erläutert.
Proofpoint Responsible AI Council (RAIC)
Das Proofpoint Responsible AI Council (engl. für Proofpoint-Gremium für verantwortungsvolle KI) ist ein zentrales, multidisziplinäres Gremium, das eine Kultur des verantwortungsvollen Umgangs mit KI bei Proofpoint fördert und unterstützt. Das Gremium berät, unterstützt und beaufsichtigt die verantwortungsvolle Konzeption, Entwicklung und Bereitstellung unserer KI-Systeme.
Durch unser Bekenntnis zu den sechs Grundsätzen für verantwortungsvolle KI möchten wir aktiv an der Gestaltung einer positiven Zukunft für die weltweite Nutzung von KI mitwirken.
Werden Sie Teil unseres Teams
Unsere Mitarbeiter mit ihren vielfältigen Erfahrungen und Hintergründen sind für den Erfolg unseres Unternehmens maßgeblich. Wir setzen uns mit großem Engagement dafür ein, Mitarbeiter, Daten und Marken vor den hochentwickelten Bedrohungen und Compliance-Risiken von heute zu schützen.
Wir suchen die besten Mitarbeiter der Branche für folgende Aufgabenbereiche:
- Entwicklung und Verbesserung unserer bewährten Sicherheitsplattform
- Kombination von Innovation und Schnelligkeit in einer sich ständig weiterentwickelnden Cloud-Architektur
- Analyse neuer Bedrohungen und Bereitstellung umfassender Einblicke durch datenbasierte Bedrohungsinformationen
- Zusammenarbeit mit unseren Kunden, um die größten Herausforderungen im Bereich Cybersicherheit zu bewältigen
Weitere Informationen über die Karrieremöglichkeiten bei Proofpoint finden Sie auf der Jobs und Karriere-Seite.
Informationen zu den Autoren
Othman Benchekroun ist Technical Project Manager bei Proofpoint. Im Rahmen seiner Position fördert er die teamübergreifende Zusammenarbeit und den Innovationsgeist. Othman Benchekroun verfügt über einen Master of Science (MSc) in Data Science von der Eidgenössischen Technischen Hochschule Lausanne (Schweiz) sowie über Erfahrung im Bereich KI und Machine Learning.
Tetiana Kodliuk ist die Leiterin des Teams für AI Engineering for Information Protection and Cloud Security bei Proofpoint. Gemeinsam mit ihrem talentierten Team bringt Tetiana Kodliuk Innovationen auf den Weg und gestaltet die KI-Strategie für mehrere Proofpoint Sigma-Produkte: DLP, Datenklassifizierung, ITM, CASB. Ihre Arbeit hat bereits zu neun Patenten und verschiedenen Veröffentlichungen sowie zur Teilnahme an wichtigen KI-Konferenzen geführt. Tetiana Kodliuk setzt sich mit großem Engagement für den verantwortungsvollen und ethischen Einsatz von KI-Technologie in der Cybersicherheitsbranche ein. Sie hat an der Nationalen Akademie der Wissenschaften in der Ukraine in Mathematik promoviert.
Kimberly Pavelich ist als Senior Product Manager von Proofpoint Security Awareness and Training (PSAT) verantwortlich für die Bereitstellung ansprechender bedrohungsbezogener Inhalte für Sicherheitsschulungen. Bei der Entwicklung ihres Security-Awareness-Ansatzes kann sie auf ein breites Spektrum an Fachwissen und Erfahrungen zurückgreifen, die sie im Laufe eines Jahrzehnts bei der Arbeit für den kanadischen Geheimdienst und für verschiedene internationale Gemeinschaften in ehemaligen Konfliktgebieten erworben hat. Kimberly Pavelich verfügt über einen Master-Abschluss in strategischen Studien der Universität Calgary und ist Doktorandin der Politikwissenschaften an der Carleton University.