ANHANG

PROJEKTDOKUMENT

„Förderung verantwortungsvoller Innovation auf dem Gebiet der künstlichen Intelligenz im Dienste von Frieden und Sicherheit“

1.    HINTERGRUND

Durch die jüngsten Fortschritte auf dem Gebiet der künstlichen Intelligenz (im Folgenden „KI“) wurden neue Möglichkeiten geschaffen, Frieden und Sicherheit zu fördern und zu bewahren, beispielsweise durch technologische Verbesserungen in Bereichen wie der Konfliktfrühwarnung und der Verifizierung von Rüstungskontrolle und Ausfuhrkontrolle. Diese Fortschritte haben andererseits auch die Entstehung neuer Mittel begünstigt, mit denen Spannungen, Konflikte und Unsicherheit zwischen und innerhalb von Staaten hervorgerufen – oder verschärft – werden können. Die Risiken, die mit bestimmten KI-Anwendungen wie letalen autonomen Waffensystemen einhergehen, bereiten der Rüstungskontrollgemeinschaft mittlerweile große Sorgen. Es besteht ein Risikopfad, der mehr Aufmerksamkeit verdient und dem mit den gegenwärtigen Rüstungskontrollbemühungen und diplomatischen Bemühungen möglicherweise nicht ausreichend begegnet wird, nämlich die Umlenkung und der Missbrauch ziviler Forschung und Innovation auf dem Gebiet der KI durch verantwortungslose Akteure, einschließlich böswilliger nichtstaatlicher Akteure, beispielsweise der Missbrauch von Generative Adversarial Networks (im Folgenden „GAN“) zur Erstellung von „Deepfakes“ für Desinformationskampagnen.

KI ist eine grundlegende Technologie mit großem Potenzial für die allgemeine Nutzung. Bestimmte Akteure könnten (relativ leicht) auf KI-Forschung und -Innovation, die für zivile Anwendungen bestimmt sind, zugreifen und sie für schädliche oder zerstörerische Zwecke, die sich auf den Weltfrieden und die internationale Sicherheit auswirken könnten, nutzen. Die Umlenkung und der Missbrauch ziviler Technologien sind weder ein neues Phänomen noch auf die KI beschränkt. Auf dem verwandten Gebiet der Robotertechnik wurde dies kürzlich durch die Nutzung von Freizeitdrohnen als Waffe durch Da‘esh/ISIS in Syrien vor Augen geführt. Im Fall der KI ist die Lage aufgrund verschiedener Faktoren komplizierter: KI-Algorithmen und -daten sind immateriell und ändern sich rasch, weshalb ihre Weitergabe/Verbreitung schwer zu kontrollieren ist; der private Sektor spielt im Ökosystem der Forschung, Entwicklung und Innovation eine führende Rolle, weshalb unternehmenseigene Algorithmen geschützt werden müssen; das Humanwissen und die materiellen Ressourcen, die für die Umnutzung von KI-Technologien benötigt werden, sind weltweit verfügbar. Derweil sind sich diejenigen, die im zivilen Sektor mit KI arbeiten, allzu oft nicht darüber im Klaren, welche Auswirkungen die Umlenkung und der Missbrauch ihrer Arbeit auf den Weltfrieden und die internationale Sicherheit haben könnten, oder sie beteiligen sich nur zögerlich an den Debatten, die in den mit Rüstungskontrolle und Nichtverbreitung befassten Kreisen über die mit KI verbundenen Risiken geführt werden.

Die zivile KI-Gemeinschaft muss dazu gebracht werden, sich stärker einzubringen, wenn es darum geht zu verstehen, welche Risiken für Frieden und Sicherheit die Umlenkung und der Missbrauch ziviler KI-Technologien durch verantwortungslose Akteure mit sich bringen, und diese Risiken zu mindern. Nach Auffassung des Stockholmer Internationalen Friedensforschungsinstituts (im Folgenden „SIPRI“) und des Büros der Vereinten Nationen für Abrüstungsfragen (im Folgenden „UNODA“) könnte dies dadurch erreicht werden, dass in der globalen zivilen KI-Gemeinschaft verstärkt für verantwortungsvolle Innovation geworben wird. Die bisherige Arbeit des SIPRI und des UNODA hat gezeigt, das verantwortungsvolle Innovation in Form eines Selbstverwaltungsmechanismus der globalen zivilen KI-Gemeinschaft praktische Instrumente und Verfahren an die Hand geben könnte, sodass sie in der Lage wäre, die durch Umlenkung und Missbrauch ziviler KI-Forschung und -Innovation möglicherweise entstehenden Risiken für Frieden und Sicherheit zu erkennen und dazu beizutragen, dass ihnen vorgebeugt wird und sie gemindert werden. Das SIPRI und das UNODA haben im Rahmen ihrer Arbeit zudem Methoden und mehrere laufende auf den zivilen Bereich ausgerichtete Initiativen für verantwortungsvolle KI ermittelt, auf denen aufgebaut werden könnte, um die zivile KI-Gemeinschaft für Abrüstungs- und Nichtverbreitungsfragen, für Expertendebatten und für Standpunkte von Staaten zu verantwortungsvoller Entwicklung, Verbreitung und Nutzung von KI, zu sensibilisieren, und sie haben festgestellt, welche Lehren aus der diesbezüglichen Arbeit im Verteidigungssektor gezogen werden können. ( 1 ) Im Zuge dieser früheren Arbeit wurde eindeutig festgestellt, dass die Zusammenarbeit mit, Studierenden der Fachbereiche Mathematik, Ingenieurwesen, Naturwissenschaften und Technologie (MINT), noch während diese sich im Rahmen ihrer Ausbildung mit KI befassen, entscheidende Voraussetzung für wirksame Bemühungen um eine verantwortungsvolle Innovation ist.

2.    ZIELE

Mit den Projekten soll die zivile KI-Gemeinschaft unterstützt werden, damit sie sich stärker für eine Minderung der Risiken für den Weltfrieden und die internationale Sicherheit einsetzt, die von der Umlenkung und vom Missbrauch ziviler KI-Forschung und -Innovation durch verantwortungslose Akteure ausgehen können. Um dies zu erreichen, wird erstens versucht, besser zu verstehen, wie Entscheidungen bezüglich der Entwicklung und der Verbreitung von Forschung und Innovation im Bereich der KI das Risiko der Umlenkung und des Missbrauchs beeinflussen und wiederum Risiken oder Chancen für Frieden und Sicherheit bedeuten können, und zweitens werden verantwortungsvolle Innovationsprozesse, -methoden und -instrumente gefördert, die dazu beitragen können, eine friedliche Anwendung ziviler Innovationen und eine verantwortungsvolle Verbreitung von Kenntnissen auf dem Gebiet der KI zu gewährleisten. Zu diesem Zweck werden im Rahmen der Projekte Maßnahmen zum Aufbau von Kapazitäten, Forschungsmaßnahmen und Maßnahmen zur Einbeziehung unterstützt, durch die i) die globale zivile KI-Gemeinschaft besser befähigt wird, durch verantwortungsvolle Innovationsprozesse die Risiken für Frieden und Sicherheit, die von der Umlenkung und vom Missbrauch ziviler KI durch verantwortungslose Akteure ausgehen, mitzubedenken und zu mindern, und ii) die Bemühungen um Risikominderung durch verantwortungsvolle KI im zivilen Bereich stärker mit den bereits auf zwischenstaatlicher Ebene laufenden Bemühungen in den Bereichen Abrüstung, Rüstungskontrolle und Nichtverbreitung verknüpft werden. Die Projektmaßnahmen haben grundsätzlich nicht zum Ziel, neue Standards, Grundsätze oder Regelungen festzulegen oder anderweitig in Bereiche einzudringen, die in die Zuständigkeit der Staaten fallen. Vielmehr soll erreicht werden, dass im zivilen Bereich verstärkt verantwortungsvolle Innovationsanstrengungen unternommen werden, die den von der Umlenkung und vom Missbrauch ziviler KI durch verantwortungslose Akteure ausgehenden Risiken für Frieden und Sicherheit Rechnung tragen, und dass zu den bestehenden einschlägigen zwischenstaatlichen Bemühungen Schulungen bereitgestellt werden.

Um die zivile KI-Gemeinschaft tatsächlich zu erreichen und auf sie einzuwirken, wird im Rahmen der Projekte ein auf drei Bereiche zielender Ansatz verfolgt:

Ein solcher Ansatz sorgt dafür, dass mit den Projekten alle Ebenen der KI-Gemeinschaft erreicht werden, nicht nur die Praktiker, die gegenwärtig auf diesem Gebiet arbeiten, sondern auch künftige Generationen von Praktikern. Er ermöglicht zudem eine Zusammenarbeit von Wissenschaft, Wirtschaft und anderer Sparten und fördert zudem durch den Aufbau spartenübergreifender Netze die Nachhaltigkeit künftiger Anstrengungen.

Die Projekte zielen zudem darauf ab, die Fähigkeit des SIPRI und des UNODA, alle Beteiligten an einen Tisch zu bringen, und ihre diesbezügliche Erfahrung zu nutzen, um auf die AI-Gemeinschaft weltweit, und nicht nur auf die Interessenträger in der EU, einzuwirken. Das SIPRI und das UNODA sind besonders gut in der Lage, KI-Akteure aus Afrika, dem asiatisch-pazifischen Raum, Europa und Nord- und Südamerika zu erreichen und die Zusammenarbeit zwischen ihnen zu begünstigen. Beide Einrichtungen verfügen außerdem über Erfahrung in anderen Bereichen der Wissenschaft und Technologie, in denen im Hinblick auf doppelte Verwendungszwecke und Verbreitung vergleichbare Probleme bestehen, so unter anderem im Bereich der Biotechnologie. Im Rahmen der Projekte sollen ferner die Gegebenheiten in der Europäischen Union genutzt werden, nämlich a) das Vorhandensein fortgeschrittener Multi-Stakeholder-Prozesse zum Thema verantwortungsvolle KI, b) das große Engagement und Fachwissen in Bezug auf Abrüstungs-, Rüstungskontroll- und Nichtverbreitungsfragen in der EU, c) die vielfältigen Verbindungen, die Organisationen aus Wissenschaft, Forschung und Privatwirtschaft in der EU zu anderen Regionen unterhalten, insbesondere im Globalen Süden, der ebenfalls ein wesentliches Ziel der Zusammenarbeit sein wird, und d) die vielen unterschiedlichen Nationalitäten der Studierenden, Pädagogen und Ingenieure, die in Universitäten und Forschungseinrichtungen sowie in der Privatwirtschaft tätig sind.

Der Inklusion wird bei der Durchführung der Projektmaßnahmen besondere Beachtung geschenkt. Um die KI-Gemeinschaft wirksam zu unterstützen, wird im Rahmen der Projekte der Tatsache Rechnung getragen, dass die KI-Gemeinschaft aus einer Vielzahl von Akteuren besteht und dass insbesondere

3.    PROJEKTE

Die drei nachstehend beschriebenen Projekte sollen einander ergänzen und unterstützen, wobei sich bestimmte Projektkomponenten über die gesamten 36 Monate der Projektlaufzeit erstrecken werden.

3.1.    Projekt 1 – Erstellung von didaktischem Material und von Materialien zum Aufbau von Kapazitäten für die zivile KI-Gemeinschaft

3.1.1.    Projektziel

Mit Projekt 1 sollen zivilen Akteuren im KI-Bereich die Kenntnisse und Mittel bereitgestellt werden, die sie in die Lage versetzen, die Risiken für den Weltfrieden und die internationale Sicherheit, die von der Umlenkung und vom Missbrauch ziviler KI-Forschung und -Innovation durch verantwortungslose Akteure ausgehen können, zu evaluieren und zu mindern. Ziel des Projekts ist die Erstellung von didaktischem Material und von Material zum Aufbau von Kapazitäten, das KI-Praktiker aller Regionen, Ebenen und Sektoren (einschließlich Pädagogen, deren Schwerpunkt auf KI liegt, Personen, die mit der Aufstellung von Lehrplänen befasst sind, MINT-Studierender sowie KI-Ingenieure und Forschender der Universitäten und der Privatwirtschaft) mit den Informationen und Instrumenten ausstattet, die sie in die Lage versetzen,

3.1.2.    Beschreibung des Projekts

Im Rahmen dieses Projekts werden drei unterschiedliche Gruppen von didaktischem Material und Material zum Aufbau von Kapazitäten erstellt.

Die Blogbeiträge werden über die Websites der durchführenden Akteure, ihre Präsenz in den sozialen Medien sowie durch direkte Kommunikation mit den relevanten akademischen Einrichtungen, zivilen Berufsverbänden im KI-Bereich und anderen geeigneten Gruppen veröffentlicht.

3.1.3.    Erwartete Projektergebnisse

Im Rahmen des Projekts soll eine neue Reihe von Materialien geschaffen werden, durch die KI-Praktiker des zivilen Bereichs für folgende Fragen sensibilisiert werden können: a) Wie können Forschung und Innovation auf dem Gebiet der zivilen KI so umgelenkt und missbraucht werden, dass daraus Risiken für den Weltfrieden und die internationale Sicherheit erwachsen, b) wie wird diesen Risiken in den Bereichen Abrüstung, Rüstungskontrolle und Nichtverbreitung begegnet und c) wie können KI-Praktiker durch verantwortungsvolle Innovationsprozesse weiter zur Minderung solcher Risiken beitragen?

Hierdurch soll der zivile KI-Sektor dazu gebracht werden, sich stärker für eine Minderung der von der Umlenkung und vom Missbrauch ziviler KI ausgehenden Risiken für den Weltfrieden und die internationale Sicherheit einzusetzen. Ferner sollen die Praktiker im technischen Bereich besser befähigt werden, eine Zusammenarbeit mit den einschlägigen Prozessen in den Bereichen Abrüstung, Rüstungskontrolle und Nichtverbreitung aufzunehmen und auf die Einbeziehung neuer Zielgruppen hinzuwirken, die traditionell nicht in die didaktischen Bemühungen in den Bereichen Abrüstung und Nichtverbreitung einbezogen sind.

Ferner soll das Material bei der Durchführung anderer Projekte helfen und als Grundlage für die didaktischen Maßnahmen und die Maßnahmen zum Aufbau von Kapazitäten im Rahmen von Projekt 2 sowie für die Dialog- und Einbeziehungsmaßnahmen des Projekts 3 dienen. Diese Maßnahmen sollen wiederum in die Ausarbeitung und Verbesserung des Materials einfließen. Dieser iterative Ansatz soll dabei helfen, potenzielle Hindernisse auszuräumen, die der Propagierung, Verbreitung und Nutzung der Materialien in der KI-Gemeinschaft entgegenstehen, was Probleme in Bezug auf Sprache, Inhalt, Kontext und Verfügbarkeit einschließt, die auf globaler Ebene, und insbesondere im Globalen Süden, die Projektwirkung negativ beeinträchtigen könnten.

3.2.    Projekt 2 – Didaktische Maßnahmen und Maßnahmen zum Aufbau von Kapazitäten für künftige KI-Praktiker

3.2.1.    Projektziel

Projekt 2 hat zum Ziel, das Problem der Umlenkung und des Missbrauchs von ziviler Forschung auf dem Gebiet der KI durch verantwortungslose Akteure bei der Ausbildung künftiger Generationen von KI-Praktikern einzubeziehen. Auf lange Sicht wird hierdurch sichergestellt, dass Studierende der Bereiche Mathematik, Ingenieurwesen, Naturwissenschaften und Technologie (MINT), die die Zukunft der KI gestalten werden, sich der negativen Auswirkungen, die die Umlenkung und der Missbrauch ihrer Arbeit durch verantwortungslose Akteure auf den Weltfrieden und die internationale Sicherheit haben können, bewusst sind, und dass den Studierenden die erforderlichen grundlegenden Instrumente zur Verfügung stehen, um diese Risiken bei den Forschungs- und Innovationsprozessen zu erkennen und zu mindern.

Im Rahmen des Projekts wird in Zusammenarbeit mit ausgewählten internationalen Universitäten und Akteuren der Wirtschaft eine Reihe von didaktischen Workshops und Workshops zum Aufbau von Kapazitäten durchgeführt, die sich an Pädagogen und Studierende richten. Damit wird das Ziel verfolgt, Maßnahmen zum Aufbau von Kapazitäten zu entwickeln, die von Pädagogen und Personen, die mit der Aufstellung akademischer Lehrpläne befasst sind, genutzt werden könnten, um bei der Ausbildung künftiger KI-Praktiker (z. B. in Kursen zu Ethik im KI-Bereich und zu verantwortungsvoller Innovation) auch die Risiken zu berücksichtigen, die von der Umlenkung und vom Missbrauch ziviler KI-Forschung und -Innovation durch verantwortungslose Akteure ausgehen, und diese Frage im größeren Kontext von Frieden und Sicherheit zu behandeln. Mit dem Projekt wird zudem das Ziel verfolgt, im Zuge der Workshops ein Netz interessierter Pädagogen, mit der Lehrplanaufstellung befasster Personen und Studierender zu bilden, die sich dafür einsetzen, das didaktische Material und die Maßnahmen zum Aufbau von Kapazitäten in der KI-Bildungsgemeinschaft und der Gemeinschaft der KI-Praktiker zu verbreiten und zu propagieren. Diese Vernetzungskomponente soll dafür sorgen, dass die Projekte über ihre unmittelbare Laufzeit hinaus Wirkung entfalten, und den Aufbau stärkerer Verbindungen ermöglichen, die das Engagement ziviler technischer Kreise für die umfassenderen Ziele Frieden, Sicherheit, Abrüstung und Rüstungskontrolle fördern.

3.2.2.    Beschreibung des Projekts

Im Rahmen des Projektes wird eine Reihe von didaktischen Workshops und Workshops zum Aufbau von Kapazitäten durchgeführt, die sich an Pädagogen und Studierende ausgewählter Universitäten aus aller Welt richten. Die Workshops sollen aus einer Mischung von Vorlesungen und interaktiven Angeboten bestehen, die Pädagogen und Studierenden die Möglichkeit geben, Überlegungen zu der Frage anzustellen, wie zivile KI-Forschung und -Innovation so umgelenkt und missbraucht werden könnte, dass Risiken für den Weltfrieden und die internationale Sicherheit entstehen, und wie diese Risiken bei Forschungs- und Innovationsprozessen oder durch andere Governance-Prozesse erkannt werden können, ihnen vorgebeugt werden kann oder sie gemindert werden können. Die Projektmaßnahmen werden auf der vom UNODA vorab in kleinerem Maßstab durchgeführten Pilotarbeit aufbauen, bei der Methoden erprobt wurden, um mit MINT-Studierenden zusammenzuarbeiten und sie dafür zu sensibilisieren, wie wichtig es ist, die Auswirkungen ihrer Arbeit zu bedenken und mit Experten außerhalb des angestammten Fachbereichs zusammenzuarbeiten. Konkret würde es sich um Folgendes handeln:

Die Netze und die Präsenz des SIPRI und des UNODA in Afrika, im asiatisch-pazifischen Raum, in Europa sowie in Nord- und Südamerika werden genutzt, um Komponenten der Maßnahmen in geeigneter Weise zu erleichtern und zu unterstützen.

3.2.3.    Erwartete Projektergebnisse

Im Rahmen des Projektes sollen Modelle für Maßnahmen zum Aufbau von Kapazitäten und Maßnahmen zur Einbeziehung geschaffen werden, die Pädagogen und mit der Aufstellung akademischer Lehrplänen befasste Personen nachbilden können, um künftige KI-Praktiker für das Problem der Umlenkung und des Missbrauchs von ziviler KI durch verantwortungslose Akteure sowie für die Frage zu sensibilisieren, wie sie dazu beitragen können, dieses Problem durch verantwortungsvolle Innovationsprozesse zu mindern. Nach Abschluss der Projektmaßnahmen sollen die Teilnehmenden (Pädagogen, aber auch MINT-Studierende) in der Lage sein, verantwortungsvolle Instrumente, Methoden und Konzepte der Innovation zu nutzen und zu propagieren, die es erlauben, die Umlenkungs- und Missbrauchsrisiken bei der Entwicklung und Verbreitung von ziviler Forschung und Innovation auf dem Gebiet der KI zu erkennen und zu mindern.

Außerdem soll im Zuge der Projektmaßnahmen ein Netz von Pädagogen, mit der Lehrplanaufstellung befassten Personen und Studierenden entstehen, die nicht nur die Projektmaßnahmen innerhalb der KI-Bildungskreise und der KI-Fachkreise (beispielsweise auf Konferenzen der IEEE Computational Intelligence Society) besser bekannt machen, sondern auch bereit sind, mit ihren technischen Kapazitäten zu unter der Ägide der Staaten durchgeführten internationalen Governance-Prozessen (z. B. zum Prozess im Rahmen des Übereinkommens über bestimmte konventionelle Waffen zu neu entstehenden Technologien auf dem Gebiet der letalen autonomen Waffensysteme) beizutragen.

Der kurz- und langfristige Wert dieser Maßnahmen wird durch vor und nach den Maßnahmen durchgeführte Erhebungen nachgewiesen.

3.3.    Projekt 3 – Förderung einer längerfristig nachhaltigen Entwicklung, Verbreitung und Wirkung von verantwortungsvoller Innovation auf dem Gebiet der KI im Dienste von Frieden und Sicherheit

3.3.1.    Projektziel

Mit Projekt 3 wird das Ziel verfolgt, eine längerfristig nachhaltige Entwicklung, Verbreitung und Wirkung von verantwortungsvoller Innovation auf dem Gebiet der KI zu fördern, um die durch Umlenkung und Missbrauch ziviler KI-Forschung und -Innovation entstehenden Risiken für Frieden und Sicherheit zu mindern. Dies soll durch Rundtischgespräche mit Unternehmen der KI-Branche, Dialoge zwischen verschiedenen Interessenträgern, Erstellung eines öffentlichen Berichts und gezielte Verbreitungsmaßnahmen geschehen. Durch das Projekt soll sichergestellt werden, dass die geleistete Arbeit, insbesondere die Ausbildungsmaßnahmen, die Maßnahmen zum Aufbau von Kapazitäten und die Maßnahmen zur Einbeziehung, die KI-Gemeinschaft insgesamt auf allen Ebenen (angefangen bei Studierenden bis hin zu Ingenieuren und anderen KI-Fachleuten) und über alle geografischen, sektoralen und anderen Grenzen hinweg erreicht und beeinflusst. Um eine möglichst umfassende und tiefgreifende Wirkung zu erzielen, ist es von entscheidender Bedeutung, mit Berufsverbänden in diesem Bereich, wie beispielsweise dem IEEE, zusammenzuarbeiten und mehrdimensional, unter Einbeziehung der Wissenschaft, der Wirtschaft und anderer Sparten, vorzugehen. Auf diese Weise erhalten interessierte Vertreter der verschiedenen KI-Gemeinschaften die Möglichkeit, Verantwortung für das Problem zu übernehmen und darzulegen, wie aus ihrer Sicht Bemühungen um Risikominderung in der gesamten globalen KI-Gemeinschaft durchgeführt und nachhaltig gefördert werden können. Damit das Projekt für Staaten, zwischenstaatliche Organisationen und andere Akteure dauerhaften Wert hat, ist es außerdem wichtig, dass KI-Praktiker von Regierungsexperten, die sich mit der Risikominderung in den Bereichen Abrüstung, Rüstungskontrolle und Nichtverbreitung befassen, lernen und mit ihnen zusammenarbeiten können. Für die Nachhaltigkeit ist es überdies von entscheidender Bedeutung, dass die im Zuge der Maßnahmen zur Einbeziehung gewonnenen Erkenntnisse in geeigneter Weise analysiert, konsolidiert und verbreitet werden.

3.3.2.    Beschreibung des Projekts

Das Projekt umfasst die folgenden Haupthandlungsbereiche:

Zwei der neun Online-Treffen sollen für die Öffentlichkeit zugänglich sein, um eine umfassendere Konsultation zu ermöglichen.

3.3.3.    Erwartete Projektergebnisse

Mit dem Projekt soll die Grundlage für eine nachhaltige Entwicklung, Verbreitung und Wirkung von verantwortungsvoller Innovation bei KI-Prozessen gelegt werden, damit die Verbreitungs-, Umlenkungs- und Missbrauchsrisiken und die Folgen dieser Risiken für Frieden und Sicherheit auch über die unmittelbare Geltungsdauer des Ratsbeschlusses hinaus thematisiert werden.

Der Dialog zwischen verschiedenen Interessenträgern soll als Modell für den Informationsaustausch und die Zusammenarbeit in Bezug auf die Risikominderung nicht nur innerhalb der globalen KI-Gemeinschaft, sondern auch zwischen der auf den zivilen Bereich ausgerichteten verantwortungsvollen KI-Gemeinschaft und den Bereichen Abrüstung, Rüstungskontrolle und Nichtverbreitung dienen. Dieses Modell könnte genutzt werden, um politische Entscheidungsträger mit den wichtigsten technologischen und wissenschaftlichen Fortschritten, die für eine verantwortungsvolle Innovation auf dem Gebiet der KI relevant sind, vertraut zu machen, und zudem technischen Kreisen näher zu bringen, in welchem Umfeld die politischen Entscheidungsträger gegenwärtig tätig sind. Das Projekt soll nachhaltige Beziehungen und eine dauerhafte Zusammenarbeit zwischen interessierten Akteuren innerhalb der verschiedenen Gemeinschaften und zwischen den verschiedenen Gemeinschaften erleichtern. Die entsprechenden Effekte heterogener Netze dürften eine stärkere Entwicklung und eine breite Förderung von verantwortlicher Innovation auf dem Gebiet der KI im Dienste von Frieden und Sicherheit auch über den Zeitrahmen des Projekts hinaus ermöglichen.

Der Dialog mit der Privatwirtschaft dürfte bewirken, dass sich die auf dem Gebiet der KI tätigen Unternehmen der Privatwirtschaft stärker und intensiver mit der Frage befassen, wie die durch Umlenkung und Missbrauch ziviler KI-Forschung und -Innovation entstehenden Risiken für Frieden und Sicherheit erkannt werden können, ihnen vorgebeugt werden kann und sie gemindert werden können. Das Projekt soll bewirken, dass die Hauptakteure der privatwirtschaftlichen Prozesse ein besseres Verständnis und mehr Eigenverantwortung für die Problematik entwickeln. Außerdem soll es dazu beitragen, dass im Rahmen bestehender Risikomanagementsysteme und -verfahren der Unternehmen (verstärkt) verantwortungsvolle Innovationsprozesse, -verfahren und -mittel übernommen und angewandt werden.

Der Dialog zwischen verschiedenen Interessenträgern und das Rundtischgespräch mit Teilnehmenden aus der Privatwirtschaft sollen zudem zu Erkenntnissen in Bezug auf einige wesentliche Fragen führen, unter anderem in Bezug auf folgende Fragen: a) Wie können verantwortungsvolle Methoden und Mittel der Innovation weiter verbessert und eingesetzt werden, um die mit der Umleitung und dem Missbrauch ziviler KI-Forschung und -Innovation einhergehenden Risiken zu erkennen, ihnen vorzubeugen und sie zu mindern? b) Wie können Forschung und Innovation auf dem Gebiet der KI positiv für die Verwirklichung von Friedens- und Sicherheitszielen genutzt werden (z. B. Anwendungen für die Konfliktfrühwarnung und humanitäre Hilfe)? c) Welche Möglichkeiten bestehen, um einen intensiveren Dialog und Informationsaustausch zwischen den Risikominderungsbemühungen der auf den zivilen Bereich ausgerichteten verantwortungsvollen KI-Gemeinschaft (beispielsweise den verschiedenen Initiativen unter der Federführung des IEEE) und den bereits auf zwischenstaatlicher Ebene laufenden Bemühungen in den Bereichen Abrüstung, Rüstungskontrolle und Nichtverbreitung zu erleichtern?

Im Zuge der Berichterstellung und der Maßnahmen zur Informationsverbreitung werden die durch die Projekte 1, 2 und 3 gewonnenen Erkenntnisse analysiert, konsolidiert und verbreitet, um die Projektergebnisse und daraus resultierenden Empfehlungen sowohl in der globalen KI-Gemeinschaft als auch in Kreisen der Politik besser bekannt zu machen. Dies soll auch dazu beitragen, dass die Projekte über ihre Laufzeit hinaus Wirkung entfalten.

4.    LAUFZEIT

Die Dauer der Durchführung der Projekte wird mit insgesamt 36 Monaten veranschlagt.