Issuu

Herausforderung fĂźr Industrie & StreitkrĂ¤fte

Eine Kooperation DVV | griephan und dem Bundesverband der Deutschen Industrie (BDI)

01 | 2019

www.griephan.de

Edition

Editorial_Schulte

KI – Herausforderung für Industrie & Streitkräfte Die digitale Revolution ist in vollem Gange: In der Wirtschaft wird die Digitalisierung oft mit der Erfindung des Fließbandes oder der Dampfmaschine verglichen. Im militärischen Bereich bietet sich ein ähnlich disruptiver Vergleich an – der Verbrennungsmotor Anfang des vergangenen Jahrhunderts. Dieser erlaubte die Entwicklung von Flug-, Kampf- und Lastkraftfahrzeugen, die nicht nur die Geschwindigkeit von militärischen Operationen dramatisch erhöhten, sondern gleich eine weitere Dimension zugänglich machten. Als fünfte Dimension neben Land, See, Luft und Weltraum ist heute die Domaine Cyber hinzukommen. Cyber selbst sowie die Digitalisierung der vorhandenen Domainen zeichnet sich durch eine kaum zu beherrschende Flut von Informationen aus. Hier kann Künstliche Intelligenz (KI), also selbstlernende Algorithmen, dem Menschen einen Großteil der Arbeit abnehmen, sodass dieser sich auf das Wesentliche konzentrieren kann: das Entscheiden. In bewährter Zusammenarbeit mit dem Bundesverband der Deutschen Industrie (BDI) nähern wir uns in dieser Ausgabe der griephan Edition dem Komplex KI und seiner Bedeutung für die Industrie und den Streitkräften. Es sind nicht die Rüstungsfirmen, die an der technologischen Speerspitze der Digitalisierung stehen – es sind die großen Technologiefirmen Amazon, Alphabet (Google), Apple und Microsoft. Stefan Mair, Mitglied der Hauptgeschäftsführung des BDI, stellt den internationalen Umgang mit dem Thema dar und fordert die Einstufung von KI als nationale Schlüsseltechnologie.

Wir stehen ganz am Anfang einer rasanten Entwicklung. Gesellschaften und bewaffnete Konflikte werden sich in einer Art und Weise verändern, die wir heute nur am Horizont erahnen können. Von der Krisenfrüherkennung bis zum Kampfeinsatz, KI wird auf allen militärisch relevanten Ebenen zur Anwendung kommen, so Generalleutnant Ludwig Leinhos, Inspekteur des Kommando Cyber und Informationsraum CIR. Welche Herausforderungen in der Gestaltung und Übernahme von selbstlernenden Algorithmen zur Verwendung in Waffensystemen zu beachten sind, legen Dr. Ervin Kolenovic und Dr. Norbert Härle von Rheinmetall Electronics in ihrem Beitrag dar. Die Digitalisierung wirkt sich bereits disruptiv auf bestehende Strukturen aus. Die Sorge, dass dem Menschen Kontrolle und Verantwortung entgleiten, ist real und beschäftigt die Parlamente. Laut Prof. Dr. Carlo Masala, Bundeswehruniversität München, müssen ethische und rechtliche Fragen über militärisch nutzbare KI diskutiert und geklärt werden, sie dürfen aber deren Einsatz nicht von vornherein ausschließen. Gesellschaften, Industrie und Streitkräfte müssen sich dieser Herausforderung stellen. Sebastian Schulte Chefredakteur DVV | griephan

griephan Edition ist eine unregelmäßig erscheinende Sonderpublikation von griephan. Verlag DVV Media Group GmbH | griephan Postfach 101609, D-20010 Hamburg Heidenkampsweg 73–79, D-20097 Hamburg www.dvvmedia.com | www.griephan.de Martin Weber (Geschäftsführer) Manuel Bosch (Verlagsleiter)

DVV Media Group

griephan Edition 01/2019

Redaktion Sebastian Schulte (verantw.) Anna Sturm E-Mail: anna.sturm@dvvmedia.com

Anzeigen Dr. Uwe Wehrstedt (Anzeigenverkauf) E-Mail: wehrstedt@griephan.de Vera Hermanns (Anzeigentechnik) Vertrieb Markus Kukuk (Vertriebsleitung) Copyright 2019 DVV Media Group GmbH | griephan Cover: © Andriy Onufriyenko / Getty Images

Edition_MAIR

KI & Verteidigung: Perspektiven der deutschen Industrie DURCHDRINGUNG KI durchdringt alle Bereiche unserer Gesellschaft. Sie wird unsere Wirtschaft, unser Zusammenleben und auch unsere Streitkräfte fundamental verändern. Dr. Stefan Mair

te Killerroboter, sondern vielmehr um die praktische Unterstützung des Menschen. Es bedarf bei diesem sensiblen Thema einer differenzierten Betrachtungsweise, um auch in Zukunft Sicherheit zu gewährleisten und gleichzeitig die eigenen Werte und Maßstäbe aufrechtzuerhalten. Für die Bereiche Sicherheit und Verteidigung kann die Bedeutung von KI nicht hoch genug eingeschätzt werden. KI wird künftig alle militärischen Systeme erfassen. Es entstehen neue Chancen für innovative Sicherheitsanwendungen. So kann KI die Soldatinnen und Soldaten beispielsweise bei der Abwehr von Cyberangriffen, der Erstellung von Lagebildern und in der Militärlogistik unterstützen. Besondere Relevanz kann KI darüber hinaus in sogenannten Triple-D-Missionen (dirty, dull, dangerous) haben. Neue Anwendungen haben das Potenzial, die Fähigkeiten der Bundeswehr zu erweitern und die Streitkräfte personell zu entlasten. Für westliche Armeen, die besonders vom technologischen Vorsprung abhängen, wird KI von großer Bedeutung sein und zum entscheidenden Faktor in der militärischen Auseinandersetzung werden. Gleichzeitig gibt es gewichtige ethische Vorbehalte, denn bei Einsätzen von Streitkräften geht es immer unmittelbar und mittelbar um das Leben von Menschen. Was ist KI? Gegenwärtig existiert keine

allgemeingültige KI-Definition. Die meisten Erklärungsansätze verstehen darunter die Fähigkeit eines Computersystems, Aufgaben zu erledigen, die normalerweise menschliche Intelligenz erfordern wie Wahrnehmung, Interaktion oder Entscheidungsfin-

Foto: Kittiphat | Fotolia.com

Trend Dabei geht es nicht um sogenann-

dung. Wie selbstständig ein System handelt, ist dabei variabel. Grundsätzlich gilt, dass nichtautonome oder teilautonome Systeme von Menschen bedient werden, das heißt diese greifen entweder direkt über eine Fernsteuerung ein (human in the loop) oder überwachen die Systeme während des Einsatzes (human on the loop). Im Gegensatz dazu können vollautonome Systeme Tätigkeiten gänzlich selbstständig ausführen, ohne auf die direkte Steuerung oder Kontrolle durch den Anwender angewiesen zu sein (human out of the loop).

Anwendungsfelder von KI im Sicherheitsbereich Bereits heute ist KI

ein elementarer Bestandteil der inneren und äußeren Sicherheit. Mit steigender Rechenleistung von Computern haben sich auch die Möglichkeiten ihrer Anwendung signifikant erweitert. Die Bundeswehr nutzt Defensivsysteme, die über eine eingeschränkte Autonomie verfügen. Diese Systeme verbessern aufgrund ihrer kurzen Reaktionszeit den Schutz der Soldatinnen und Soldaten. Ein Beispiel hierfür sind Raketenabwehrsysteme der deutschen Marine, die heranfliegende See-

griephan Edition 01/2019

EDITION_MAIR

» Durch die schrumpfende Zahl der Soldaten als sogenannte Systembediener müssen Waffensysteme in Zukunft mit Hilfe der KI noch autonomer werden.«

Ethische Fragen hinsichtlich der Nutzung von KI im Sicherheitsbereich Je weiter Digitalisierung und Auto-

matisierung voranschreiten, desto größer wird die Distanz eines Akteurs zu den Auswirkungen seines Handelns. Im Fall einer bewaffneten Auseinandersetzung können Soldaten weiter vom Ort des Geschehens entfernt sein als je zuvor. Automatisierungsprozesse im Sicherheitsbereich werfen zwangsläufig Fragen nach Verantwortlichkeit und der Vereinbarkeit mit völkerrechtlichen Grundsätzen auf. Dies gilt nicht nur, aber besonders für die Anwendung letaler Mittel durch ein teiloder gar vollautonomes System. Die Grundprinzipien der Unterscheidung zwischen Kombattanten und Nicht-Kombattanten, der Verhältnismäßigkeit der eingesetzten Mittel sowie der Vorsicht und Vorsorge im Gefecht müssen beachtet werden. Auch wenn die Technik noch nicht so ausgereift ist, um in der Praxis angewandt zu werden, muss die Frage der ethischen Vertretbarkeit schon heute thematisiert werden, um die weiteren Entwicklungen entsprechend begleiten und steuern zu können. Viele Organisationen, da-

griephan Edition 01/2019

runter die Association For The Advancement Of Artificial Intelligence (AAAI), befassen sich bereits mit der Erarbeitung entsprechender Grundsätze. Auch der Plan der Europäischen Kommission, Leitlinien zur Ethik in der KI auszuarbeiten, ist ein wichtiger Schritt, um das Potenzial von KI in verantwortlicher Art und Weise zu nutzen. Veränderungen für die staatliche Sicherheit durch KI Eine der Kern-

aufgaben eines jeden Staates ist die Gewährleistung von Sicherheit für die eigenen Bürgerinnen und Bürger. Die Bundesregierung ist deshalb in der Pflicht, sich KI aus sicherheitspolitischer Sicht zu widmen. Viele Staaten haben das enorme Potenzial der KI-Anwendung erkannt und entsprechende Programme zur militärischen Entwicklung aufgelegt. In der französischen KI-Strategie stellt Verteidigung eine Priorität öffentlicher KI-Investitionen dar. In den USA hat die Defence Advanced Research Projects Agency (DARPA) im September 2018 im Zuge ihrer „AI Next“-Kampagne eine Investition von umgerechnet rund 1,73 Mrd € angekündigt. Im Gegensatz dazu bestehen in Deutschland bis heute keine entsprechend finanziell ausgestatteten Programme im Verteidigungsbereich. Der Dual-Use-Charakter von KI, also die gleichzeitige Eignung von Technologien für zivile sowie militärische Zwecke, macht es darüber hinaus zwingend notwendig, einen engen Austausch zwischen ziviler und militärischer Forschung zu pflegen. Dadurch kann von den Entwicklungen aus dem jeweils anderen Bereich gelernt und profitiert werden. Handlungsempfehlungen der deutschen Industrie Der BDI fordert

von der Bundesregierung erstens die Ächtung offensiver Lethal Autonomous Weapons Systems (LAWS). Die bisher bei den internationalen Verhandlungen in Genf geforderte politische Absichtserklärung reicht nicht aus, um den Einsatz offensiver vollautonomer Waffensysteme in Zukunft zu verhindern. Auf der Basis einer Ächtung des Einsatzes vollautonomer Waffen sollte zweitens ein internationales Vertragswerk geschaffen werden, das den Umgang mit KI in militärischen

Foto: BDI

zielflugkörper im Nahbereich selbstständig erkennen und bekämpfen. Auch landgestützte Flugabwehrsysteme verfügen über einen hohen Automatisierungsgrad. Mit dem deutsch-französischen Vorhaben eines Future Combat Air Systems (FCAS) halten Drohnenschwärme erstmalig Einzug in die Konzeption eines militärischen Großprojektes. Diese sollen in Zukunft von einem bemannten Kampfflugzeug geführt werden können, um selbstständig Ziele zu beobachten oder den menschlichen Piloten zu schützen. Zum sogenannten „Manned-Unmanned Teaming (MUT)“ hat Airbus bereits im Sommer 2018 an der deutschen Ostseeküste erfolgreich Demonstrationen durchgeführt. Die Bundeswehr hat erkannt, dass die Kampfkraft moderner Armeen nicht mehr allein durch die Masse der Soldatinnen und Soldaten bestimmt wird, sondern durch die Menge und Qualität der einsetzbaren Waffensysteme. Durch die schrumpfende Zahl der Soldaten als sogenannte Systembediener müssen Waffensysteme in Zukunft mit Hilfe der KI noch autonomer werden.

Dr. Stefan Mair Mitglied der Hauptgeschäftsführung Bundesverband der Deutschen Industrie

Konflikten regelt. Dies schafft Vertrauen und Berechenbarkeit. Dabei sollten klare Standards und Normen etabliert werden, in welcher Form KI in bewaffneten Auseinandersetzung eingesetzt werden darf. Auch die Frage nach der Verantwortlichkeit für die Handlungen KI-gestützter Systeme muss aufgegriffen werden. Deutschland darf im Sicherheitsbereich gleichwohl nicht den Anschluss an KI-Innovationen verpassen. Um eine ständige Verfügbarkeit relevanter KI zu gewährleisten, bedarf es deshalb drittens einer expliziten Einstufung sicherheitsrelevanter KI als nationale Schlüsseltechnologie. Die Technologie leistet einen entscheidenden Beitrag zur strategischen Unabhängigkeit Deutschlands in einer multipolaren Welt. Die damit verbundene Priorisierung von Forschungs- und Entwicklungsvorhaben, die Möglichkeit des besonderen Schutzes von industriellem Know-how sowie die vereinfachte Auftragsvergabe durch das Bundesministerium der Verteidigung sind nur einige der positiven Effekte, die eine entsprechende Einstufung auf die Entwicklung sicherheitsrelevanter Algorithmen haben würde. Die Bundesregierung ist gefordert, den in der KI-Strategie sowie im Koalitionsvertrag formulierten Ansprüchen Taten folgen zu lassen und die Grundlagen für eine ethisch vertretbare und gleichzeitig wettbewerbsfähige Nutzung von KI in den Streitkräften zu schaffen. 

EDITION_MASALA

Mehr Mut & Realismus ANWENDUNGSFELDER Die Konvergenz von Technologien wie Robotik, Cyber und KI wird das Kriegsbild der Zukunft dramatisch verändern. Ethische Fragen mit Blick auf autonome Waffensysteme müssen angegangen und beantwortet werden, dürfen aber nicht grundsätzlich ihrer Nutzung im Wege stehen.

Widerspruch In der deutschen Diskussion über den Einsatz von KI gibt es einen eklatanten Widerspruch. Wenn KI zur Verbesserung und Erleichterung unseres alltäglichen Lebens eingesetzt wird, findet dies bei ei-

nem Großteil der Bevölkerung, aber auch der Experten ungeteilte Zustimmung. Sobald es jedoch um den Einsatz von KI im Militär geht gibt es einen einhelligen Widerstand. Autonome Waffensysteme werden dämonisiert, das Bild vom Terminator als Killermaschine wird bemüht und „fast“ alle sind sich darin

einig, dass es „Killerroboter“ zu verhindern gilt. Der Mensch muss „in the loop“ bleiben so lautet das Credo. Ethische & juristische Fragen Und in der Tat sind mit dem Einsatz von KI in Streitkräften grundsätzliche ethische und juristische Fragen verknüpft. Dürfen Maschinen selbst Ziele auswählen und eliminieren? Wer ist eigentlich letzten Endes dafür verantwortlich, wenn diese lernfähigen Maschinen Kollateralschäden produzieren. Der Roboter selbst kann ja schlecht vor ein Gericht gestellt werden. Ist es der Programmierer? Der big data Analyst? Oder der Kommandeur, in dessen Einheit der Roboter „stationiert“ ist? Wichtige und richtige Fragen, die bislang einer Beantwortung harren. Daraus aber den Schluss zu ziehen, dass es nie zu dem Einsatz vollautonomer Waffensysteme kommen dürfe, verkennt aber die Realität. Denn bereits heute ist absehbar, dass Großmächte, wie die USA, China und Russland mit Hochdruck an solchen vollautonomen Systemen arbeiten und wenn es ihnen gelingen sollte (wovon angesichts des technologischen Fortschrittes auszugehen ist) vollautonome Waffensysteme zur Einsatzreife zu bringen, dann ist davon auszugehen, dass sie diese Systeme auch einsetzten werden. Deutschlands Position In Deutsch-

Foto: VitalikRadko / Depositphotos.com

Prof. Dr. Carlo Masala

land hingegen wird vor dieser Entwicklung noch immer die Augen verschlossen. Vollautonome Waffensysteme sind per definitionem nicht erwünscht und deshalb setzt die Bundesregierung (oder genauer gesagt das Auswärtige Amt) auch alles daran sich für ein Verbot solcher Waffensysteme einzusetzen. Die Chancen dafür stehen aber schlecht. Bei den Genfer Verhandlungen zum Bann autonomer Waffensystemen zeichnet sich ein Scheitern ab. Chinesen und Russen, aber auch Amerikaner obstruieren diese Verhandlungen dergestalt, dass bereits die Frage, wie ein autonomes Waffensystem zu definieren sei, strittig ist.

griephan Edition 01/2019

EDITION_MASALA Angesichts dieser Entwicklungen gilt es sich die Frage zu stellen, was Deutschland eigentlich macht, wenn die Großmächte vollautonome Waffensysteme in naher Zukunft zum Einsatz bringen werden? Frank Sauer macht in seinen Publikationen immer wieder darauf aufmerksam, dass die Frage des Einsatzes vollautonomer Waffensysteme, eine ist, die Kontextabhängig zu beantworten sei. Und in diesem Punkt stimme ich ihm zu. Denn es macht einen Unterschied, ob wir uns über defensive oder offensive vollautonome Waffensysteme unterhalten. Im Gegensatz zu Frank Sauer würde ich aber noch einen Schritt weiter gehen und die politische sowie militärische Realität in diese Betrachtung miteinbeziehen wollen. Defensive & offensive Waffensysteme Alles, was den Schutz unserer

Soldaten im Einsatz verbessert, auch wenn es vollautonom ist, ist uneingeschränkt zuzustimmen. Was die Frage von defensiven Waffensystemen anbetrifft so wird auch hier der Weg an vollautonomen Systemen nicht vorbei führen. Wenn man sich die russischen Hypersonic Raketen vor Augen führt, die mit einer Geschwindigkeit von Mach 5 fliegen und zum gegenwärtigen Zeitpunkt von keinem Raketenabwehrsystem abgefangen werden können, dann macht es Sinn als Antwort auf diese neue Herausforderung auf vollautonome Waffensysteme zu setzten, die schneller als ein Mensch auf diese „neue“ militärtechnologische Herausforderung reagieren können. Aber auch in dem umstrittensten Bereich, dem der offensiven Waffensysteme, darf sich Berlin der Diskussion um deren möglicher Produktion oder ihrem Erwerb nicht verschließen. Trotz aller ethischen Bedenken muss die Frage beantwortet werden, was Deutschland macht, wenn der Trend in Richtung Einsatz vollautonomer Waffensysteme auf dem Schlachtfeld der Zukunft geht. Und die Antwort kann nur lauten, dass Deutschland, wenn es zu keinem globalen Verbot solcher Waffen kommen sollte, nicht umhinkommt sich diesem Trend anzuschließen und ebenso auf diese Waffensysteme zu setzen. Es ist bereits heute möglich, solche Systeme mit einer „Schieberegler“Technologie auszustatten, die es erlaubt von semi-auf vollautonom umzuschalten. Damit könnte Deutschland über offensive Waffensysteme verfügen, die ggf. vollautomatisiert zum Einsatz kommen könnten. Warum ist es so wichtig, dass sich Deutschland in der Frage des Einsatzes offensiver vollautonomer Waffensysteme anders als bislang erfolgt positioniert? Drei Punkte sprechen aus

griephan Edition 01/2019

» Alles, was den Schutz unserer Soldaten im Einsatz verbessert, auch wenn es vollautonom ist, ist uneingeschränkt zuzustimmen.«

meiner Sicht dafür: Zum einen die bereits erwähnte Tatsache, dass andere auf diese Entwicklung setzen und sie zum Einsatz bringen werden. Will man in Berlin auch weiterhin sicherheits- und verteidigungspolitische Gestaltungsmacht haben, dann wäre es ein Gebot der Stunde, sich nicht gegen diesen Trend zu stellen, sondern ihn sich zu Eigen zu machen. Zweitens, der Einsatz vollautonomer Waffensysteme wird das Kriegsbild der Zukunft sehr wahrscheinlich drastisch verändern. Staaten, die sich aus prinzipiellen Erwägungen gegen diese Entwicklungen stellen, werden nicht mehr koalitionsfähig sein. Für Deutschland würde dies bedeuten, den Anschluss an die USA noch mehr zu verlieren, als dies ohnehin der Fall ist und bei möglichen Einsätzen zu Hilfstruppen der technologischen Militärmacht USA degradiert zu werden. Weder politisch noch militärisch kann dies im Interesse der Bundesrepublik sein. Und drittens dient der Einsatz vollautomatisierter Waffensysteme dazu, in der Lage zu sein, sich gegen eine mögliche territoriale Bedrohung verteidigen zu können. Denn die potentiellen Aggressoren der Zukunft werden solche Waffen zum Einsatz bringen und angesichts solcher zu erwartender Entwicklungen, auf den potentiellen eigenen Einsatz vollautomatisierter Systeme zu verzichten würde in einem eklatanten Widerspruch zu der staatliche Aufgabe des Schutzes des eigenen Territoriums vor äußeren Angriffen stehen. Fazit Zusammenfassend kann man sagen, dass Deutschland aus wohlverstandenem Eigeninteresse seine Position mit Blick auf vollautomatisierte Waffensysteme überden-

Prof. Dr. Carlo Masala Inhaber Lehrstuhl für Internationale Politik an der Universität der Bundeswehr, München Mitpodcaster bei Sicherheitshalber, Podcast zur Sicherheitspolitik

ken und differenzieren sollte. Alles was zum Schutz der eigenen Soldaten im Einsatz und der Fähigkeit von Angriffen mit „neuen“ Technologien anbetrifft sollte ohne Einschränkungen begrüßt werden und die Entwicklung an solchen Systemen mit finanzieller Unterstützung vorangetrieben werden. Was die Frage offensiver Fähigkeiten anbelangt so gilt es sich der bislang vorherrschenden Bedenkenträgerei und der moralischen Scheuklappen zu entledigen. Wenn Deutschland Anspruch auf sicherheits- und verteidigungspolitische Gestaltungsmacht erheben will, dann wird es nicht umhin kommen, sich auch der Frage offensiver vollautomatisierter Waffensysteme zu öffnen, trotz aller Probleme (ethischer und rechtlicher Art), die damit gegenwärtig noch verbunden sind. 

EDITION_LEINHOS

Foto: Gorodenkoff / Depositphotos.com

Herausforderung angenommen: Streitkräfte & KI

AUSWIRKUNGEN Sei es Kampfeinsatz, Logistik oder Krisenfrüherkennung und -management, KI wird in allen militärischen Bereichen eine herausragende Rolle spielen.

Generalleutnant Ludwig Leinhos Megatrend Digitalisierung ist der Megatrend, der Staat, Wirtschaft und Gesellschaft in den kommenden Jahren und Jahrzehnten bewegt. Sie ist gleichzeitig Grundlage für die Nutzung von KI. Die Tragweite der Auswirkungen sind jetzt noch nicht abzuschätzen. Sicher ist jedoch, dass KI auch im militärischen Umfeld mehr und mehr zum Einsatz kommen wird. Ethische und rechtliche Leitlinien sind dafür unerlässlich.

Starke & schwache KI Grundlage für KI

ist die Digitalisierung. Beide sind bereits im Alltag angekommen und beide zeigen uns für die Zukunft enorme Chancen auf. Verbesserungspotenzial liegt in unzähligen Bereichen, auch bei den Streitkräften. Bei dem Komplex KI geht es darum, technische Systeme so zu konzipieren, dass sie Probleme eigenständig bearbeiten und sich dabei selbst auf veränderte Bedingungen einstellen können. Diese Systeme haben die Eigenschaft aus neuen Daten zu „lernen“ und

mit Unsicherheiten umzugehen, statt klassisch programmiert zu werden. Wissenschaftlich wird zwischen „starker“ und „schwacher“ KI unterschieden. Die Unterstützung durch eine KI im Alltag, sei es durch virtuelle persönliche Assistenten wie Google Assistant, Siri oder Alexa, oder aber im Bereich der Routenplanung und ähnlichem basieren auf einer „schwachen” KI. Das heißt, sie fokussieren sich auf die Lösung eines konkreten Anwendungsproblems. Innerhalb ihrer Anforderungen ist sie in der Lage, sich selbst

griephan Edition 01/2019

EDITION_LEINHOS zu optimieren, erlangt allerdings kein tieferes Verständnis für die Problemlösung. Militärisch nutzten die amerikanischen Streitkräfte bereits während des ersten Golfkriegs ein durch schwache KI gestütztes Programm zur Optimierung von Personal- und Materialtransporten. Als Gegensatz gilt die „starke” KI, deren Ziel ist, dem Menschen vergleichbar intellektuelle Fähigkeiten zu erlangen beziehungsweise sie zu übertreffen. Mit heutigem Stand ist es noch nicht gelungen, eine starke KI zu entwickeln. Trotz der Diskussion, ob die Entwicklung einer starken KI möglich ist, sind sich Forscher einig darüber, dass eine Zeitspanne von 20 bis 40 Jahren als realistisch gilt.

konzentrieren, was die Maschine nicht kann: Schlüsse ziehen und bewertende Handlungsoptionen ableiten. Dies ist gleichzeitig ein Punkt, der mir ungemein wichtig ist: Die Entscheidung zur Verwendung der Informationen muss und wird immer der Mensch treffen. Auch in den Bereichen Ausbildung, Materialerhaltung und Logisitik der Bundeswehr wird KI in der Zukunft sicher Verbesserungen bringen. Im Heer z.Bsp. werden derzeit Anwendungsmöglichkeiten für den Einsatz von KI und Machine Learning-Verfahren identifiziert und prototypisch realisiert. Die Luftwaffe untersucht das Nutzungspotential von KI im Air Command and Control (AirC2)-Planungsprozeß und den Einsatz von KI im Bereich der Missionsplanung. Im medizinischen Bereich wird die bildgebende Analyse bei der Diagnostik schon jetzt unterstützt. Doch nicht nur wir als Bundeswehr haben die militärischen Potenziale von KI erkannt – das US-Verteidigungsministerium hat ein KI-Zentrum gegründet und Russland intensiviert die

Foto: Bundeswehr / Martina Pump

Chancen KI ist für die Digitalisierung der gleiche Quantensprung, der für die Industrie das Fließband war. Das Weißbuch von 2016 adressiert daher konsequenterweise die Nutzung von KI auch für die Bundeswehr. Besonders bei der Strukturierung großer Da-

tenmengen birgt sie enorme Potenziale. So können KI-Werkzeuge wie eine Art Metalldetektor die sprichwörtliche Nadel im Heuhaufen der Big Data finden. Militärisch könnten wir dies beispielsweise bei der Krisenfrüherkennung anwenden. Hierzu stellt das Bundesministerium der Verteidigung in Zusammenarbeit mit der Industrie seit 2017 das Projekt IT-Unterstützung Krisenfrüherkennung auf. Daran beteiligt ist unter anderem die Universität der Bundeswehr in München. Auch im Gemeinsamen Lagezentrum in meinem Kommando Cyber- und Informationsraum (CIR) kommen künftig KIWerkzeuge zum Einsatz, damit Entscheidungen auf fundierterer Grundlage und schneller getroffen werden können. Die KI-Werkzeuge unterstützen dabei, Teillagen mit Relevanz für die Dimension CIR zu fusionieren, systematisch aufzubereiten und darzustellen – quasi selbst als neue Cyberfähigkeit. Hier zeigt sich der immense Vorteil von KI: Die Analysten werden entlastet und können sich auf das

griephan Edition 01/2019

EDITION_LEINHOS

Forschung ebenso wie China. Militärisch genutzte KI ist also ein Thema mit strategischer Reichweite. Weiterentwicklung Bei mir als Inspek-

teur CIR liegt auch die Verantwortung für die Weiterentwicklung des IT-Systems der Bundeswehr. Daher ist es mir ein Anliegen – wie bei der Digitalisierung der Bundeswehr – auch bei der Nutzbarmachung von KI für die Bundeswehr für die Interoperabilität, Effizienz und Sicherheit des Systems zu sorgen. Am Zentrum für Softwarekompetenz der Bundeswehr, das wir Anfang April diesen Jahres aufgestellt haben, haben wir die Fähigkeiten zur Softwareentwicklung und -analyse gebündelt. Die Angehörigen des Zentrums arbeiten zum Beispiel daran, Anwendungen, die zur Beurteilung von Lagen mit Relevanz für den Einsatz beitragen, bis auf die Ebene der Algorithmen und Methoden zu verstehen. Wir schaffen so Transparenz für einen militärischen Anwender und können auf diese Weise Anwendungen – einschließlich KI – für die Bundeswehr nutzbar machen. Das Zentrum für Softwarekompetenz der Bundeswehr entwickelt Software außerdem selbst, um von vornherein passgenaue Produkte zu ermöglichen. Des weiteren stehe ich für eine intensive Zusammenarbeit mit dem Cyber Innovation Hub, der Cyber-Agentur und dem Forschungsinstitut CODE an der Universität der Bundeswehr in München. Gemeinsam mit diesen Institutionen wird es uns als Organisationsbereich Cyber- und Informationsraum gelingen, neue Innovationen im Bereich der KI schnell – auch außerhalb der Bundeswehr – aufzuspüren und für die Bundeswehr nutzbar zu machen. Die Agilität und Innovationsfähigkeit dieser Instutionen innerhalb Deutschlands wird uns helfen, KI auch militärisch nutzen zu können.

ziehbar sind. Des Weiteren ist es für mich unabdingbar, dass wir ethische und rechtliche Leitlinien – mindestens für uns in Deutschland – festlegen. Ein ebenso gewichtiger Punkt ist, dass wir – wie es auch im Koalitionsvertrag formuliert ist – die Nutzung von letalen autonomen Waffensystemen, die der Entscheidungsgewalt des Menschen über Leben und Tod entzogen sind, ächten. Das Bundesministerium der Verteidigung definiert ein letales autonomes Waffensystem als „ein Waffensystem, welches in erster Linie dazu bestimmt ist, tödliche Gewalt allein gegen Personen zur Wirkung zu bringen, und welches, ohne jegliche menschliche Einflussnahme und Kontrolle sein Umfeld und seinen internen Zustand wahrnimmt, eine Beurteilung der Situation vornimmt, entscheidet, rational handelt, evaluiert und daraus lernt“. Solche Systeme lehne ich ab. Die Entscheidung über den Einsatz von Waffensystemen muss immer durch den Menschen getroffen werden. Das bedeutet, dass diese Systeme durch den Menschen erst dann aktiviert werden, wenn die Bedrohungslage es verlangt, sie jederzeit abgeschaltet werden können und absolut vorhersehbar reagieren. Genau dieses unterscheidet ein automatisiertes System von einem autonomen System, das außerhalb der Kontrolle des Menschen operiert. Ein weiterer entscheidender Punkt ist, dass von Beginn an bei der Integration die Nachvollziehbarkeit der durch die KI basierten Entscheidungen mitberücksichtigt wird. Die durch die KI getroffenen Entscheidungen müssen transparent und zu jederzeit nachvollziehbar sein. Und deshalb bleibt es auch wichtig, dass menschliche Analysten am Ende des Prozesses stehen und entscheiden, ob und wie sie die durch KI gewonnenen Informationen verwenden. Fazit Die richtige Information zur richtigen

Erfordernisse Doch auch die beste KI

bringt nur Ergebnisse, die ihr ein von Menschen entwickelter Algorithmus vorgibt. Dieser kann Fehler haben oder aber auch bewusst manipuliert sein. Gerade deshalb ist und bleibt es immer entscheidend, dass die Entwicklungs- und Integrationsschritte von KI in alle Lebensbereiche offen nachvoll-

Zeit kann für Soldaten im Einsatz über Leben und Tod entscheiden. KI kann in Sekundenschnelle aus einer Fülle von Detailinformationen, öffentlich zugänglicher wie vertraulicher, zum Beispiel aus Satellitenbildern, Funkdaten, Verkehrslage, bekannten Operations- und Bewegungsmustern oder geografischen Gegebenheiten für eine Patrouille das Risiko ei-

Foto: ©Alpers

» Die Entscheidung über den Einsatz von Waffensystemen muss immer durch den Menschen getroffen werden.«

Generalleutnant Ludwig Leinhos Inspekteur Cyber- und Informationsraum (CIR)

nes Hinterhalts berechnen. KI kann aber auch aus Millionen von Daten den entscheidenden Hinweis herausfiltern, dass sich in einem von Terroristen genutzten Gebäude auch Zivilisten befinden. Die Chancen die KI auch im militärischen Bereich mit sich bringt sind enorm und gilt es auch für die Bundeswehr zu nutzen – jedoch nur unter der Prämisse einheitlicher ethischer und rechtlicher Leitlinien. Wir im Organisationsbereich CIR sehen uns, wie im Bereich der Digitalisierung, als Treiber dieses Prozesses. Mit dem Zentrum für Softwarekompetenz der Bundeswehr haben wir eine zentrale Stelle geschaffen, die einen wesentlichen Anteil an der Implementierung von möglichen KI-basierten Lösungen in die Bundeswehr beitragen kann. In unserem Gemeinsamen Lagezentrum im Kommando Cyber- und Informationsraum haben wir bereits erste Schritte und Erfolge bei der Nutzung von KI gemacht. Mein Ziel als Inspekteur Cyber- und Informationsraum ist es, die Chancen von KI in der Bundeswehr zu nutzen und so die Bundeswehr auch in diesem Bereich zukunftsfähig aufzustellen. 

griephan Edition 01/2019

EDITION_KOLENOVIC/HÄRLE

Verteidigungsindustrie: Integration digitaler Technologien AUTOMATION Die automatisierte, intelligente Analyse großer Informationsmengen unterschiedlicher Art ist die letzten Jahre sehr leistungsfähig geworden und gewinnt zunehmend an Bedeutung. dazu signifikante Beiträge zu liefern, und gelten in einigen Bereichen als revolutionär. Neue Fähigkeiten haben sich insbesondere mit der Einführung des Deep Learnings in Kombination der freien Verfügbarkeit großer Datenmengen und der steigenden Fähigkeit, diese zu verarbeiten, ergeben. Fortschritte beim sogenannten Reinforcement Learning verbesserten insbesondere die Lernphase. Damit konnten große Erfolge in verschiedenen Disziplinen, wie z. B. der Bildverarbeitung und der Spracherkennung erzielt werden.

Foto: Colin Anderson Productions pty ltd / Getty Images

Einfluss von zivilen KI-Systemen auf Unternehmen & Staat Die freie

Dr. Ervin Kolenovic / Dr. Norbert Härle Bestandsaufnahme Digitalisierung ist

zu einem wesentlichen Bestandteil unserer Gesellschaft geworden. Durch ihre große und stetig wachsende Bedeutung für viele verschiedene Lebensbereiche ist sie auch ein wichtiger Aspekt zur Gewährleistung von staatlicher, industrieller und privater Sicherheit geworden. Die zunehmende Digitalisierung und Vernetzung erzeugt eine immer größer werdende Menge von verfügbaren Daten,

griephan Edition 01/2019

die es zu schützen und, zur Gewährleistung der Sicherheit, zu nutzen gilt. Die automatisierte, intelligente Analyse großer Informationsmengen unterschiedlicher Art ist die letzten Jahre sehr leistungsfähig geworden und gewinnt zunehmend an Bedeutung. Dadurch eröffnet sich die Perspektive, Informationslagen schneller und umfassender auszuwerten, als es der Mensch kann und ihn bei der Situationsanalyse oder bei komplexen Entscheidungen zu unterstützen. Aktuelle Fortschritte im Bereich der KI versprechen,

Verfügbarkeit und die weite Verbreitung von KI-Systemen in der zivilen Welt ist ein Treiber für Digitalisierung im Verteidigungsbereich geworden. Wie in anderen Bereichen ergibt sich auch hier die Situation, dass die Verteidigungstechnik durch die zivile Technologie getrieben wird und versuchen muss, die vorhandene, sich schnell wandelnde, zivile Technik so schnell und so gut wie möglich zu adaptieren, um nicht ins Hintertreffen zu geraten. So sind beispielsweise technologisch hochentwickelte Drohnen, die zum Teil bereits mit KI-Prozessoren ausgestattet sind, weltweit frei verfügbar. Dadurch ergibt sich der Handlungszwang, intelligente und automatisierte Gegenmaßnahmen zu entwerfen, die Angriffe durch solche Systeme abwehren können. Für Unternehmen und Staat werden durch die aktuellen Entwicklungen in den Bereichen Digitalisierung und KI zahlreiche Veränderungen notwendig. Ein besonders wichtiger Aspekt hierbei ist, dass durch die rasanten Fortschritte und die bereits hohe Verbreitung dieser Technologien Unternehmen und Staat kaum noch lenkend agieren sondern häufig nur noch reagieren können. Aufgrund der Leistungsfähigkeit und der freien Verfügbarkeit der Technologie für jeden, ist eine Handlungsfreiheit in der Politik, sich für oder gegen diese Technologie zu entscheiden, eingeschränkt,

EDITION_KOLENOVIC/HÄRLE

Fotos: Rheinmetall

» Somit ist künftig derjenige im Vorteil, der KI-Technologie am besten beherrscht.«

Dr. Norbert Härle Integrated Electronic Systems Rheinmetall Electronics

Dr. Ervin Kolenovic Integrated Electronic Systems Rheinmetall Electronics

da der weltweite Wettbewerb hier Fakten schafft. Dies betrifft sowohl die zivilen Bereiche als auch die staatliche Sicherheit.

erheblich mehr Informationen erzeugt und im Netzwerk verteilt. Erst durch eine intelligente und automatisierte Auswertung können die Daten in ihrer Gänze zeitgerecht und optimal ausgewertet und genutzt werden. Auch schon auf unteren taktischen Ebenen kann diese Technologie verwendet werden – etwa um den Besatzungen von Gefechtsfahrzeugen ein verbessertes und schnelleres Lagebewusstsein zu ermöglichen: Hierzu werden Kameras um das Fahrzeug herum angebracht und die Videoströme werden mittels KI ausgewertet, so dass dem Nutzer nur noch die wirklich relevanten Informationen gezeigt werden – die jedoch aus einem deutlich erweiterten Sichtbereich stammen. Dadurch wird ein Informationsvorteil erlangt und eine Entlastung des Bedieners erreicht, der bisher die Videos mit der geringen Auflösung, die der Anzeigebildschirm liefert, kontinuierlich selbst betrachten und auswerten muss. Bedrohungserkennung, zum einen durch Erkennen von Personen oder Objekttypen, aber auch durch Erkennen von potentiell gefährlichem Verhalten, könnte durch die KI-Verfahren automatisiert erfolgen. Weiter könnte das System auf dieser Basis und mit Hilfe der C4I-Systeme automatisiert Entscheidungsvorschläge generieren, so dass der Nutzer schnell das Richtige und Beste entscheiden kann. Durch die leistungsfähigeren Rechnersysteme wird Automatisierung und KI selbst auf der Ebene des „Einzelschützen“ als unterster taktischer Ebene anwendbar. Bei den Solda-

im Verteidigungsbereich Aktuelle KI-Verfahren lassen sich selten direkt aus dem Zivilen in den militärischen Bereich übertragen. So sind frei verfügbare neuronale Netze in der Regel nicht auf Daten trainiert, die relevant für den militärischen Kontext sind und sie decken auch das Spektrum militärischer Sensoren nur zum Teil ab. Dem gegenüber steht, dass im Verteidigungsbereich oftmals keine ausreichend großen annotierten Datensätze vorhanden sind und diese unter Umständen auch nicht erzeugt werden können. In der Entwicklung verschiebt sich also der Aufwand zum Lösen einer Problemstellung vom Erarbeiten eines Verfahrens zur Beschaffung geeigneter, annotierter Daten in großer Menge. Das ist aktuell eine große Herausforderung für Forschung und Entwicklung im Verteidigungsbereich, die es zu bewältigen gilt. Für die Anwendung KI im Verteidigungsbereich gibt es viele Einsatzfelder. Die Einführung von KI kann bei der Aufklärungsanalyse, der Entscheidungsfindung und der Wirkung nicht nur sehr viel beitragen – sie wird essentiell sein. Denn Geschwindigkeits- und Informationsvorteile sind Schlüsselelemente für militärische Überlegenheit. Somit ist künftig derjenige im Vorteil, der KI-Technologie am besten beherrscht. Durch die vermehrte Digitalisierung des Gefechtsfeldes werden

tensystemen kann die KI dafür sorgen, dass der Soldat nur mit relevanten Informationen versorgt wird ohne durch komplexe Computer-Schnittstellen abgelenkt zu sein. Umgekehrt kann das System mittels KI Informationen des Soldaten in Form von natürlicher Sprache aufnehmen, digitalisieren und dem Verbund so vorverarbeitet zur Verfügung stellen. Zeitraubendes Bedienen oder Eingeben von Informationen mittels grafischer Oberflächen kann dadurch weitgehend entfallen. Hieraus würde sich eine signifikante Effizienzsteigerung ergeben. Autonome Plattformen sind heute Teil einer jeden Zukunftsvision – diese können aber nur über KI-Verfahren erreicht werden. Hier ist noch erheblicher Forschungs- und Entwicklungsaufwand nötig. Als Vorstufe können aber bereits Assistenzsysteme eine Reduktion der Besatzung bzw. ihre Entlastung bewirken. KI bei Rheinmetall KI ist bei Rheinmetall in sehr unterschiedlichen Bereichen ein wichtiges Thema, das jedoch gerade im Verteidigungsbereich ein hohes Maß an zusätzlicher Forschungsarbeit erfordert. Dieses ist insbesondere nötig, um ein möglichst umfassendes Verständnis für die der KI zugrunde liegenden Verfahren zu erreichen. Erst mit einem solchen Verständnis ist es möglich, das effizienteste und beste Verfahren zur Lösung von Problemen zu bestimmen und anzupassen. Und das kann in vielen Fällen auch ein klassischer Algorithmus oder eine Kombination von neuen und alten Verfahren sein. Das Verknüpfen von bewährten Technologien mit ergänzenden KI-Ansätzen hat sich für Rheinmetall als besonders fruchtbar erwiesen. Insbesondere bei der Zieldetektion und -identifikation sowie bei der Zielverfolgung sind so substantielle Verbesserungen durch den Einsatz von KI erreicht worden. Als Hochtechnologieunternehmen für Mobilität und Sicherheit ist es Anspruch Rheinmetalls, dieses Zukunftsthema weiterhin mitzugestalten. 

griephan Edition 01/2019

Für Orientierung in globalen Märkten: Fachinformationen von DVV Media

News und Analysen zu Logistik und Transport

www.dvz.de

Das Geschäftsfeld Sicherheit im Fokus

Griephan Edition 01/2019