{"id":15752,"date":"2019-06-14T09:33:44","date_gmt":"2019-06-14T07:33:44","guid":{"rendered":"http:\/\/www.kupferblau.de\/?p=15752"},"modified":"2019-06-14T09:33:44","modified_gmt":"2019-06-14T07:33:44","slug":"ki-im-militaer-es-muss-erst-was-passieren","status":"publish","type":"post","link":"https:\/\/archiv.kupferblau.de\/index.php\/2019\/06\/14\/ki-im-militaer-es-muss-erst-was-passieren\/","title":{"rendered":"KI im Milit\u00e4r \u2013 \u201eEs muss erst was passieren\u201c"},"content":{"rendered":"<p style=\"text-align: justify;\"><strong><em>Der Umgang mit k\u00fcnstlicher Intelligenz wird in T\u00fcbingen vor allem seit dem Beschluss zum Bau des Cyber Valleys immer mehr diskutiert. Eine gro\u00dfe Angst ist der Einsatz von KI im milit\u00e4rischen Bereich. Was passiert, wenn vollautomatisierte Waffensysteme in den Krieg eingreifen? Auf welchem Stand ist die Technik aktuell? Und was kann man dagegen tun? Zu diesen Fragen lud die Hochschulgruppe f\u00fcr Au\u00dfen- und Sicherheitspolitik vergangene Woche Dr. Frank Sauer in den Hegelbau ein.<\/em> <\/strong><\/p>\n<p style=\"text-align: justify;\"><!--more--><\/p>\n<h2 style=\"text-align: justify;\">K\u00fcnstliche Intelligenz \u2013 Im Westen nichts Neues<\/h2>\n<p style=\"text-align: justify;\">K\u00fcnstliche Intelligenz spielt im Milit\u00e4r schon l\u00e4nger eine Rolle, als man vermuten k\u00f6nnte. Bereits im Ersten Weltkrieg wurden Systeme eingesetzt, die man als Vorreiter moderner Drohnen ansehen k\u00f6nnte. Diese waren allerdings meist nicht mehr als \u201efliegende Zielscheiben\u201c, so Sauer, der an der Universit\u00e4t der Bundeswehr in M\u00fcnchen lehrt. Als ersten Einsatz von automatisierten Systemen, der einen Mehrwert brachte, kann der Vietnamkrieg gesehen werden. Damals wurden unbemannte Aufkl\u00e4rungsger\u00e4te eingesetzt, deren Aufgabe darin bestand, Fotos von den Kriegsgebieten zu erstellen. Die Entwicklung der Bilder dauerte allerdings Anfang der 60er Jahre noch mehrere Tage.<\/p>\n<p style=\"text-align: justify;\">Nach den Anschl\u00e4gen am 11. September wurde vor allem die <a href=\"https:\/\/de.wikipedia.org\/wiki\/General_Atomics_MQ-1\" target=\"_blank\" rel=\"noopener noreferrer\">Predator Drohne<\/a> massiv beim sogenannten <a href=\"https:\/\/de.wikipedia.org\/wiki\/Krieg_gegen_den_Terror\" target=\"_blank\" rel=\"noopener noreferrer\">\u201eKrieg gegen den Terror\u201c<\/a> eingesetzt. 2002 wurden Predator Drohnen mit <a href=\"https:\/\/en.wikipedia.org\/wiki\/AGM-114_Hellfire\" target=\"_blank\" rel=\"noopener noreferrer\">Hellfire Raketen<\/a> ausgestattet.<span style=\"color: #000000;\"> In <a href=\"https:\/\/de.wikipedia.org\/wiki\/General_Atomics_MQ-1#cite_note-:1-4\" target=\"_blank\" rel=\"noopener noreferrer\">etwa 100 F\u00e4llen wurden die unbemannten Flugk\u00f6rper nachweislich mit dem Zweck der gezielten T\u00f6tung von Menschen eingesetzt<\/a>. <\/span>Vom technischen Standpunkt her war man allerdings bereits fr\u00fcher in der Lage, unbemannte Luftfahrzeuge mit Waffensystem auszustatten. Deshalb betonte Frank Sauer auch, &#8222;es gibt keinen technologischen Imperativ\u201c. Wir k\u00f6nnen selbst politisch bestimmen, was wir machen.<\/p>\n<figure id=\"attachment_15753\" aria-describedby=\"caption-attachment-15753\" style=\"width: 1008px\" class=\"wp-caption alignnone\"><a href=\"http:\/\/www.kupferblau.de\/wp-content\/uploads\/2019\/06\/Bild-1-flickr.jpg\"><img loading=\"lazy\" decoding=\"async\" class=\"wp-image-15753 size-medium\" src=\"http:\/\/www.kupferblau.de\/wp-content\/uploads\/2019\/06\/Bild-1-flickr-1008x672.jpg\" alt=\"\" width=\"1008\" height=\"672\" \/><\/a><figcaption id=\"caption-attachment-15753\" class=\"wp-caption-text\">Dr. Frank Sauer, Universit\u00e4t der Bundeswehr M\u00fcnchen: &#8222;Ob automatisch oder autonom ist Begriffskarate\u201c (Quelle:\u00a0 stephan-roehl.de via <a href=\"https:\/\/www.flickr.com\/photos\/boellstiftung\/27533186187\">Flickr<\/a> [<a href=\"https:\/\/creativecommons.org\/licenses\/by-sa\/2.0\/\">CC BY-SA 2.0<\/a>])<\/figcaption><\/figure>\n<h2 style=\"text-align: justify;\">\u201eEs ist nichts Ehrenhaftes mehr daran auf dem Schlachtfeld zu sterben\u201c<\/h2>\n<p style=\"text-align: justify;\">\u201eWir leben in einer postheroischen Gesellschaft\u201c, so der Dozent f\u00fcr internationale Politik. Starb man fr\u00fcher noch den Heldentot f\u00fcr das \u201eVaterland\u201c auf dem Schlachtfeld, finde sich heute nichts Ehrenhaftes mehr daran. Dies sei ein Grund, warum man Kriegshandlungen an Maschinen delegiert. Der Krieg w\u00fcrde humaner werden. Ein weiteres Argument, das Dr. Frank Sauer allerdings nur sehr eingeschr\u00e4nkt gelten l\u00e4sst, ist die vermeintliche Reduzierung der Kosten.<\/p>\n<p style=\"text-align: justify;\">Den gr\u00f6\u00dften Vorteil von automatischen Systemen sieht Sauer bei der Beschleunigung der Entscheidungen: Musste man im Vietnamkrieg noch tagelang auf die Auswertung der Bilder warten, ist man heutzutage quasi in Echtzeit dabei. Die sogenannte \u201eshooter gap\u201c betr\u00e4gt bei der Predator-Drohne nur noch wenige Sekunden. Er vergleicht das mit dem Ping bei einem Computerspiel.<\/p>\n<p style=\"text-align: justify;\">\u201eAutomatische Waffensysteme sind nicht per se schlecht\u201c, gibt der Bundeswehrdozent zu bedenken. Als Beispiel k\u00f6nne etwa das Flugabwehrsystem MANTIS angef\u00fchrt werden.<\/p>\n<p style=\"text-align: justify;\"><iframe loading=\"lazy\" src=\"https:\/\/www.youtube.com\/embed\/PMDJ0bwn4sE\" width=\"1349\" height=\"480\" frameborder=\"0\" allowfullscreen=\"allowfullscreen\"><\/iframe><\/p>\n<p style=\"text-align: justify;\">Dem Einsatz von autonomen Waffensystemen zur Verteidigung, welche dann nur auf unbemannte (oder unbefraute) Ziele schie\u00dfen, steht Sauer zum Beispiel positiv gegen\u00fcber: Solange nur auf Metall geschossen werde, k\u00f6nnte man von ihm aus \u201eschie\u00dfen bis sie blau werden\u201c.<\/p>\n<h2 style=\"text-align: justify;\">Die rote Linie ist \u00fcberschritten<\/h2>\n<p style=\"text-align: justify;\">Sobald allerdings menschliches Leben gef\u00e4hrdet werde, d\u00fcrfe man die Entscheidung nicht an den Algorithmus delegieren. Die Firma Kalashnikow habe k\u00fcrzlich einen Gesch\u00fctzturm vorgestellt, der vollautomatisch auf Ziele feuert.<a href=\"https:\/\/www.youtube.com\/watch?v=4OqmoHBvB0c\" target=\"_blank\" rel=\"noopener noreferrer\"> In dem gezeigten Video ist klar zu sehen, dass dieser keinen Unterschied zwischen Objekten und menschlichen Attrappen macht<\/a>. Hier sei f\u00fcr Dr. Sauer ganz klar eine rote Linie \u00fcberschritten.<\/p>\n<p style=\"text-align: justify;\">Eine rote Linie war auch bei vielen Google Mitarbeitern \u00fcberschritten: <a href=\"https:\/\/www.dw.com\/de\/google-gibt-pentagon-drohnenprojekt-auf\/a-44050820\">Bei dem bereits eingestellten Projekt Maven<\/a> unterzeichneten rund 4000 Angestellte eine Petition gegen die Kooperation mit dem Pentagon und der Beteiligung an Kriegsforschung. Ziel des 10 Millionen Dollar Projektes war es, einen Algorithmus zur Identifizierung von Menschen auf Drohnenvideos zu entwickeln. Zwar w\u00e4ren diese Erkenntnisse noch einmal von Analysten \u00fcberpr\u00fcft worden, allerdings ist es von dem Erkennen eines Ziels kein weiter Weg mehr auch auf dieses zu schie\u00dfen.<\/p>\n<h2 style=\"text-align: justify;\">\u201eWas wir regulieren m\u00fcssten, ist eine Funktion\u201c<\/h2>\n<p style=\"text-align: justify;\">Am Beispiel von Google l\u00e4sst sich das Problem von KI im Milit\u00e4r deutlich machen. Gesichtserkennungssoftware wird von Firmen weltweit entwickelt, immer bessere Algorithmen sollen unser Leben einfacher machen und Entscheidungsprozesse beschleunigen. Sauer betont: \u201eDer Innovationstreiber ist der zivile Sektor\u201c. Auf die Frage, ob R\u00fcstungskontrolle funktioniert, antwortet er ganz klar mit ja und f\u00fchrt verschiedene Beispiele auf. Eine pr\u00e4ventive R\u00fcstungskontrolle, wie sie etwa bei <a href=\"https:\/\/de.wikipedia.org\/wiki\/Blendwaffe\">Blendlasern angewendet wurde<\/a>, sei bei k\u00fcnstlicher Intelligenz allerdings nicht m\u00f6glich.<\/p>\n<p style=\"text-align: justify;\">Obwohl sich bei Befragungen zwei Drittel der Menschen gegen vollautomatische Waffensysteme aussprechen, stelle sich die Frage, was die konkrete Gefahr ist. Im aktuellen Koalitionsvertrag der Bundesregierung steht: <a href=\"https:\/\/www.cdu.de\/system\/tdf\/media\/dokumente\/koalitionsvertrag_2018.pdf?file=1\">\u201eAutonome Waffensysteme, die der Verf\u00fcgung des Menschen entzogen sind, lehnen wir ab. Wir wollen sie weltweit \u00e4chten\u201c<\/a> f\u00fcr Dr. Frank Sauer w\u00e4re es sch\u00f6n, wenn man sie auch \u201everbindlich \u00e4chten k\u00f6nnte\u201c. Ein v\u00f6lkerrechtlich bindender Vertrag sei w\u00fcnschenswert.<\/p>\n<figure id=\"attachment_15754\" aria-describedby=\"caption-attachment-15754\" style=\"width: 1008px\" class=\"wp-caption alignnone\"><a href=\"http:\/\/www.kupferblau.de\/wp-content\/uploads\/2019\/06\/Bild-2-Maximilian-Kranich.jpg\"><img loading=\"lazy\" decoding=\"async\" class=\"size-medium wp-image-15754\" src=\"http:\/\/www.kupferblau.de\/wp-content\/uploads\/2019\/06\/Bild-2-Maximilian-Kranich-1008x672.jpg\" alt=\"\" width=\"1008\" height=\"672\" \/><\/a><figcaption id=\"caption-attachment-15754\" class=\"wp-caption-text\">Dr. Frank Sauer erkl\u00e4rt, welche Probleme sich beim Einsatz und der Regulierung von vollautomatischen Waffensystemen ergeben. (Foto: Maximilian Kranich)<\/figcaption><\/figure>\n<h2 style=\"text-align: justify;\">Mit gro\u00dfer Macht kommt gro\u00dfe Verantwortung<\/h2>\n<p style=\"text-align: justify;\">Beim Einsatz von vollautomatischen Waffensystemen ergeben sich vor allem drei gro\u00dfe Problemfelder: Rechtliches, Ethisches und Politisches. V\u00f6lkerrechtlich ist noch nicht gekl\u00e4rt, wer die Verantwortung bei Fehlern tr\u00e4gt. Mit mehr milit\u00e4rischen M\u00f6glichkeiten wachsen auch juristische Pflichten. Man wolle sich an Regeln halten, aber diese Regeln gelten bisher nur f\u00fcr Menschen.<\/p>\n<p style=\"text-align: justify;\">Bei den ethischen Fragen sprechen sich, wie bereits erw\u00e4hnt, zwei Drittel der Menschen gegen den Einsatz von vollautomatischen Waffensystem aus. Interessanterweise nehme die Ablehnung mit N\u00e4he zum Milit\u00e4r in der Bev\u00f6lkerung sogar zu. Dr. Frank Sauer f\u00fchrt bei der ethischen Frage Artikel eins des Grundgesetzes an. Es verletze die W\u00fcrde eines Menschen, wenn man von einer Maschine get\u00f6tet wird.<\/p>\n<p style=\"text-align: justify;\">Aus sicherheitspolitischen Gesichtspunkten ergeben sich drei gro\u00dfe Probleme. Zum einen, ein bereits begonnener R\u00fcstungswettlauf. Vollautomatische Systeme seien bereits weltweit in \u00fcber 100 L\u00e4ndern vorhanden, eine Eingrenzung und Regulierung werde dadurch erheblich erschwert. Zum anderen sei es durch diese Systeme viel einfacher geworden, Hoheitsgebiete zu verletzen.\u00a0 Dabei m\u00fcsse man nicht einmal an hochkomplexe und teure Waffensysteme denken, sondern etwa an Mikrodrohnen mit Sprengsatz und W\u00e4rmebilderkennung. Diese Systeme seien vor allem \u201edumm und billig\u201c, so Sauer. Mit einem 3D-Drucker habe man binnen k\u00fcrzester Zeit ein vollbewegliches Mienenfeld.<\/p>\n<p style=\"text-align: justify;\"><iframe loading=\"lazy\" src=\"https:\/\/www.youtube.com\/embed\/fPqmC16ewYg\" width=\"1349\" height=\"480\" frameborder=\"0\" allowfullscreen=\"allowfullscreen\"><\/iframe><\/p>\n<p style=\"text-align: justify;\">Die letzte Gefahr ist eine ziemlich bedrohliche und beinhaltet den menschlichen Kontrollverlust gegen\u00fcber dem Algorithmus. Dr. Frank Sauer spricht vom \u201eKrieg aus Versehen\u201c. Alle f\u00fchrenden Entwickler von K\u00fcnstlicher Intelligenz sind sich einig, dass es noch viel zu fr\u00fch sei, diese Systeme mit Waffen auszustatten. Bilderkennungsalgorithmen beispielsweise seien sehr spezialisiert, bei einer abweichenden Aufgabe \u201escheitern sie krachend\u201c, so Sauer weiter. In einigen belangen sind Algorithmen Menschen \u00fcberlegen, in vielen allerdings auch noch haushoch unterlegen. \u201eWir Menschen machen zwar Fehler, aber wir machen nicht alle den gleichen Fehler rasend schnell\u201c, gibt Dr. Frank Sauer zu bedenken.<\/p>\n<h2 style=\"text-align: justify;\">\u201eDie Weltlage ist international st\u00fcrmisch\u201c<\/h2>\n<p style=\"text-align: justify;\">Doch selbst die perfekte KI, die zudem noch v\u00f6lkerrechtlich einwandfrei handelt, w\u00e4re f\u00fcr Dr. Frank Sauer nicht einsetzbar. Es m\u00fcsse immer eine menschliche \u201emeaningful interaction\u201c hinter jedem Schuss auf einen Menschen stehen. Wie genau \u201emeaningful interaction\u201c definiert werden soll, ist allerdings international ungekl\u00e4rt. Vor allem die USA bef\u00fcrchten durch vorschnelle Regulierung Technologien abzuw\u00fcrgen. Sauer schl\u00e4gt hingegen vor, man solle erst einmal eine Linie ziehen und diese dann gegebenenfalls hinterfragen. Die Chancen daf\u00fcr sch\u00e4tzt er allerdings aktuell nicht besonders hoch ein. Wegen der abstrakten Gefahr, der Anwendung von K\u00fcnstlicher Intelligenz haupts\u00e4chlich im zivilen Sektor und der Omnipr\u00e4senz von Algorithmus-gesteuerten Systemen seien \u201edie Aussichten nicht sehr gut\u201c.<\/p>\n<p style=\"text-align: justify;\">Es geht in Zukunft darum, die Entwicklung von k\u00fcnstlicher Intelligenz mit einem kritischen Diskurs zu begleiten. Der Einsatz von vollautomatischen Systemen bekommt allerdings im milit\u00e4rischen Kontext noch eine ganz andere Brisanz.<\/p>\n<p style=\"text-align: justify;\"><em>Veranstaltet wurde der Vortrag von der <a href=\"https:\/\/www.facebook.com\/BSHTuebingen\/\" target=\"_blank\" rel=\"noopener noreferrer\">Hochschulgruppe f\u00fcr Au\u00dfen- und Sicherheitspolitik<\/a>.<\/em><br \/>\n<em> E-Mail: <a href=\"mailto:tuebingen@sicherheitspolitik.de\">tuebingen@sicherheitspolitik.de<\/a><\/em><br \/>\n<em> Twitter: @BSH_Tuebingen<\/em><\/p>\n<p style=\"text-align: justify;\"><span style=\"text-decoration: underline;\"><strong>Beitragsbild<\/strong><\/span>: U.S. Air Force photo by Bobbi Zapka, <a href=\"https:\/\/commons.wikimedia.org\/wiki\/File:Global_Hawk_1.jpg\">Wikimedia Commons<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<p>Der Umgang mit k\u00fcnstlicher Intelligenz wird in T\u00fcbingen vor allem seit dem Beschluss zum Bau des Cyber Valleys immer mehr diskutiert. Eine gro\u00dfe Angst ist &hellip; <\/p>\n","protected":false},"author":348,"featured_media":17053,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[3,49,188],"tags":[4952,4953,4954,4955,440,1723,4956,4957,4958,4693,1332,4959,50,4960,18,19,21,22,445,1336],"class_list":["post-15752","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-allgemein","category-unipolitik","category-wissenschaft","tag-bsh-tuebingen","tag-bundeswehr","tag-bundeswehuniversitaet-muenchen","tag-dr-frank-sauer","tag-forschung","tag-google","tag-hellfire-raketen","tag-hochschulgruppe-fuer-aussen-und-sicherheitspolitik","tag-kalashnikow","tag-ki","tag-kuenstliche-intelligenz","tag-mantis","tag-unipolitik","tag-predator-drohne","tag-studierende","tag-tubingen","tag-universitaet","tag-universitaet-tuebingen","tag-wissenschaft","tag-zukunft"],"_links":{"self":[{"href":"https:\/\/archiv.kupferblau.de\/index.php\/wp-json\/wp\/v2\/posts\/15752","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/archiv.kupferblau.de\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/archiv.kupferblau.de\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/archiv.kupferblau.de\/index.php\/wp-json\/wp\/v2\/users\/348"}],"replies":[{"embeddable":true,"href":"https:\/\/archiv.kupferblau.de\/index.php\/wp-json\/wp\/v2\/comments?post=15752"}],"version-history":[{"count":0,"href":"https:\/\/archiv.kupferblau.de\/index.php\/wp-json\/wp\/v2\/posts\/15752\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/archiv.kupferblau.de\/index.php\/wp-json\/"}],"wp:attachment":[{"href":"https:\/\/archiv.kupferblau.de\/index.php\/wp-json\/wp\/v2\/media?parent=15752"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/archiv.kupferblau.de\/index.php\/wp-json\/wp\/v2\/categories?post=15752"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/archiv.kupferblau.de\/index.php\/wp-json\/wp\/v2\/tags?post=15752"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}