Künstliche Intelligenz: Killer-Roboter – Sie sind da! (Videos)

Nicht mehr Menschen, sondern Algorithmen und Softwares könnten bald auf den Schlachtfeldern der Zukunft über Leben und Tod entscheiden.

Sogenannte Killer-Roboter fällen ohne menschliche Kontrolle die Entscheidung darüber, wann sie wo und wen töten. Der Film “Killer-Roboter – Dürfen Maschinen töten?” fängt Stimmen leidenschaftlicher Gegner und kritischer Befürworter ein und zeigt ein moralisches Dilemma mit zahlreichen Facetten.

Denn beiden Seiten geht es um den Schutz von Zivilisten. Autor Uri Schneider konfrontiert unter anderem die Waffenschmieden der israelischen Rüstungsindustrie, ein Robotiklabor in den USA und eine Friedensbewegung in Südkorea mit dieser ethischen Frage.

Verbot autonomer Waffen

Frank Sauer, Politikwissenschaftler an der Universität der Bundeswehr in München, warnt seit mehr als zehn Jahren vor Killer-Robotern. “Das grundlegende ethische Problem”, meint Sauer, “ist die Frage, ob es nicht die Würde des Menschen verletzt, wenn wir die Tötungsentscheidungen an anonyme Maschinen, an Algorithmen delegieren, und das Töten den Maschinen überlassen.”

Als Sicherheitsexperte berät Sauer die Kampagne “Killer-Roboter stoppen!” einer Gruppe von Wissenschaftlern, Kirchenvertretern und Menschenrechtsaktivisten. Sie kämpfen in der UNO gegen die autonomen Waffen und fordern die internationale Ächtung und ein Verbot, noch bevor die Systeme entwickelt sind und in den Streitkräften eingesetzt werden.

Vermeiden von Kollateralschäden

Doch es gibt auch andere Stimmen. Am katholischen Institut für Theologie und Frieden in Hamburg argumentiert der Friedensethiker Bernhard Koch, Killer-Roboter könnten sogar sinnvoll sein. Sie könnten tatsächlich Menschenleben schützen, indem sie nah an ihre Ziele herangehen und somit Kollateralschäden – den Tod von Zivilisten – verhindern.

Doch auch er ist kein Befürworter autonomer Waffen. Ein dauerhafter Frieden ließe sich nur zwischen Menschen schließen, ” … und wenn man die Technik vorschickt”, so Koch, “entzieht sich der Mensch.”

Mein Gegenargument wäre: „Na dann führt keine Kriege!“ Leider interessiert es niemand was ich sage und man tut so, als wären Militär und Kriege eine Naturkatastrophe, die nicht vermieden werden kann, dabei geht es immer nur um Macht.

Macht bezeichnet sozialwissenschaftlich einerseits die Fähigkeit einer Person oder Interessengruppe, auf das Verhalten und Denken einzelner Personen, sozialer Gruppen oder Bevölkerungsteile einzuwirken. Andererseits stellt eine Extremposition der Macht die Durchsetzungsfähigkeit dar, einseitig definierte Ziele zu erreichen, ohne sich selbst äußeren Ansprüchen gegenüber beteiligten Personen zu unterwerfen oder diesen entgegenkommen zu müssen (wollen).

Es wird in der Doku zum Beispiel erwähnt, dass bei einem Ansturm durch Nordkoreaner auf die Grenze, die KI der Drohnenschwärmen nicht dazu in der Lage ist zu unterscheiden, ob es sich um einen Soldaten oder einen Flüchtling handelt. Aber man arbeitet daran.

Nicht erwähnt wird, dass sich so teure, autonome und künstlich intelligente Systeme bestimmt auch selbst schützen werden wollen, womit das Motiv für einen Kampf zwischen Maschine und jeden Menschen, denn dadurch kann jeder Mensch zum Feind der Maschine werden, schon gegeben ist.

Die Maschinen werden gebaut, um Menschen möglichst effizient zu töten und um zerstören zu können. In diesen „Algorithmus“ sehe ich den Anfang vom Ende der Menschheit.

Würde die Technologie zur Beschaffung von Ernährung und Trinkwasser für die Menschheit eingesetzt und entwickelt werden, wäre sie ein Segen, aber so ist sie ein Fluch, der leider erst erkannt werden wird, wenn es zu spät ist.

Oder ist der Mensch vielleicht tatsächlich nur eine Übergangsform zum Androiden? (Wissenschafter erschufen psychopathische Künstliche Intelligenz (Video))

Angriff auf den demokratischen Prozess

Was für Utopien gilt, gilt auch für Dystopien: Die meisten werden nie Realität. Geht es um autonome Waffensysteme, lässt sich einwenden: Warum sollten Maschinen, die nach menschlichen Idealen programmiert wurden, schlechtere Entscheidungen treffen als der bekanntlich fehlbare und mitunter bösartige Mensch selbst? Viele Kritikpunkte, die Gegner der KI anführen, gelten mindestens in gleichem Maße für Menschen. Verkennen Kritiker womöglich ihre Chancen?

Retten schnellere, durch umfassende Daten fundierte Entscheidungen, die nicht von Emotionen oder Angst getrieben sind, nicht eher Leben? Und wäre es nicht ein zivilisatorischer Fortschritt, wenn sich auf dem Schlachtfeld der Zukunft Roboter statt Menschen aus Fleisch und Blut gegenüberstünden? Vielleicht.

Allerdings wäre es nicht das erste Mal, dass die Menschheit neue Technologien als Fortschritt umarmt, bevor sie sie richtig verstanden hat. Mal ging es gut, mal nicht – wie im Falle der Atomkraft. Die Menschheit hat die Möglichkeit geschaffen, sich selbst auszulöschen.

26 Staaten setzten sich ausdrücklich für eine Reform der UN-Waffenkonvention einschließlich eines Verbots tödlicher autonomer Waffensysteme ein. CDU, CSU und SPD haben sich zwar bereits in ihrem Koalitionsvertrag 2013 für eine völkerrechtliche Ächtung vollautomatisierter Waffensysteme eingesetzt, in denen der Mensch aus der Entscheidungsschleife verschwindet. Deutschland diskutiert auch im Rahmen der Vereinten Nationen über eine Reform der Waffenkonvention. Doch die Bundesregierung gehört noch nicht zu den 26 Staaten, die sofortige Verhandlungen über eine Änderung der Waffenkonvention fordern (Künstliche Intelligenz: Entwicklung von Killerdrohnen, Mind Control und Menschen aus dem 3D-Drucker (Videos)).

Wer bei der KI führt, beherrscht die Welt

Russlands Präsident Wladimir Putin brachte im Spätsommer 2017 auf den Punkt, worum es geht. Bei einem Auftritt vor Studenten sagte er, die Technologie biete gigantische Chancen, bringe aber auch Gefahren mit sich, die schwer einzuschätzen seien. “Wer auch immer in diesem Bereich führend sein wird, wird auch die Welt beherrschen”, so Putin. Ein Ansporn für die klugen Köpfe seines Landes. Vielleicht nicht, um die Weltherrschaft an sich zu reißen, aber zumindest, um zu verhindern, dass sie ins Hintertreffen geraten.

Chinas Staatsführung gab 2017 unverblümt das Ziel aus, die Technologieführerschaft in der KI zu übernehmen. Bis 2030 soll es so weit sein. Abgesehen von der Rechenleistung von Supercomputern sind die USA auf dem Feld der KI noch die Supermacht. Doch die Furcht, dass sich das ändern könnte, treibt auch sie an, mit der Entwicklung voranzupreschen.

Eine Stimme, die in der US-amerikanischen Debatte viel Gehör findet, ist die von John R. Allen, US-General im Ruhestand und Präsident der Denkfabrik Brookings Institution. Auf einer Konferenz in Bratislava Anfang des Jahres sprach er über das, was er “Hyperwar” nennt, eine Stufe der Kriegsführung, in der Künstliche Intelligenz, autonome und automatisierte Systeme schlachtentscheidend geworden sind.

Die USA haben seit 2012 eine Militärdoktrin, die sicherstellen soll, dass der Mensch beim Töten nicht ausgeklammert wird. Doch Allen sagt: “Hyperwar wird eine Beschleunigung der Entscheidungsprozesse mit sich bringen, die wir uns heute noch gar nicht vorstellen können.” Er fügt hinzu: “Wir werden mit dem Menschen in der Entscheidungsschleife ein Problem haben, denn unsere Gegner machen sich darüber überhaupt keine Gedanken.”

Zumindest in der Theorie gibt die US-Regierung dem Menschen noch den Vorrang. Anfang 2017 wurde die erste Strategie für Entwicklung von Robotern und autonomen Systemen für die US-Armee veröffentlicht. Bis 2030, so der Vorschlag, sollte die Armee vor allem ihre “Situational Awareness” mit Hilfe von KI verbessern, den Soldaten mit Robotern Last abnehmen und die Versorgung durch autonome Transportfahrzeuge verbessern. Lernende Maschinen, die selbstständig und ohne menschliche Kontrolle über Leben und Tod entscheiden, werden in dem 31-seitigen Papier nicht beworben. Doch wäre es naiv zu glauben, dass die USA nicht ausgiebig forschten. Zumal sie zu den lautesten Gegnern eines Verbotsvertrags im Rahmen der Vereinten Nationen zählen.

Die Erklärung Washingtons für diese Haltung: Vor einem Verbot müssten die Chancen ausgelotet werden. Zum Beispiel, ob KI die Leben von Zivilisten schützen kann. Der Auftritt Allens in Bratislava lässt allerdings erahnen, dass dies womöglich nicht der Hauptgrund ist. Eine Wortmeldung von Jeffrey Sachs von der Columbia Universität provozierte Allen. Der Professor sprach vom Ende der Demokratie, wenn die großen US-Tech-Unternehmen die Codes für autonome Waffensysteme liefern.

Warum niemand von Abrüstung rede, fragte er. Und er sprach vom mangelnden moralischen Kompass der Verantwortlichen im Pentagon. Allen explodierte geradezu. Die USA seien hier nicht das Problem, sagt er. “Da sind andere Staaten in der Welt, die diese Technologien nutzen werden. Und wir werden sie auch nutzen, um Sie und andere Menschen zu verteidigen.” (Künstliche Intelligenz: Forscher laufen Sturm gegen „Terminator-Projekt“).

Überlegenheit auf breiter Front

Der Aktivist Küchenmeister hält das Auftreten der USA bei der Entwicklung autonomer Waffen für widersprüchlich. Und ein Blick auf die US-Militärdoktrin scheint seine Sicht zu untermauern. Darin heißt es nämlich nicht nur, dass der Mensch immer Teil der Entscheidungsschleife beim Töten sein muss. Die USA streben zugleich eine militärische “Überlegenheit auf breiter Front” an. Ist das miteinander vereinbar?

Es wirkt längst so, als wäre es schon viel zu spät, um den neuen Rüstungswettlauf um Codes und KI noch zu stoppen. Küchenmeister gibt sich dennoch optimistisch. Er verweist auf die Ächtung von Landminen und Streumunition. Ein Versuch, diese Munitionstypen im Rahmen der UN-Waffenkonvention zu verbieten, scheiterte. Auf Initiative einzelner Staaten kam es aber zu einem Vertrag außerhalb des UN-Rahmens. Der Druck, der dadurch entstand, war so groß, dass auch Staaten wie die USA und Russland, die nicht unterzeichnet hatten, ihren Einsatz dieser Munitionstypen drastisch eingeschränkt haben.

Zwischen Streumunition und KI gibt es allerdings einen gewaltigen Unterschied. Die eine Technologie ist nicht schlachtentscheidend, die andere wahrscheinlich schon. Im Falle der KI könnte es deshalb womöglich eher so laufen wie mit der Nukleartechnologie. Mehr als 100 Staaten haben sich auf ein Verbot verständigt, sogar im Rahmen der UN. Die Atommächte machen aber nicht mit. Statt Abrüstung war zuletzt zwischen den USA und Russland vielmehr ein neues nukleares Wettrüsten mit sogenannten taktischen Atomwaffen zu beobachten.

Vielleicht lässt sich die Verbreitung autonomer Waffensysteme noch aus einem weiteren Grund nicht verhindern. Während sich Nuklearwaffen nur mit dem Ressourcenreichtum großer Staaten entwickeln lassen, entstehen die Bauteile autonomer Waffensysteme meist in der Privatwirtschaft. Oft sind sie sogar frei verkäuflich oder basieren auf Open Source.

Zwar stemmen sich viele Unternehmen gegen die Verwendung ihrer Technik für den Krieg. In Berlin löst das trotzdem Sorge aus: Die Bundesregierung stuft das Risiko der unkontrollierten Verbreitung einzelner Technologien als größere Gefahr ein als die Verbreitung fertiger Waffensysteme.

Ein Blick auf die Krisengebiete dieser Welt zeigt: Einige dieser Technologien werden längst missbraucht. Am 5. Januar griff ein Schwarm aus 13 selbstgebauten Drohnen den russischen Luftwaffenstützpunkt Hmeimin und die Versorgungsbasis Tartus in Syrien an. Russischen Angaben zufolge kam der Drohnen-Schwarm aus Rebellengebieten in mehr als 50 Kilometer Entfernung. Die Drohnen suchten sich ihr Ziel laut Kreml-Angaben mithilfe des satellitengestützen Ortungssystems GPS. Es war der erste Angriff dieser Art.

Russland konnte die Attacke eigenen Angaben zufolge abwehren. Sieben der Drohnen wurden von Luftabwehrraketensystemen abgeschossen. Die übrigen sechs wurden von russischen Experten für elektronische Kriegsführung gehackt (34C3 zur Zukunft: Kontrolle der Gesellschaft durch Big Data und Künstliche Intelligenz).

(Russland präsentiert die Überbleibsel des ersten Drohnen-Schwarm-Angriffs)

Der Drohnenschwarm in Syrien war klein und primitiv. Er war noch weit entfernt von der Dystopie der Mini-Killer-Drohnen aus dem Video der Universität Kalifornien. Doch die Attacke in Syrien zeigt: Am Wettrüsten um autonome Waffensysteme sind schon jetzt nicht mehr nur Staaten beteiligt.

Videos:

Quellen: PublicDomain/news-for-friends.de/n-tv.de/tagesschau.de am 05.09.2018

 

About aikos2309

17 comments on “Künstliche Intelligenz: Killer-Roboter – Sie sind da! (Videos)

  1. Perverse Psychopathen halt. Tötest du einen Menschen, bekommst du lebenslang. Tötest du 1000, bekommst du einen Orden. Wann begreift die aufgehetzte Masse endlich diesen Irrsinn?

  2. Hatti –

    Das Recht auf Dummheit gehört zur Garantie der freien Entfaltung der Persönlichkeit – Der dumme Mensch zählt zu den gefährlichsten und schädlich Menschen/
    Mark Twain

  3. Ähm ,das ist aber lieb von dir Hatti meinst du etwa mich,stellst du mir nun ernsthaft diese Frage ,ich fühle mich geehrt -smiley
    also ich befürchte mal……..nie………… ,denn…. ändern kann nur jeder sich selber
    sagte ja Rasenmähen lohnt sich nicht mehr ….grins…tschuldigung

  4. Sorry, war eigentlich an die gezüchtete Dummheit der aufgehetzten Masse gerichtet. Trotzdem danke für dein Gefühl der Geehrtheit.
    Mein Nachbar mäht den Rasen, obwohl nur noch ein Acker da ist. Man soll die Hoffnung nicht aufgeben..-smiley

  5. Grins….och echt schade das du nicht mich meinst ,habe es aber vorher schon verstanden….die gezüchtete Dummheit kann wohl nur…. P…( nein nicht der Papst )… ändern in dem er seine Sternenkrieger abziehen würde
    hast ja Recht , und wenn man danach gehen würde lohnt sich mal gar nichts mehr …denn man fragt sich so oder so ……….wofür ..und für wen ist es zum nutzen ,die Figuren auf dem Schachbrett hin und her zu schieben wie man Bock hat und letztendlich jeden …benutzt
    und das wird die Masse auf sicher nicht verstehen

  6. anja,
    verzeih bitte, dass ich dich so lange habe warten lassen.
    jaja der Jo, nichts genaues weiß man nicht. Der darf natürlich auch nichts “falsches” sagen, sonst wird das TV ausgeknipst. Du hast es selbst schon beantwortet, aus der Zucht kann nur jeder selbst durch sein “Bewusstsein” ausbrechen.
    Schon erstaunlich für was sich die Menschen durch ihre Gier und Obrigkeitshörigkeit alles hergeben.

  7. Oh Hatti ,nööö das kann ich dir nicht verzeihen-grins
    ich bin sehr nachtragend ,yes,ich beantworte viel zwischen den Zeilen …..ja man sollte doch vorziehen ,den Orwell Kasten des öfteren abzuschalten,die Menschheit gibt sich für vieles hin was denen aber nicht wirklich bewusst ist ,was sie überhaupt damit erreichen ….nehme mal das Beispiel Tarot ….ich lege seit Jahren ….aber……man sollte es niemals übertreiben ,denn man zieht damit Dinge an wo es schwierig wird wieder rauszukommen wenn man nicht in der Lage ist die Notbremse zu ziehen ,ich bin mir sicher du verstehst es …..

  8. Verstehe, das gilt es zu überwinden. Was nutzt die Ansammlung von Wissen, wenn es nicht angewendet wird?
    Du bist der Souverän, und du weist es auch. Der Schöpfer ist in dir.

  9. Fast,man darf es gar nicht erst zulassen ,denn hat man dieses getan kann man nichts mehr überwinden,man muss vorher versuchen den Ausgleich zu schaffen ,sonst hat man ein Problem …..aber nein woher soll ich das denn wissen -grins-
    Erkläre es dir mal kurz wegen dem überwinden-Der Teufel-sein Oberkörper ist menschlich der Unterleib tierisch steht ja für das Symbol menschlichen Leidens ,er sitzt auf einer Säule -Gesetz und Ordnung ,er bringt Tod,Katastrophen ,Krankheit Elend usw Erniedrigung des menschlichen Geistes Unterwerfung ,Verführung durch das Böse -Selbstzerstörung -Umkehr = Hindernisse werden überwunden Beginn der spirituellen Klarheit ,die Furcht vor dem eignen selbst überwinden –

  10. Du hast Recht. Hat man seine Seele erst einmal an das Böse verkauft, ist es fast zu spät. Wer spirituell klar ist, erkennt das Böse überall und lässt sich bewusst nicht darauf ein.
    Er versucht es zu bekämpfen.

  11. Es ist eben nicht einfach zu erklären ,ja so ungefähr ,obwohl ich dazu sagen muss -mal das spirituelle weggelassen ( vielleicht interessiert es dich ja )Elihu Vedder – The Pleiades, 1885
    nehmen wir mal einfach das -klar sehen -als Beispiel -Cobra -wenn man verblendet ist erkennt man es nicht, obwohl es einfach ist -was ist eine Cobra -genau eine Giftnatter
    nun geht man auf den Teufel-der würde z.B behaupten -er liebt alle Menschen-
    er verdreht die Tatsachen -er hasst alle Menschen ,so ist es in vielen Bereichen und schwer zu erkennen ,es ist nicht einfach alles zu deuten ,und daraus die Umkehr zu ziehen für sich selber ,ok ich persönlich brauche dafür nur ein paar Sekunden ,aber für viele ist es zu schwierig ;und Unverbesserliche sollte man nicht verbessern -die rennen schon von alleine gegen die Wand,und das mit Volldampf

    1. Anja
      ich habe dich von Anfang an (an deinen Kommentaren und Links) verstanden. Dass genau das Gegenteil das richtige ist ,war meine erste Erkenntnis, seit ich mich mit diesen Themen beschäftigte. Als ich mir die Menschen näher betrachtete, hatte ich auch das Gefühl, sie sind “künstlich”. Natürlich interessiert mich alles, was mich bereichert, danke.

    1. Der Herr trat auf Tiamats Hinterteil; mit seiner Waffe schnitt er ihr den Kopf ab, durchtränkte ihre Blutkanäle und befahl dem Nordwind, ihn zu unbekanntem Ort zu tragen. Die Erde ist erschaffen…

  12. Sei auf der Hut mit Lichtkräften ,die sind auch nicht ganz ohne, und die Göttliche Königin war kein Herr ,
    einfach mal angenommen Lacerta hat Recht…dann muss man ganz weit zurück gehen in der Geschichte ,= dann war die Göttliche Königin eine wunderschöne Repto Frau …….
    z.B Cleopatra….hatte ja nun mehr als nur einen Knaben usw usw ,
    ok wollte keine Romane verfassen -grins

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert.

*