Seit der Premiere von Terminator" sind Killerroboter ein Thema in Diskussionen über die potenziellen Gefahren der künstlichen Intelligenz. Aber in letzter Zeit haben sie aufgehört, ein neoluditisches Argument zu sein, und sind zu einem echten Problem für Politiker und Technologieführer geworden.
In einem kürzlich für den Daily Telegraph durchgeführten Interview sagte Microsoft-Präsident Brad Smith, dass Killerroboter heute "unaufhaltsam" sind, weil die großen Militärmächte (USA, China, Russland, Großbritannien, Israel, Südkorea usw.) bereits ein neues Wettrüsten im Bereich der mit KI ausgestatteten Waffen begonnen haben.
Und wie bei Atomwaffen kann ein Wettlauf, in dem viele behaupten, der Erste und Beste zu sein, zu einer übermäßigen Risikobereitschaft der Läufer führen. Ganz zu schweigen davon, dass ein Szenario, in dem menschliche Truppen vor dem Schlachtfeld geschützt werden, es für Regierungen "billiger" macht, Kriege zu erklären.
So hat beispielsweise Südkorea seine gemeinsam von Samsung Techwin und der University of Korea entwickelten SGR-1-Roboter bereits am Rande der entmilitarisierten Zone aufgestellt. Diese Roboter wären in der Lage, nordkoreanische Soldaten zu erkennen, die die Grenze überschreiten, und könnten technisch gesehen ohne menschliches Zutun feuern.
Am anderen Ende Asiens hat Israel Aerospace Industries eine intelligente Rakete namens Harpy entwickelt, die programmiert ist, um stundenlang zu verweilen, bis sie Emissionen eines feindlichen Radarsystems erkennt.
In den Vereinigten Staaten wird inzwischen das Squad X-Programm entwickelt, das auf dem Einsatz von Robotern mit IA in gemeinsamer Ausbildung mit den Marinen basiert, in denen diese Maschinen autonom arbeiten, es sei denn, sie werden dazu aufgefordert.
Neue Regeln für eine neue Welt erforderlich
Smith erinnerte daran, dass wir es mit Technologien zu tun haben, die sehr schnell voranschreiten, dass wir in Kürze erleben werden, wie Drohnen (Flieger, Schwimmer und Walker) mit Raketen oder anderen Waffen ausgestattet werden, die autonom operieren können.
Viele Technologen beginnen, ihre Stimme zu erheben und fragen ihre Regierungen, dass keine KI völlig autonom Kampfentscheidungen treffen kann, ohne zu irgendeinem Zeitpunkt von der Zustimmung eines Menschen abhängig zu sein, denn eine "Fehleinschätzung" eines intelligenten Roboters ist nicht nur so wahrscheinlich wie die eines Menschen, sondern ihre Folgen können viel schlimmer sein.
Um diese Gefahren so weit wie möglich zu vermeiden, hält Smith es für notwendig, eine neue Genfer Konvention an die heutige technologische Welt anzupassen, die uns "Standards zum Schutz von Zivilisten und Soldaten" bietet.
Heute gibt es bereits vier solcher Konventionen, die alle in der gleichnamigen Schweizer Stadt unterzeichnet wurden, mit denen seit 1864 ein internationaler Konsens über die ethischen Grenzen des Krieges besteht:
- "Erste Genfer Konvention zur Verbesserung des Zustands von Militärpersonal, das bei Armeen auf dem Feld verwundet wurde" (1864).
- "Zweites Genfer Abkommen zur Verbesserung des Zustands von Militärangehörigen, die in Streitkräften auf See verwundet, krank oder schiffbrüchig geworden sind" (1906).
- "Dritte Genfer Konvention zur Verbesserung des Zustands der Verwundeten und Kranken in den Armeen auf dem Gebiet und zur Behandlung von Kriegsgefangenen" (1929).
- "Viertes Genfer Abkommen über den Schutz von Zivilpersonen in Kriegszeiten" (1949).
Nach Smith ist es jetzt, 70 Jahre nach der Verabschiedung des letzten dieser Übereinkommen, an der Zeit, sich mit den großen Weltmächten über akzeptable Standards für die Anwendung der künstlichen Intelligenz im Krieg zu einigen.
In seinem Buch "Tools and Weapons", das Anfang dieses Monats veröffentlicht wurde, argumentiert Smith auch, dass sich die Menschheit mit strengeren Regeln für den Einsatz von Gesichtserkennungstechnologien ausstatten sollte, "um uns vor möglichem Missbrauch zu schützen".
Es sei darauf hingewiesen, dass ein Bericht der niederländischen NGO PAX vom vergangenen August darauf hinwies, dass die wichtigsten Technologieunternehmen durch die Zusammenarbeit bei der Entwicklung von Killer-IAs die Welt in Gefahr brachten, und Microsoft und Amazon als die Unternehmen mit dem größten Risiko eingestuft wurden.