By Aurora Weiss
Vienna (INPS Japan) – Mehr als 1000 Gäste, darunter Vertreter aus 144 Ländern, internationalen Organisationen, der Industrie, der Wissenschaft und der Zivilgesellschaft, versammelten sich in Wien, um zu diskutieren, wie autonome Waffensysteme reguliert werden können. Die erste internationale Konferenz über autonome Waffensysteme (AWS) unter dem Titel „Humanity at the Crossroads: Autonomous Weapons Systems and the Challenge of Regulation“ fand vom 29. bis 30. April 2024 unter der Organisation des österreichischen Außenministeriums statt.
Die zunehmende Autonomie von Waffen durch die Einführung von künstlicher Intelligenz (KI) hat bewaffnete Konflikte grundlegend verändert. Trotz jahrelanger Bemühungen und Diskussionen sind auf internationaler Ebene noch keine Regelungen für den rasanten technologischen Fortschritt getroffen worden. Autonome Waffensysteme (AWS) werden bereits in aktuellen Konflikten eingesetzt, wie z.B. im Krieg Israels im Gazastreifen oder im russischen Angriffskrieg gegen die Ukraine. Regelungen sind dringend erforderlich, da der Einsatz von KI in bewaffneten Konflikten tiefgreifende Fragen des Völkerrechts, der Moral, des Humanismus und der Sicherheit aufwirft.
„Autonome Waffensysteme werden bald die Kriegsfelder der Welt erfüllen. Wir sehen das bereits mit KI-unterstützten Drohnen oder KI-gestützter Zielauswahl. Die Technologie schreitet mit rasender Geschwindigkeit voran, während die Politik hinterherhinkt. Wir stehen vor tiefgreifenden rechtlichen, ethischen und sicherheitsrelevanten Fragen: Wie lässt sich verhindern, dass Entscheidungen über Leben und Tod an Maschinen übertragen werden? Wie geht man mit Algorithmen um, die zu Fehlern und Neigungen führen können? Wie lässt sich ein von KI angetriebenes Wettrüsten verhindern und wie lässt sich verhindern, dass diese Technologie in die Hände von Terroristen kommt? Ich kann die Notwendigkeit nicht genug hervorheben. Jetzt ist es an der Zeit, sich auf internationale Regeln und Normen zu einigen, um die menschliche Kontrolle zu sichern”, betonte der österreichische Außenminister Alexander Schallenberg in seiner Eröffnungsrede. Er appellierte, dass jedes verlorene Menschenleben eines zu viel ist und dass wir immer sicherstellen müssen, dass Entscheidungen über Leben und Tod nicht von Maschinen gemacht werden.
Österreich setzt sich seit langem für eine internationale Regulierung von AWS ein und nimmt hier eine Pionierrolle ein: Im Jahr 2023 koordinierte Österreich die erste UN-Resolution zu autonomen Waffensystemen und betonte damit die Notwendigkeit von Regelungen. Die Entwicklung von internationalen Gesetzen und Standards braucht Zeit: Die Verabschiedung eines Vertrages ist typischerweise das Ergebnis jahrelanger Arbeit durch enge Partnerschaften und kollektive Mobilisierung. Die Verträge müssen auch nach der Unterzeichnung noch wirksam umgesetzt werden.
Autonome Waffensysteme sind so programmiert, um ein bestimmtes „Zielprofil“ zu töten. Die Waffe wird dann in einer Umgebung eingesetzt, in der ihre KI mit Hilfe von Sensordaten, z. B. der Gesichtserkennung, nach diesem „Zielprofil“ sucht. Autonome Waffen sind ein Beispiel für die digitale Dehumanisierung in ihrer extremsten Form. Maschinen die Macht zu geben, Entscheidungen über Leben und Tod zu treffen, untergräbt die Menschenwürde und nimmt uns unsere Rechte. Statt als Menschen gesehen zu werden, werden Menschen als Objekte behandelt. Wenn eine autonome Waffe aktiviert wird, wissen wir nicht, „wen oder was sie genau angreift, und auch nicht, wo und/oder wann dieser Angriff stattfindet“.
Österreich hat eine lange Tradition in der Arbeit an der Entwaffnung und dem Versuch, internationale rechtsverbindliche Verträge zu gründen, wie z.B. den „Treaty on the Prohibition of Nuclear Weapons“ (TPNW), mit dem die etablierte nukleare Ordnung in Zweifel gesetzt wurde. Einer der Architekten der humanitären Initiative, die zum TPNW führte, ist Alexander Kmentt, im Leiter der Abteilung für Abrüstung, Rüstungskontrolle und Non-Proliferation im österreichischen Außenministerium. Im Verlauf der Konferenz wurde von vielen Teilnehmern darauf hingewiesen, dass wir wieder einmal einen historischen Oppenheimer-Moment erleben. Wir haben Botschafter Kmentt darum bitten, den Vergleich zwischen Atom- und AWS-Waffen zu erklären.
” Der Vergleich mit dem Oppenheimer-Moment ist, dass nach Hiroshima und Nagasaki viele Menschen, auch Oppenheimer und Einstein, vor den Folgen von Atomwaffen warnten und auf eine Regulierung drängten. Heute haben wir wichtige KI-Experten, die vor möglichen existenziellen Risiken von KI und AWS warnen und eine Regulierung fordern, und die derzeitige geopolitische Lage macht es wiederum sehr schwierig, sich auf internationale Regeln zu einigen. Wir müssen versuchen, den Moment nicht zu verpassen, in dem präventives Vorgehen noch möglich ist”, erklärt Alexander Kmentt.
Aus der Perspektive von Rüstungskontrollexperten wie Kmentt gibt es mehrere große Herausforderungen bei AWS. Die steigende Autonomie („Nutzung von KI“) in Waffensystemen wird bewaffnete Konflikte grundsätzlich verändern. Einige dieser Veränderungen sehen wir bereits jetzt – wenn Maschinen auf der Basis von vorprogrammierten Algorithmen über Leben und Tod entscheiden.
” Wenn die Maschinen lernen und miteinander kommunizieren, was ist dann die Rolle des Menschen, wenn Waffen solche Entscheidungen treffen? Außerdem gibt es bereits Anzeichen für ein KI-Wettrüsten. Bald werden sich diese Waffen in vielen Arsenalen weltweit und auch in den Händen von nichtstaatlichen Akteuren, wie etwa Terroristen, befinden”, warnte der österreichische Diplomat.
Derzeit gibt es keine spezifischen Regeln, um die rechtlichen, ethischen und sicherheitspolitischen Herausforderungen solcher Waffensysteme wie AWS zu behandeln. Kmentt betonte, dass Österreich das politische Profil dieses Themas verbessern und eine Dynamik für Fortschritte bei internationalen Regeln für AWS schaffen wollte. Österreich hat letztes Jahr eine Resolution in der UN-Generalversammlung initiiert und jetzt auch diese Konferenz organisiert. Es ist die größte internationale Konferenz speziell zu diesem Thema und hoffentlich ein Schritt hin zu mehr politischem Engagement für eine internationale Regelung. Da wir um seinen großen Beitrag zur Entwicklung der TPNW wissen, haben wir ihn gefragt, ob diese Konferenz ein Zeichen dafür ist, dass bald ein Treaty über AWS geplant ist.
” Die Herausforderung besteht derzeit darin, von den jahrelangen Diskussionen zu konkreten Vertragsverhandlungen zu kommen. Der UN-Generalsekretär hat die internationale Gesellschaft aufgefordert, dies bis 2026 zu tun. Wenn wir zu Verhandlungen kommen, sollten wir darauf abzielen, solche Systeme explizit zu verbieten, die nicht im Rahmen des Völkerrechts eingesetzt werden können oder gegen grundlegende ethische Prinzipien verstoßen, und andere Systeme so zu regulieren, dass ein sinnvolles Maß an menschlicher Kontrolle aufrechterhalten bleibt”, erklärte Alexander Kmentt zum Schluss.
Die Innovation in Wissenschaft und Technologie (W&T) geht in schnellem Tempo voran. Einige Entwicklungen finden Anwendung in der Waffenentwicklung, von gezielten Strahlenwaffen und „Nano-“ oder „Neurowaffen“ bis hin zu autonomen robotischen Systemen in Echtzeit. Solche Entwicklungen stellen auch etablierte Standards für die Wahrung des Weltfriedens und der internationalen Sicherheit, den Schutz der Menschenrechte und die Verwirklichung der Ziele einer nachhaltigen Entwicklung in Frage.
Aus diesem Grund hält Richard Moyes, Direktor von Article 36, die Wiener Konferenz für wichtig, um die Partnerschaft zwischen Staaten, internationalen Organisationen und der Zivilgesellschaft weiter auszubauen, die notwendig ist, um diese Verträge zu entwickeln. Stop Killer Robots ist ein internationaler Verbund von zivilgesellschaftlichen Organisationen, die sich mit Menschenrechten, Konflikten, Technologie und dem Schutz der Zivilbevölkerung befassen. Es handelt sich um eine Partnerschaft von Organisationen, die zusammenarbeiten, um die Staaten zur Entwicklung eines neuen internationalen Gesetzes zu bewegen.
” Wir sind noch nicht so weit, dass wir einen Vertragstext ausarbeiten können, aber wir bauen bei verschiedenen Partnern das Vertrauen auf, dass ein Vertrag möglich ist. Im Endeffekt können sich nur die Staaten auf ein neues internationales Recht einigen – aber wir können zusammenarbeiten, um sicherzustellen, dass sie aktiv werden”, erklärte der Experte für die Auswirkungen von Konflikten auf die Zivilbevölkerung und die internationale Gesetzgebung für Waffentechnologien Richard Moyes.
Er wirkte an der Entwicklung einer großen Zahl internationaler rechtlicher und politischer Instrumente im Zusammenhang mit Waffen und Konflikten und sieht bei AWS eine besondere Gefahr in der Wegnahme der menschlichen Kontrolle und Verantwortlichen in Bezug auf den Krafteinsatz.
” Menschen machen Fehler, und Menschen tun manchmal schreckliche Dinge, aber alle unsere rechtlichen Rahmenbedingungen für die Anwendung von Gewalt beruhen auf der Grundlage, dass Menschen Entscheidungen treffen und dass Menschen zur Verantwortung gezogen werden können. Wir müssen eine sinnvolle menschliche Kontrolle beibehalten, wenn wir die Idee des Rechts in bewaffneten Konflikten aufrechterhalten wollen. Die Entscheidung über Leben und Tod in die Hände von Maschinen zu legen, ist auch entmenschlichend und wird das menschliche Leben weiter entwerten, besonders für Menschen, die bereits marginalisiert sind,“ sagt Moyes und weist darauf hin, wie schwierig es ist, neue Technologien zu regulieren, noch bevor sie zu einem allgemeinen Problem werden. Wenn autonome Waffen zu einem weit verbreitetet Problem werden, wird es schon zu spät sein.
Moyes betonte, dass der rechtliche Vertrag ein Verbot von solchen Systemen enthalten sollte, die nicht unter sinnvoller menschlicher Kontrolle eingesetzt werden können, sowie Regeln, die diese Kontrolle in der Praxis garantieren. Zudem sollte ein Verbot für autonome Systeme gelten, die direkt auf Menschen zielen würden. Aus seiner Sicht sind dies die wichtigsten Regelungen, die Einfluss darauf haben werden, wie Technologien in der Zukunft weiterentwickelt wird.
” Eine der größten Herausforderungen besteht darin, dass hochmilitarisierte Staaten keine Einschränkung ihrer militärischen Optionen akzeptieren wollen – daher müssen wir eine größere Mehrheit von Staaten dazu bringen, die Linien zu ziehen, die die Gesellschaft in eine sicherere Richtung bringen können”, erklärte uns der Direktor der britischen NGO Article 36.
Auch die NGO Soka Gakkai International, die ebenfalls Teil der Stop-Killer-Roboter-Kampagne ist, wünschte sich die Schaffung eines rechtlichen Rahmens, eines internationalen Vertrages.
„Wir unterstützen daher eine große Anzahl von Interessenvertretern in ihrer Forderung nach einem internationalen Vertrag, der die Autonomie von Waffensystemen verbietet und regelt, um die Rechte der Menschheit zu schützen”, sagte Hayato Yamashita, Programmkoordinator für Abrüstung bei der Soka Gakkai International(SGI) aus Japan, in seiner Erklärung.
INPS Japan
This article is brought to you by INPS Japan, in collaboration with Soka Gakkai International in consultative status with UN ECOSOC.