Ethik

Ein autonomer Bot der Künstlerinnen „!Mediengruppe Bitnik“ bestellte zufällig gefakte Jeans, Ecstasy und ungarische Pässe im Darknet. Die Schweizer Polizei nahm es gelassen. Aber wer ist eigentlich für Roboter, die gegen Gesetze verstoßen, verantwortlich?

Schon lange versprechen uns Wissenschaft und Science-Fiction Roboter mit Bewusstsein. Seit den 60er Jahren sind Utopien und Dystopien der künstlichen Intelligenz immer wieder Thema. Autonome Maschinen ohne Bewusstsein  kommen bereits heute im Alltag und in technischen Arbeitsprozessen zum Einsatz: Sie bauen unsere Autos zusammen, spielen Fußball-Weltmeisterinnenschaften, mähen Rasen, saugen Wohnungen, putzen Schwimmbäder und besuchen den Mars. Aber auch in der Arbeit mit Menschen erlangen sie immer mehr Bedeutung: In Dubai sollen ab 2017 Roboterpolizistinnen zum Einsatz kommen. In Japan werden schon seit 2009 Pflegeroboter getestet, die Patientinnen selbstständig waschen, aus dem Rollstuhl heben und ins Bett legen. Doch was passiert, wenn der Roboter  einen  Fehler macht? Wenn er eine Patientin fallen lässt und sich diese verletzt?

ERROR. Nachdem Maschinen nicht verklagt werden können, stellt sich die Frage, ob im Schadensfall die Herstellerin oder die Besitzerin des Roboters die Schuld tragen soll. Die aktuellen Roboter sind zwar ohne Bewusstsein, aber lernfähig, entwickeln sich weiter, übermitteln die Daten der Patientinnen und schlagen im Notfall Alarm. Nehmen wir an, über die Jahre lernt der Roboter, dass Schnarchen harmlos ist. Doch dann hat eine Patientin einen Erstickungsanfall. Die Maschine interpretiert das als Schnarchen, die Patientin stirbt. Wer trägt die Konsequenzen?

Dietmar Dietrich forscht an der Technischen Universität Wien zu künstlicher Intelligenz und sagt, dass die Haftungsfrage eindeutig sei: „Selbstverständlich haftet der/die HerstellerIn nach europäischem Rechtsstandard, denn der Computer hat kein Bewusstsein. Er kann also seine Handlungen nicht reflektieren." Von 1992 bis 2003 war in Deutschland bei Hüftoperationen ein Roboter im Einsatz. Als er Hüftknochen zu tief ausfräste, wurde er vom Markt genommen. Der Hersteller Integrated Surgical Systems (ISS) haftete dafür. Juristisch ausgedrückt sind Roboter Produkte im Sinne des Produkthaftungsgesetzes und die Herstellerin haftet verschuldensunabhängig, wenn das Produkt fehlerhaft ist. Anders sieht es zum Beispiel beim Navigationsgerät aus. Wenn  eine dieses in eine Sackgasse oder Einbahnstraße führt, so hat die Fahrerin die Wahl der Anweisung zu folgen oder nicht. Das Bewusstsein und damit die Verantwortung liegen bei ihr.

Aber wie ist das mit autonomen Robotern? Vor kurzem ist ein Audi die 900 Kilometer lange Strecke vom Silicon Valley nach Las Vegas größtenteils alleine gefahren, Nürnbergs U-Bahn fährt auf zwei Linien bereits fahrerinnenlos. Fehlfunktionen von Robotern könnten hier erheblichen Schaden anrichten und der Gesundheit oder dem Eigentum von Menschen schaden.

CYBORG? Diese neuen Umstände erfordern eine Reflexion der Beziehung von Robotern und Menschen zum Gesetz. Dabei muss es nicht unbedingt um das Erlassen eines komplett neuen Rechts für Roboter gehen. „Gesetze brauchen wir in unserer  Gesellschaft nur für Wesen, denen Bewusstsein zugesprochen werden kann. Roboter von heute sind Maschinen und haben nichts Menschliches an sich, auch wenn sie manchmal so aussehen und manche Bewegungen dem Menschen ähnlich sind“, führt Dietrich aus.

Vielmehr geht es um offene Fragen bezüglich der Anwendung geltender Gesetze sowie unter Umständen eine Ergänzung in den jeweiligen Rechts- gebieten. Dabei gibt es eine zentrale Schwierigkeit: Die Ursache für die Fehlfunktion eines Roboters ist häufig schwer festzustellen. Forscherinnen liefern die Erkenntnisse über die notwendige Programmierung für den Pflegeroboter, Programmiererinnen bestimmen den Rahmen an Daten, der durch die „Erziehung“ der Roboterbesitzerin erweitert wird. So trägt die Nutzerin zu dem Informationsstand und den Entscheidungsprozessen der Maschine bei, indem sie etwa den Alarm beim Schnarchen als Fehlalarm ausgibt. Soweit die Eigenständigkeit der Maschinen bei der Entscheidungsfindung als zunehmend bezeichnet werden kann, wird das Gesetz strapaziert werden. Es sei ohne Zweifel erforderlich, das geltende Recht auf seine Anwendbarkeit auf Roboter  hin zu prüfen, da das Gesetz Lücken auf- weist und keine lernenden Roboter abdeckt, meint Susanne Beck, die an der Universität Würzburg zu juristischen Fragen zum Zusammenleben von Robotern und Menschen forscht. In ihren Augen steht die Diskussion zur Robotik erst am Anfang und wird sich in den nächsten Jahren noch vertiefen.

SUPER INTELLIGENT ROBOT. Amerikanische Forscherinnen wie Michio Kako prognostizieren, dass die Intelligenz der Maschinen jene des Menschen zwischen 2030 und 2070 überschreiten werde, während andere wie Dietmar Dietrich und Markus Vincze von der TU Wien glauben, Roboter mit Bewusstsein lägen noch in weiter Zukunft. Vincze sieht deshalb keinen Handlungsbedarf für eine Bearbeitung  des österreichischen Rechts: „Asimovs Gesetze sollten gelten.“ Isaac Asimovs Robotergesetze bilden den Hintergrund seiner Kurzgeschichte „Runaround“ aus 1942 und prägen seitdem die Auffassung davon, was und wie ein Roboter sein sollte. Diese lauten: Ein Roboter darf kein menschliches Wesen verletzen. Er muss den ihm von einem Menschen gegebenen Befehlen gehorchen – es sei denn, ein solcher Befehl würde mit Regel 1 kollidieren, und er muss seine Existenz beschützen, solange dieser Schutz nicht mit Regel 1 oder 2  kollidiert.

Beck geht einen Schritt weiter. So sollte auch bei Robotern diskutiert werden, ob sie Empfängerinnen rechtlicher Mitteilungen sein könnten. Es sei zumindest denkbar, dass Roboter deren Inhalt und Bedeutung in gewissem Sinn verstehen und demgemäß handeln könnten. Das spräche dafür, Roboter in Zukunft bei einem Zusprechen von Pflichten und Rechten auch als direkte Ansprechpartnerin zu wählen, so Beck.


Clara Heinrich studiert Politikwissenschaft an der Universität Wien.

Enthauptungen, Steinigungen, Verbrennungen – der Islamische Staat (IS) entsetzt durch die Verbreitung der Video-Dokumentation seiner Greueltaten. Bildexpertin Petra Bernhardt geht in ihrer Forschung den Bildstrategien der Terrororganisation auf den Grund.

progress: Sollten Medien prinzipiell auf die Verwendung von propagandistischem IS-Bildmaterial verzichten?

Petra Bernhardt: Diese Frage kann nicht mit einem generellen Ja oder Nein beantwortet werden. Wenn ein Video tatsächlich einen hohen Nachrichtenwert hat und es gut kontextualisiert wird, kann eine Veröffentlichung durchaus Sinn machen. Aber Terrorbilder eignen sich nicht als Teaser. Ich verstehe das natürlich aus der Logik des Medienschaffens heraus. Solange man aber nicht weiß, was diese Bilder konkret auslösen, würde ich mir einen reflektierteren Umgang damit wünschen.

Aber selbst wenn die Bilder ausreichend kontextualisiert werden, ihre affektive Wirkung lässt sich nicht „wegerklären“.

Richtig. Genau deswegen sprechen wir von der Macht der Bilder.

Gibt es überhaupt eine Möglichkeit, dem IS diese Bildmacht zu nehmen?

Nein, das glaube ich nicht. Ich halte den Begriff „Bildmacht“ selbst schon für eine Konstruktion. Es ist ein strategisches Spiel. Der IS kennt die Logiken einer globalisierten Medienbranche sehr gut. Diese kann seinen Bildern nichts entgegensetzen. Es wäre vermutlich recht sinnlos, wenn wir offensiv demokratische Strukturen bewerben. Das wird so nicht funktionieren.

Wie die IS-Bilddebatte geführt wird, ist überholt. Alle reden von der „Wirkmacht“ der Bilder, die RezipientInnen selbst stehen kaum im Fokus. Woran liegt das?

Die NutzerInnen kommen tatsächlich nur sehr am Rande der Debatte vor. Das ist in hohem Maß irritierend. Ich glaube, ein Grund dafür ist die Selbstreferentialität des Mediensystems: JournalistInnen diskutieren mit JournalistInnen über Darstellungsformen. Auch die bisherige Forschung beschäftigt sich sehr stark mit der Repräsentationsebene. Welche Botschaften vermitteln die Bilder? Wie sieht es mit den technischen Rahmenbedingungen aus? Dabei fehlt die Frage, was die NutzerInnen wollen. Tatsächlich ist das schwer zu erforschen. Eine groß angelegte NutzerInnenstudie bräuchte nicht nur die Zusammenarbeit unterschiedlicher Disziplinen, sondern auch einen größeren zeitlichen Abstand.

Verweisen Popkultur-Anleihen und die Imitation der westlichen Bildsprache in den IS-Videos auf ein westliches Zielpublikum?

All die Strategien, die wir beim IS finden – die Videospiel-Zitate, die Popkulturanleihen –, sind in der zeitgenössischen Politik gängige Praxis. Die Unterscheidung liegt darin, was gezeigt wird und nicht wie es gezeigt wird. Der IS spricht mit den Videos verschiedene Teilöffentlichkeiten an. Zum einen geht es um die ganz banale Verbreitung der Botschaft. Dann gibt es eine regionale Zielgruppe, wo es auch um Abschreckung geht. Wir haben mit Irak und Syrien zwei politische Gebilde, die komplett in Erosion begriffen sind. Es ist vermutlich nicht leicht, dort noch eine Armee zu mobilisieren, wenn es Videos gibt, in denen SoldatInnen massenhaft gefoltert und grausam ermordet werden. Andererseits wird in den Medien immer wieder die These vertreten, dass die Terrorvideos als Anwerbungs- und Mobilisierungswerkzeug eingesetzt werden. Dazu gibt es bislang noch keine systematischen Untersuchungen. Was Menschen tatsächlich dazu bringt, sich dem IS anzuschließen, ist schwer festzumachen. Momentan überwiegen Mutmaßungen darüber, was diese Videos können. Es wird sehr viel über die Leute gesprochen und sehr wenig mit ihnen. Ich war von einigen Medienbeiträgen aufgrund ihres hochspekulativen Charakters befremdet.

Das Video, das die Enthauptung des Journalisten James Foley zeigt, hat eine Ethikdebatte im Journalismus entfacht.

Das war ein Dammbruch. Es ist kein Zufall, dass genau dieses Bild so viel ausgelöst hat. Es hat eine extrem starke Bildkomposition und viele verschiedene Bezüge verdichten sich darin: einerseits der visuelle Bezug auf die Häftlingskleidung in Guantanamo, dann die Kompositionslogik des Raumes, die Wüstenlandschaft, das Täter-Opfer-Verhältnis, der verhüllte Kapuzenmann. Das Bild ist quasi ein Selbstläufer und als Medienereignis geeignet. Der Kunsthistoriker Horst Bredekamp, der Terror als Bildakt beschreibt, würde es einen substitutiven Bildakt nennen. Das heißt: Menschliche Körper werden mit Bildern kurzgeschlossen und ein Mord passiert, damit er zum Bild wird.

Welche Bedeutung hat die Frage der Authentizität?

Ich beobachte, dass viele der Fiktion aufsitzen, diese Bilder hätten dokumentarischen Gehalt. Die Bilder werden ohne Kontextwissen weiterverbreitet. Mir ist auch aufgefallen, dass eine starke Vermischung von Terrorbildern und fotojournalistischem Material stattfindet. Da wäre ein höheres Reflexionsniveau nötig. Aber aufgrund der Lage dort steht wenig Material zur Verfügung, das fotojournalistischen Gehalt hat.

Was bedeutet diese Abwesenheit fotojournalistischer Bilder?

Wenn es keine Bilder gibt, dann gibt es auch kein visuelles Gedächtnis. Das wissen auch die Terrororganisationen. An diesem Punkt geraten die Medien unter Druck. Hier zeigt sich, warum die Debatte nicht bei der Frage danach, welche Bilder gezeigt werden, aufhören darf. Es geht auch um die Rahmenbedingungen, unter denen fotojournalistische Bilder entstehen. Und darum, warum wir diese Bilder brauchen und wie wir ihr Entstehen sicherstellen können. Es ist eine etwas scheinheilige Debatte, immer über die Bilder zu reden und nicht über die Menschen, die diese Bilder machen.

Cornelia Grobner ist freie Journalistin und Doktoratsstudentin im Fachbereich Kommunikationswissenschaft an der Universität Salzburg.