Robotergesetze

Isaac Asimov 1965

Die Robotergesetze wurden von Isaac Asimov in seiner Kurzgeschichte Runaround (Astounding, 1942) als „Grundregeln des Roboterdienstes“ erstmals beschrieben. Sie bilden den Hintergrund der in Ich, der Robot (1950) gesammelten Science-Fiction-Erzählungen und prägen seither die Auffassung, was und wie ein Roboter sein sollte. Die von Asimov beschriebenen Roboter sind in ihrem Verhalten und ihren Entscheidungen an diese Gesetze gebunden.

Die Asimovschen Gesetze lauten:^[1]

1. Ein Roboter darf kein menschliches Wesen (wissentlich^[2]) verletzen oder durch Untätigkeit gestatten, dass einem menschlichen Wesen (wissentlich^[2]) Schaden zugefügt wird.
2. Ein Roboter muss den ihm von einem Menschen gegebenen Befehlen gehorchen – es sei denn, ein solcher Befehl würde mit Regel eins kollidieren.
3. Ein Roboter muss seine Existenz beschützen, so lange dieser Schutz nicht mit Regel eins oder zwei kollidiert.

Man beachte, dass die Gesetze hierarchisch aufgebaut sind.

Diese „Gesetze“ müssen als Vorlage eines Schriftstellers betrachtet werden. Konkrete Schritte für die tatsächliche Programmierung heutiger Industrie- und Haushaltsroboter können daraus nicht abgeleitet werden – hier gelten verschiedene Sicherheitsnormen (Maschinenrichtlinie). Roboter im militärischen Bereich (automatische Waffensysteme, Smart Bombs, Drohnen, Kampfroboter) folgen diesen Gesetzen ohnehin nicht. Siehe auch Sicherheit von Robotiksystemen.

In den Romanen Der Aufbruch zu den Sternen und Das galaktische Imperium (OT: Robots and Empire) wurde ergänzend das „Nullte Gesetz“ abgeleitet, und die anderen Drei Gesetze entsprechend modifiziert:

0. Ein Roboter darf die Menschheit nicht verletzen oder durch Passivität zulassen, dass die Menschheit zu Schaden kommt.
1. Ein Roboter darf keinen Menschen verletzen oder durch Untätigkeit zu Schaden kommen lassen, außer er verstieße damit gegen das nullte Gesetz.
2. Ein Roboter muss den Befehlen der Menschen gehorchen – es sei denn, solche Befehle stehen im Widerspruch zum nullten oder ersten Gesetz.
3. Ein Roboter muss seine eigene Existenz schützen, so lange dieses sein Handeln nicht dem nullten, ersten oder zweiten Gesetz widerspricht.

Galt in der ersten Version der Asimov’schen Robotergesetze noch der einzelne Mensch als die höchste zu beschützende Instanz, so steht in den neuen vier Robotergesetzen die Menschheit über dem einzelnen Menschen. Besonders hier wird die Konsequenz aus dem hierarchischen Aufbau der Gesetze deutlich, da ein Roboter die Unversehrtheit einer Masse von Menschen derjenigen eines einzelnen Individuums vorziehen muss. Die Einführung des nullten Gesetzes ist deshalb als kritisch anzusehen, da es Robotern die Möglichkeit gibt, einzelne Menschen absichtlich zu verletzen oder gar zu töten, um die Menschheit zu beschützen. Dies wirft die grundsätzliche Frage auf, inwieweit es Robotern erlaubt sein sollte, Menschen zu schädigen.

Scheinen die Gesetze auch klar, so sind sie doch nicht „narrensicher“, insbesondere weil sie vom Menschen eben menschlich und damit unvollständig betrachtet werden. Im Film I, Robot sieht man zum Beispiel, dass die drei Gesetze nicht ausschließen, dass Roboter die Macht übernehmen, um die Menschheit vor sich selbst zu schützen. Dies geschieht, da das sehr hoch entwickelte Roboterhirn "V.I.K.I." aus den ursprünglichen drei Gesetzen das nullte Gesetz ableitet, welches nach einiger fast schon philosophischer Überlegung tatsächlich aus den drei Grundgesetzen resultieren kann.

Die Robotergesetze führen, wenn sie nicht in ihrer Gesamtheit betrachtet werden, zu Paradoxien, die in verschiedenen literarischen Werken und in Filmen dargestellt wurden.

In der Trilogie um den Roboter Caliban (das Konzept zu den Romanen um Caliban stammt noch von Asimov selbst, wurde jedoch von Roger MacBride Allen umgesetzt) werden die drei Gesetze komplett verworfen und die „neuen Gesetze“ entstehen:

• Ein Roboter darf keinen Menschen verletzen.
• Ein Roboter ist verpflichtet, mit Menschen zusammenzuarbeiten, es sei denn, diese Zusammenarbeit stünde im Widerspruch zum Ersten Gesetz.
• Ein Roboter muss seine eigene Existenz schützen, so lange er dadurch nicht in einen Konflikt mit dem Ersten Gesetz gerät.
• Ein Roboter hat die Freiheit zu tun, was er will, es sei denn, er würde dadurch gegen das Erste, Zweite oder Dritte Gesetz verstoßen.

Caliban selbst ist der Prototyp eines Roboters, der an kein Gesetz gebunden ist.

In der dritten Folge der Fernsehserie Raumpatrouille werden die Roboter zum „Hüter des Gesetzes“ (Erstsendung: 15. Oktober 1966). So übernehmen sie die Herrschaft in einem Bergwerk, um die Menschen nach einem Streit davon abzuhalten sich weiter selbst zu verletzen (siehe Gesetz 1). Dies ist eine Weiterentwicklung des Plots, der bereits 1941 Asimovs Erzählung Vernunft zugrunde liegt.

Trivia

In Anspielung auf die Robotergesetze nach Asimov enthält die robots.txt von last.fm die Zeilen:^[3]

Disallow: /harming/humans
Disallow: /ignoring/human/orders
Disallow: /harm/to/self

Einzelnachweise

1. ↑ Isaac Asimov, Meine Freunde, die Roboter. München 1982: Heyne, S.67
2. ↑ ^{a b} Isaac Asimov, "The Naked Sun". Januar 1975: Doubleday
3. ↑ Robots.txt von Last.fm. 6. Dezember 2010.

Siehe auch

Roboterethik