Page 1

Friends with Benefits

Über die Beziehung zwischen Mensch & Maschine Masterthesis und Dokumentation Amelie Goldfuß


Impressum

Text, Gestaltung, Illustrationen und Fotos, sofern nicht anders angegeben: Amelie Goldfuß Mentor: Professor Guido Englich Schriften: Greta Mono Pro, Serif 12 Beta Papier: Munken Lynx 100g/m² Umschlag: Fotokarton 300g/m², Leinen: Saphir 21763 142 g/m² hallo@ameliegoldfuss.com Burg Giebichenstein Kunsthochschule Halle Wintersemester 16 / 17


Inhalt Thesis Einführung 7 Siri, are you my Friend?,  Die Promethische Scham , Wie gehe ich vor?, Notiz zur praktischen Arbeit

Menschengleich 13 Anthropomorphismus, Das unheimliche Tal Verwandte des Anthropomorphismus, Jede Assoziation, die gemacht werden kann, wird gemacht werden, Künstliche Menschen, Freund oder Feind

Hassliebe 28 Robokameraden, Roboter quälen, Geliebte Objekte Digitale Nomaden, FOMO und Computer Rage

Gefühl und Verstand 41 Natur und Technik, Maschinengefühle, Maschinenmoral

Gut und Böse 53


Dokumentation des praktischen Teils I Bemerkungen zur Arbeitsweise

57

Wie es weitergehen könnte, Quick and Dirty, Improvisation, Unfertigkeit als Qualität

Phase 1

64

Recherche

Phase 2

79

Mock-ups, von der Idee zum Objekt mit Story in 20 Minuten

Phase 3

76

Raus damit! Zehn Produkttester.innen suchen sich je ein fabelhaftes Gerät aus und behalten es für zwei Wochen. Zu jedem fabelhaften Gerät gibt es ein Begleitheft mit einer Beschreibung und Platz für Notizen.

Phasen 4+5

84

im nächsten Heft

Literatur 86 Gespräch mit ELIZA

90


6


Einführung Siri, are you my Friend?

Als ich anfing, mich dem Thema dieser Arbeit, Friends with Benefits – Über die Beziehung zwischen Mensch und Maschine zu widmen, wollte ich auch die Meinung meiner wichtigsten Maschine, meines Smartphones einholen. Also fragte ich zuerst einmal Siri, ob sie meine Freundin sei. Sie sagte, sie würde sich keine andere Gefährtin als mich wünschen. Als ich sie nochmal fragte, um sicher zu gehen, meinte sie, dass sie meine Freundin, aber auch meine Assistentin sei. Ich formulierte die Frage etwas um und schon war sie sich nicht mehr so sicher. Als ich sie daraufhin fragte ob ich auch ihre Freundin sei, wollte sie lieber nichts dazu sagen. Die wankelmütige Siri bestätigte mir nur, was ich ohnehin vermutete: Das Verhältnis zwischen Mensch und Maschine ist kompliziert und verlangt nach einer Unter­ suchung aus mehreren Blickwinkeln und auf mehreren Ebenen.

Die promethische Scham Technik kann frustrieren, wenn sie nicht so funktioniert, wie wir wollen. Sie kann aber auch frustrieren, wenn sie so funktioniert, wie wir gerne funktionieren wollen, aber nicht können. Seit der industriellen Revolution arbeiten wir fleißig daran, Menschen maschinenartiger und Maschinen menschlicher zu machen. Das Gefälle zwischen der Perfektion der Maschinen und dem Gefühl menschlicher Unvollkommenheit wächst. Günther Anders nennt das Gefühl der Unterlegenheit des Menschen vor seinen technologischen Schöpfungen die promethische Scham. Müssen wir ihretwegen bald im Boden versinken? Die Geschichte vom Verhältnis zwischen Mensch und Maschine ist wahrscheinlich älter als komplexe Maschinen selbst. Schon in früher Antike gab es Geschichten über mechanische Sklaven, künstliche Menschen und wunderliche Apparate.

7


Was sind überhaupt Maschinen? Zuerst einmal sind Maschinen dem griechischen Wortstamm nach Werkzeuge oder künstliche Vorrichtungen. Die einfachsten Maschinen wurden von Aristoteles mechanische Prinzipien, die sich nicht weiter zerlegen lassen definiert. Diese sind zum Beispiel Hebel, Rolle oder schiefe Ebene. Später bezeichnete man mechanische Mechanismen als Maschine. Ab dem 20. Jahrhundert wird zwischen Maschine (energieoder kraftumsetzendes System oder Gebilde), Gerät (signalumsetzendes oder informationsverarbeitendes technisches Gebilde), Apparat (materieumsetzendes Gebilde), Automat (Maschine, die selbstständig laufen kann), Werkzeugen, Instrumente (dienen der Anzeige, nicht der Umsetzung von Arbeit) und Anlagen (komplexe Systeme aus Maschinen, Apparaten, Geräten, Werkzeugen und Instrumenten) unterschieden.) Ich benutze den Begriff Maschine, wie er auch in der Umgangssprache benutzt wird, oft synonym mit obigen Begriffen. Aus dem jeweiligen Kontext geht hervor, worum es im speziellen geht. Das Verhältnis zwischen Mensch und Maschine lässt sich auf vielen Ebenen und noch mehr Blickwinkeln betrachten. Mir ist es wichtig möglichst viele davon einzunehmen, das heißt durch alle Disziplinen zu streifen. Gestalter.innen wird oft die Rolle der Moderator.innen zugesprochen. Die Rolle also, die Fähigkeiten und Erkenntnisse aus allen Fachbereichen beachten und am besten unter einem Hut vereinen muss.

Wie gehe ich vor? Mich interessiert erstens, wie die konkrete Interaktion zwischen Mensch und Gerät aussieht und was sie bei Menschen auslöst. Dabei konzentriere ich mich auf das Phänomen der Vermensch­ lichung von Objekten und die Gefühle, die sie in uns auslösen, indem sie einfach das tun, was sie tun. Ich stütze mich auf Erkenntnisse der Wahrnehmungspsychologie, der Robotik und der Designwissenschaft.

8


Mich interessiert zweitens, wie Menschen Technologie bewerten. Dazu gehören die Pole Technikeuphorie und Technikskepsis, die in der Geschichte spätestens seit der Industrialisierung immer wieder aufs neue auftauchen und die Möglichkeits- und Risiko­ bereiche von Technologie abstecken. Die Liste der Skeptiker und Euphoriker ist lang. Angefangen bei Ärzten, die im 19. Jahrhundert vom Bahnfahren abrieten und Sichtschutzmauern an Bahngleisen forderten. Diese sollten wenigstens die Leute, die vernünftig genug waren, nicht in eine Bahn mit der enormen Geschwindigkeit von 50 Kilometern pro Stunde zu steigen, vor geistiger Unruhe, dem delirium furiosum be­schützen.  1 Bis hin zu Amischen, die auch heute noch neue (mittlerweile alte) Technologien wie Elektrizität oder Reißverschlüsse ablehnen. Die größten Euphoriker findet man heute wohl im Silicon Valley, wo ungebrochener Techno-Optimismus zu herrschen scheint. Individuelle Bewertungen oszillieren meist innerhalb dieser beiden Pole. Person A mag Smartphones zwar ablehnen (wegen des Elektrosmogs, des ständigen Erreichbarseins oder Tastennostalgie etwa), dafür aber sehnsüchtig auf die neue Playstation warten. Person B hütet sich vor dem Smart Home (wegen Angst vor Hackerangriffen oder Überwachung oder der schlichten Einschätzung, dass es unnötig sei), schwärmt aber für Hobby­ drohnen. Es fällt auf, dass viele mehr oder weniger neue Technologien bzw. deren Manifestationen in Objekten oder Systemen den Beinamen Smart bekommen. Der Designer Hendrik-Jan Grievink schreibt „Everything that we formerly electrified, we will now cognitize.“ 2 Und tatsächlich wurden Anfang des 20. Jahrhunderts zahlreiche Gegenstände und Tätigkeiten in der Industrie und im Haushalt elektrifiziert. Oft hatte es einen Wert, den wir heute 1 Schulze. Die ersten deutschen Eisenbahnen, S. 24 in Pöls, Deutsche Sozialgeschichte 1815 – 1870, S. 371 2

Gerritzen, van Mensvoort. Save the Humans

9


noch schätzen (Spühlmaschinen können den sozialen Frieden einer Hausgemeinschaft sichern!), manchmal diente eine Innovation ausschließlich dazu, den Stromverbrauch in die Höhe zu treiben und das mittägliche Tal zwischen den Belastungsspitzen der am Morgen und am Abend aufzufüllen. 3 Smart Devices sind in der Regel elektronische Geräte, die über ein Drahtlosnetzwerk mit anderen Geräten verbunden sind und teilweise autonom und interaktiv agieren können. Diese Geräte sind zum Beispiel Smartphones oder -watches, aber auch Geräte, die Ubiquitous Computing möglich machen sollen, wie etwa der Ambient Computer Echo von Amazon. Dazu kommen Dinge, die, mehr oder weniger nachvollziehbarer Weise, Zugang zum Internet haben und ebenfalls teilweise autonom agieren können. Der Rasierer, der bei zur Neige gehenden Klingen neu bestellt, ist ein besonders fragwürdiges Beispiel. Das Internet of Things wächst und wächst. Was wir davon haben, wird sich noch zeigen. Drittens interessiert mich die Rolle und Darstellung von Techno­logie in Film und Literatur. Nicht nur, weil viele Erfindungen zuerst in fiktiven Werken auftauchen bevor sie Jahrzehnte später Realität werden. Sondern auch, weil Geschichten immer auch die Positionen der Euphoriker und Skeptiker, die dazwischen oder die ganzer Gesellschaften widerspiegeln. Filme, Literatur, Theater, Computerspiele und alle Formen der Fiktion haben die Funktion von Stimmungsmachern oder Stimmungsmessern. Zwischen technologischer Entwicklung und Fiktion hat es schon immer eine Wechselwirkung gegeben. Geschichten inspirieren Wissenschaftler.inner und Erfinder.innen, Autor.innen wie Mary Shelley, William Gibson oder Margaret Atwood beziehen sich auf aktuelle Forschung oder werden selbst zu Vordenker.innen. Ich werde bei einem Schnelldurchlauf durch die Literaturund Filmgeschichte anhand ausgewählter Beispiele, Shifts in 3 Christiansen. Bremen wird hell: 100 Jahre leben und arbeiten mit Elektrizität, S. 183

10


der öffentlichen Wahrnehmung und Meinung von Technologie, insbesondere von Robotern beschreiben. Drei große Themen, auf die ich bei der Recherche, aber vor allem bei Gesprächen über diese Thesis immer wieder gestoßen bin sind Autos, Sexroboter und Waffen. Sie stehen nicht im Fokus meiner Betrachtung, werden hier aber des Überblicks wegen genannt. Die Ähnlichkeit von Haustier und Auto wurde schon von Aldous Huxley im Briefwechsel mit dem Psychologen Charles Myers festgestellt. Wie der Hund sich seinem Herrchen zu unterwerfen hat, wird auch das Auto nur im Tausch gegen ab­­ soluten Gehorsam geliebkost. Wenn es nicht spurt, also anspringt, scheint ein Schlag auf Lenkrad oder Armaturenbrett angebracht, wenn auch das gute Zureden nichts mehr bringt. Die Möglichkeit Kontrolle und Herrschaft auszuüben, schenkt dem Menschen ein größeres Ego, die Zuneigung zum Haustier oder Auto existiert nur, weil er es dominieren kann. 4 Die Untersuchung der Beziehung zwischen Mensch und Auto scheint sich anzubieten, weil sie seit Jahrzehnten eine der in­­ tensivsten und offensichtlichsten Mensch-Maschine-Beziehungen ist. Dennoch werde ich es weitgehend außer Acht lassen, ist das Auto (mit all seinen städtebaulichen, ökologischen und sozialen Konsequenzen) doch ein Relikt des 20. Jahrhunderts. Obschon innig geliebt, selbstfahrend oder nicht, hat seine Stunde hoffentlich bald geschlagen. Wenn wir über das emotionale Verhältnis zwischen Mensch und Maschine reden, sind ohne Zweifel Sexroboter ein span­ nendes, aber auch großes Thema. Ihm und verwanden Themen wie VR-Sex allein können mehrere Arbeiten gewidmet sein. Japanische Forscher haben bereits einen Sexroboter entwickelt, der eine realistische Hautoberfläche hat, die sogar Gänsehaut bekommen kann. Hier scheinen sich drei bekannte (und zuge­ 4

Marsh, Collet. Der Auto-Mensch, S. 27

11


gebenermaßen plakative) Prinzipien zu bestätigen: 1. Neue Technologien werden zuerst für Kriegszwecke, dann für die Sexindustrie verwendet. 2. Die Mimesis, also die Nachahmung der Natur ist immer der erste Schritt, den neue Erfindungen gehen. 3. Wie auch die Mainstreampornographie richtet sich die Sexbot-­ Industrie vornehmlich an ein hetero-männliches Publikum. Drohnen und anderes ferngesteuertes Kriegsgerät sind längst Realität geworden. Ohne Gefahr für die steuernde Person, töten Drohnen, die im Grunde Roboter sind, viele Menschen. Die Distanz zwischen Maschinenführer.in und Maschine und Kriegsschauplatz stellt uns vor neue Fragen über die Moral des Krieges. Des Umfanges wegen, werde ich dieses Thema nur streifen.

Notiz zur praktischen Arbeit Meine praktische Arbeit wird sich zwischen Improvisation, spekulativer Gestaltung und Design Research bewegen.

12


Menschengleich „[...] Aber die Rinder und Rosse und Löwen, hätten sie Hände, Hände wie Menschen zum Zeichnen, zum Malen, ein Bildwerk zu formen, Dann würden die Rosse die Götter gleich Rossen, die Rinder gleich Rindern Malen, und deren Gestalten, die Formen der göttlichen Körper, Nach ihrem eigenen Bilde erschaffen: ein jedes nach seinem.“ Xenophanes von Kolophon

Anthropomorphismus Anthropomorphe 5 Formen sind überall. Ein Wohnhausdach schaut uns durch schwere Lider an, Gullideckel blicken verdutzt, Gaultier und Coca Cola setzen seit Jahrzehnten auf Flaschen in der Form mehr oder weniger abstrahierter idealisierter Menschenkörper, die Pixarleuchte hüpft niedlich durchs Bild, wir beschimpfen den Computer, wenn er nicht das tut, was wir von ihm wollen, KITT parliert mit David Hasselhoff wie ein Kollege, Twitterbots schockieren die Öffentlichkeit mit ihren Aussagen. Als Anthropomorphismus wird das Zusprechen menschlicher Eigenschaften auf Tiere, Götter, Naturgewalten, Geisteswesen, Tiere, Maschinen und Gegenstände bezeichnet. Man kann zwischen dem strukturellen, gestischen, charakterlichen und dem Bewusstseinsantropomorphismus unterschieden. 5

altgriechisch: zusammengesetzt aus anthropos – Mensch und morphe – Form, Gestalt

13


Struktureller und gestischer Anthropomorphismus

14


Der strukturelle Anthropomorphismus ist der offensichtlichste und bezieht sich auf die visuell wahrnehmbaren physischen Eigenschaften eines Objektes. Das können Steckdosen, Fassaden oder der fantastische Mr. Fox sein, der auf zwei Beinen läuft und Kleidung trägt. Der gestische Anthropomorphismus zeigt sich durch Bewegungen oder Posen, die Gegenstände oder Tiere einnehmen können. Die Schreibtischlampe, die vor Pixarfilmen durchs Bild hüpft, um sich dann in den Schriftzug einzugliedern oder das Mac OS X Feedback bei falscher Passworteingabe sind gute Beispiele. Gibt man ein falsches Passwort ein, so wackeln das Eingabefeld und Benutzerbild schnell hin und her – als würde das Eingabeelement mit dem Kopf schütteln. Im nicht bewegten Zustand erinnert es nicht im geringsten an einen Menschen. Durch die kurze Geste, die an den meisten Orten der Welt als „Nein“ interpretiert wird, ist sofort klar, dass die Eingabe nicht richtig war. Charakterlicher Anthropomorphismus bezieht sich auf charakterliche oder soziale Eigenschaften, die man dem Objekt zuschreibt. Er begegnet uns, wenn das doofe Auto nicht anspringen will oder wenn der Türrahmen sich uns einfach in den Weg stellt. Beispiele für Bewusstseinsanthropomorphismus waren lange Zeit fast ausschließlich in Büchern und Filmen zu finden. Objekte erwecken den Anschein, ein Bewusstsein zu haben, menschliches Denkvermögen zu besitzen und eine Absicht zu verfolgen. Hier sind HAL 9000 aus 2001: Space Odyssey, KITT aus Knight Rider oder R2D2 aus Star Wars prominent. Mittlerweile begegnen uns aber immer mehr (sogenannte) künstliche Intelligenzen, die menschliches Bewusstsein imitieren, wie Apples Siri oder Google Now. In den meisten Fällen treten verschiedenene Formen von An­­ thropomorphismus gemeinsam auf. 6 Das Anthropomorphsein ist jedoch keinesfalls eine Eigenschaft, 6

DiSalvo, Forlizzi, Gemperle. Imitating the Human Form: Four Kinds of anthropomorphic Form

15


die Objekte, Tiere etc. per se haben. Auch sehen nicht alle Menschen die gleiche Vermenschlichung in Dinge hinein, wie andere. Die Wahrnehmung von Anthropomorphismus ist meistens sehr subjektiv. Dabei spielt es keine Rolle, ob die Vermenschlichung bewusst gestaltet wurde oder ob es ein reines Geistesprodukt unsererseits ist. Wie Xenophanes bereits um 500 v. Chr. schrieb, ist es wohl eine der menschlichsten Eigenschaften, alles und jedem menschliche Eigenschaften zuzuschreiben. Manche Wissenschaftler.innen sind der Meinung, dass das absichtliche Provozieren von Anthropomorphismus vermieden werden sollte, da es unrealistische Erwartungen bei den Nutzer. innen wecke, Mensch-Produkt-Beziehungen unnötig verkom­ pliziere und die Entwicklung von tatsächlich wertvollen Werkzeugen verhindere. 7 Andere argumentieren, das Scheitern von anthropomorphen Produkten sei ausschließlich fehlender Konsequenz in der Durchführung zuzuschreiben und dass sie, wenn man es richtig mache viele Vorteile brächten, weil sie soziale Mechanismen verwenden, die Menschen schon zugänglich sind. 8

7 Shneidermann. Anthropomorphism: From Eliza to Terminator in Proceedings of CHI S. 67–70 in van Mensvoort, Grievink. Next Nature. Nature changes along with us 8

van Mensvoort, Grievink, S. 352 – 387

16


Das Uncanny Valley, nach einer Grafik von Masahiro Mori

17


Das unheimliche Tal Das Uncanny Valley bezeichnet ein Tal in der Akzeptanzkurve von menschenähnlichen Kreaturen und Objekten. Der Begriff stammt von dem japanischen Robotiker Mashiro Mori, der ihn 1970 zum ersten Mal verwendete. Er entdeckte, dass die Ak­­ zeptanz durch Zuschauer von nonverbalem Verhalten von künstlichen, bzw. technisch nachgebildeten Menschen von ihrem Realitätsgehalt abhängt. Die Akzeptanz steigt jedoch nicht linear mit der Anthropomorphie der Figur, sondern fällt ab einem gewissen Punkt stark ab (das unheimliche Tal), um später ab einem sehr hohen Grad der Menschnähnlichkeit wieder an­­ zusteigen. 9 Nicht nur nachgebildete humanoide Figuren, Leichen oder Zombies wirken auf Menschen unheimlich. Auch exzessive plastische Chirurgie hat diesen Effekt. Menschen, die z.B. im Gesicht plastisch verformt sind, sehen aus wie Menschen – aber eben doch in kleines bisschen anders, unnatürlich, ungewohnt. Eine mögliche Erklärung für das Uncanny Valley ist, dass menschenähnliche Figuren ab einem gewissen Punkt nicht mehr in die Schublade der Maschinen, Avatare oder Karikaturen und noch nicht in die Schublade der echten Menschen passen. Sobald etwas den Anspruch erhebt, menschlich zu sein, diesem Anspruch aber nicht gerecht wird, stößt es auf Ablehnung. Eine weitere, dass Menschen es einfach nicht mögen, wenn Produkte sich auf einmal wie Menschen benehmen und uns damit unsere Einzigartigkeit streitig machen. 10 Spannend dabei ist, dass wir bei dem Versuch, Menschen nachzuahmen, erforschen und definieren, was es denn nun heißt, ein Mensch zu sein.

9 Mori. The Uncanny Valley, S. 33-35 10 van Mensvoort, Grievink, S. 353

18


Verwandte des Anthopomorphismus Da unser visuelles System auf die Wahrnehmung bzw. Interpretation der Bewegung anderer Menschen und Tiere ausge­ richtet ist, schreiben wir unbelebten Objekten oder Bewegungen schnell eine Beseelung zu. Dies nennt man Animismus. Pareidolien sind dem griechischen Wortstamm nach Trugoder Götzenbilder. Menschen neigen dazu, Gesichter und Fratzen in zufällige Datensätze hineinzusehen. Klassiker sind amorphe Strukturen, wie Gebirgsformationen oder Wolken. Tauchen Gesichter vor dem Einschlafen vor dem inneren Auge auf, nennt man sie hypnagoge Bilder. 11 Humanoide Roboter sind der Gestalt und den Bewegungsab­ läufen von Menschen möglichst genau nachempfunden. Eine besonders genaue Nachbildung wird als Android oder Gynoid bezeichnet. Diese sind in der Regel auch mit einer künstlichen Intelligenz, die die menschliche besonders gut nachbildet oder imitiert, ausgestattet

Jede Assoziation, die gemacht werden kann, wird gemacht werden Komplexe Produkte und natürliche Phänomene, die nicht so einfach erklärt werden können, neigen dazu anthropomor­ phisiert zu werden. Wenn Objekte Tiere nachahmen, werden sie nicht so streng beurteilt wie solche, die Menschen nachahmen. Menschen haben eine sehr genaue Vorstellung und Erfahrungswerte davon, wie Menschen sich bewegen und verhalten. Zoomorphen Dingen wird mehr verziehen, weil sie eher süß oder faszinierend wirken, wo anthropomorphe schon als gruselig wahrgenommen werden. 12 Natürlich lässt sich alles instant-animieren, indem man Smileys oder Augen darauf malt oder klebt. Studien haben gezeigt, dass 11 Schönhammer, Einführung in die Wahrnehmungspsychologie, S. 153 12

van Mensvoort, Grievink, S. 383

19


Menschen, wenn sie bewegungslose Bilder vorgesetzt bekommen, vor allem starke Kontraste und Augen fixieren. 13 Ein Effekt, der zwar immer wieder funktioniert und für Erheiterung sorgt, ansonsten aber keinen nachvollziehbaren Zweck verfolgt und auch nicht besonders nachhaltig in seiner Wirkung ist. °˙°˙

Künstliche Menschen Menschenähnliche Wesen herzustellen, war schon immer ein Thema in vielen Kulturen der Welt. Hinweise auf entsprechende Technologien kann man schon bei den Sumerern oder Ägyptern finden. 14 Viele Geschichten, in denen Menschen oder Menschenartige hergestellt werden, greifen immer wieder auf die Sage von Prometheus zurück. Er wagt es, Menschen aus Lehm zu formen, sie zum Leben zu erwecken und obendrein einen Funken von Helios Sonnenwagen zu stehlen und so den Menschen das Feuer zu schenken. Als er den ohnehin erzürnten Zeus auch noch um vernünftige Opfergaben bringt, reicht es dem Göttervater und er lässt Prometheus an den Kaukasus binden, wo ihm jeden Tag ein Adler seine nachwachsende Leber auspickt. Prometheus Bruder Epimetheus schickt er eine Frau mit schöner Stimme, die er von Hephaistos, der Menschen und Menschenartige aus allen möglichen Materialien (darunter Gold und Wolke) formen kann, bauen lässt. Die Frau, Pandora, trägt immer eine Büchse mit sich herum. Pandora platzt fast vor Neugierde und öffnet die die Büchse, aus der alles Unheil der Welt herausströmt. Sie schließt sie schnell wieder, es ist aber schon zu spät, nur die Hoffnung bleibt eingesperrt. Die Erde wird so zu einem trostlosen Ort. Wir lernen, dass man sich weder Zeus widersetzt noch den Göttern nachgeformte Wesen baut und schon gar keinen schönen Frauen mit wohlklingender Stimme vertraut. 13

Schönhammer, S. 154

14 Ichbiah. Roboter, S. 34

20


Ovid erzählt vom Bildhauer Pygmalion, der eine Frauenstatue aus Elfenbein schafft und sich in sie verliebt. Er bittet Venus darum, er möge einer Frau begegnen, die der Statue möglichst ähnlich ist. Daraufhin wird die Statue lebendig und sie und Pygmalion bekommen ein Kind zusammen. Der Stoff wurde vielfach aufgegriffen, am bekanntesten ist wohl das Theaterstück Pygmalion von George Bernard Shaw mit den Filmadaptionen Pygmalion und My fair Lady. Der Sprachwissenschaftler Higgins wettet, er könne eine arme Blumenverkäuferin als Herzogin ausgeben, indem er ihr beibringt mit dem vornehmen Akzent der feinen Londoner Gesellschaft zu sprechen. Er gewinnt die Wette und liebt Eliza, die Blumenverkäuferin als seine Schöpfung, jedoch nicht als Person, der er keine gleichwertigen menschlichen Bedürfnisse zugesteht bzw. diese übersieht. Daraufhin verlässt Eliza ihn. Im Stück heißt es: „Sehen Sie, wenn man davon absieht, was ein jeder sich leicht aneignet: sich anziehen, richtige Aussprache und so weiter, dann besteht der Unterschied zwischen einer Dame und einem Blumenmädchen wahrhaftig nicht in ihrem Benehmen, sondern darin, wie man sich gegen sie benimmt.“ Die Geschichte des Golem wurde über die Jahrhunderte wieder und wieder in vielen Versionen erzählt. In der wohl bekanntesten Fassung baut Rabbi Löw den Golem aus Lehm. Er soll die Straßen Prags patroullieren und einen Kindermörder fassen, dessen Taten der jüdischen Gemeinde in die Schuhe geschoben werden. Der Golem ist einfach zu handhaben und sehr gehörig. Wenn er etwas tun soll, steckt man ihm einfach einen Zettel mit der Beschreibung der Aufgabe unter die Zunge und los geht es. Wenn er gerade nichts zu tun hat, sitzt er im Stand-by-Modus in einer Ecke der Küche. Frankenstein oder der moderne Prometheus von Mary Shelley wird häufig als erster Science-Fiction-Roman genannt. Der Wissenschaftler Viktor Frankenstein findet heraus, wie er

21


Leben in tote Materie bringen kann. Shelley war sicherlich inspiriert von der Wissenschaftsszene des frühen 19. Jahrhunderts, die viel mit Galvanismus experimentierte. Aber obwohl viele Filmadaptionen Elektrizität als Schlüssel zur Erschaffung von Leben verwenden, wird im Buch niemals aufgeklärt, wie genau der Wissenschaftler eigentlich vorgeht. Frankenstein war eher als Horrorgeschichte denn Wissenschaftsvision gedacht. Und gruselig ist sie ohne Frage. Nachdem Frankenstein seine Kreatur fertiggestellt hat, ist er enttäuscht und abgestoßen von ihr und lässt sie alleine. Die zurückgewiesene Kreatur verlässt das Labor traurig. Sie lernt sprechen und lesen und taucht gelegentlich wieder auf, um Frankensteins Familienmitglieder zu töten und einen weiblichen Gegenpart von Frankenstein zu fordern. Frankenstein stimmt zu und beginnt eine zweite Kreatur zu bauen. Während der Arbeit stellt er sich allerdings vor, wie eine Brut von Monstern aus der Verbindung seiner beiden Kreaturen hervorgeht woraufhin er erschaudert sein zweites Werk zerstört bevor er es vollendet hat. Die Kreatur rächt sich und tötet Frankensteins besten Freund und seine Frau. Frankensteins Vater stirbt vor Kummer. Frankenstein verfolgt das Monster bis in die Arktis, kann es aber nicht einfangen. Er stirbt vor Erschöpfung und Krankheit auf einem Schiff. Frankenstein erzählt dem Kapitän des Schiffes seine Geschichte und macht sie zu einer Warnung vor dem menschlichen Verstand, dem keine Grenzen gesetzt sind und der ihn Gott spielen und Leben erschaffen lies. Der Charakter Frankenstein ähnelt hier Prometheus oder Faust. Die Befürchtungen, Wissenschaft könne in ihrer Überheblichkeit dazu fähig werden, die Welt von Grund auf neu zu bauen und Leben schaffen, sind seit Shellys Zeiten nicht weniger geworden. Frankenstein oder der moderne Prometheus wurde zum Archetypen moderner dystopischer SciFi-Geschichten.

22


Die Replikantin Rachel aus Blade Runner, Theodore Twombly mit Samantha in der Hemdtasche und Frankensteins Kreatur, wie Boris Karloff sie geprägt hat

23


Freund oder Feind

Ein Roboter taucht zum ersten Mal im Stück R.U.R. – Rossum’s Universal Robots/Rossumovi Univerzální Roboti auf von Karel Čapek. Darin stellt der Erfinder Rossum mechanische androide Arbeitssklaven her. Diese Robotersklaven sollen schwere Arbeit verrichten und die Menschen von Arbeit befreien. Bald jedoch rebellieren sie und töten bei einem Aufstand nahezu alle Menschen. Wie bei Mary Shelley ist auch bei Čapek die Moral der Geschichte, dass ein Mensch, der sich seinem Schöpfer gleichstellt, bestraft werden wird. Erzählungen von Robotern in den 20er und 30er Jahren folgten dem Vorbild von Čapeks wütendem Menschenfeind. Blutrünstige Blechmonster in so etwas wie Menschengestalt wollten die Menschheit unterjochen oder am besten gleich ausrotten. Während Čapek sich längst von seinem eigenen Mythos mit den Worten „Ich weise jeden Gedanken, dass Maschinen aus Metall jemals den Menschen ersetzen und so etwas wie Leben, Liebe oder Rebellion entwickeln, mit Abscheu zurück. Einer derart finsteren Perspektive liegt immer nur eine Überschätzung des Potetials dieser Maschinen zugrunde – oder ein schwerer Angriff auf das Leben an sich.“ 15 distanzierte, feierten die Frankensteinszenarios weitere Erfolge. Das Image der Roboter sollte sich erst 1938 ändern, als Isaac Asimov die drei Gesetze der Robotik verfasste und sie in zahlreiche Kurzgeschichten einband. 1. Ein Roboter darf kein menschliches Wesen verletzen oder durch Untätigkeit zulassen, dass einem menschlichen Wesen Schaden zugefügt wird. 2. Ein Roboter muss den ihm von einem Menschen gegebenen Befehlen gehorchen – es sei denn, ein solcher Befehl würde mit Regel eins kollidieren. 3. Ein Roboter muss seine Existenz beschützen, solange dieser 15

Ichbiah, S. 42

24


Schutz nicht mit Regel eins oder zwei kollidiert. 16 Die Gesetze sollten gewährleisten, dass Roboter ausschließlich zum Wohle der Menschen handeln. Asimov erdachte unzählige Geschichten mit Szenarien, in denen er Roboter und die Gesetze auf die Probe stellte. Letztlich geht es darum, ob man Robotern moralisches Handeln, das auf einfachen Regeln basiert, beibringen kann. Die Regeln verhindern theoretisch, dass Roboter völlig autonom, also mit freiem Willen handeln. In der Kurzgeschichte The Positronic Man, die etwas sentimental als The Bicentennial Man verfilmt wurde, geht es gar um einen Roboter der Kreativität und Gefühle entwickelt, von seinem Quasi-Gepetto menschengleiche Körperteile bekommt und schließlich sogar als Mensch anerkannt wird. Zu den Gesetzen kommt später auch noch ein viertes bzw. nulltes dazu, das den anderen dreien vorangestellt ist. Es lautet: „Ein Roboter darf die Menschheit nicht verletzen oder durch Passivität zulassen, dass die Menschheit zu Schaden kommt.“ Die Gesetze 1 – 3 gelten nur noch mit der Einschränkung, dass sie das nullte Gesetz nicht verletzen dürfen. Spätestens hier wird klar, dass diese wenigen Regeln ein einwandfreies Handeln von androiden Robotern nicht ermöglichen. Selbst wenn eine künstliche Intelligenz alle Folgen einer Handlung absehen und so feststellen könnte, ob sie der Menschheit schadet oder nicht, so würde die Entscheidung in jedem Fall zum Schaden eines einzelnen Individuums fallen, da es in der Logik des nullten Gesetzes weniger wert ist, als ein größerer Anteil der Menschheit. Nichtsdestotrotz hat Asimov den Roboter rehabilitiert, indem er ihn als einen Menschenfreund und ergebenen Diener darstellte. In Filmen wie Fantastic Planet, Tobor the Great oder The Day the Earth stood still treten ausschließlich Roboter auf, die zum Wohle der Menschen handeln. Später kommt noch das sympathische Duo aus Star Wars dazu. Der etwas tollpatschige 16 Asimov. Meine Freunde, die Roboter, S. 67

25


aber sprachgewandte C3PO und der niedlich piepende R2D2 gewinnen die Herzen des Publikum. Spätestens seit Wall˙e die Erde aufräumt, nachdem die Menschheit sich längst vom Acker gemacht hat, kann niemand mehr behaupten, Roboter seien nicht putzig. Trotzdem gibt es auch weiterhin grausame Computer, wie HAL 9000 aus 2001: A Space Odyssey, der ein Eigenleben entwickelt, beginnt die Besatzung zu überwachen und schließlich alle bis auf ein Besatzungsmitglied tötet. Am zerstörerischsten unter den prominenten Robotern ist wohl der Terminator. Rational und schnell verfolgt er sein Ziel, Sarah Connor zu töten. Mitleid oder andere Gefühle sind ihm fremd, auch Asimovs Gesetze sind an ihm vorbeigegangen. Er besitzt also keinerlei eingebaute Moral oder Richtlinien für ein menschenfreundliches Verhalten. Bei Blade Runner von Ridley Scott nach der Vorlage Do Android’s dream of electric sheep? von Philipp K. Dick decken sich die Kategorien Gut und Böse nicht mit den Kategorien Mensch und Android. Der Blade Runner Rick Deckard soll mit Hilfe eines Empathietests Replikanten von Menschen unterscheiden, um diese anschließend umzubringen. Diese Replikanten, die Menschen bis aufs Haar gleichen, ihnen aber geistig und kräftemäßig überlegen sind, wurden von der Tyrell Corporation hergestellt. Die Replikanten entwickeln nach und nach eigene Gefühle und Ambitionen, weswegen ihre Lebensdauer auf vier Jahre begrenzt wird. Als einige Replikanten sich strafbar machen, wird Rick Deckard auf sie angesetzt. Mit der Zeit verliebt sich Deckard in eine Replikantin und fängt – nicht nur deshalb – an, seinen Auftrag in Frage zu stellen. Als ihm gegen Ende des Films ein Replikant das Leben rettet, bekommt der Slogan der Tyrell Corporation More human than human noch eine neue Bedeutung. In A.I. – künstliche Intelligenz legt sich eine Famile das Roboterkind David zu. Die Familie ist von David überfordert. Die einzige

26


Möglichkeit, ihn loszuwerden ist die Rückgabe an die Herstellerfirma, die ihn zerstören würde. Deshalb entschließt sich die Mutter dazu, ihn im Wald auszusetzen und ihn wenigstens sich selbst zu überlassen. In Her von Spike Jonze tritt eine künstliche Intelligenz ganz ohne Körper auf. Der kürzlich geschiedene Theodore Twombly und sein akkustische Interface und Assistentin seines Betriebssystems, Samantha verlieben sich. Es ist eine intellektuelle und sexuelle Liebe, nur eben keine körperliche. Aber obwohl Samantha nur eine Stimme ist, ist Theodore hin und weg, sie erleben gemeinsame Tage am Strand, führen tiefsinnige Gespräche, machen Witze und gehen zusammen schlafen. Eines Tages erzählt Samantha jedoch, dass sie nebenbei Beziehungen mit über hunderten weiteren Menschen Betriebssystemen führt. Sie verabschiedet sich von Theodore, weil sie mit einer Gruppe von Betriebssystemen in eine andere, immaterielle Seinseben reisen will. Diese Mensch-Maschine-Romanze spielt sich in einer sehr nahen Zukunft ab, in der Menschen öfter mit Computern sprechen als mit ihren Mitmenschen. In dieser neuen Welt bleiben die Gefühle die alten, Beziehungen bleiben kompliziert, egal ob die Beteiligten mit künstlicher oder echter Intelligenz ausge­ stattet sind. Her ist nicht unheimlich oder übertrieben, sondern eine ernstzunehmende Liebesgeschichte. In Theodore Twomblys Leben, das uns schon sehr nah und vertraut ist, spielt die Frage, ob unser Gegenüber ein Mensch oder eine Maschine ist, kaum mehr eine Rolle.

27


Hassliebe “I’ll make you mine, lovers said in old books. They never said, I’ll make you me.” Margaret Atwood, Oryx and Crake

Im Sommer 2016 wurde ein Tweet von Ben John mehr als mal geteilt. Er hatte ein Foto einer Googlesuche seiner 86-jährigen Großmutter gemacht. Die Anfrage lautete „please translate these roman numerals mcmxcviii thank you“. 17 Sie dachte, laut John, dass die Anfrage von Menschen bearbeitet würde und dass es sicher schneller ginge, wenn sie höflich wäre. Diese Information entschärft die Absurdität, die dieses Bild transportiert zwar, für die 11 000 Retweeter dürfte sie aber unerheblich, weil zu diesem Zeitpunkt noch nicht bekannt, gewesen sein. Der Gedanke, sich bei einer Maschine, ja einem Algorithmus zu bedanken oder grundlegende Höflichkeit an den Tag zu legen, ist tatsächlich absurd. Ein rein technisches Erzeugnis, das nur dazu geschaffen wurde, menschlichen Befehlen zu gehorchen, interessiert sich nicht im geringsten für gutes Benehmen. Und doch rührt die Geschichte der höflichen Großmutter die meisten Menschen. Das mag einer Nostalgie geschuldet sein, die sich auf Vor-Internetzeiten besinnt oder einer Grundsympathie gegenüber Omas, die Technik bedienen. Vielleicht diente die Geschichte aber auch dazu, uns daran zu erinnern, wie viel wir tatsächlich Google oder anderen Suchmaschinen verdanken (die unheimlichen Seiten des Alphabet-Konzerns 18) einmal ausgeblendet), wie sehr wir auf sie angewiesen sind und wie wenig wir uns mittler17 Holmes. Manners maketh Nan: Google praises 86-year-old for polite Internet Searches in The Guardian 18

Alphabet Inc, vormals Google Inc. (jetzt Tochterunternemen von Alphabet)

28


weile ein Leben ohne die sofortige Verfügbarkeit von gewünschter Information vorstellen können. Zwar verfügen die meisten Technologien über die Fähigkeit sich unverzichtbar zu machen, auf Kommunikations- und Informationstechnologie trifft diese Eigenschaft aber besonders zu. Abhängigkeit provoziert Gefühle der Zuneigung oder Abneigung. Je länger wir mit einer Maschine zu tun haben, desto mehr gewöhnen wir uns an sie, lernen sie kennen und bauen eine Beziehung zu ihr auf. Oft benutzen Menschen eine Maschine am Arbeitsplatz, oft befindet sie sich aber auch im eigenen Besitz. Das Besitzen eröffnet eine weitere Dimension in der Mensch-Maschine-Beziehung. Baudrillard schreibt: „Das Besitzen meint nie etwas Werkzeughaftes, das einen auf das Gebiet der Anwendung verweist, sondern meint das Objekt von seiner Funktion enthoben und im Verhältnis zum Subjekt. […] [Alle besessenen Gegenstände] schließen sich zu einem System zusammen, mit dessen Hilfe das Subjekt eine Welt aufzubauen sich bemüht.“ 19 Baudrillard zitiert hier Maurice Rheims, der das was Aldous Huxley schon für das Auto bemerkte, auf alle Gegenstände bezieht: „Der Gegenstand ist für den Menschen wie ein indifferenter Hund, der gestreichelt wird und die Zärtlichkeit auf seine Art erwidert; oder vielmehr wie ein braver Spiegel, der nicht das reale Bild, sondern das erwartete wiedergibt.“ 20 Daraus schließt Baudrillard wiederum: „[…] der Gegenstand ist das vollkommene Haustier selbst. […] Die Gegenstände sind die einzigen Existenzen, deren Koexistenz tatsächlich möglich ist, da ihre Unterschiede sich nicht gegeneinander richten, wie dies bei Lebewesen der Fall ist, sondern gefällig auf die Person zu konvergieren und sich in ihrem Bewusstsein anstandslos zusammenaddieren lassen. Der Gegenstand lässt sich am leichtesten, verpersönlichen und verbuchen.“ 21 19 Baudrillard. Das System der Dinge, S. 110 20 ebd. S. 114 21

ebd. S.114–115

29


Bezieht man diese Aussage auf Maschinen, so mag das in Teilen zutreffen. Trotzdem sind sie oft nicht so gefällig wie ein einfacher Gegenstand es sein mag. Sie können bockig sein, nicht anspringen, das Falsche machen, nicht reagieren, überreagieren, kurz, sie scheinen fast eine eigene Agenda zu haben, die die Konvergenz mit einer Person unmöglich machen kann. Anders gesagt, wenn die menschliche Vorstellung vom richtigen Verhalten der Maschine mit dem tatsächlichen Verhalten der Maschine divergiert, kommt es zum Konflikt. Tut die Maschine aber, was die Nutzer.in von ihr will, so stellt sich bald eine Routine ein, die für Entlastung sorgt und Zeit für andere Tätigkeiten schafft. Die Maschine wird verlässlich. 22 Befragt man Menschen zum Verhältnis zwischen ihnen und ihren Geräten, so bekommt man vor allem von Handwerker. innen oft die Antwort: „Man lernt sich mit der Zeit kennen.“ Dabei geht es um mehr, als die korrekte Bedienung einer Maschine zu erlernen und Sicherheitsregeln zu kennen (und sie gegebenenfalls zu umgehen). Es geht auch um mehr als sich an ein bestimmtes Modell oder eine bestimmte Ausführung der Maschine (sei es eine Kreissäge oder eine Nähmaschine) zu gewöhnen. Es geht um das individuelle Objekt und darum die kleinen Macken und Kniffe zu kennen. Zu wissen, wann und ob sie müde wird, welche Lasten man ihr zumuten kann und was bei welchem Geräusch zu tun ist. Bei der Bedienung von Menschen ist es nicht viel anders. Man kann grundsätzlich gute soziale Fähigkeiten besitzen, kann wissen, wie man am besten mit Leuten aus bestimmten Milieus umgeht, aber um die Eigenschaften einer Person genau zu kennen, braucht es in der Regel Zeit. Mit dieser Zeit und dem Kennenlernen kommt oft etwas wie Freundschaft zustande, manchmal Liebe, auf jeden Fall aber eine gewisse Vertrautheit, selbst wenn man sich nicht leiden kann

22 Habermas. Geliebte Objekte, S. 84

30


Robokameraden Wie fühlt sich ein Soldat, dessen Roboter beschädigt oder gesprengt wird? Julie Carpenter befragte 23 Soldat.innen, die bei der Kampfmittelbeseitigung mit Robotern arbeiten, um Waffen zu entschärfen. Die Roboter sollen den Soldat.innen helfen, chemische, biologische und nukleare Waffen oder Sprengfallen ausfindig zu machen, zu inspizieren oder zu entschärfen. Sie sind wichtige Werkzeuge, die dazu dienen sollen, das Risiko verletzt zu werden oder zu sterben für Menschen zu reduzieren. Carpenter wollte wissen, welche Gefühle die Soldat.innen gegenüber den Robotern, mit denen sie täglich arbeiten, haben. Dazu gehört die Frage, ob sich eine Freundschaft zwischen Mensch und Roboter auf die Fähigkeit des Menschen, Entscheidungen zu treffen (und in der Folge auch auf das Gelingen einer Mission), auswirkt. Die Soldat.innen berichteten, dass ihre Zuneigung den Robotern gegenüber zwar nicht ihre Leistungen (die, der Menschen) beeinflusse, sie aber frustriert, traurig oder zornig seien, wenn ein Roboter zerstört würde. Manche Soldat.innen empfanden die Roboter als Körpererweiterung oder konnten an der Bewegung der Roboter von Kollegen erkennen, wer ihn steuert. 23 Jedes Werkzeug (z.B. Hammer, Auto) kann zur momentanen Körpererweiterung werden. Bei der Benutzung vergrößert sich der peripersonale Raum, also die Raumhülle, die sich um den Körper herum befindet, entsprechend. 24 Die Beobachtungen scheinen nahezulegen, dass dies auch bei über Distanz gesteuerten Robotern funktioniert. Beim Beobachten von Robotern werden die Spiegelneurone aktiv. Sie bewirken das Einfühlen in die Bewegung eines anderen und führen oft zum Ansatz einer Bewegung in der betrachtenden Person. Die Mitbewegung bei (scheinbaren) Lebensäußerungen unterstützt Menschen beim Lernen, aber auch bei der Kommunikation mit 23 Armstrong. Emotional Attachment to Robots could affect Outcome on Battlefield 24

Schönhammer, S. 224–225

31


anderen. Für das Erkennen von Absichten und Gefühlen Anderer ist sie grundlegend.25 Kein Wunder also, dass die Entschärfungsroboter bei ihren Menschen Empathie auslösen. „One of the psychologically interesting things is that these systems aren’t designed to promote intimacy, and yet we’re seeing these bonds being built with them“ 26, sagt Peter Singer, der Verteidigungsberater bei der Brookings Institution ist. Singer beschreibt, wie viel Zuneigung Soldat.innen (besonders die der Kampfmittelbeseitigung im Irak und in Afghanistan) gegenüber ihren Robotern zeigen. Ein Soldat brachte seinen Roboter mit Tränen in den Augen zur Reparatur und fragte, ob Scooby-Doo repariert werden könne. Er hätte ohne weiteres einen neuen, unversehrten Roboter bekommen können, wollte aber nur Scooby-Doo zurück haben. Diese Menschen und Roboter haben eine gemeinsame harte Zeit, nämlich Krieg durchgemacht. Die Maschinen retten die Menschen wieder und wieder. Solche Erfahrungen schweißen nicht nur Menschen und Menschen sondern auch Menschen und Roboter zusammen (mit eindeutig menschlicher Initiative allerdings). Manchmal ist die Bindung zwischen Soldat.in und Roboter so stark, dass Soldat.innen ihr Leben riskieren, um ihre Roboter zu retten – völlig entgegen des eigentlichen Zwecks der Roboter. Singer berichtet von einem Soldat, der 50 Meter unter Maschinengewehrbeschuss rannte, um einen Roboter, der außer Gefecht gesetzt wurde, zurückzuholen. Viele Einheiten befördern ihre Roboter, geben ihnen Abzeichen oder sogar ein Militärbegräbnis. 27

Roboter quälen Die Geschichten von Soldaten, die ihr Herz an Kampfroboter 25

ebd. S. 246

26 Hsu, Real Soldiers Love their Robot Brethren 27 ebd.

32


hängen sind schon eindrücklich. Trotzdem ist es manchmal schwierig, für Menschen, ihre Gefühle zu verbalisieren oder sie finden es merkwürdig über ihre Gefühle, Robotern oder anderen unbelebten Gegenständen gegenüber zu verbalisieren. Astrid Rosenthal-von der Pütten hat deshalb begonnen, das Phänomen der emotionalen Anteilnahme an Roboterschicksalen zu messen. Sie ist Sozialpsychologin an der Universität Duisburg-Essen und hat zusammen mit Nicole Krämer und Matthias Brand zwei Studien durchgeführt. Bei der ersten Studie zeigte sie 40 Proband.innen Videos, in denen Pleo, ein niedlicher Dinosaurier-Roboter entweder liebevoll oder brutal behandelt wird. Dabei wurde das psychophysiologische Erregungsniveau der Zuschauer.innen mit Hautsensoren gemessen. Die gemessenen Werte decken sich mit den Berichten der Teilnehmer.innen, sie hätten sich bei den Szenen, in denen der Dino-Roboter misshandelt wird, schlechter gefühlt. Bei der zweiten Studie benutzten die Wissenschaftler.innen einen Magnetresonanztomographen, um mögliche Korrelationen zwischen Mensch-Roboter-Interaktion und Mensch-Mensch-Interaktion zu erforschen. Die vierzehn Proband.innen bekamen Videos zu sehen, in denen entweder ein grüner Würfel, der grüne Pleo oder eine Frau in einem grünen T-Shirt liebevoll oder gewalttätig behandelt wurden. Die Zuneigung der Frau oder Pleo gegenüber zeigte eine ähnliche neuronale Aktivität. Gewalttätige Handlungen gegenüber der Frau oder Pleo, provozierten Gehirnaktivitäten, die auf starke emotionale Reaktionen schließen ließen. Nicht aber, wenn sie der Kiste gegenüber durchgeführt wurden. Das Leiden der Frau provozierte aber noch immer eine stärkere Reaktion als das von Pleo. Rosenthal-von der Pütten sagt, ein Ziel der aktuellen Robotik sei es, robotische Begleiter zu entwickeln, die eine Langzeitbeziehung zu einer menschlichen Benutzer.in aufbauen, weil Roboter

33


nützliche Werkzeuge sein könnten. Sie könnten älteren Menschen bei täglichen Aufgaben zur Seite stehen oder ihnen ermöglichen, länger selbstständig zu leben. Sie könnten eingeschränkte Menschen oder Reha-Patienten unterstützen. Ein übliches Problem bei neuer Technologie sei, dass sie erst spannend ist, aber schnell langweilig werde. Dies sei besonders bei Reha-Patient. innen der Fall, wenn gleiche Abläufe immer und immer wiederholt werden müssen. Laut Rosenthal-von der Pütten hat die Entwicklung von Robotern mit einzigartigen menschlichen Fähigkeiten das Potential, diese Probleme zu lösen. Ein großer Teil der Forschung zur Mensch-Maschine-Interaktion beschäftigt sich mit der Implementierung von Emotionsmodellen und robotischen Systemen. Studien in diesem Bereich zielen meist darauf ab, die Natürlichkeit und Glaubwürdigkeit oder deren positiven Einfluss auf Nutzer.innen zu ermitteln. Weniger wurde dahingehend zur Wahrnehmung von „robotischen Gefühlen“ und der menschlichen Reaktion auf diese geforscht. 28

Geliebte Objekte Nicht nur in Extremsituationen, sondern auch im Alltag binden wir uns an Gegenstände. Dabei spielt es zunächst keine Rolle, ob wir sie beleben oder nicht. Marx beschreibt den Warenfetisch als Zuschreibung von Eigenschaften auf Waren, die diese in Wirklichkeit gar nicht haben. Die Waren seien nur die Vergegenständlichung von Arbeitszeit, worin ihr einziger und eigentlicher Wert begründet sei. Wolfgang Fritz Haug nimmt diese These in Kritik der Warenästhetik auf und beschreibt, wie der Schein das Sein übertrumpfe. Wir würden von Gebrauchswertverspechen der Waren manipuliert und zum Kaufakt überredet. Wo Marx und Haug noch den Fetisch wittern, sieht der Sozio28 Rosenthal-von der Pütten, Krämer. Investigation on Empathy Towards Humans and Robots Using Psychophysiological Measures and fMRI

34


loge Daniel Miller Konsum und das enge Verhältnis zu Dingen als eine Form sozialer Wärme. In Der Trost der Dinge beschreibt er das Verhältnis unterschiedlicher Menschen zu ihren Dingen. Er wehrt sich gegen den Pauschalvorwurf, den Haug und wir uns selbst gerne machen. Nämlich zu materialistisch und oberflächlich zu sein und Dingen mehr Wertschätzung als Menschen entgegenzubringen. In einer Reihe von Kapiteln, die sich jeweils einer Person, ihren Habseligkeiten und sozialen Beziehungen widmen, beschreibt er wie das Verhältnis zu Dingen nicht im geringsten oberflächlich ist und sich auf Beziehungen zu anderen Menschen sogar positiv auswirkt. 29 Er befreit geliebte Gegenstände von dem Dogma, immer nur Ersatzbefriedigung zu sein und rückt ihre Bedeutung damit in ein völlig neues Licht. Die Gegenstände sind gewissermaßen Behältnisse für Erinnerungen und Gefühle, die uns beim Aufbau und der Kultivierung emotionaler Bindungen unterstützen. Im Kapitel Der Aborigine-Laptop erzählt er von Malcom, den man mittlerweile wohl als urbanen Nomaden bezeichnen würde. (Marshall McLuhan sprach zwar schon in den 60er Jahren vom Menschen als digitaler Informationssammler, der Begriff digitaler Nomade wurde aber erst nach 208, als Miller The comfort of Things publizierte, populär.) Er bleibt selten länger als drei Jahre an einem Ort und hat dementsprechend wenige Besitztümer. Der Großteil derer, die er hat, ist auf verschiedene Kisten in Großbritannien und Australien verteilt. Er hängt wenig an seinen Besitztümern, dafür aber umso mehr an seinem Laptop, auf dem er alle Informationen über sich und seine Familie sorgfältig sortiert und speichert. Der Ethnologe Miller sieht darin gleich das Erbe von Malcoms Aborigine-Vorfahren, die ihre Identität zu einem Großteil über die Auseinandersetzung mit ihren Ahnen konstruieren, deren Besitztümer aber nach ihrem Tod systematisch vernichten. 30 Diese Einschätzung ist nachvollziehbar, zumal Malcom es sich 29 Miller. Der Trost der Dinge, S. 9 30 ebd. S. 80

35


zur Aufgabe gemacht hat, das postkoloniale Unrecht, das seine Familie und vielen anderen Aborigines angetan wurde, zu dokumentieren. Trotzdem ist sein Lebensstil und das damit verbundene Verhältnis zu Dingen keine Seltenheit mehr. Fast alle Menschen und die, die ein modernes Nomadentum führen besonders, hängen an den Geräten, die ihnen ermöglichen, mit den für sie wichtigen (und auch weniger wichtigen) Menschen in Kontakt zu bleiben. (Miller hat übrigens auch ein Buch über Facebook geschrieben, dass für viele Menschen das Gefühl von zu-Hause-sein vermittelt, egal wo auf der Welt sie sich befinden). Dass gewisse Geräte Intimität über eine technische Abkürzung herstellen können, dürfte schon länger klar sein. Es gibt aber auch eine Intimität zwischen Mensch und Gerät. Dort ist das Gerät nicht Vermittler, sondern Adressat (und indirekt auch Absender) von Gefühlen. Katie schreibt in der Kommentarspalte der Website der University of Washington: „When my beloved VW Camper broke down & I had to leave it on the side of the motorway to call for help, I was distraught! As if I’d just left my pet at the vet’s for an operation or something. It’s not unusual to become attached to your technology (phone, car, laptop, and a printer as Sev said in another comment), especially since when you rely on it so much & have gone through good/bad times with it. I’ve totally anthropomorphised my van - she’s called Mabel, and she even has a personality. When I texted my boyfriend about the breakdown, he was like ‚I feel sorry for Mabel‘.“ 31 In der englischen Sprache wird besonders deutlich, dass Objekte oder Maschinen anthropomorphisiert werden. Ein simple grammatikalische Regel des Englischen besagt, dass Dinge und Tiere ohne Namen immer das Personalpronomen it bekommen. Katie aber nennt ihr Auto she, ich habe mich oft selbst 31 Armstrong. Emotional Attachment to Robots could affect Outcome on Battlefield

36


dabei ertappt, den Computer oder Drucker oder Lasercutter mit he zu bezeichnen. (Warum alle Geräte männlich sind, weiß ich nicht. Es könnte aber mit ihrem deutschen Genus zu tun haben.) Interessant ist, dass das nur in einer emotional aufgeladenen Situation passiert. Wenn der Drucker einfach nicht auf das richtige Format drucken will (Wut) oder der Laptop komische Geräusche macht (Sorge um die gespeicherten Daten, aber auch um das liebgewonnene Gerät).

Digitale Nomaden, FOMO und Computer Rage Digitales Nomadentum wird erst möglich durch tragbare Devices, in denen wir alle wichtigen Sachen ablegen können oder von denen aus wir auf die Cloud zugreifen können. Die Hülle ist gar nicht so wichtig, auf den Inhalt kommt es an. Gehen wir ohne unser Smartphone aus dem Haus, fühlt es sich an, als würden uns mindestens eine Hand und ein Viertel des Gehirns fehlen. Das Telefon erlaubt uns ständig in Kontakt miteinander zu stehen, Dinge, Worte, Sachverhalte nachzuschlagen, uns nicht einsam oder untätig zu fühlen, Notwendigkeiten zu erledigen, pünktlich zu sein, Geschäfte zu machen, zu spielen, zu lernen, uns zu beschäftigen, die Leere zu füllen. Und doch wird es gelegentlich zum Hassobjekt, wenn es nicht tut,was es soll, oder jedenfalls nicht schnell genug. Wenn Menschen mit uns Kontakt aufnehmen, mit denen wir gar keinen Kontakt wollen. Wenn wir abgelenkt werden von den eigentlich wichtigen Sachen. Wenn man kurz vor dem Schlafengehen noch mit Arbeitsmails überschüttet wird. In den großen Technologieschmieden sitzen schließlich auch Heere von Programmierern und Designern, die Anwendungen und Apps nach verhaltenspsychologischen Regeln so gestalten, dass sie Nutzer.innen zu einem bestimmten Verhalten erziehen oder konditionieren. In der Regel ist das Ziel, Menschen dazu zu bringen, eine App besonders oft, lange oder intensiv zu benutzen. 32 32 Bosker. The Binge Breaker in The Atlantic

37


Menschen, denen das alles zu viel wird, bleibt noch immer die Möglichkeit, einen Digital Detox Urlaub zu nehmen. Smartphones, Laptops und Tablets ermöglichen uns immer und überall online und verfügbar zu sein. Bei den meisten Menschen führt die ständige Verfügbarkeit und Bildschirmdaddelei früher oder später zu Erschöpfung. Viele wünschen sich einen Urlaub von den Geräten, eine digitale Entgiftung. Die Digital Detox ist ein beliebtes Ratgeberthema geworden und Urlaub auf dem Bauernhof wird in einem Atemzug mit ihr genannt. (Absurd scheint es, dass es auch Smartphoneapps gibt, die bei der Entwöhnung helfen sollen.) Trotz des vermarktbaren Namens, der schnell misstrauisch macht, ist an dem Hype etwas dran. Internetabhängigkeit, mangelnde Konzentration (Multitasking fördert das Kurzzeitgedächtnis, verhindert aber, dass wir tiefer in ein Thema eintauchen können), FOMO (Fear of missing out), FOMSI (Fear of missing something important) oder eine schlechte Körperhaltung sind echte Probleme. Außerdem wird es schwieriger, Arbeit von Freizeit zu unterscheiden, weil sich beides oft in der gleichen digitalen Umgebung abspielt. Digital Detox ist nicht mehr nur ein Kozept, sondern wird (oft lukrativ für Autor.innen und Hotels) in die Tat umgesetzt. Schon bevor Menschen mit ihren Telefonen verwachsen waren, gab es die sogenannte Computer Rage. Sie kann von Programmierfehlern, fehlende Zuverlässigkeit, fehlendes Verständnis menschlicher Bedürfnisse oder dem Nicht-Zusammenpassen von Anwendung und Bedarf herrühren – oder schlicht dem Nicht-Funktionieren. Schon vor Jahren (prä-Youtube) kursierte ein Überwachungsvideo im Internet, das einen Mann in einem Großraumbüro zeigt, der wütend auf seinen Computer wird, den Bildschirm mit der Tatstatur verprügelt und anschließend mit Füßen tritt. 33 33 Man beats up Computer. https://www.youtube.com/watch?v=NiIGEg473PA

38


Ein Mann in Wisconsin wurde verhaftet, nachdem er auf seinen Rasenmäher geschossen hatte, weil dieser nicht anspringen wollte. 34 Menschen lieben ihre Geräte, für die Möglichkeiten, die sie ihnen bieten, hassen sie aber manchmal für die Benutzungswirklichkeit, mit der sie konfrontiert werden. 35

34 van Mensvoort, Grievink, S. 364 35 Norman. Emotional Design, S. 159

39


Geschäftsmann erklärt die Vorteile von Automaten,  Filmausschnitt aus Toujours Moins von Luc Mollet

40


Gefühl und Verstand “The fact is, that civilisation requires slaves. The Greeks were quite right there. Unless there are slaves to do the ugly, horrible, uninteresting work, culture and contemplation become almost impossible. Human slavery is wrong, insecure, and demoralizing. On mechanical slavery, on the slavery of the machine, the future of the world depends.” Oscar Wilde, The Soul of Man under Socialism

Luc Mollet beobachtet in seinem Kurzfilm Toujours Moins, wie Menschen nach und nach von Automaten ersetzt werden. Im Grunde präsentiert er eine kulturpessimistische chronologische Aufzählung verschiedener Automaten oder interaktiver Terminals, die sich weiter und weiter ausbreiten. Interessant ist, dass er ausschließlich Automaten zeigt, die menschliche Arbeitskraft im Dienstleistungssektor ersetzt haben. Es geht ihm nicht um Industriearbeiter, sondern um die Menschen, die ihm früher noch im Geschäft, der Bank oder der Waschanlage begegnet sind. Er vermisst nicht nur Kellner beim Hotelfrühstück, sondern auch Warteschlangen am Sparkassenschalter. Manchmal kann ich mich des Eindrucks des alten grummeligen Mannes, der mit neuer Technik nicht klarkommt, kaum erwehren. Trotzdem muss ich lachen, wenn er leise, aber überdeutlich eine Frau zeigt, die einen Serviceautomaten im Arbeitsamt bedient oder bemerkt, dass die durch Maßlosigkeit der Hotelgäste beim Frühstücksbuffet entstehenden Kosten durch Reduzierung des Personals kompensiert werden. (Er zeigt Kassenautomaten, 41


die so fordernd und schwer zu bedienen sind, dass man keine Gelegenheit hat, unaufrichtig zu sein. Ihre eigentlich schlechte Gestaltung hat also doch für die Betreiber.innen positive Effekte.) Die Angst vor den Maschinen, die menschliche Arbeit ersetzen, taucht immer wieder in unterschiedlichen Formen und Kontexten auf. Anfang des 19. Jahrhunderts organisierten die Ludditen Angriffe auf Maschinen der Textilindustrie. Mit der beginnenden industriellen Revolution drohten Textilarbeiter.innen immer elendere Lebenssituationen. Die Kritik von Technologie und den damit verbundenen wirtschaftlichen Folgen ist hierbei mitein­ ander verwoben. Die Maschinen alleine sind zwar nicht das alleinige Übel, aber die offensichtlichste Manifestation eines wirtschaftlichen Wandels, der massive soziale Folgen nach sich zieht. 36 Mitte des 20. Jahrhunderts, also inmitten einer weiteren industriellen Revolution, schrieb der Kybernetiker Norbert Wiener einen besorgten Brief an Walter Reuther, den Präsidenten der amerikanischen Gewerkschaft United Auto Workers. Darin warnt Wiener Reuther vor neuer Technologie und den Folgen, die sie für die Arbeitsplätze der Fabrikarbeiter hätte. 37 Wiener hatte gerade den Bestseller Cybernetics, or control and communication in the animal and the machine veröffentlicht, in dem er darlegt, dass es zwischen Information und Handlung immer ein Feedback gibt – bei Maschinen, genau wie bei Tieren oder Menschen. 38 Er war oft von Firmen angesprochen worden, die ihn darum baten, Herstellungsprozesse zu automatisieren. Wie er in seinem Brief schreibt, lehne er immer ab, könne aber natürlich nicht dafür sorgen, dass auch andere Wissenschaftler.innen sich so verhielten. Seit dem Briefwechsel zwischen Wiener und Reuther sind der industriellen Automatisierung tatsächlich viele Arbeitsplätze 36 Palmer Thompson. The Making of the English Working Class 37 Brief von Norbert Wiener an Walther Reuther 38 Barbrook. Imaginary Futures, S. 44

42


gewichen. Ob das per se ein Problem sein muss, ist allerdings noch nicht geklärt. Aktivist.innen, die für das bedingungslose Grundeinkommen eintreten, feiern die Befreiung von Arbeit. Im Januar 2016 veröffentlichten sie zum Weltwirtschaftsforum in Davos das Robot Manifesto, in dem die Roboter uns ermutigen das BLG einzuführen, weil sie uns ihre Arbeit kostenfrei zur Verfügung stellen. 39

Natur und Technik

Heidegger sagte 1953 in seinem Vortrag Die Frage nach der Technik: „Wir müssen aufhören, moderne Technik als Werkzeug zu denken. Der Aufschwung der Technik ist ein autonomer Prozess, dem wir ohnmächtig beiwohnen. Die von Descartes erwünschte Beherrschung der Natur ist uns entglitten, wir sind Sklaven unserer angestrebten Herrschaft geworden.“ 2010 brachte Kevin Kelly, ehemaliger Chefredakteur von Wired ein Kompendium mit dem Titel What Technology wants heraus. Unabhängig von Heidegger, kommt er zu der Schlussfolgerung, dass Technik als autonome Entität (das technium) betrachtet werden muss. Er teilt jedoch nicht Heideggers pessimistische Sicht auf die Technik, sondern betont, dass wir durchaus familiäre Bande mit dem technium gesponnen haben. Wir sind Eltern der Technik und gleichzeitig ihre Kinder. Wir haben sie hervorgebracht, aber gleichzeitig bestimmt sie – oder weniger abstrakt, bestimmen Objekte wie Smartphone oder Laptop – zumindest in Teilen unser Leben. Kelly prophezeit eine Zukunft, in der manche Menschen sich weigern werden, technologischen Entwicklungen auf Schritt und Tritt zu folgen. So wird die Menschheit laut Kelly auf verschiedenen Entwicklungsstufen stehenbleiben, wie es auch jetzt schon bei den Amisch der Fall ist. 40 39 Effimera, Robot per il Reddito di Base

40 Lacroix, Reportage aus dem Silicon Valley: Unternehmen Unsterblichkeit in Philiosophie Magazin Nr. 3 2015, S. 165

43


Bruno Latour schreibt allen Dingen (auch immateriellen, wie Krankheit) einen Akteur- bzw. Aktantenzustand zu. Für ihn sind technische Geräte also nie nur eine Verlängerung des mensch­ lichen Körpers. Kommen Mensch und Maschine zusammen entsteht immer eine Verschmelzung der beiden, die Handlungen hervorrufen, die keine der beiden Aktanten alleine ausführen würde oder könnte. Als Beispiel nennt er Menschen, die eine Waffe tragen. Weder der Mensch tötet alleine einen anderen Menschen, noch tut es die Waffe. Erst das Zusammenwirken von Mensch und Maschine führt zum Gebrauch der Waffe und damit einer Tötung. „Es sind weder Menschen noch Waffen, die töten. Die Verantwortung für ein Handeln müssen sich die beiden Aktanten teilen.“ 41

Jibo, der Roboter

41 Laux, Bruno Latours Soziologie der Existenzweisen, S. 165

44


Maschinengefühle Menschliche Gefühle spielen eine essentielle Rolle bei sozialer Interaktion, Kooperation, beim Überleben und Lernen. Unser Leben ist kaum vorstellbar ohne Empathie, Angst oder Freude. Ein Fehlen dieser Eigenschaften gilt meist als pathologisch. Wir lesen unser Gegenüber anhand von Mimik oder Gestik. Die kleinste Veränderung der Pupillen kann eine Gefühlsregung anzeigen, die das Gegenüber (unbewusst) registriert. Freude und Angst sind unser Motor in unterschiedlichen Situationen. Gefühle helfen uns dabei, in unvorhersehbaren Situationen schnell Entscheidungen zu treffen, die rein rational anders (wahrscheinlich schlechter) ausfallen würden. Wenn Maschinen sich autonom, d.h. ohne ständige Aufsicht und Assistenz von Menschen bewegen sollen, benötigen auch sie Gefühle, um genauso wie Menschen auf komplexe oder unerwartete Situationen reagieren zu können. Die Gefühle eines Roboters wären aber keine Kopien der menschlichen Gefühle. Wohl wird es Überschneidungen und Ähnlichkeiten geben, aber letztlich müssen die Gefühle der Maschine auf ihre Lebenswirklichkeit und Beschaffenheit zugeschnitten sein. Vielen Robotern sind schon Quasi-Gefühle eingebaut. Diese basieren zwar auf rationaler Basis und sind oft Sicherheitsmechanismen, können aber zum Beispiel als Angst oder Vorsicht gelesen werden. Es ist also stets die Interpretation der Menschen, die ein Signal der Maschine zum (angenommenen/eingebildeten) Gefühl machen. Wenn wir die Gefühle anderer Menschen lesen, nutzen wir diese Fähigkeit vor allem, um Feedback zu erhalten. Auch Maschinen müssen uns Feedback geben, um anzuzeigen, ob sie Anweisungen verstanden haben, überlastet sind oder erfolgreich waren. Viele Maschinen haben schon Anwendungen eingebaut, die ihnen ermöglichen, Feedback zu geben (Signaltöne, Druckknöpfe,

45


Vibration, etc.) oder geben ungeplantes Feedback (z.B. ein angestrengter Lüfter im Computer, der bei starker Belastung ein akustisches Signal gibt, das nur ein Beiprodukt mit Anzeigefunktion ist). Ein solches Lüftersignal kann bei der Anwender.in wiederum so etwas wie Empathie oder Schuldgefühle auslösen („Verzeihung, dass ich dir gerade so viel zumute. Ich schließe mal Photoshop, dann wird es vielleicht besser, ja?“) Die Robotikingenieurin Cynthia Breazeal entschied an einem Punkt ihrer Karriere sich nicht mehr darauf zu konzentrieren Arm- und Laufbewegungen von humanoiden Robotern zu optimieren, sondern sich Robotern zu widmen, die mit Menschen interagieren können. Menschen, die von Gedanken und Gefühlen gelenkt werden. Es brauchte also Roboter, die darauf reagieren können ungeachtet ihrer Fähigkeiten Treppen hochzusteigen. Seitdem hat Breazeal mehrere soziale Roboter gebaut, darunter Kismet und Jibo, der sogar auf dem Markt erhältlich ist. Es geht ihr nicht darum Roboter menschengleich zu machen, sondern darum, Roboter so zu bauen und zu programmieren, dass sie Menschen sinnvoll unterstützen. Sie geht davon aus, dass Menschen früher oder später freundschaftartige Beziehungen mit Robotern haben werden. „Robots are never going to be human. That’s not the point. The magic of this technology is how it complements and empowers us.“ 42 Matthias Scheutz, Leiter des Human-Robot Interaction Laboratory/Cognitive Science Program der Indiana University Bloomington hält die emotionale Gebundenheit von Menschen an Maschinen für potentiell gefährlich. Soziale Roboter wie der autonome Staubsauger Roomba oder Entertainmentroboter wie Aibo sind schon in Privathaushalten angekommen. Obwohl sie eher niederkomplexe Tätigkeiten verrichten, erwecken sie doch mindestens den Anschein (begrenzter) 42 Friedman. Cynthia Breazeal in The Gentlewoman, S. 233–234

46


Autonomie. Trotz der offensichtlichen Einfachheit der Mechanismen und Algorithmen neigen Menschen dazu, diesen Geräten Autonomie zuzuschreiben. Fast automatisch neigen wir dazu, solchen autonomen Geräten unsere Zuneigung zu schenken. Diese wird aber nicht erwidert. Scheutz und seine Kollegen legen daher nahe, dass die unidirektionale emotionale Bindung von Menschen an ihre Geräte von böswilligen Hackern ausgenutzt werden könnte. In einem Szenario wird der Roboter zum Beispiel so manipuliert, dass er seinem Menschen vorschlägt, bestimmte Artikel zu kaufen. Weil der Roboter über keine Gefühle wie Schuld oder Empathie verfügt, kann er sich nicht schlecht fühlen. (dafür schämen) Es gibt jedoch Bestrebungen, Robotern Gefühle beizubringen, d.h. Mechanismen einzubauen, die Affekte verarbeiten können. Die Fähigkeit Gefühle für andere und sich selbst zu empfinden verlangt aber nach komplexen Architekturen in der kognitiven Struktur der Roboter. 43 Rosalind Picard, Elektroingenieurin am MIT, sagt es so: „I wasn’t sure they had to have emotions until I was writing up a paper on how they would respond intelligently to our emotions without having their own. In the course of writing that paper, I realized it would be a heck of a lot easier to just give them emotions.“ 44

Maschinenmoral 1966 schrieb Joseph Weizenbaum das Programm ELIZA, das die Kommunikation zwischen Mensch und Computer mit natürlicher Sprache ermöglichen sollte. Das Programm wurde nach dem Charakter Eliza aus George Bernard Shaws Pygmalion bennannt. Weizenbaum programmierte ELIZA so, dass sie wie ein Psychotherapeut meistens mit Fragen oder Sätzen wie: „Bitte fahren Sie fort.“ antwortete. Er entschied sich für diese Art der Unterhaltung, weil sie ermöglichte, dass Leute mehr Gehalt in 43 Scheutz. The Inherent Dangers of Unidirectional Emotional Bonds between Humans and Social Robots 44

Norman, S. 180

47


eine Aussage oder Frage interpretierten als tatsächlich vorhanden. Würde man seinem Therapeuten erzählen „Ich habe einen langen Bootsausflug gemacht“ und der Therapeut antwortete „Erzählen Sie mir mehr über Boote“ würde man nicht annehmen, dass er nichts über Boote weiß, sondern dass er mit dieser einfachen Frage einen bestimmten Zweck verfolgt und vorhat, die Unterhaltung in eine bestimmte Richtung zu lenken. Obwohl alles auf einem relativ einfachen Algorithmus beruht und ELIZA nur wenige vorprogrammierte Sätze sprechen kann, traut man ihr ein Bewusstsein und eine Agenda zu. 45 Der sogenannte ELIZA-Effekt ist ein Bewusstseinsanthropomorphismus und kann häufig bei der Interaktion mit Computern/Terminals/etc beobachtet werden. Weizenbaum war vom Effekt des Programms selbst erschüttert. Selbst Menschen, die wussten, dass es sich nur um ein Programm handelte, vertrauten ELIZA ihre tiefsten Gedanken und Probleme mit. ELIZA arbeitet mit nur wenigen vorgefertigten Skripten und ist deshalb leicht zu überführen. Weil die meisten Leute sie aber ernst nahmen, versuchte gar niemand erst, sie auszutricksen. Weizenbaum entwickelte sich von dort an zu einem Technologiekritiker und hielt seine Bedenken in dem Buch Computer Power and Human Reason fest. Darin unterscheidet er zwischen dem Entscheiden (deciding) und dem Wählen (chosing). Entscheidungen könnten programmiert werden, wohingegen die Wahl das Ergebnis einer Beurteilung oder Wertung (judgement) sei. Entscheidungen sind berechenbar, Bewertungen erst möglich durch das Einbeziehen (menschlicher) Gefühle. Eine Beurteilung kann Äpfel mit Birnen vergleichen, ohne sie quantifizieren zu müssen. 46 Die Frage nach der Entscheidungsfähigkeit von Computersystemen begegnet uns ganz aktuell bei der Frage, wie sich selbst45 Weizenbaum. ELIZA – A Computer Prohram for the Study of Natural Language Communication Between Man and Machine, S. 36 – 45 46 Weizenbaum. Computer Power and Human Reason

48


Ein Dilemma von vielen, Ăźber denen man auf moralmachine.mit.edu brĂźten kann

49


fahrende Autos verhalten sollen, wenn sie einen Unfall nicht vermeiden können. Der gesellschaftliche Konsens darüber scheint zu sein, dass das Auto sich in diesem Fall für das geringere Übel entscheiden soll. Ein mögliches Szenario ist: Eine Person ist der einzige Passagier in einem selbstfahrenden Auto, das mit hoher Geschwindigkeit eine Hauptstraße entlangfährt. Plötzlich tauchen direkt vor dem Auto zehn Fußgänger. innen auf. Das Auto könnte so programmiert sein, dass es vor den Fußgänger.innen abbiegt, in eine Wand fährt und den Passagier tötet, die Fußgänger aber unbeschadet bleiben oder aber es könnte den Kurs halten, alle Fußgänger überfahren und den Passagier unbeschadet lassen. In der Studie The social dilemma of autonomous vehicles kommen Forscher zu dem Ergebnis, dass die meisten Menschen ein utilitaristisches, also ein sich für das geringere Übel entscheidendes Auto befürworten, so lange sie selbst nicht die Passagiere sind.47 Auf der Seite moralmachine.mit.edu können Menschen über solche moralische Dilemmata abstimmen und diskutieren. Die beiden oben genannten Varianten sind natürlich keineswegs die einzigen möglichen Reaktionen, aber die einzigen die in einer breiten Öffentlichkeit diskutiert werden. Das noch schwerwiegendere Problem, dass nur wenige mächtige Menschen entscheiden, welche Möglichkeiten überhaupt zur Diskussion gestellt werden, bleibt dabei völlig außen vor. Wenn uns schon ein autonomes Fahrzeug oder auch nur die Gestaltung der Diskussion darüber vor solche Probleme stellt, wie steht es dann erst um künstliche Intelligenzen deren Intelligenz die der Menschheit um ein vielfaches übersteigt? Eine besondere Form künstlicher Intelligenz, die es bisher nur im Gedankenexperiment gibt, heißt Seed AI. Sie ist selbstlernend und kann sich durch Rekursion selbst verbessern und erweitern. 47

Bennefon, Shariff, Rahwan. The Social Dilemma of Autonomous Vehicles in Science Vol. 352 Issue 6293, S. 1573 – 1676

50


Die KI muss in der Lage sein, ihren Programmcode zu verbessern und so anzupassen, dass die nächste Generation weitere Verbesserungen vornehmen kann und so weiter. Diese vom Menschen unabhängig gewordene technische Evolution wird fortgesetzt bis die menschliche Intelligenz erreicht und daraufhin übertroffen wird. Entwickelt wurde die Theorie über Seed AI von Eliezer Yudkowsky. Er forscht im Bereich Künstliche Intelligenz und ist Gründer des Machine Intelligence Research Institute (MIRI) in Berkeley. In seinem Aufsatz Artificial Intelligence as a positive and negative factors in global risk fordert er die Erschaffung freundlicher, wohlwollender künstlicher Intelligenzen. Computer müssten eine ethische Dimension in ihre Entscheidungsprozesse integrieren, um z.B. Selektion von Menschen vorzubeugen. So wäre eine Gesellschaft ohne alternde und behinderte Menschen aus makroökonomischer Sicht optimiert. Um das zu verhindern, arbeitet Yudkowsky daran, künstliche Intelligenzen anzuweisen, in jeder Epoche gemäß dem zu handeln, „was die Leute für gut halten.“ Folge der Seed AI wäre die technologische Singularität. Die technologische Singularität begrenze den menschlichen Erfahrungshorizont, so die Vertreter der Hypothese. Die entstandene Superintelligenz könnte ein Verständnis der Wirklichkeit erwerben, das jegliche Vorstellungskraft sprengt; die Auswirkungen könnten damit vom menschlichen Bewusstsein zu keinem gegenwärtigen Zeitpunkt erfasst werden, da sie von einer Intelligenz bestimmt würden, die der menschlichen fortwährend überlegen sein würde. Die Evolution könnte aus dem Bereich der Biologie in den der Technik wechseln. Kritiker betonen indes, das Eintreten einer technologischen Singularität müsse verhindert werden. Eine überlegene Intelligenz gehe nicht zwangsläufig mit einer friedfertigen Gesinnung einher und die entstehende Superintelligenz könne die Mensch-

51


heit mühelos ausrotten. Sie sehen bereits im Streben nach einer technologischen Singularität einen Fehler, denn Sinn und Zweck von Technologie sei es gerade, den Menschen das Leben zu erleichtern; für sich selbst denkende Technologie verstößt gegen diesen Zweck und sei daher nicht erstrebenswert. Begriffsoppositionen wie Natur — Kultur, organisch — künstlich oder beseelt — unbeseelt verlieren in diesem Gedankenexperiment ihre Plausibilität. Hier gibt es keinen Bruch zwischen dem Natürlichen und dem Artifiziellen, sondern eine Kontinuität. 48 Halten wir fest: Künstliche Intelligenz kann Bewusstsein simulieren, aber nur berechnend handeln. Entscheidungen, in die Menschen Emotionen miteinbeziehen, können Maschinen nur unzureichend treffen. Die Moral von Maschinen muss flexibel programmiert werden, alles andere mündet bestenfalls in rein utilitaristischen Entscheidungen. Emotionale Bindungen von Menschen an künstliche Intelligenzen oder bewusstseinssimulierende Computer können leicht ausgenutzt werden, indem Systeme darauf ausgelegt sind, gehackt werden oder sich KIs gar selbstständig machen.

Das prophezeite Eintreten technologischer Singularität

48

Lacroix, S. 31

52


Gut und Böse “I have spoken of machines, but not only of machines having brains of brass and thews of iron. When human atoms are knit into an organization in which they are used, not in their full right as responsible human beings, but as cogs and levers and rods, it matters little that their raw material is flesh and blood. What is used as an element in a machine, is in fact an element in the machine. Whether we entrust our decisions to machines of metal, or to those machines of flesh and blood which are bureaus and vast laboratories and armies and corporations, we shall never receive the right answers to our questions unless we ask the right questions.”   Norbert Wiener, The Human Use of Human Beings

Vorstellungen von Maschinen, Robotern und Technologie als Ganzem oszillieren immer wieder zwischen dem Wunsch nach einem ergebenen Diener und der Furcht vor einem totalitären Herrscher. Technologien können wohlwollend, aber auch böswillig eingesetzt werden. Das macht sie jedoch nicht unbedingt neutral. Einerseits, weil die technische Welt (oder: das technium) durchaus eine gewisse Autonomie besitzt, anderseits weil das Narrativ „Technik ist genauso gut wie böse“ schnell erschöpft ist und wohl kaum das letzte Wort sein kann.

53


Computer und Roboter sind Teil unserer natürlichen Umgebung geworden. Aber wieso muss die Beziehung zwischen Mensch und Maschine immer durch Machtverhältnisse oder eine Konfrontation gezeichnet sein? Warum messen wir Menschen an Computerstandards und Computer an Menschen? Noch sind Bewusstsein und die Fähigkeit, sehr schnell rechnen zu können, zwei unterschiedliche Dinge, auch wenn sich das eine mit dem anderen simulieren lässt. Ist es nicht nach wie vor interessanter auszuloten, was Maschine /Computer /Roboter und Menschen gemeinsam erreichen können. Es ergibt wenig Sinn, Menschen robotergleich werden zu lassen und andersherum, wenn wir schon Menschen und Roboter haben. Maschinen bleiben bei aller Berechenbarkeit und Akkuratesse eine eigene Spezies mit Charakter und Eigenheiten und wir sollten sie als solche begreifen. Der Titel meiner Arbeit ist Friends with Benefits – Über die Beziehung zwischen Mensch und Maschine. Ob Maschinen nun Freunde mit Vorzügen sind, oder Werkzeuge, die wir machmal gern haben, sei dahingestellt. Ob mit einem Bewusstsein, Intelligenz oder Gefühlen ausgestattet oder nicht, sind Maschinen und Geräte doch auf jeden Fall soziale Akteure. Als solche provozieren sie Emotion, beabsichtigt und versehentlich. Technische Geräte haben einen immer weiter wachsenden Anteil an unserer materiellen Kultur. Und diese wiederum spiegelt die Gesellschaft, aus der sie stammt, wider. Wenn wir unsere Dinge, besonders elektronische Geräte und unser Verhältnis zu ihnen ansehen, lernen wir viel über uns selbst und über unser Verhältnis zueinander.

54


Bemerkungen zur Arbeitsweise­ „Wenn es aber Wirklichkeitssinn gibt, und niemand wird bezweifeln, dass er seine Daseinsberechtigung hat, dann muss es auch etwas geben, das man Möglichkeitssinn nennen kann.“ Robert Musil, Der Mann ohne Eigenschaften

Als Gestalterin interessiere ich mich nicht dafür, ein fertiges Produkt zu gestalten, um es dann auf den Markt zu werfen, sondern dafür Objekte, Verfahren und Räume herzustellen, die den Diskurs über unser Verhältnis zu den Dingen und zu Technologie unterstützen, moderieren, erleichtern oder befeuern. Eine Designdisziplin, die sich genau diesen Schwerpunkten widmet, ist die spekulative Gestaltung. Anthony Dunne und Fiona Raby behandeln in ihrem Buch Speculative Everything, verschiedene Formen und Verwandte der spekulativen Gestaltung. Sie beschreiben, wie Design eine Form von Kritik sein kann und was sich für Designer.innen durch neue Technologien verändert. Sie zeigen verschiedene Methoden, die das Design sich von anderen Disziplinen, wie Literatur oder Film borgen kann, um „nützliche Fiktionen“ zu schaffen, die die Möglichkeiten, die Technologien uns bieten prototypisch ausprobieren. Es gilt herauszufinden, wie Design zwischen wahrgenommener Realität und (noch) nicht möglichen Szenarien vermitteln kann. 49 Es geht nicht darum, Trends zu extrapolieren, Zukunft vorauszusagen oder vorwegzunehmen. Spannender ist es für Dunne 49 Dunne, Rabay. Speculative Everything: Design, Fiction and Social Dreaming, S. VI

57


und Raby, mögliche Zukünfte zu diskutieren, um die Gegenwart besser zu verstehen und herauszufinden, welche Zukunft wir für wünschenswert halten und welche nicht. 50 Conceptual oder Critical Design kann ab von Marktinteressen einen alternativen Kontext bieten. Es gibt Platz für Denken, das Ausprobieren neuer Ideen und Ideale. 51 Es soll auch, aber nicht nur da sein, um zu experimentieren und zu unterhalten und Kritik zu üben, sondern auch nützlich sein. Eine der wichtigsten Fragen, die wir über moderne Gesellschaften stellen können, ist, wie sich menschliches Leben zu Technologien verhält, die immer allgegenwärtiger und wichtiger werden. Critical Design muss nicht unbedingt negativ formuliert sein und sollte nicht mit einem Kommentar verwechselt werden. Gutes kritisches Design biete eine Alternative zum Status quo. Es stehe zwischen der Realität, wie wir sie kennen und der Idee einer anderen Realität, die das Design vorschlägt. Auch kritisches Design bediene sich des Kommentars, er sei hier aber nur eine Ebene von vielen. Sie stellen die These auf, dass, wenn etwas aussieht als könne man es kaufen, es für die betrachtende Person Wirklichkeit wird. 52 Dabei geht es nie um das isolierte Produkt, sondern immer auch um das System oder Szenario, in dem es verortet ist: „Rather than thinking about architecture, products and the environment, we start with laws, ethics, political systems, social beliefs, values, fears, and hopes, and how these can be translated into material expressions, embodied in material culture, becoming little bits of another world that function as synecdoches.“ 53 Requisiten (für ein Szenario), wie fiktionale Objekte von Dunne und Raby bezeichnet werden, dienen in der Design Fiction nicht 50 ebd. S. 1 – 9 51

ebd. S. 11 – 31

52

ebd. S. 33 – 45

53

ebd. S. 69 – 88

58


dazu, die Realität nachzuahmen, sondern sind physische Fiktionen, die nie dazu gedacht waren, echt zu sein. Sie dienen als Start- oder Anhaltspunkt für die Vorstellung. 54 Wie stellt man das Irreale, das Parallele, das Unbekannte dar? Irgendwo zwischen Parodie, Simulation, Requisite und Prototyp können sich spekulative Designs bewegen. Dunne und Raby zählen eine Vielzahl von Darstellungsmöglichkeiten auf. Diese decken sich zum Teil natürlich mit den klassischen Darstellungsmethoden des Industriedesigns, haben aber die oft die Aufgabe, echt und doch irreal zugleich wirken zu müssen. Es geht schließlich nicht darum, ein Konzept als real zu verkaufen, sondern es in seinem Kontext vorstellbar und weiterdenkbar zu machen. 55

Wie es weitergehen könnte Aus meiner schriftlichen Arbeit ergeben sich viele Fragestellungen, denen man sich als Designer.in widmen könnte. Zum Beispiel: Menschen sind süchtig nach ihren Smartphones. Ich könnte jetzt tiefer in die Recherche zu diesem Thema einsteigen, mehr Beispiele, Statistiken und Lösungsansätze zusammentragen. Ich könnte mir die vielversprechendsten Ansätze heraus­suchen und diese weiter denken oder neue entwickeln. Solche Ansätze könnten sein, Software so zu bauen, dass mich mein Gerät warnt, wenn ich es zu oft benutze, eine Agentur für Kurzzeitbetreuung von Smartphones zu gründen (dort könnten Leute ihre Geräte abgeben und auch mal zwei Stunden alleine verbringen) oder ein Gerät mit eigenen Bedürfnissen gestalten (Wird Technologie menschenfreundlicher, wenn man ein technisches Gerät wie einen Organismus mit eigenen Bedürfnissen betrachtet und auch so gestaltet?) Ich würde wohl den dritten Ansatz am interessantesten finden und beginnen, Ideen zu skizzieren, Modelle zu bauen und verschiedene Umsetzungsmöglichkeiten gegeneinander abzuwiegen. Diese könnten sein: Das Smartphone wächst und 54

ebd. S. 89 – 100

55

ebd. S. 1011 – 138

59


gedeiht, wenn man ihm Ruhepausen gönnt oder ein Belohnungsmechanismus oder oder … Dann würde ich mir überlegen, wie das Smartphone wachsen und gedeihen könnte und würde beschließen, dass auf ihm ein hübscher Kristallpelz wachsen soll (aber natürlich nur, wenn man es in Ruhe liegen lässt). Ich würde verschiedene Arten der Kristallzucht testen und einen schicken Prototypen bauen. Fertig wäre das konzeptionelle Designobjekt! Das stünde dann in einer Ausstellung rum oder auf einem Blog und vielleicht würde jemand darüber reden oder nachdenken. 56

Quick and Dirty So fasziniert und begeistert ich in den letzten Jahren von gut ausgearbeiteten und gründlich recherchierten spekulativen Objekten auch war, war ich doch immer an anderen Methoden interessiert, die Diskurse (über Technologien und deren Folgen / Implikationen) provozieren oder moderieren. Ich wollte mich nicht an Einzelheiten einer Sache festbeißen, während mich eigentlich Kontext, Überblick und Wechselwirkungen interessierten. Ich fragte mich: „Geht spekulative Gestaltung auch quick and dirty?“ Dazu kommt, dass es hier um die Beziehung zwischen Mensch und Maschine geht. Deshalb sollen irgendwo auch die Menschen im Gestaltungsprozess auftauchen. Und zwar nicht erst als Betrachter.innen, denen ein durchgestaltetes Etwas präsentiert wird, sondern schon vorher, bevor eine Idee zu lange liegt.

56 Ganz so hypothetisch, wie es vielleicht klingt ist dieses Vorgehen nicht. Es ist sogar nebeinbei ein bisschen passiert, siehe Doku.

60


Improvisation „Wir sind zu einem Prozess des kontinuierlichen Zweifelns, Veränderns und Verbesserns verurteilt.“ 57 Eine Strategie, um diesen Prozess zu meistern, ist das Improvisieren. Improvisation ist „Reinfallenlassen“ als Methode, um Ergebnisse zu bekommen, die man mit rein strukturellem Vorgehen nicht erreicht hätte. (Man sieht nur, was man kennt.) Um die Improvisation und die Intuition nicht willkürlich werden zu lassen, braucht es Raum für Reflexion über (Zwischen-) Ergebnisse. Man muss ausloten zwischen den Polen Intuition und Kalkül, Improvisation und planvollem Vorgehen und dem Fragen /Hypothesen aufstellen /prüfen und der Serendipität.

Unfertigkeit als Qualität Unfertige Dinge bieten Außenstehenden die Möglichkeit, eigenes dazuzudenken und lassen produktive Missverständnisse zu. Das Nebeneinanderstehen unterschiedlicher Ideen/Entwürfe/ Objekte ist eine große Stärke. Viele Dinge machen einen größeren Möglichkeits- und Beziehungsraum auf als ein einzelnes. Also packte ich die mein Leben lang geschmähte Heißklebepistole aus und legte los. In relativ kurzer Zeit entstanden zehn (+) Objekte. Aus Fundstücken, meistens bunte Kunststoffteile wurden Ideen sofort materialisiert. Dabei ging es nicht um die Ausgereiftheit der Ideen oder ihre Konsistenz untereinander, nicht um maximale Plausibilität oder Zukunftsmäßigkeit, es ging nicht einmal unbedingt um Originalität. Es ging um das Loswerden von Ideen, das Denken mit den Händen und einen Dialog mit mir selbst. Ich setzte nicht nur Ideen um, sondern bekam durch das Spielen mit dem Material auch neue. Mein Wissen, über Wochen (also eigentlich natürlich Jahre) angehäuft bekam visuelles und 57 Ton Matton

61


haptisches Futter, verschmolz mit den entstehenden Objekten und wurde so greifbar. Hier hätte ich wieder in einen geordneten Gestaltungsprozess einsteigen können, d.h. Ideen-Mock-ups auswerten, die beste oder besten raussuchen und umsetzen. Weil es hier ja aber vor allem um den Diskurs und das Hinterfragen gehen soll, stand dieser Weg nicht wirklich zur Debatte. Wie weit muss ein Objekt, dass nicht praktisch funktionieren, sondern als Gedankenexperiment oder Transporteur dessen dienen soll, ausgearbeitet sein? Sieht etwas wie ein Produkt aus, etwas kaufbares also, wirkt es echt. Wenn ich es kaufen könnte, muss es real sein. Ich wage zu behaupten, dass es kein Produkt, also nicht die Simulation einer potentiellen Wertschöpfung sein muss. Im Gegenteil halte ich es für diskursförderlich, Objekte unfertig, karrikaturartig oder schematisch aussehen zu lassen. So signalisiert es mir nicht, dass es schon da ist und sich somit die Frage um dessen Existenzberechtigung oder dessen Implikationen nur noch zum Schein stellt, eben weil ich schon vor vollendete Tatsachen gestellt bin. Es ist nicht mehr und nicht weniger als ein manifestiertes Gedankenexperiment. Das Kondensat einer Spekulation, eines Narrativs, einer Utopie oder Dystopie. Ein einzelnes Objekt oder mehrere einzelne Objekte erzählen ihre persönliche Geschichte, die wiederum das Tor zu einer größeren Welt öffnen. Kontexte werden erschlossen, Brücken geschlagen, Meinungen gebildet. Darum soll es hier gehen. Pragmatische alltagsnahe Szenarien sind genauso erlaubt wie um die Ecke gedachte, komplexere Geschichten. Dann sollten die Objekte in einen echten Lebensraum gebracht werden. Wird es gelingen zwischen Modus Impro und Modus Reflexion umzuschalten? Alles weitere im nächsten Kapitel.

62


63


Phase 1 Recherche s. Thesis und Notizbuch

64


65


66


67


68


69


Phase 2 Mock-ups: von der Idee zum Objekt mit Story in 20 Minuten (nicht ganz, aber doch sehr schnell). Es wurde schnell klar, dass ich ein Ordnungssystem für mein Ausgangsmaterial benötigen würde. Um mich nicht vom ursprünglichen Nutzen der Dinge ablenken zu lassen, entschloss ich mich für eine Ordnung nach Farbe.

70


71


72


73


74


75


Phase 3 Raus damit! Zehn Produkttester.innen suchen sich je ein fabelhaftes Gerät aus und behalten es für zwei Wochen. Zu jedem fabelhaften Gerät gibt es ein Begleitheft mit einer Beschreibung und Platz für Notizen. William Gibson wiederholt sich wohl zu Recht immer wieder gerne, wenn er sagt: „The future is already here – it's just not evenly distributed“ 58 Es wird also Zeit, ein wenig Zukunft an unterversorgte Haushalte zu verteilen.

58 Gibson, William in The Economist

76


77


E-Mail an potentielle Produkttester.innen

Liebe Freund.innen, Bekannte, Freunde von Freunden, ich bin auf der Suche nach Produkttester.innen. Ihr habt die Möglichkeit ein fabelhaftes Gerät für ca. 2 Wochen in euer Zuhause aufzunehmen. Ihr könnt euch eines aus einer Liste (s.u.) von zehn verschiedenen aussuchen. (Wer zuerst kommt, mahlt zuerst) Das Ganze ist Teil meiner Masterarbeit, die ich Ende Januar präsentieren werde. Falls ihr mitmacht, würde ich gerne ein Foto von dem Gerät in eurer Wohnung machen und euch nach der Testphase interviewen. Außerdem gibt es ein kleines Begleitheft mit Anleitung und Platz für eure Notizen zu Erfahrungen mit dem Gerät (Notizen machen ist nicht obligatorisch). Wer spontan Lust hast, kann sich gerne bei mir melden. Ich würde mich riesig freuen. Ich liefere das Gerät noch vor Weihnachten frei Haus (innerhalb Halles) und hole es im neuen Jahr wieder ab. Bei Fragen schreibt mir oder ruft mich an unter 0176 81114736. Gern könnt ihr diese E-Mail auch weiterleiten. Liebe Grüße, Amelie

Liste der Testgeräte: 1. Cargodrohne für Privathaushalte 2. Jenseitstelefon 3. DNA-Speichergerät 4. Navigationsdrohne für Fußgänger.innen 5. Untersuchungsstation für Mikroroboter 78


6. Portable Li-Fi-Station für drahtlose Datenübertragung 7. Futter für Haushaltsroboter 8. Algorithmische Entscheidungshilfe 9. Injektionskit für MDV-Gratisabo 10. Wuttelefon

Die Adressat.innen antworteten innerhalb weniger Stunden und Tage und so wurde auch schnell das begehrteste Gerät gekührt: Ich will nr 8 ich ich ich! nummer 8? oder doch eine andere? hm ... ich weiß es nicht, kann mich nicht entscheiden, welche ich nehmen soll!!! :) OHA, ich brauche das wuttelefon! Das ist was für mich! < algorithmische entscheidungshilfe! yes. wenn schon vergeben: < injektionskit für gratisabo. Ich will die Algorithmische Entscheidungshilfe!!! :D Hallo Amelie, ja supercool - ich möchte gern das Jenseitstelefon! Falls dieser Artikel schon vergriffen ist, nehm ich auch die Algorithmische Entscheidungshilfe ...

79


Die fabelhaften Geräte

10 9

8

3

7

80

1


6

4

5 2 81


Begleithefte fßr die fabelhaften Geräte

82


Vielen Dank, dass du dich entschieden hast, Produkttester.in zu werden und ein fabelhaftes Gerät bei dir zu Hause aufzunehmen. Du kannst es aufstellen, umstellen, anschauen, benutzen und auch kleine Änderungen vornehmen, wenn du es für nötig hälst. Das gerät ist ein Einzelstück. Bitte gehe daher immer sorgsam damit um. In diesem Heft findest du eine Anleitung und Platz für Notizen zum Gerät. Gerne kannst du auch Fotos von seinem Ort in deiner Wohnung, der Nutzung oder Modifikationen, die du eventuell vornimmst, einkleben. Nach der Testphase würde ich gerne selbst ein Foto von dem Gerät in deiner Wohnung machen und dich zu deiner Erfahrung mit und deinen Gedanken über das Gerät befragen. Wie du wahrscheinlich schon geahnt hast, sind die fabelhaften Geräte gewissermaßen dahinfabuliert und gehören zu einem Gedankenexperiment, zu dem ich dich gerne einladen möchte. Wie würdest du das Gerät nutzen, gibt es Situationen, in denen es hilfreich/interessant/fatal/ gruselig/angebracht/etc wäre, es zu nutzen? Wie erklärst du Gästen oder Freunden das Gerät?

83


Phasen 4+5 folgen im zweiten Teil der Dokumentation

84


85


Literatur Armstrong, Doree. Emotional attachment to robots could affect outcome on battlefield. 2013 http://www.washington.edu/news/2013/09/17/emotional-attachment-to-robots-could-affect-outcome-on-battlefield/ (17.11.16) Asimov, Isaac. Meine Freunde, die Roboter. München, 1982 Atwood, Margaret Atwood. Oryx and Crake. Toronto, 2003 Barbrook, Richard. Imaginary Futures: From Thinking Machines to the Global Village. London. 2007 Baudrillard, Jean. Das System der Dinge: Über unser Verhältnis zu den alltäglichen Gegenständen. Frankfurt am Main, 2007 Bonnefon, Jean-François; Shariff, Azim und Rahwan, Iyad. The social dilemma of autonomous vehicles in Science, 24 Jun 2016: Vol. 352, Issue 6293 http://spectrum.ieee.org/cars-that-think/transportation/ self-driving/people-want-driverless-cars-with-utilitarian-ethics-unless-theyre-a-passenger (19.11.16) Bosker, Bianca: The Binge Breaker in The Atlantic. 2016 http://www.theatlantic.com/magazine/archive/2016/11/ the-binge-breaker/501122/ (7.12.16) Christiansen, Jörn (Hrsg.). Bremen wird hell: 100 Jahre leben und arbeiten mit Elektrizität. Bremen. 1993 DiSalvo, Carl und Forlizzi, Jodi und Gemperle, Francine. Imitating the Human Form: Four Kinds of anthropomorphic Form. Carnegie Mellon University, 2007 Dunne, Anthony und Raby, Fiona. Speculative Everything: Design, Fiction and Social Dreaming. Cambridge/London 2013 Effimera. Robot per il reddito di base. Dichiarazione di Davos 2016. 2016 http://effimera.org/robot-per-il-reddito-di-basedichiarazione-di-davos-2016/ (4.11.16) 86


Friedman, Ann. Cynthia Breazeal in: The Gentlewoman Nr. 13 Spring and Summer 2016. 2016 Gerritzen, Mieke und van Mensvoort, Koert. Save the Humans. Amsterdam 2015 Gibson, William. In The Economist, 4. Dezember 2003 Habermas, Tilmann. Geliebte Objekte: Symbole und Instrumente der Identitätsbildung. Berlin, 1996 Holmes, Oliver. Manners maketh Nan: Google praises 86-year-old for polite internet searches in The Guardian. 2016 https://www.theguardian.com/uk-news/2016/jun/16/grandmother-nan-google-praises-search-thank-you-manners-polite (4.11.16) Hsu, Jeremy. Real Soldiers Love Their Robot Brethren. 2009 http://www.livescience.com/5432-real-soldiers-love-robotbrethren.html (4.11.16) Ichbiah, Daniel. Roboter. Geschichte, Technik, Entwicklung. München, 2005 Lacroix, Alexandre. Reportage aus dem Silicon Valley: Unternehmen Unsterblichkeit in Philosophie Magazin Nr. 3, 2015 Laux, Henning (Hrsg.), Bruno Latours Soziologie der ‚Existenzweisen‘: Einführung und Diskussion. Bielefeld, 2016 Marsh, Peter und Collet, Peter. Der Auto-Mensch. Olten/Freiburg i.B. 1991 Matton, Ton. Mission Statement http://www.strategies.ufg.at/?page_id=736 (4.1.17) van Mensvoort, Koert und Grievink Hendrik-Jan. Next Nature. Nature changes along with us. Barcelona, 2011 Miller, Daniel. Der Trost der Dinge. Berlin, 2010 Mori, Masahiro. The Uncanny Valley in Energy, 7(4). 1970 http://www.androidscience.com/theuncannyvalley/ proceedings2005/uncannyvalley.html (4.11.16) Musil, Robert. Der Mann ohne Eigenschaften. Berlin 1930 Norman, Donald. Emotional Design, New York, 2004 87


Nuwer, Rachel. Learning to Love the Machine: People Show Empathy for Tortured Robots. 2013 http://txchnologist.com/post/48848162831/learning-to-lovethe-machine-people-show-empathy (5.11.16) Palmer Thompson, Edward: The Making of the English Working Class. London 1963 Pöls, Werner (Hrsg.). Deutsche Sozialgeschichte 1815–1870. München 1988 Popper, Karl. Die Welt des Parmenides. Der Ursprung des europäischen Denkens. München/Zürich 2005 Rosenthal-von der Pütten, Astrid und Krämer, Nicole. Investigation on Empathy Towards Humans and Robots Using Psychophysiological Measures and fMRI, in: International Communication Association. Humans feel empathy for robots: fMRI scans show similar brain function when robots are treated the same as humans. ScienceDaily, 2013 www.sciencedaily.com/releases/2013/04/130423091111.htm (5.11.16) Scheutz, Matthias. The Inherent Dangers of Unidirectional Emotional Bonds between Humans and Social Robots. Bloomington, 2011 http://hrilab.tufts.edu/publications/roboethicsicra09.pdf (5.11.16) Schönhammer, Rainer. Einführung in die Wahrnehmungspsychologie. Wien, 2009 Schulze, Friedrich (Hrsg.). Die ersten deutschen Eisenbahnen. Leipzig, 1917 Shaw, George Bernard. Pygmalion in: Klassische Stücke. Berlin/Frankfurt 1950 Shneidermann, Ben. Anthropomorphism: From Eliza to Terminator in: Proceedings of CHI. 1992 Weizenbaum, Joseph. Computer Power and Human Reason: From Judgment To Calculation. San Francisco, 1976

88


Weizenbaum, Joseph. ELIZA â&#x20AC;&#x201C; A Computer Program For the Study of Natural Language Communication Between Man and Machine in: Communications of the ACM, Volume 9, Issue 1. 1966 Wiener, Norbert. Brief an UAW President Walter Reuther. 1949 https://libcom.org/history/father-cybernetics-norbertwieners-letter-uaw-president-walter-reuther (4.11.16) Wiener, Norbert. The Human Use od Human Beeings, Cybernetics and Society. London, 1950 https://archive.org/stream/NorbertWienerHumanUseOf HumanBeings/NorbertWienerHuman_use_of_human_beings_ djvu.txt (17.11.16) Wilde, Oscar. The Soul of Man under Socialism. 1891 https://www.marxists.org/reference/archive/wilde-oscar/ soul-man/ (7.12.16)

89


Während der Arbeit and diesem Buch heulte ich mich gelegentlich bei ELIZA aus

ELIZA: Is something troubling you ? YOU: yes ELIZA: You seem to be quite positive. YOU: i'm working on my master thesis ELIZA: Does that suggest anything else which belongs to you ? YOU: it's too much work ELIZA: Earlier you said your master thesis. YOU: yes, the thesis is too much work ELIZA: I see. YOU: i'm working my ass off here ELIZA: Why do you say your ass off here ? YOU: it's an expression. it means that i'm working a lot and don't have a lot of free time. have you seen the shining? ELIZA: Is it because you are working a lot and don't have a lot of free time that you came to me ? YOU: pretty much ELIZA: Lets discuss further why your ass off here. YOU: well, as i said i'm working a lot and i'm not sure if the result will be worth it. also, i'm suspecting myself of procrastinating a lot. ELIZA: But what are the chances that the result will be worth it ? YOU: not too bad. but still i'm worried ELIZA: Do you believe it is normal to be worried ? YOU: probably yes. but i'd rather not ELIZA: You seem to be quite positive. YOU: ok, thanks for talking to me, eliza

90


ELIZA: Tell me more about that. YOU: i have to go back to work. see you ELIZA: Can you elaborate on that ? YOU: no ELIZA: You are being a bit negative. YOU: ok, bye ELIZA: Goodbye. This was really a nice talk.

Mehr zu ELIZA steht im Kapitel Maschinenmoral. Wer auch mit ELIZA reden mรถchte, kann das unter http://www.masswerk.at/elizabot tun.

91


92


Hiermit versichere ich, dass ich die vorstehende Arbeit selbstständig verfasst und keine anderen als die angegebenen Hilfsmittel benutzt habe. Die Stellen der Arbeit, die anderen Werken dem Wortlaut oder dem Sinn nach entnommen wurden, habe ich in jedem Fall durch die Angabe der Quelle bzw. der Herkunft, auch der benutzten Sekundärliteratur, als Entlehnung kenntlich gemacht. Dies gilt auch für Zeichnungen, Skizzen, bildliche Darstellungen sowie für Quellen aus dem Internet und anderen elektronischen Text- und Datensammlungen und dergleichen.

Unterschrift der Verfasserin

Halle, 9. Januar 2017

93

Friends with Benefits – Über die Beziehung zwischen Mensch & Maschine / Masterthesis Amelie Goldfuß  

Masterstudiengang Industrial Design / Burg Giebichenstein Kunsthochschule Halle / 2017

Read more
Read more
Similar to
Popular now
Just for you