Menschen vertrauen Robotern oft blind

Menschen glauben, dass Roboter nie Fehler machen – und vertrauen ihnen auch in Gefahrensituationen. „Overtrust“ heißt das Phänomen, das gefährlich werden kann.

Als der Roboter die Menschen direkt in den Qualm lotste, folgten ihm seine Schützlinge blind. Selbst als der digitale Notfall-Helfer die ahnungslosen Testpersonen auf der Flucht vor dem vermeintlichen Feuer zweimal im Kreis herumführte, blieben sie seiner Linie treu. Dass ausnahmslos alle Probanden dem Roboter auch nach mehreren Fehlern hinterherliefen, verblüffte die Wissenschaftler am amerikanischen Georgia Tech Research Institute zutiefst. Die Forscher wollten mit ihrem Experiment die Reaktionen der Menschen auf die Anweisungen eines Roboters in einer kritischen Situation erforschen. Ihr Ergebnis ist eindeutig: „Menschen überschätzen das Wissen der Maschinen. Sie glauben, dass Roboter nie Fehler machen“, sagt Forscher Alan Wagner.

„Social Engineering“ funktioniert übrigens auch bei Robotern: Als ein Roboter eine Gruppe Studenten auf einem Campus aufforderte, eine Tür zu öffnen, für die eine Zugangsberechtigung notwendig war, lehnte die große Mehrheit diesen Wunsch ab. Als derselbe Roboter mit einer Packung Keksen unterwegs war und behauptete, die Lieferung zustellen zu wollen, öffnete die große Mehrheit der Studenten bereitwillig die Tür.

„Overtrust“ ist weit verbreitet

„Overtrust“ nennen Wissenschaftler das Phänomen, das im Extremfall wie beim Tesla-Fahrer Joshua Brown tödlich enden kann. „Das Vertrauen der Nutzer ist erstaunlich schnell gegeben. Vielleicht zu schnell. Wir sind an einem Punkt, in dem autonome Systeme langsam alltagstauglich werden, aber noch nicht alles leisten können, wofür sie vorgesehen sind“, kritisiert Roboter-Experte Roland Siegwart von der Eidgenössischen Technischen Hochschule Zürich, der den Hersteller Tesla allerdings nicht in der Schuld sieht. „Sie haben vieles richtig gemacht und ausreichende Sicherheitsmaßnahmen ergriffen. Es bleibt die Frage, ob man sich gut genug überlegt hat, wie rasch Menschen einer Technologie vertrauen.“

Blindes Vertrauen ist allerdings genauso falsch wie die Technikfeindlichkeit, die in Deutschland weit verbreitet ist. „Wir müssen die Menschen realistisch darüber aufklären, was ein Roboter kann und was nicht. Viele Vorstellungen und Sorgen, dass uns Roboter eines Tages überlegen sind, sind Unsinn erster Klasse.“, sagt Stefan Schaal, Direktor am Max-Planck Institut für Intelligente Systeme, dem FOCUS.

„Wäre ich Roboter, wollte ich in Japan leben“

In Japan, wo Roboter schon lange im Einsatz sind, ist das Vertrauen offenbar am größten. „Manchmal können Menschen einander nicht vertrauen. Vor allem Ältere sind misstrauisch gegenüber anderen Menschen. Gegenüber Robotern sind sie es nicht“, sagt Hiroshi Ishiguro, der berühmteste Humanoiden-Forscher Japans. Dort sind Robotern schon in vielen Alltagssituationen im Einsatz: In der Pflege alter Menschen, als Haushaltshelfer, als Wegweiser am Flughafen und sogar an der Rezeption eines Hotels. „Wäre ich ein Roboter, wollte ich in Japan leben“, sagt der Schweizer Robotik-Experte Rolf Pfeifer. „Technologie-Skeptizismus kennt man in Japan nicht.“ Dort werden die Roboter nicht als Bedrohung, sondern als willkommene Helfer betrachtet. Denn Japan leidet noch viel stärker als Deutschland an der Überalterung seiner Bevölkerung. Roboter werden als sinnvolle Möglichkeit gesehen, die fehlenden Arbeitskräfte zu ersetzen.

Davon ist Deutschland noch weit entfernt. Hierzulande verrichten die schlauen Maschinen ihre Arbeit vorwiegend in Fabriken. Deutschland gehört neben China, Südkorea und den USA zu den vier Ländern, die mit Abstand am stärksten in die digitalen Maschinen investieren  – und auch davon profitieren. Roboter werden unsere Wettbewerbsfähigkeit spürbar steigern, selbst in Branchen, die schon lange keine Produkte mehr in Deutschland hergestellt haben. Der Sportartikelhersteller Adidas hat im bayrischen Ansbach seine „Speedfactory“ in Betrieb genommen, in der Roboter und 3D-Drucker Turnschuhe herstellen – zum ersten Mal nach 23 Jahren Produktion in Billiglohnländern. Adidas verspricht sich wesentliche Vorteile gegenüber der Konkurrenz, denn die Schuhe sind am Ende nicht nur günstiger, sondern auch schneller fertig und können einzeln nach den Wünschen der Kunden gefertigt werden.