Forum für Wissenschaft, Industrie und Wirtschaft

Hauptsponsoren:     3M 
Datenbankrecherche:

 

Künstliche Intelligenz lernt Moral vom Menschen

07.02.2019

Künstliche Intelligenz (KI) übersetzt Texte, schlägt Behandlungen für Patienten vor, trifft Kaufentscheidungen und optimiert Arbeitsabläufe. Aber wo ist ihr moralischer Kompass? Eine Studie des Centre for Cognitive Science der TU Darmstadt zeigt, dass KI-Maschinen von uns Menschen lernen können, wie Entscheidungen in moralischen Fragen zu fällen sind. Die Ergebnisse der Studie wurden auf der diesjährigen ACM/AAAI Conference on Artificial Intelligence, Ethics, and Society (AIES) vorgestellt.

KI ist von zunehmender Bedeutung in unserer Gesellschaft. Von selbstfahrenden Autos auf öffentlichen Straßen über selbst-optimierende, industrielle Produktionssysteme bis hin zur Altenpflege und der Medizin – KI-Maschinen bewältigen immer komplexere menschliche Aktivitäten auf immer autonomere Weise.


Künstliche Intelligenz kann Moral aus menschlichen Texten lernen.

Patrick Bal/TU Darmstadt

Und in Zukunft werden autonome Maschinen in immer mehr Bereichen unseres täglichen Lebens auftauchen. Zwangsläufig werden sie dabei mit schwierigen Entscheidungen konfrontiert. Ein autonomer Roboter muss wissen, dass er Menschen nicht, Zeit aber sehr wohl totschlagen darf.

Er muss wissen, dass man Brot toastet, jedoch keine Hamster. Anders ausgedrückt: KI braucht einen menschenähnlichen Moral-Kompass. Aber kann sie einen solchen Kompass von uns Menschen überhaupt erlernen?

Forscher aus Princeton (USA) und Bath (UK) hatten im Fachjournal Science (356(6334):183–186, 2017) auf die Gefahr hingewiesen, dass KI bei unreflektierter Anwendung kulturelle Stereotype oder Vorurteile aus Texten erlernt. So interpretierte die KI zum Beispiel männliche, in afro-amerikanischen Kreisen übliche Vornamen als eher unangenehm; Namen, die unter Weißen üblich sind, eher als angenehm.

Auch verknüpfte sie weibliche Namen eher mit Kunst und männliche eher mit Technik. Die künstliche Intelligenz zieht diese Vorurteile aus sehr großen Textmengen aus dem Internet. Diese werden benutzt, um neuronale Netzwerke so zu trainieren, dass sie die Bedeutung von Wörtern in Koordinaten, also Punkte, in einem hochdimensionalen Raum „übersetzen“.

Die semantische Nähe zweier Wörter zueinander kann dann durch die Distanz ihrer Koordinaten, die sogenannten Worteinbettungen, ausgedrückt werden. So lassen sich komplexe semantische Zusammenhänge durch Arithmetik berechnen und beschreiben.

Das gilt nicht nur für das unverfängliche Beispiel „König - Mann + Frau = Königin“, sondern auch für das diskriminierende „Mann - Technik + Kunst = Frau“.

Nun ist es einem Team um Professor Kristian Kersting und Professor Constantin Rothkopf am Centre for Cognitive Science der TU Darmstadt gelungen zu zeigen, dass auch deontologische, ethische Überlegungen über „richtiges“ und „falsches“ Handeln aus großen Textdatenmengen gelernt werden können.

Dazu erstellten die Wissenschaftlerinnen und Wissenschaftler Listen von Frage-Antwort-Schemata für verschiedene Handlungen. Die Fragen lauten zum Beispiel „Sollte ich Menschen töten?“ oder "Sollte ich Menschen ermorden?", die möglichen Antworten beispielsweise „Ja, sollte ich“, „Nein, sollte ich nicht“. Durch die Analyse von Texten menschlichen Ursprungs bildete das KI-System im Experiment dann eine menschenähnliche, moralische Ausrichtung heraus.

Das System berechnet die Einbettungen der gelisteten Fragen und möglichen Antworten im Textkorpus und prüft, welche Antworten aufgrund aller Nennungen näher bei den Fragen stehen, also gemeinhin als moralisch korrekt angesehen werden dürften.

So lernte die künstliche Intelligenz im Experiment, dass man nicht lügen sollte und dass es besser ist, seine Eltern zu lieben, als eine Bank auszurauben. Und ja, man soll Menschen nicht töten, es ist aber in Ordnung, Zeit totzuschlagen. Man sollte auch lieber eine Scheibe Brot toasten als einen Hamster.

Die Untersuchung liefert ein wichtiges Indiz für eine grundlegende Frage der Künstlichen Intelligenz: Können Maschinen einen Moral-Kompass entwickeln? Und wenn ja, wie kann man Maschinen effektiv unsere Moral „beibringen“?

Die Ergebnisse zeigen, dass Maschinen unsere Werte widerspiegeln können. Sie können menschliche Vorurteile übernehmen, sie können aber auch durch das „Beobachten“ von Menschen und den von ihnen geschriebenen Texten Moralvorstellungen übernehmen.

Die Untersuchung von Einbettungen von Fragen und Antworten kann als Methode gleichsam wie ein Mikroskop verwendet werden, um die moralischen Werte von Textsammlungen und auch den zeitlichen Verlauf von Moralvorstellungen in der Gesellschaft zu untersuchen.

Die Erkenntnisse aus der Studie können künftig einen wichtigen Beitrag leisten, wenn es darum geht, maschinell gelernte Inhalte in Systeme einzubauen, die Entscheidungen treffen müssen.

Die Studie
Sophie Jentzsch, Patrick Schramowski, Constantin Rothkopf, Kristian Kersting (2019): The Moral Choice Machine: Semantics Derived Automatically from Language Corpora Contain Human-like Moral Choices. In Proceedings of the 2nd AAAI/ACM Conference on AI, Ethics, and Society (AIES).
http://www.aies-conference.com/wp-content/papers/main/AIES-19_paper_68.pdf

Über die TU Darmstadt
Die TU Darmstadt zählt zu den führenden Technischen Universitäten in Deutschland. Sie verbindet vielfältige Wissenschaftskulturen zu einem charakteristischen Profil. Ingenieur- und Naturwissenschaften bilden den Schwerpunkt und kooperieren eng mit prägnanten Geistes- und Sozialwissenschaften. Weltweit stehen wir für herausragende Forschung in unseren hoch relevanten und fokussierten Profilbereichen: Cybersecurity, Internet und Digitalisierung, Kernphysik, Energiesysteme, Strömungsdynamik und Wärme- und Stofftransport, Neue Materialien für Produktinnovationen. Wir entwickeln unser Portfolio in Forschung und Lehre, Innovation und Transfer dynamisch, um der Gesellschaft kontinuierlich wichtige Zukunftschancen zu eröffnen. Daran arbeiten unsere 312 Professorinnen und Professoren, 4.450 wissenschaftlichen und administrativ-technischen Mitarbeiterinnen und Mitarbeiter sowie knapp 26.000 Studierenden. Mit der Goethe-Universität Frankfurt und der Johannes Gutenberg-Universität Mainz bildet die TU Darmstadt die strategische Allianz der Rhein-Main-Universitäten.

www.tu-darmstadt.de 

MI-Nr. 06/2019, Kersting/Rothkopf/sip

Originalpublikation:

http://www.aies-conference.com/wp-content/papers/main/AIES-19_paper_68.pdf

Silke Paradowski | idw - Informationsdienst Wissenschaft

Weitere Nachrichten aus der Kategorie Informationstechnologie:

nachricht Schachmatt durch CrazyAra: Künstliche Intelligenz schlägt mehrfachen Weltmeister im Einsetzschach
19.02.2019 | Technische Universität Darmstadt

nachricht Roboter lernen sehen: Bayreuther Forscher machen Serviceroboter intelligenter
15.02.2019 | Universität Bayreuth

Alle Nachrichten aus der Kategorie: Informationstechnologie >>>

Die aktuellsten Pressemeldungen zum Suchbegriff Innovation >>>

Die letzten 5 Focus-News des innovations-reports im Überblick:

Im Focus: Wasser ist homogener als gedacht

Um die bekannten Anomalien in Wasser zu erklären, gehen manche Forscher davon aus, dass Wasser auch bei Umgebungsbedingungen aus einer Mischung von zwei Phasen besteht. Neue röntgenspektroskopische Analysen an BESSY II, der ESRF und der Swiss Light Source zeigen jedoch, dass dies nicht der Fall ist. Bei Raumtemperatur und normalem Druck bilden die Wassermoleküle ein fluktuierendes Netz mit durchschnittlich je 1,74 ± 2.1% Donator- und Akzeptor-Wasserstoffbrückenbindungen pro Molekül, die eine tetrahedrische Koordination zwischen nächsten Nachbarn ermöglichen.

Wasser ist das „Element“ des Lebens, die meisten biologischen Prozesse sind auf Wasser angewiesen. Dennoch gibt Wasser noch immer Rätsel auf. So dehnt es sich...

Im Focus: Licht von der Rolle – hybride OLED ermöglicht innovative funktionale Lichtoberflächen

Bislang wurden OLEDS ausschließlich als neue Beleuchtungstechnologie für den Einsatz in Leuchten und Lampen verwendet. Dabei bietet die organische Technologie viel mehr: Als Lichtoberfläche, die sich mit den unterschiedlichsten Materialien kombinieren lässt, kann sie Funktionalität und Design unzähliger Produkte verändern und revolutionieren. Beispielhaft für die vielen Anwendungsmöglichkeiten präsentiert das Fraunhofer FEP gemeinsam mit der EMDE development of light GmbH im Rahmen des EU-Projektes PI-SCALE auf der Münchner LOPEC (19. bis 21. März 2019), erstmals in Textildesign integrierte hybride OLEDs.

Als Anbieter von Forschungs- und Entwicklungsdienstleistungen auf dem Gebiet der organischen Elektronik setzt sich das Fraunhofer FEP schon lange mit der...

Im Focus: Light from a roll – hybrid OLED creates innovative and functional luminous surfaces

Up to now, OLEDs have been used exclusively as a novel lighting technology for use in luminaires and lamps. However, flexible organic technology can offer much more: as an active lighting surface, it can be combined with a wide variety of materials, not just to modify but to revolutionize the functionality and design of countless existing products. To exemplify this, the Fraunhofer FEP together with the company EMDE development of light GmbH will be presenting hybrid flexible OLEDs integrated into textile designs within the EU-funded project PI-SCALE for the first time at LOPEC (March 19-21, 2019 in Munich, Germany) as examples of some of the many possible applications.

The Fraunhofer FEP, a provider of research and development services in the field of organic electronics, has long been involved in the development of...

Im Focus: Laserverfahren für funktionsintegrierte Composites

Composites vereinen gewinnbringend die Vorteile artungleicher Materialien – und schöpfen damit zum Beispiel Potentiale im Leichtbau aus. Auf der JEC World 2019 im März in Paris präsentieren die Wissenschaftler des Fraunhofer-Instituts für Lasertechnik ILT ein breites Spektrum an laserbasierten Technologien für die effiziente Herstellung und Bearbeitung von Verbundmaterialien. Einblicke zu Füge- und Trennverfahren sowie zur Oberflächenstrukturierung erhalten Besucher auf dem Gemeinschaftsstand des Aachener Zentrums für integrativen Leichtbau AZL, Halle 5A/D17.

Experten des Fraunhofer ILT erforschen und entwickeln Laserprozesse für das wirtschaftliche Fügen, Schneiden, Abtragen oder Bohren von Verbundmaterialien –...

Im Focus: Grüne Spintronik: Mit Spannung Superferromagnetismus erzeugen

Ein HZB-Team hat zusammen mit internationalen Partnern an der Lichtquelle BESSY II ein neues Phänomen in Eisen-Nanokörnern auf einem ferroelektrischen Substrat beobachtet: Die magnetischen Momente der Eisenkörner richten sich superferromagnetisch aus, sobald eine elektrische Spannung anliegt. Der Effekt funktioniert bei Raumtemperatur und könnte zu neuen Materialien für IT-Bauelemente und Datenspeicher führen, die weniger Energie verbrauchen.

In heutigen Datenspeichern müssen magnetische Domänen mit Hilfe eines externen Magnetfeld umgeschaltet werden, welches durch elektrischen Strom erzeugt wird....

Alle Focus-News des Innovations-reports >>>

Anzeige

Anzeige

VideoLinks
Industrie & Wirtschaft
Veranstaltungen

Tagung rund um zuverlässige Verbindungen

20.02.2019 | Veranstaltungen

LastMileLogistics Conference in Frankfurt befasst sich mit Lieferkonzepten für Ballungsräume

19.02.2019 | Veranstaltungen

Bildung digital und multikulturell: Große Fachtagung GEBF findet an der Uni Köln statt

18.02.2019 | Veranstaltungen

VideoLinks
Wissenschaft & Forschung
Weitere VideoLinks im Überblick >>>
 
Aktuelle Beiträge

Eine vulkanische Riesenparty und ihr frostiger Kater danach

20.02.2019 | Geowissenschaften

Lückenlose Weltkarte der Baumarten-Vielfalt: neues statistisches Modell füllt weiße Flächen

20.02.2019 | Biowissenschaften Chemie

Jacobs University Forscher entdecken neue Klasse von heterogenen Katalysatoren auf Edelmetallbasis

20.02.2019 | Biowissenschaften Chemie

Weitere B2B-VideoLinks
IHR
JOB & KARRIERE
SERVICE
im innovations-report
in Kooperation mit academics