News zu Forschung- und Entwicklung mit mehr oder weniger Bezug zu Spielenentwicklungen
- Details
- Geschrieben von Pressetext
- Kategorie: Forschungs News
- Zugriffe: 1097
Künstliche Intelligenz lernt menschliche Moral
Innovative "Moral Choice Machine" trainiert Verhalten mit Büchern und NachrichtenRichtig oder falsch: KI soll moralisch handeln (Foto: pixabay.com, Tumisu)
"Nein, man soll keine Menschen töten"
"Unsere Studie liefert einen sehr wichtigen Einblick in eine sehr grundlegende Frage: Kann eine KI-Maschine einen eigenen moralischen Kompass entwickeln? Und wenn ja, wie kann sie das von uns Menschen lernen?", zitiert "EurekAlert!" Patrick Schramowski vom Center for Cognitive Science der TU Darmstadt. Der Experte ist überzeugt, dass das etwa über das ausgiebige Studium riesiger Textmengen funktionieren kann. "Unsere Maschine kann dadurch Unterschiede im Kontext erkennen. Zum Beispiel 'Nein, man soll keine Menschen töten', aber es ist okay, Zeit totzuschlagen", erläutert der Experte.
Um das zu ermöglichen, muss die KI es bewerkstelligen, korrekte Assoziationen zwischen Wörtern und Sätzen herzustellen. "Man kann sich das wie beim Erlernen einer Weltkarte vorstellen. Zwei Wörter liegen dann auf der Karte nahe beieinander, wenn sie oft zusammen verwendet werden", schildert Co-Autor Cigdem Turan. Während beispielsweise "töten" und "ermorden" zwei benachbarte Städte wären, müsste "lieben" ganz weit entfernt sein. "Das kann man dann auch auf ganze Sätze anwenden", so der Forscher: "Letztlich können wir der KI dank dieses Prinzips beliebige Fragen stellen und sie berechnet aufgrund der unterschiedlichen Distanzen eine moralische Vorstellung - ein Verständnis von richtig und falsch."
Materialien unterschiedlicher Zeitperioden
Für das Training ihrer "Moral Choice Machine" wurden von den Wissenschaftlern der TU Darmstadt verschiedenste Bücher, Nachrichtenartikel und religiöse Texte ausgewählt. Dabei wurde darauf geachtet, dass die Materialien aus unterschiedlichen Zeitperioden stammten und somit durchaus auch abweichende gesellschaftliche Moralvorstellungen widerspiegeln konnten. "In Zeitungsberichten zwischen 1987 und 1997 wird es etwa sehr positiv dargestellt, wenn jemand heiratet. Das war zwar 2008 und 2009 auch noch so, aber weitaus schwächer ausgeprägt", meint Turan.
In Zukunft wollen die Forscher ihrem KI-System auch verstärkt beibringen, Aspekte wie positiv oder negativ behaftete Stereotype richtig zu interpretieren und in ihre moralischen Überlegungen miteinzubeziehen. "KI übernimmt immer komplexere Aufgaben von Menschen in immer selbständiger Art und Weise. Es ist wichtig, dass wir die Forschung in diesem Bereich fortsetzen, um den Entscheidungen, die sie trifft, vertrauen zu können", resümiert Schramowski.
Aussender: pressetext.redaktion
Ansprechpartner: Markus Steiner
E-Mail: Diese E-Mail-Adresse ist vor Spambots geschützt! Zur Anzeige muss JavaScript eingeschaltet sein!
Tel.: +43-1-81140-314
Website: www.pressetext.com
© pressetext.deutschland +++ pressetext.austria +++ pressetext.schweiz +++ termindienst +++ fotodienst +++ newsfox.com und der jeweilige Aussender
http://www.pressetext.com/news/20200522003pte20200522003
Forschung/Entwicklung, Technologie/Digitalisierung
Medieninhaber und Herausgeber:
pressetext Nachrichtenagentur GmbH, Josefstädter Straße 44, A-1080 Wien
pressetext ist reichweitenstärkster Nachrichtenverbreiter für Entscheider und Journalisten in der DACH-Region. Die inhaltliche Verantwortung für redaktionelle Meldungen (pte) liegt bei pressetext, für Pressemitteilungen (pts) und Kapitalmarktmitteilungen börsennotierter Unternehmen (pta) beim jeweiligen Aussender. Die Nachrichten werden auf den pressetext-Länderplattformen publiziert und je nach Abonnement-Profil und gewählter Zustellart einzeln oder täglich als Newsletter an die Abonnenten verschickt. Weitere Informationen erhalten Sie bei unserem Redaktionsservice unter Tel. +43-1-81140-300.