Gefahrenpotenzial von Lügenbots

Unternehmen stellen sich die Frage: «Wie kann man natürlichsprachliche Systeme zielführend einsetzen?» In dieser Bachelorarbeit wurde das Gefahrenpotenzial von Münchhausen-Maschinen aufgezeigt; der Student hat Entwicklungs- und Vermeidungsstrategien erläutert sowie einen Prototyp realisiert.

Schwegler, Kevin, 2016

Art der Arbeit Bachelor Thesis
Auftraggebende Institut für Wirtschaftsinformatik, HSW FHNW
Betreuende Dozierende Richards, Bradley
Keywords Natural language processing, Natürlichsprachliche Systeme, AIML, Münchhausen-Maschinen, Chatbot, Chatterbot, Liebot, Lügenbot, Dialogsysteme
Views: 10 - Downloads: 3
Im Jahr 2013 wurde das GOODBOT-Projekt durch Prof. Dr. Oliver Bendel und Studierende der Hochschule für Wirtschaft FHNW Olten initiiert. Das Ziel war die Realisierung eines Chatbots, der moralisch angemessen auf seine Gesprächspartner reagieren kann. Während des Projekts setzte sich Oliver Bendel auch mit der Thematik unmoralischer Maschinen auseinander und verfasste einen ersten Fachartikel über den Lügenbot und andere Münchhausen-Maschinen. Dabei entstand bei ihm der Wunsch nach einer technischen Umsetzung des Lügenbots unter Berücksichtigung der im GOODBOT-Projekt gemachten Erfahrungen.
Für die Realisierung wurde grundsätzlich ein lineares Vorgehen angewandt. In einer ersten Phase wurden das Proposal und ein Anforderungskatalog erstellt. Anschliessend fanden die Evaluationen des Frameworks und der eingesetzten Cloud-Umgebung statt. Danach wurden Informationen zu natürlichsprachlichen Systemen und den philosophischen Aspekten des Lügens gesammelt. In der darauffolgenden Realisierungsphase wurde auf ein iteratives Vorgehen zurückgegriffen, um die Entwicklungsflexibilität zu steigern und dem Auftraggeber nach jeder Iteration das Testen der Anwendung zu ermöglichen.
Eine philosophische Auseinandersetzung mit dem Begriff des Lügens und den verschiedenen Ethikdisziplinen war zentraler Bestandteil der Arbeit und diente als Grundlage für den LÜGENBOT (LIEBOT). Anschliessend wurden zehn Manipulationsstrategien entwickelt, um den Wahrheitsgehalt von Aussagen zu senken. Auch das Betrügen und Täuschen wurden thematisiert und konnten durch Animationen des Avatars in der Anwendung implementiert werden. Aus technischer Sicht wurde ein natürlichsprachliches System konzipiert und entwickelt. Es ist in der Lage, Informationen aus der eigenen oder einer fremden Wissensbasis zur Generierung von Antworten zu nutzen. Zusätzlich können durch Techniken der Informationsextraktion auch Resultate von Suchmaschinen zur Bildung der Antworten eingesetzt werden. Im Postprocessing-Modul des LIEBOT werden nach der Antwortenbildung verschiedene Techniken zur Manipulation der Aussage genutzt, um sie vor deren Ausgabe in eine Lüge umzuwandeln. Der Nutzen besteht im Aufzeigen des Gefahrenpotenzials von unmoralischen Maschinen und in der Erarbeitung von gezielten Vermeidungsstrategien, basierend auf den erlangten Kenntnissen zur Realisierung von unmoralischen Maschinen.
Studiengang: Wirtschaftsinformatik (Bachelor)
Vertraulichkeit: öffentlich
Art der Arbeit
Bachelor Thesis
Auftraggebende
Institut für Wirtschaftsinformatik, HSW FHNW, Olten
Autorinnen und Autoren
Schwegler, Kevin
Betreuende Dozierende
Richards, Bradley
Publikationsjahr
2016
Sprache der Arbeit
Deutsch
Vertraulichkeit
öffentlich
Studiengang
Wirtschaftsinformatik (Bachelor)
Standort Studiengang
Olten
Keywords
Natural language processing, Natürlichsprachliche Systeme, AIML, Münchhausen-Maschinen, Chatbot, Chatterbot, Liebot, Lügenbot, Dialogsysteme