Trust in Bots. Zur Rolle von Vertrauen und Reputation in Multi-Agenten-Systemen


Studienarbeit, 2000

62 Seiten, Note: 1,3


Leseprobe

Inhaltsübersicht

1 Einleitung

2 Das soziologische Vorbild
2.1 Das Vertrauen der Gesellschaft
2.2 Gesellschaftlicher Zusammenhalt durch Vertrauen
2.3 Vertrauen und kooperatives Handeln
2.4 Zusammenfassung

3 Zum Zusammenhang von Theorie und Praxis
3.1 Ist Vertrauen auf Agentensysteme anwendbar?
3.2 Zwischen Simulation und technischer Implementierung
3.3 Schlussfolgerungen in Bezug auf AVALANCHE

4 Formalisierungen von Reputation und Vertrauen
4.1 Agentenzentrierte, solitäre Ansätze
4.1.1 Stephen Marsh - Trust mit großem T
4.1.2 Weitere agentenzentrierte, solitäre Ansätze
4.1.3 Zusammenfassung agentenzentrierte, solitäre Ansätze
4.2 Agentenzentrierte, soziale Ansätze
4.2.1 Michael Schillo - TrustNet oder: Du bist nicht alleine
4.2.2 Weitere agentenzentrierte, soziale Ansätze
4.2.3 Zusammenfassung agentenzentrierte, soziale Ansätze
4.3 ‘Objektive’ externe Bewertungsagenturen
4.4 ‘Subjektive’ externe Bewertungsagenturen
4.5 Andere Ansätze
4.6 Zusammenfassung

5 Hinweise zur Implementierung in AVALANCHE
5.1 Beschreibung des in AVALANCHE verwendeten Modells
5.2 Diskussion und Empfehlungen
5.3 Zusammenfassung

6 Literatur

Trust in Bots: Zur Rolle von Vertrauen

und Reputation bei Multiagenten-Systemen

If you were going to be successful in the criminal world, you needed a reputation for honesty. Terry Pratchett, Feet of Clay

1 Einleitung

Multiagenten-Systeme Seit einigen Jahren ist in der Informatik ein neuerlicher Paradigmenwechsel zu beobachten: verteilte Anwendungen - etwa auf dem Internet - werden nicht mehr in der Begrifflichkeit sich gegenseitig aufrufender Programmteile und Algorithmen beschrieben, sondern mit der Metapher des autonomen Agenten, der mit anderen Agenten - zu denen in manchen Fällen auch die NutzerInnen zählen - interagiert, also Nachrichten austauscht, Handel betreibt oder sogar Nachkommen zeugt. Werden diese ‘lebendigen’ Agenten im Plural betrachtet, ist die Rede von einem Multiagenten-System (MAS).

Informatik óSoziologie Multiagenten-Systeme haben nicht nur den Reiz des Neuen, und bieten gerade im Anwendungsfeld eCommerce erhebliche Vorteile, sondern verfügen auch über gewisse Ähnlichkeiten mit menschlichen Gesellschaften, zumindest insofern, als es hier wie dort eine Ebene einzelner, mehr oder weniger zielgerichteter Handlungen und eine Ebene emergenter, gesellschaftlicher Phänomene gibt. Dementsprechend findet zur Zeit, insbeson dere unter dem Label ‘Sozionik’, ein gegenseitiger Informationsaustausch zwischen (Teilen) der Soziologie einerseits und (Teilen) der Informatik andererseits statt (Malsch 1997; Malsch et al. 1998; vgl. auch Manhart 1999). Aus Sicht der Soziologie geht es dabei darum, herauszufinden, wieweit Modellierungen und Simulationen von Gesellschaften im Computer zu Erkenntnisgewinn über menschliche Gesellschaften beitragen können. Aus informatischer Sicht wird in der Soziologie nach Lösungen für Probleme künstlicher Gesellschaften gesucht, die menschlichen Gesellschaften anscheinend gefunden haben.

Eines dieser Problemfelder ist die Frage der Sicherheit eines Multiagenten-Systems, bezogen darauf, wie unkooperatives und betrügerisches Verhalten vermieden werden kann. Eine in der Soziologie gefundene Lösungsmöglichkeit für dieses Problem in menschlichen Gesellschaften scheint Vertrauen zu sein. Es stellt sich also u.a. die Frage, wie Vertrauen in menschlichen Gesellschaften erzeugt wird, welche Faktoren an der Bildung einer Reputation beteiligt sind, und wie Hinweise auf Vertrauenswürdigkeit verarbeitet werden. In gewisser Weise könnte selbst bei einem geschlossenen Multiagenten-System, an dem nur gutwillige Agenten beteiligt sind, von der Existenz impliziten Vertrauens zwischen den beteiligten Agenten und in Bezug auf das System gesprochen werden. Anders sieht es aus, wenn ein Multiagenten-System offen ist, oder wenn das Verhalten weniger gutwilliger Agenten simuliert werden soll, wenn also über die Absichten eines unbekannten Agenten prinzipiell nichts bekannt ist. Soll mit diesen interagiert werden, z.B. Handel getrieben

werden, oder eher nicht? Ab wann ist ein Agent vertrauenswürdig genug, um ihn bei der Auswahl von Interaktionspartnern zu berücksichtigen? Wie lässt sich Vertrauenswürdigkeit operationalisieren? Und: wird ein Multiagenten-System vertrauenswürdig, wenn die daran beteiligten Agenten über Vertrauen operieren?

Abbildung in dieser Leseprobe nicht enthalten

Abb. 1 - Warum es nicht ganz einfach ist, sich komplexen Phänomenen zu nähern

Sicher durch Vertrauen? Aufbau der Arbeit In der Informatik gibt es inzwischen verschiedene Ansätze, die Anregungen aus der Soziologie aufgenommen haben, oder dies zumindest behaupten, und Lösungsmöglichkei ten für das Vertrauensproblem anbieten. Im Rahmen dieser Arbeit soll es nun darum gehen, einige dieser Ansätze zu diskutieren und miteinander zu vergleichen. Dazu wird untersucht, wie die Soziologie Vertrauen theoretisch konzipiert, wie also angenommen wird, dass die hier als Vorbild genommenen Prozesse der Vertrauensbildung real ablaufen (Kapitel 2). Aufbauend darauf wird es darum gehen, die Bedingungen zu klären, unter denen eine Übernahme von soziologisch motivierten Modellen in Multiagenten-Systeme sinnvoll ist, und Kriterien dafür zu entwickeln (Kapitel 3), die dann wiederum als Leitfaden für die vergleichende Diskussion verschiedener Ansätze zur Modellierung von Vertrauen aus dem Bereich der MAS-Forschung, der Internet-Sicherheit sowie der Distributed Artificial Intelligence (DAI) dienen kann (Kapitel 4). Das Ziel der Arbeit ist es, Hinweise darauf zu geben, welchen Beitrag diese Ansätze dazu leisten können, einen Schutz vor betrügerischem Verhalten im hier als Anwendungsbeispiel ausgewählten Multiagenten System AVALANCHE (vgl. dazu Sackmann 1998; Eymann et al. 1998; Eymann / Padovan 1999; Padovan et al. 2000) zu implementieren (Kapitel 5).

2 Das soziologische Vorbild

Vertrauen als Thema Das Ziel dieses Kapitels ist es, die Funktionen, Rahmenbedingungen und Mechanismen der Vertrauensbildung aus soziologischer Perspektive darzustellen. Obwohl Soziologen und Soziologinnen sich nicht erst seit kurzen, sondern seit der Gründung der Disziplin mit der Frage beschäftigen, welche Rolle Vertrauen etwa für die Aufrechterhaltung und Bereit stellung sozialer Ordnung hat, stand die ‘Vertrauensfrage’ doch nie im Mittelpunkt der Disziplin: »The concept of trust entered sociological theory by way of philosophical and political writings, never having been a central focus of sociological theory. [… T]rust was seldom explicitly questioned or studied.« (Misztal 1996: 1). Dementsprechend entstanden sehr unterschiedliche Ansätze, wie mit Vertrauen als Element umfassenderer Theorien umzugehen ist, und dementsprechend unterschiedlich sehen auch die Arten des Zugriffs auf das Phänomen Vertrauen aus, die die einzelnen AutorInnen vor nehmen (vgl. Abb. 2). Da es hier nicht darum geht, alle soziologischen Zugriffe auf Vertrauen genau darzustellen, sondern vielmehr einige Grundannah men herausgestellt werden sollen, konzentrieren wir uns im folgenden auf drei unterschiedliche Ansätze. Dazu werden die Analyse von Vertrauen im Rahmen der Systemtheorie durch Niklas Luhmann (1989), der eher umfassend gesellschaftsphilosophisch orientierten Zugriff, der hier durch Barbara Misztal (1996) und Piotr Sztompka (1999) vertreten ist, sowie der eher handlungszentrierten, der Rational-Choice-Theorie nahestehenden Zugang, für den stellvertretend Diego Gambetta (1988b) steht, herangezogen. Die Ansätze von Anthony Giddens (Vertrauen als Teil der Strukturierungstheorie; vgl. dazu Misztal 1996) und James Coleman (Vertrauen im Rahmen der Rational-Choice-Theory; vgl. dazu auch Junge 1998; Kollock 1994) können ebenso wie die ökonomisch ausgerichteten Zugriffe auf Vertrauen von Partha Dasgupta und Tanja Ripperger und der sozialpsychologische Zugang von Morton Deutsch hier nicht oder nur am Rande berücksichtigt werden. Verwiesen sei weiter auf die Arbeiten von Bernard Barber, Ulrich Beck, Shmuel Eisenstadt und Francis Fukuyama (vgl. dazu Misztal 1996 und Sztompka 1999). Neben den genannten theoretischen Zugriffen auf Vertrauen existieren natürlich auch auf spezifische Problemstellungen bezogene Ansätze - genannt sei Rainer Kuhlen (1999a, 1999b), der zur Untersuchung der Vertrauenswürdigkeit von ‘Informationsassistenten’ in Bezug auf elektronische Märkte auf soziologische Vertrauens konzepte zurückgreift.

Abbildung in dieser Leseprobe nicht enthalten

Abb. 2 – Verschiedene Ansätze zur Analyse von Vertrauen1

2.1 Das Vertrauen der Gesellschaft

Luhmann 1989 Niklas Luhmanns zuerst 1968 erschienene Abhandlung zum Thema Vertrauen (hier: Luhmann 1989; vgl. dazu auch Bachmann 1998) wird - zurecht - immer wieder zitiert, wenn es um dieses Thema geht. Der 1998 gestorbene Luhmann, der sich in der Soziologie insbesondere als Systemtheoretiker (vgl. Luhmann 1998) einen Namen gemacht hat, betrachtet Vertrauen vor allem im Hinblick auf die Funktion der Reduktion von sozialer Komplexität. Er unterscheidet dabei zwischen Vertrautheit und Vertrauen, zwischen Vertrauen und Hoffnung, und natürlich zwischen Vertrauen und Misstrauen.

Vertrautheit »Vertrautheit ist Voraussetzung für Vertrauen wie für Mißtrauen, das heißt für jede Art des Sichengagierens in eine bestimmte Einstellung zur Zukunft.« (Luhmann 1989: 19). Vertrautheit ist damit das latent bleibende Hintergrundwissen über »Lebenswelt, Natur und menschliche Beziehungen« (1989: 22), der Entzug der extremen Komplexität der Welt, und ermöglicht ein »relativ sicheres Erwarten« (1989: 19). Erst vor dem Hintergrund der Vertrautheit ist Vertrauen möglich.

Was ist Vertrauen? Von der bloßen Hoffnung unterscheidet Luhmann es dadurch, dass die vertrauensvolle Erwartung bei der Entscheidung entscheidend sein muss. »Vertrauen bezieht sich also stets auf eine kritische Alternative, in der der Schaden beim Vertrauensbruch größer sein kann als der Vorteil, der aus dem Vertrauenserweis gezogen wird.« (Luhmann 1989: 24). Dabei geht Luhmann nicht davon aus, dass Vertrauen bereits im Augenblick der Vertrauenser teilung rational berechnet wird. Vielmehr steht das Wissen, ob es sich nachträglich als gerechtfertigt erweist oder nicht, dem Entscheidenden zum Entscheidungszeitpunkt nicht zur Verfügung - »auch nicht in Form bestimmter Wahrscheinlichkeitsziffern« (Luhmann 1989: 25). Gerade durch diese Entscheidung bei fehlendem Wissen - Luhmann spricht vom »Überziehen der vorhandenen Informationen« (1989: 26) - ermöglicht Vertrauen die wechselseitige und in die Zeit gestreckte Verteilung von Komplexität zwischen mehreren Handelnden, und damit die Reduktion von Komplexität. Dadurch wird zumindest eine indifferente Teilnahme an sozialen Handlungen möglich, ohne in jedem Augenblick Chaos bzw. das Schlimmste befürchten zu müssen.

Vertrauen herstellen Eine wichtige Eigenschaft von Vertrauen, also letztlich dem Ersetzen von (nicht gegebener) äußerer Sicherheit durch innere Sicherheit, einer Verschiebung des Risikos, ist die Tatsa che, dass »Menschen und soziale Einrichtungen, denen man vertraut […] besonders störempfindlich sind und gleichsam jedes Ereignis unter dem Gesichtspunkt der Vertrau ensfrage registrieren.« (Luhmann 1989: 30). Die Herstellung von Vertrauen ist ein eher langsamer Prozess, der in der wiederholten, riskanten, wechselseitigen Vorausleistung und Aufteilung von Komplexität begründet ist, während jede Störung sehr schnell als solche interpretiert wird und zum Verlust von Vertrauen führt. Die Vereinfachung des Umweltbil des wird mit dieser spezifischen ‘Zerbrechlichkeit’ des Vertrauens erkauft. Schon darin zeigt sich, wie stark Vertrauen auf Informationen über das Objekt des Vertrauens angewie sen ist.

Indizien für Vertrauen Sind die Informationen vollständig, ist kein Vertrauen notwendig; liegen keinerlei Informationen vor, ist Vertrauen nur in pathologischer Form möglich (Luhmann 1989: 34). Obwohl Vertrauen immer ‘überzogene Information’ darstellt, ist ohne Information kein sinnvolles Vertrauen möglich. Vertrauensbildung ist also stark darauf angewiesen, Indizien für Vertrauen zu finden. Luhmann nennt hier insbesondere die Vertrautheit mit dem Objekt des Vertrauens, und die Überlegung, wie die Motivationsstruktur des Partners aussehen mag (1989: 35), aber auch die Funktion latent vorhandener Sanktionsmöglichkeiten wie etwa einer Rechtsordnung, die »das Risiko der Vertrauensgewähr« (1989: 35) entlastet, solange sie nicht direkt angesprochen wird und damit aus einem Vertrauensverhältnis ein juristisches Verhältnis macht. Diese latente Funktion wird durch das »Gesetz des Wieder sehens« (1989: 39) ermöglicht, also der Tatsache, dass Vertrauen wiederholt zwischen den gleichen Personen existiert.

Persönliches Vertrauen »Man kann Vertrauen nicht verlangen. Es will geschenkt und angenommen sein.« (Luh mann 1989: 46). Persönliches Vertrauen ist nur in Situationen möglich, in denen der Vertrauende auf seinen Partner angewiesen ist. Das Vertrauen muss enttäuscht werden können, und der Vertrauende muss in ‘riskante Vorleistung’ treten, während der Partner diese Vorleistung honorieren muss, und andere Interessen zurückstellt. Dieses Element der Vertrauensbildung wiederholt sich, mit wachsendem Einsatz. Allerdings darf dieser gegenseitige Lernprozess nicht als kontinuierliche Ausdehnung von Vertrauen gedacht werden, sondern stößt auf Schwellen, deren Überschreitung qualitativ differenziert. (1989: 45ff). Zugleich beruht Vertrauen auf bestimmten ‘systeminternen’ Voraussetzungen, etwa einer gewissen Selbstsicherheit, die wiederum u.a. auf dem Verhältnis von Kind und Eltern beruht (1989: 85ff, 90). Interessant ist hierbei noch die Anmerkung, dass die für den Prozess der Vertrauensbildung notwendige Selbstdarstellung als vertrauenswürdige Person über einen längeren Zeitraum dazu führt, dass eine Person - so sie nicht den Ort spurlos verlassen möchte - sich auch vertrauenswürdig verhält (1989: 69-71).

Systemvertrauen Neben diesem auf persönlichen Kontakt und Wiederholungsabsicht angewiesenen Formen sieht Luhmann weitere Formen des Vertrauens. Diese bauen auf standardisierten Normali täten von Situationen auf und laufen sehr viel anonymer ab. Dazu zählt als Gegenpol zum persönlichen Vertrauen insbesondere das Systemvertrauen, etwa in Geld als generalisiertes Kommunikationsmedium. Mit Geld wird dem Einzelnen ein Ausschnitt aus der Komplexi tät des Wirtschaftssystem »buchstäblich in die Hand gegeben« (Luhmann 1989: 53); ein Mechanismus, der nur funktionieren kann, wenn dem Geld auf einer sehr abstrakten Basis Vertrauen entgegengebracht wird. Ähnliches gilt für die Medien der Wahrheit und der Macht. Wie auch die Vertrautheit in die Lebenswelt ist das Systemvertrauen etwas, das im Alltag eher latent bleibt. Für die heutige Gesellschaft hat Systemvertrauen eine viel größere Bedeutung als persönliches Vertrauen - eine Ursache dafür sieht Luhmann übrigens in der Computertechnologie und den durch sie mitverursachten unpersönlichen Kommunikationen (vgl. Luhmann 1998: 312f).

Misstrauen Zum Verhältnis von Vertrauen zu Misstrauen betont Luhmann, dass Misstrauen »nicht nur das Gegenteil von Vertrauen, sondern als solches zugleich ein funktionales Äquivalent für Vertrauen« (1989: 78) darstellt, da auch Misstrauen zur (oft drastischen) Reduktion von sozialer Komplexität führt. Bedeutsam sind dabei die persönlich je unterschiedlichen Schwellen, bei denen es zu Umschlägen zwischen Vertrauen, Vertrautheit und Misstrauen kommt. Er nimmt an, dass Misstrauen die Tendenz hat, sich als Regelkreis zu verstärken, was nur durch eine Intervention des sozialen Systems begrenzt werden kann (Luhmann 1989: 82, 84). Zur Frage der Rationalität von Vertrauen und Misstrauen meint Luhmann, dass »[o]hne Vertrauen sind nur sehr einfache […] Kooperation möglich [sind]« (1989: 98). Zugleich mit einem steigenden Bedarf an Vertrauen steigt auch der Bedarf von Misstrauen in einem System - bis hin zu institutionalisierten Formen der Kontrolle oder spezifischen Misstrauens-Rollen (1989: 99, 104). Zum Verhältnis von Vertrauen und Misstrauen hält Luhmann (1989: 99) fest, dass Vertrauen viel leichter in Misstrauen verwandelbar ist als andersherum. Sowohl Vertrauen als auch Misstrauen können system spezifisch oder programmspezifisch festgelegt sein; in diesem Sinne können Systemgrenzen Schwellen der Vertrauensänderungen sein (1989: 102).

Fazit Vertrauen (und Misstrauen) hat bei Luhmann also sowohl im persönlichen Handlungs- bereich als auch im Bereich von größeren Systemen die Funktion, Komplexität zu reduzieren, die Welt zu vereinfachen, und so Handlungen effizienter möglich zu machen. Vertrauen ist nicht der einzige soziale Mechanismus, der diese Funktion erfüllt, und kann dies auch nicht alleine, hat aber doch eine fundamentale Bedeutung dafür.

2.2 Gesellschaftlicher Zusammenhalt durch Vertrauen

Misztal 1996 Barbara Misztal (1996) beschreibt in ihrem Buch Trust in Modern Societies die gesellschaftlichen Funktionen und verschiedenen Formen von Vertrauen beschreibt. Sie geht dabei ausführlich auf die meisten anderen Autoren ein, die direkt oder - im Bereich der Klassiker - im Zusammenhang mit der Diskussion über soziale Ordnung Beiträge zur Erforschung von Vertrauen geliefert haben. Ihr eigenes Interesse liegt dabei vor allem auf der Rolle, die Vertrauen als Voraussetzung für den gesellschaftlichen (politischen) Zu sammenhalt spielt, wobei sie nicht nur die soziologischen Theorien und Definitionen der Klassiker und der modernen SoziologInnen heranzieht, sondern sich auch auf empirische Fallbeispiele beruft. Vertrauen ist für Misztal letztlich eine notwendige Bedingung für das Wohlergehen, die Stabilität und das Vorhandensein von Kooperation:

The main aim of this book has been to support the belief in the necessity of rethinking social relationships in a more cooperative mood. Evidence of the importance of trust to the well-being and stability of society suggests that to achieve a new quality of compli ance - that is, social cooperation - we need to devote more attention to the relationships among people and between people and decisions makers. It can be concluded that if it is our responsible conduct and trust that holds us together, the ongoing process of global interdependency will only increase the demand for trust as an essential condition of co operation. (Misztal 1996: 269)

Formen von Vertrauen Im Rahmen dieser Arbeit ist Misztal deswegen besonders interessant, weil sie zu einer eigenständigen Klassifizierung von Vertrauen kommt, die deutlich macht, wie vielfältig und weitreichend diese Problemstellung ist. Sie unterscheidet drei verschiedene Formen sozialer Ordnung, für die Vertrauen jeweils eine spezifische Funktion erfüllt: Stabilität umfasst die Fragen der Zuverlässigkeit und Vorhersagbarkeit des Sozialen, Kohäsion, die auf normati ver Integration basiert, und schließlich Kollaboration, die sich auf Fragen der sozialen Kooperation bezieht. (Misztal 1996: 64). Der Stabilitätsaspekt sozialer Ordnung wird von Misztal mit einem habituellen Konzept von Vertrauen (Habitus) verbunden, das beschrie ben wird als »routine background to everyday interaction through which the predictability, legibility and reliability of collective order is sustained, while the perception of its com plexity and uncertainty is restricted.« (1996: 97). Unter dem kohäsiven Aspekt sozialer Ordnung verknüpft sie Vertrauen mit Familiarität, freundschaftlichen Bindungen sowie gemeinsamen Werthaltungen (Passion), während in Bezug auf Kollaboration Vertrauen als eine gesellschaftlich-politische Haltung beschrieben wird, die daraufhin zielt, Solidarität, Toleranz und gegenseitigen Respekt zu ermöglichen und unkooperative Einstellungen abzuschwächen (Policy). Jede dieser Formen von Vertrauen erfüllt nicht nur bestimmte gesellschaftliche Funktionen, sondern hängt auch mit bestimmten Formen der gesellschaft lichen Praxis zusammen (vgl. Tabelle 1).

Abbildung in dieser Leseprobe nicht enthalten

Tabelle 1 - Formen des Vertrauens nach Misztal (1996: 101)

Reputation und mehr Auch wenn Misztals Ansatz, was nicht nur in ihrem Fazit deutlich wird, an einigen Stellen doch stark normativ gefärbt ist, macht ihr breites Vorgehen deutlich, dass Vertrauen deutlich mehr ist als nur ein Instrument, um die Zusammenarbeit zwischen zwei Parteien herzustellen, und zwischen erwünschten und unerwünschten Kooperationspartnern zu trennen. Vertrauen ist auch das, wie Misztal (1996: 120ff ) unter dem Gesichtspunkt der Reputation erörtert. Sie geht dabei unter anderem auf die Bedingungen für ökonomische Beziehungen ein (vgl. Gambetta 1998b), geht aber weit darüber hinaus. Neben den Mechanismus der interessengeleiteten Reputationsbildung aus einem Nutzenkalkül heraus stellt sie die Reputation, die dadurch erzeugt wird, das eine Person einer Gruppe beitritt, der Ehrerbietung (in einem weiteren Sinn) entgegengebracht wird, also eine ethisch moralisch begründete, auf Werte setzende Form der Reputation. In diesem Sinn kann Reputation auch durch Disziplin gefördert werden. Obwohl heute nicht mehr der Ehrenko dex mittelalterlicher Gesellschaften herrscht, ist doch die Mitgliedschaft in bestimmten Professionen oder Organisationen noch immer reputationsvergrößernd. Allerdings sieht Misztal hier auch starke Gegentendenzen - ironischerweise etwa durch die Anonymität elektronischen, nicht mehr sozial eingebetteten Einkaufens (1996: 134). Eine andere Art der gruppenspezifischen Reputation (hier eher negativ betrachtet) sind zum einen die Vorurteile, die etwa MigrantInnen-Populationen entgegengebracht werden, positiv gewen det aber auch die aus der Not heraus geborene vorausgesetzte gegenseitige Anerkennung innerhalb solcher Populationen. Allgemein beschreibt sie Reputation »as part of a simpli fying process in which the unknown and fearful becomes familiar, singles out individuals or groups noted for distinction, respectability or good name.« (Misztal 1996: 123). Wichtig ist vielleicht noch, darauf hinzuweisen, dass Reputation von Vertrauen in einem engeren Sinne - hier wohl eher im Sinne von Vertrautheit gebraucht - abgegrenzt wird (Misztal 1996: 121). Um es noch einmal zu betonen: Dieses vielfältige Bild davon, was Reputation alles sein kann, und wie Reputation beeinflusst wird, ist für Misztal nur eines von neun Elementen, die als unterschiedlichen Praxen alle zusammen unter dem Oberbegriff Ver trauen behandelt werden.

Sztompka 1999 Ähnlich, allerdings nicht ganz so weitreichend, argumentiert Piotr Sztompka (1999) in Trust. A Sociological Theory aus einer an Kultur orientierten Perspektive heraus. Seine Motivation liegt dabei vor allem darin, herauszufinden, wie Kulturen des Vertrauens entstehen und zugrunde gehen, und mit diesem analytischen Modell die Besonderheiten der postsozialistischen sozialen Ordnung in Osteuropa zu untersuchen.. Für uns interessant ist vor allem seine Beschreibung verschiedener Formen und Funktionen von Vertrauen, der er die These vorausschickt, dass Vertrauen ein besonderes Merkmal moderner Gesellschaften ist. Ältere Gesellschaften waren auf Vertrauen als Schmiermittel zwischenmenschlicher Handlungen nicht angewiesen (vgl. Sztompka 1999: 11ff). Dies klingt zuerst einmal paradox, wird aber mit folgender Überlegung deutlicher: Wo alles klar geregelt ist - durch Normen, religiöse Vorschriften, starre Hierarchien - ist Vertrauen nicht notwendig. Ebenso sieht es aus, wenn über die Handlungen des Gegenübers volle Kontrolle besteht. Erst, wenn Risiko, Unsicherheit, Unwahrscheinlichkeit ins Spiel kommt - und dies ist beispielsweise dann der Fall, wenn Gesellschaften sich funktional ausdifferenzieren, wenn viele Dinge durch Marktbeziehungen geregelt werden, statt hierarchisch gegliedert zu sein - wird Vertrauen zu einem notwendigen Element der Gesellschaft. Vertrauen hat dann die Funkti on hat, Unsicherheit zu reduzieren und mit Risiko umzugehen (vgl. auch Luhmann 1989).

Definition Vertrauen Sztompka definiert Vertrauen grundlegend wie folgt: »Trust is a bet about the future contingent actions of others« (1999: 25) - er konzipiert also Vertrauen als eine Wette über die zukünftigen, kontingenten Handlungen anderer. Damit weist er zugleich darauf hin, dass Vertrauen immer eine Eigenschaft gegenüber Menschen bzw. menschlichen Handlun gen ist. Einem Vulkan kann nicht vertraut werden, und einer gesellschaftlichen Institution zu vertrauen, heißt immer auch, den Menschen dahinter zu vertrauen (1999: 21, 41ff). Er koppelt seinen Vertrauensbegriff an drei unterschiedlich motivierte Formen des commit ment (Sztompka 1999: 27ff) - Vertrauen, das dadurch motiviert ist, dass die Handlungen einer anderen Person den eigenen Interessen und Bedürfnissen zuträglich sein wird (anticipatory trust); Vertrauen, das durch die vermutete Reaktion der Gegenseite motiviert ist - etwa, wenn es darum geht, ein wertvolles Objekt2zeitweise jemand anderem zu überlassen (responsive trust); sowie Vertrauen, das dadurch motiviert ist, dass erwartet wird, dass einem selbst Vertrauen entgegengebracht wird (evocative trust). Diese unter schiedlichen Formen, Vertrauen auszusprechen, tauchen dazu noch in unterschiedlichen Stärken auf, wobei die Stärke (degree of commitment) wiederum abhängig ist von der erwarteten Zeitspanne der Vertrauensbeziehung, von der Möglichkeit, sein Vertrauen zurückzuziehen, von der Größe des mit dem Vertrauen verbundenen Risikos (also den Folgen gebrochenen Vertrauens), vom Vorhandensein von Versicherungen gegen die Verluste aufgrund gebrochenen Vertrauens sowie, wenn es darum geht, anderen ein Objekt zu überlassen, vom subjektiven Wert dieses Objekts. All diese Faktoren verändern Ver trauensbeziehungen; besonders wichtig ist dabei allerdings die Verbindung zwischen Vertrauen und Risiko.

Wem vertrauen? Wenn es darum geht, ob einer anderen Person Vertrauen - in einer der oben genannten Formen - entgegengebracht werden soll oder nicht, unterscheidet Sztompka verschiedene Hinweisen. Da mit jeder Vertrauenshandlung auch das Risiko eingegangen wird, die oben genannte Wette gegen die zukünftigen Handlungen anderer zu verlieren, ersetzt Vertrauen zwar - gesellschaftlich gesehen - Risiko, setzt an dessen Stelle jedoch wiederum ein persönliches Risiko, nämlich dass, diese Wette zu verlieren. Es müssen also - ähnlich argumentiert, wie wir gesehen haben, auch Luhmann - Hinweise darauf gesucht werden, warum diese Wette eingegangen werden soll. Diese Hinweise auf die Vertrauenswürdigkeit eines anderen können aus der Beziehung zwischen zwei Handelnden kommen, sie können psychologisch motiviert (vgl. dazu auch Good 1998) sein, oder sie können aus dem situativen Kontext stammen. Auch Sztompka geht hier also deutlich über die bloße Kosten Nutzen-Berechnung des Rational-Choice-Ansatz hinaus, in dem situative und psychologi sche Aspekte meist keine Berücksichtigung finden. Sztompka nennt einige solcher Hin weissysteme: Reputation (hier definiert als die Aufzeichnung vergangener Taten), Perfor manz (Bewertung der aktuellen Handlungen, nicht der Handlungsgeschichte), Erscheinung (z.B. Kleidung), zukünftige Verfügbarkeit des Verantwortlichen (ein Straßenverkäufer ist zukünftig nicht verfügbar, um zur Verantwortung gezogen werden, die Institution Sothe by’s ist es durchaus), pre-commitment (d.h., den Kontext absichtlich so ändern, dass die Folgen der Nichtausführung der Handlung risikoreicher werden, vgl. auch Gambetta 1988b), sowie einen psychologisch motivierten trusting impulse. (vgl. Sztompka 1999: 69ff).

Rolle der Reputation Im Kontext dieser Arbeit scheint die Frage der Reputation eine besondere Rolle zu spielen. Sztompka definiert Reputation, wie oben beschrieben, als » record of past deeds« (1999: 71). Etwas ausführlicher dargestellt, bezieht sich dies darauf, dass eine Person oder die Institution, der Vertrauen entgegengebracht werden soll, in den meisten Fällen schon seit einiger Zeit existiert. Zum einen ist es so möglich oder sogar wahrscheinlich, dass es früher schon zu Kontakten gekommen ist, die jetzt ausgewertet werden können. Zum anderen ist zu vermuten, dass es Informationen über diese Person oder Institution gibt, die von Dritten stammen, die eigene Erfahrungen mit dem Objekt des Vertrauens gemacht haben. Auch Dinge wie Zeitungsartikel, Zeugnisse, Medaillen, usw. Hinweise auf die Vergangenheit des zu vertrauenden Menschen oder der zu vertrauenden Institution.3Die Aufzeichnung vergangener Taten muss allerdings nicht einmal materiell vorhanden sein - »word of mouth is the most common mode in which such records are kept«, schreibt Partha Dasgupta (1988: 66, Fn. 19) in einem ähnlichen Zusammenhang.

Fazit Zusammenfassend lässt sich sagen, dass Menschen, wenn sie darüber entscheiden, ob sie anderen Menschen oder Institutionen vertrauen, sich von einer Vielzahl an relationalen, kontextbezogenen und auch psychologischen Hinweisen leiten lassen. Reputation ist ein besonders wichtiger Bestandteil dieses Hinweisbündels, meint aber zugleich sehr breit gefasst alle Informationen, die direkt oder indirekt über das vergangene Handeln einer Person oder Institution in Erfahrung zu bringen sind. Dazu gehört mit Misztal auch die Zugehörigkeit einer Person zu einer Organisation mit Reputation.

2.3 Vertrauen und kooperatives Handeln

Gambetta 1988 Diego Gambetta (1988b) beschäftigt sich in der Zusammenfassung des von ihm heraus- gegebenen Sammelbands Trust. Making and Breaking Cooperative Relations (Gambetta 1988a) unter dem Titel Can We Trust Trust? vor allem mit dem Zusammenhang von Vertrauen einerseits und kooperativem Handeln andererseits aussieht. Ist Kooperation ohne Vertrauen möglich? Gambettas Perspektive ist dabei insbesondere auf das Handeln und die Entscheidungslage einzelner Akteure gerichtet, unter anderem greift er dabei auch auf Ergebnisse der Spieltheorie zurück.

Definition Kooperation Da es bei Gambetta um den Zusammenhang von Vertrauen und Kooperation geht, liegt es nahe, diese beiden Begriffe erst einmal zu definieren. Unter Kooperation versteht Gam betta die Tatsache, dass zwei Akteure4explizit oder implizit Regeln vereinbaren, die im Verlauf ihrer Interaktion dann auch eingehalten werden (Gambetta: 1988a: 213, Fn. 2). Kooperation steht Konkurrenz gegenüber; allerdings zeigt Gambetta deutlich, dass weder eine rein auf Kooperation noch eine rein auf Konkurrenz ausgerichtete Gesellschaft viabel wäre, sondern dass Konkurrenz nur existieren kann, wenn ein gewisser Grad von Vertrau en darauf, dass andere Akteure allgemeine Regeln einhalten, besteht. Er macht allerdings auch deutlich, dass Kooperation per se nicht unbedingt etwas positives sein muss; auch innerhalb von Verschwörerkreisen etwa wird - notwendigerweise - kooperiert. Zur Frage, wie wahrscheinlich kooperatives Verhalten ist, verweist Gambetta auf die Ergebnisse der Spieltheorie, deren Ergebnisse insgesamt eine große Unwahrscheinlichkeit kooperativer Gleichgewichtszustände zeigen. (Gambetta 1998b: 214ff).

Definition Vertrauen Vertrauen definiert er als »a particular level of the subjective probability with which an agent assesses that another agent or group of agents will perform a particular action, both before he can monitor such action […] and in a context in which it affects his own action.« (Gambetta 1988a: 217, kursiv i. O.). Ein Akteur ist dann vertrauenswürdig, wenn die Wahrscheinlichkeit dafür, dass eine Handlung ausgeführt, die dem Akteur nützt oder zumindest nicht schadet, hoch genug ist, um eine Kooperation in Betracht zu ziehen. Dabei bezieht sich Vertrauen nicht auf alle möglichen zukünftigen Handlungen, sondern nur auf die für die anstehende Entscheidung relevanten zukünftigen Handlungen. Eine Wahr scheinlichkeit p von 0,5 für Kooperation bedeutet bei Gambetta, dass unklar ist, ob einem anderen Akteur vertraut werden kann oder nicht, sinkt p unter 0,5, dann liegt Misstrauen vor, steigt p über 0,5, besteht Vertrauen. Dieses bezieht sich bei Gambetta - hier lehnt er sich an Luhmann an - allerdings nicht nur auf die angenommene oder erwartete Wahr scheinlichkeit dafür, dass eine angestrebte Handlung von anderen Akteuren ausgeführt wird, sondern hängt auch stark von einem bestimmten Grad an Freiheit ab. Nur wenn mindestens einer der beteiligten Akteur die Möglichkeit hat, das in ihn gesetzte Vertrauen durch Fehlverhalten zu enttäuschen oder eine riskant erscheinende Beziehung abzulehnen, und wenn zugleich die Handlungsoptionen so eingeschränkt sind, dass diese riskante Beziehung interessant ist, kann davon gesprochen werden, das ein Akteur einem anderen vertraut (Gambetta 1988b: 219).

Zwang und Interesse Zum Zusammenhang von Kooperation und Vertrauen zählt Gambetta verschiedene Möglichkeiten auf, Kooperationen durch soziale Arrangements zu beeinflussen, die nicht direkt an Vertrauen gebunden sind. Dazu gehört zum einen das mögliche Ausmaß an Zwang, der die Handlungsoptionen eines Akteurs so einschränken kann, dass die exit Option nicht mehr gegeben ist, und eine Kooperation ohne Vertrauensgrundlage zustande kommt. Gambetta geht allerdings davon aus, dass eine primär auf Vertrauen basierende Gesellschaft sehr viel effizienter ist als eine durch Zwang, Verpflichtungen und Gewalt gekennzeichnete. Die andere Möglichkeit, Kooperationen wahrscheinlicher zu machen, ohne dass Vertrauen vorausgesetzt wird, sieht Gambetta in verschiedenen Formen des pre commitment, also der willentlichen Einschränkung der Handlungsmöglichkeiten5. Verträge und Versprechen sind schwächere Formen des pre-commitments - beide führen dazu, dass ein Nichteinhalten einer Kooperation teurer wird, was für einen rationalen Akteur gleich bedeutend mit einer Einschränkung der Optionen ist. Damit kommt das Interesse eines Akteurs in Spiel - ein Faktor, der letztlich, wenn der erwartete Nutzen einer bestimmten Option nur hoch genug ist, auch dazu führen kann, dass die situationsabhängige Schwelle der Vertrauenswürdigkeit, ab der ein Akteur sich für Kooperation entscheidet, in Extrem fällen sogar unterhalb 0,5 sinken kann. Zur Erklärung dieser Fälle bezieht sich Gambetta auf die Theorie kognitiver Dissonanz, die erklärt, warum Menschen in bestimmten Fällen eher ihre Wahrnehmung oder ihre Einstellung ändern, als eine nicht zu ihren übrigen Kognitionen passende Tatsache hinzunehmen. (Gambetta 1988b: 220ff).

Ist Vertrauen sinnvoll? Schließlich stellt sich Gambetta die für diese Arbeit besonders interessante Frage, ob Vertrauen nicht nur ein Nebeneffekt von Kooperation ist, der im Prinzip ignoriert werden kann. Er begründet dies mit der Tatsache, dass sowohl evolutionstheoretisch als auch aus Sicht der Spieltheorie (vgl. Axelrodt 1991) das Zustandekommen von Kooperation auch durch kleine, zufällige, vielleicht sogar falsch gedeutete anfängliche Signale der Zusam menarbeit erklärt werden kann, die dann zu einer sich selbst verstärkenden Kooperation führen können. Dabei entsteht letztlich möglicherweise auch der gegenseitige Ruf der Vertrauenswürdigkeit (Reputation), die aber eben nicht Ausgangspunkt der Kooperation war. (Gambetta 1988b: 224ff). Dennoch plädiert Gambetta dafür, sich für Vertrauen als gesellschaftliche Grundlage einzusetzen. Er stellt sich die Frage, wie dies am besten möglich ist, da Vertrauen ja nicht durch eine bloße Willenserklärung dazu zustande kommt. Vertrauen kann als spin-off-Effekt von Freundschaft, Moral oder Religion angese hen werden, hängt aber genauso sehr von den sozialen, wirtschaftlichen und politischen Umständen ab. Ausgehend davon, dass der Nachweis eines Missbrauchs von Vertrauen leicht fällt, es aber schwierig ist, das Gegenteil nachzuweisen, kommt er zu der Schlussfol gerung, das Vertrauen vom Fehlen konträrer Indizien abhängt, und dadurch auch sehr leicht - mutwillig oder unabsichtlich - zerstört werden kann. Ein Aufbau von Vertrauen aus der Situation des Misstrauens heraus ist dabei fast unmöglich. Das Rezept, um Vertrauen zu bilden, heißt deswegen für ihn: »trust begins with keeping oneself open to evidence, acting as if one trusted, at least until more stable beliefs can be established on the basis of further information.« (Gambetta 1988b: 234). Daraus lässt sich ableiten, dass die Zunahme von Vertrauenswürdigkeit über die Zeit in relativ kleinen Schritten erfolgt - und zwar unabhängig von speziellen Vertrauensbeweisen -, während die Abnahme aufgrund konträrer Evidenz recht schnell vonstatten geht. In beiden Fällen stellen die Werte 1,0 bzw. 0,0 Grenzen dar, die nicht überschritten werden können - mehr Vertrauen als immer zu vertrauen und weniger Vertrauen als immer zu misstrauen gibt es nicht.

2.4 Zusammenfassung

Fazit In diesem Kapitel wurden die soziologischen Ansätze von Luhmann, Misztal, Sztompka und Gambetta dargestellt. Luhmann stellt Vertrauen in den Kontext der Systemtheorie. Vertrauen wird auf Risiko bezogen, seine Hauptfunktion liegt in der Reduktion von Komplexität. Er stellt u.a. dar, wie Prozesse der Vertrauensbildung ablaufen und welche Bedingungen - insbesondere ein Mittelding zwischen Wissen und Nichtwissen - für Vertrauen gegeben sein müssen. Luhmann betont, dass Vertrauensbildung langsam und die Zerstörung von Vertrauen schnell abläuft, und dass es qualitative Schwellen gibt. Misztal benutzt einen sehr viel umfassenderen Begriff von Vertrauen als die anderen Autoren. Sie bezieht Vertrauen auf den Erhalt der sozialen Ordnung. Bei ihr umfasst Reputation als eine von neun Praxisformen des Vertrauens nicht nur die auf vergangenes Verhalten bezogene Reputation, sondern auch Reputation aufgrund von Gruppenzugehörigkeit. Sztompka definiert Vertrauen als Wette mit der Zukunft. Verschiedene von ihm unterschiedene Formen des Vertrauens und Hinweissysteme, wem zu vertrauen ist, werden geschildert, insbesondere Reputation, hier im Sinne einer - auch mündlichen - Aufzeichnung vergan genen Verhaltens. Gambetta besitzt einen der Ökonomie bzw. der Rational-Choice-Theorie nahestehenden Vertrauensbegriff. Er untersucht insbesondere das Verhältnis von Koopera tion zu Vertrauen und betont insbesondere, dass Kooperation auch ohne Vertrauen möglich ist. Daraus ableitend gibt er Hinweise darauf, wie Vertrauen in einem wechselseitigen Prozess gebildet wird. Auch Gambetta unterscheidet zwischen unterschiedlichen Ge schwindigkeiten der Vertrauensbildung und der Misstrauensbildung. Ohne zu einem einheitlichen Begriff zu kommen, machen die verschiedenen TheoretikerInnen deutlich, welche Funktionen Vertrauen hat, wie es gebildet wird und wo seine Grenzen liegen.

[...]


1Natürlich kann bei jeder in das Achsenschema Individuum-Gesellschaft und Soziologie/Psychologie Ökonomie eingeordneten Theorie darüber gestritten werden, ob sie an der richtigen Stelle steht.

2 Diese Form des Vertrauens ist immer mit einem spezifischen Objekt verbunden, das anderen überlassen wird, es handelt sich hier also nicht um allgemeines Vertrauen.

3 Auch Sztompka geht in diesem Zusammenhang auf die besondere Rolle von Hinweisen auf die Verläss lichkeit anderer im Bezug auf das viele klassische derartige Hinweise ignorierende Internet ein (1999: 73).

4 Gambetta spricht im Original von agents und meint damit nicht nur Individuen, sondern auch Firmen oder Regierungen. Das agent der soziologischen Literatur wird im Deutschen üblicherweise als Akteur (und nicht als Agent) bezeichnet (vgl. Schulz-Schaeffer 1998). Agent soll im Rahmen dieser Arbeit auf techni sche Agenten beschränkt bleiben.

5 Ein Beispiel dafür wäre ein gemeinsames Bankkonto, dass nur bei Zeichnung durch zwei Personen genutzt werden kann - damit besteht nicht mehr die Möglichkeit, dass ein Akteur den anderen ausnützt; die Notwendigkeit für Vertrauen nimmt also ab.

Ende der Leseprobe aus 62 Seiten

Details

Titel
Trust in Bots. Zur Rolle von Vertrauen und Reputation in Multi-Agenten-Systemen
Hochschule
Albert-Ludwigs-Universität Freiburg  (Institut für Informatik und Gesellschaft, Abt. Telematik)
Veranstaltung
Studienarbeit am Institut für Informatik und Gesellschaft, Abt. Telematik
Note
1,3
Autor
Jahr
2000
Seiten
62
Katalognummer
V6809
ISBN (eBook)
9783638142991
Dateigröße
901 KB
Sprache
Deutsch
Anmerkungen
Abstract Vertrauen ist nicht nur ein gesellschaftliches Phänomen, sondern wird im Bereich der Multiagenten-Systeme (MAS) auch als Mittel zur Lösung sozio-technischer Sicherheitsprobleme diskutiert. In dieser Arbeit werden verschiedene soziologische Ansätze zur Diskussion um Vertrauen und Reputation dargestellt. Die Übertragbarkeit des gesellschaftlichen Vertrauensmodells auf technische Systeme wird diskutiert und Kriterien genannt, wann es auf MAS übertragbar sein kann. Verschiedene Formalisierungen von Vertrauen werden vorgestellt, um schließlich für das am IIG Freiburg entwickelte MAS AVALANCHE Hinweise zur Implementierung eines Reputationsmodells zu geben. 561 KB
Schlagworte
Vertrauen; Reputation; Multi-Agenten-Systeme
Arbeit zitieren
Till Westermayer (Autor), 2000, Trust in Bots. Zur Rolle von Vertrauen und Reputation in Multi-Agenten-Systemen, München, GRIN Verlag, https://www.grin.com/document/6809

Kommentare

  • Noch keine Kommentare.
Im eBook lesen
Titel: Trust in Bots. Zur Rolle von Vertrauen und Reputation in Multi-Agenten-Systemen



Ihre Arbeit hochladen

Ihre Hausarbeit / Abschlussarbeit:

- Publikation als eBook und Buch
- Hohes Honorar auf die Verkäufe
- Für Sie komplett kostenlos – mit ISBN
- Es dauert nur 5 Minuten
- Jede Arbeit findet Leser

Kostenlos Autor werden