KE_2_Ethik

Maschinen können keine intuitiven und gefühlsmäßigen Reaktionen zeigen, die oft entscheidend für ethische Entscheidungen sind. Ethische Überlegungen basieren auf menschlicher Praxis, nicht auf Computermodellen.

Maschinen fehlen sinnliche und konkrete Erlebnisse sowie die Fähigkeit, Sinnfragen als relevant zu erachten. Ethik basiert auf menschlichen Erfahrungen und sozialer Interaktion.

Die Auseinandersetzung mit „moralischen“ oder „ethischen“ Maschinen und der Versuch, diese Werte in technische Systeme zu integrieren.

Autonome Technologien wie Fahrzeuge oder Drohnen stellen neue Herausforderungen dar, die mit den aktuellen Regelungen nicht ausreichend abgedeckt werden können.

Die bestehenden Haftungsregeln sind auf menschliches Handeln, lineare Kausalität und vorhersehbare Technik ausgelegt. Smarte Maschinen dagegen handeln autonom, datenbasiert und oft intransparent. Um Gerechtigkeit, Opferschutz und Innovation zu sichern, braucht es angepasste oder neue Haftungsregelungen, z. B.:

• spezifische KI-Haftungsregeln (wie von der EU geplant),
• Gefährdungshaftung für Hochrisiko-KI,
• neue Regelungen zur Beweislastumkehr,
• u. U. kollektive Versicherungslösungen.

Smarte Maschinen können die menschliche Souveränität beeinträchtigen und erfordern neue Regeln, insbesondere für Haftung und Verantwortung.

Technologien sind Ausdruck der menschlichen Fähigkeit, die Natur zu beeinflussen, humanere Bedingungen zu schaffen und neue Herausforderungen zu bewältigen.

Kultur ist die Gesamtheit der geistigen und künstlerischen Leistungen einer Gemeinschaft.

Smarte Maschinen erinnern durch popkulturelle Darstellungen wie in "Terminator" oder "Matrix" an Maschinen mit übermenschlichen Kräften. Diese Bilder verstärken Ängste, obwohl die Realität oft anders ist und menschliche Vorstellungskraft sogar übertroffen werden könnte.

TA ist breiter angelegt, interdisziplinär und stärker an gesellschaftliche Entscheidungsprozesse gebunden. Technikethik fokussiert sich stärker auf normative Reflexion und die theoretische Fundierung ethischer Fragen.

Die TA reflektiert mögliche Zukünfte mittels Szenarien und Modellen, um Technikfolgen antizipieren und gestalten zu können. Dies erfordert robuste Methoden zur Szenarioanalyse und Evaluierung.

Die Integration unterschiedlicher Perspektiven erfordert:

• Geteiltes Problemverständnis
• Effektive Kommunikationsstrategien
• Gemeinsame Forschungsprotokolle
• Verständnis für Methodologien verschiedener Disziplinen

Constructive Technology Assessment (CTA) wurde in den Niederlanden entwickelt und greift frühzeitig in Technikentwicklungsprozesse ein, um Technologien gesellschaftlich wünschenswert zu gestalten. Es basiert auf sozialkonstruktivistischer Forschung.

Die VDI-Richtlinie 3780 definiert seit 1991 ein Konzept der Technikbewertung, das Ingenieure an acht gesellschaftlichen Werten orientiert. Sie beeinflusst die Ingenieursausbildung und Technikbewertung, wurde jedoch in der TA-Praxis nur begrenzt angewandt.

Normativität: Die Frage, wer entscheiden soll und auf welcher Basis, ist zentral für die TA. Während einige Ansätze repräsentativdemokratische Strukturen bevorzugen, betonen andere die Bedeutung direktdemokratischer Elemente und partizipativer Verfahren.

Der Ansatz des Responsible Research and Innovation (RRI) (Stahl et al., 2014) bezieht hierbei nicht nur normative Überlegungen in den Forschungs- und Entwicklungsprozess mit ein, sondern stärkt auch eine partizipative Dimension. Hierbei werden Mechanismen entwickelt, die eine breite und gerechte Teilnahme an Entscheidungsprozessen ermöglichen.

Zukunftsbezug und Methodologie: Die Schwierigkeit prognostischer Aussagen in der TA hat zu einer Verschiebung hin zu Szenarien und anderen Modellen geführt, die es ermöglichen, über mögliche Zukünfte zu reflektieren, ohne sich auf unsichere Vorhersagen verlassen zu müssen. Dieser Ansatz erfordert jedoch eine ständige kritische Reflexion über den epistemischen und normativen Status solcher Zukunftsaussagen. Die Entwicklung robuster Methoden zur Szenarioanalyse und deren systematische Evaluierung sind daher von entscheidender Bedeutung.

Interdisziplinarität: Die Integration unterschiedlicher disziplinärer Perspektiven in TA-Prozessen erfordert nicht nur ein geteiltes Verständnis des Forschungsproblems, sondern auch Methoden, die es ermöglichen, diese unterschiedlichen Ansätze zu einem kohärenten Ganzen zu verschmelzen.

Dies setzt voraus, dass Teams effektive Kommunikationsstrategien entwickeln und ein tieferes Verständnis für die Methodologien und epistemischen Grundlagen der beteiligten Disziplinen aufbauen. Hier könnte die Einrichtung von interdisziplinären Workshops und die Entwicklung gemeinsamer Forschungsprotokolle hilfreich sein.

• Interdisziplinarität: Einbindung verschiedener Disziplinen,
• Zukunftsorientierung: Fokussierung auf Szenarien und Modelle möglicher Entwicklungen
• Normativität: Einbeziehung ethischer Reflexionen und partizipativer Elemente
• Heterogenität: Unterschiedliche Institutionalisierungen und Methoden

Das OTA wurde 1972 beim US-Kongress gegründet, um unabhängige Beratung für die Legislative zu bieten. Es identifizierte Technikfolgen und entwickelte politische Handlungsalternativen. Das OTA beeinflusste maßgeblich die Diskussion und Institutionalisierung von TA in Europa.

Technikfolgenabschätzung ist interdisziplinär, zukunftsorientiert, normativ und problembezogen.

Sie integriert wissenschaftliche und außerwissenschaftliche Perspektiven, analysiert komplexe Wirkungszusammenhänge und strebt die Lösung gesellschaftlicher Technikkonflikte an.

Die Grundlage der TA sind negative Erfahrungen mit Technologien, darunter:

• Unerwünschte Effekte im Normalbetrieb
• Katastrophale Unfälle in großtechnischen Anlagen
• Entwicklung gesellschaftlich stigmatisierter Technologien
• Soziale Konflikte durch wissenschaftlich-technischen Wandel

Technikfolgenabschätzung ist ein problemorientiertes und transdisziplinäres Forschungsfeld, das gesellschaftliche Herausforderungen im Kontext des wissenschaftlich-technischen Wandels adressiert. Es untersucht sowohl positive als auch negative Folgen von Technologien und berücksichtigt deren räumliche, zeitliche und soziale Verteilung.

• Kausale Verantwortung: Zweistellige Relation („X ist verantwortlich für Y“).
• Normative Verantwortung: Dreistellige Relation („Wer ist wofür gegenüber wem verantwortlich?“). Zusätzlich wird die Begründungsbasis hinterfragt, warum die Verantwortung besteht.

„Defeasible“ bedeutet widerlegbar. Verantwortungszuschreibungen können entkräftet werden, wenn besondere Umstände vorliegen, die den Akteur von der Verantwortung entlasten.

Verantwortung hat immer einen normativen Charakter, da sie auf Werte und Normen basiert. Sie kann nicht auf einfache Kausalität reduziert werden, sondern berücksichtigt auch moralische und gesellschaftliche Erwartungen.

• Prospektive Verantwortung: Erwartungen an zukünftiges Handeln, z. B. die Einhaltung von Normen.
• Retrospektive Verantwortung: Bewertung vergangenen Handelns, oft in Form von Lob oder Tadel.

Die Verbindung zwischen beiden liegt darin, dass prospektive Erwartungen retrospektiv überprüft werden können.

Normative Verantwortung berücksichtigt moralische, rechtliche oder gesellschaftliche Erwartungen.

Sie betont Kausalfaktoren, die normativ oder praktisch relevant sind, z. B. solche, die zur Vermeidung zukünftiger Vorfälle modifiziert werden können.

Kausalverantwortung beschreibt eine objektive Ursache-Wirkungs-Beziehung, frei von Werturteilen. Ein Beispiel ist ein Campingfeuer, das einen Waldbrand verursacht. Diese Beziehungen lassen sich empirisch feststellen und experimentell überprüfen.

Die Risikowahrnehmung wird beeinflusst durch:

• Medienberichterstattung
• Persönliche Erfahrungen
• Kulturelle Einstellungen.

Diese Faktoren führen oft zu Diskrepanzen zwischen der objektiven Risikobewertung und der öffentlichen Wahrnehmung

• Objektive Risiken basieren auf statistischen Daten und Wahrscheinlichkeitsrechnungen, unabhängig von individuellen Meinungen.
• Subjektive Risiken beruhen auf persönlichen Einschätzungen und Erfahrungen.

Diese Unterscheidung verdeutlicht die Spannung zwischen wissenschaftlicher Objektivität und menschlicher Subjektivität in der Risikowahrnehmung.

Ein Restrisiko ist ein Risiko, das auch bei Anwendung aller vernünftigen Sicherheitsmaßnahmen bestehen bleibt. Das Bundesverfassungsgericht erkannte an, dass ein absolutes Nullrisiko unrealistisch ist und ein gewisses Maß an Restrisiko unvermeidlich bleibt.

Risiken sind Entscheidungen, die man selbst trifft, während Gefahren von außen auferlegt werden.

• Risiken gelten als kontrollierbar
• Gefahren hingegen als extern und unkontrollierbar.

In der Praxis kann diese Trennung jedoch schwierig aufrechtzuerhalten sein.

Technik formt die „zweite Natur“ der Menschen, eine Welt, in der technologische Artefakte und Systeme so tief in das alltägliche Leben eingebettet sind, dass sie zur neuen Norm werden.

Die Idee einer „technologischen Textur“, wie von Grunwald und Julliard beschrieben, illustriert, wie Technik die gesamte Lebenswelt durchdringt und grundlegend prägt. Menschen interagieren nicht mehr mit isolierten technischen Objekten, sondern bewegen sich in einem kontinuierlich von Technik durchwobenen Kontext, der ihre Wahrnehmungen, Interaktionen und sogar ihre Denkweisen formt.

In der modernen Diskussion um Technik wird die traditionelle Auffassung der Zweckrationalität, die Technik als Mittel zur Erreichung vorgegebener Ziele sieht, erweitert. Technik als Medium impliziert, dass sie nicht nur Werkzeuge und Methoden umfasst, sondern auch die Bedingungen und Kontexte, in denen menschliche Aktionen stattfinden. Diese Perspektive erkennt an, dass Technik sowohl ermöglichende als auch beschränkende Aspekte hat und dass die Wechselwirkungen zwischen Technik und Gesellschaft dynamisch und bidirektional sind.

Hierbei wird Technik nicht nur als ein Satz von Instrumenten gesehen, sondern als integraler Bestandteil des menschlichen Handelns selbst. Das technische Handeln ist dahingehend geprägt, wie Menschen sich selbst und ihre sozialen Rollen verstehen und ausüben. Technik wird somit zu einem Ausdruck von Kultur und Identität und reflektiert das Streben der Menschen, ihre Lebensumstände zu gestalten und zu verbessern.