This commit is contained in:
David Schirrmeister 2025-05-20 16:40:31 +02:00
parent 461ef6fb31
commit 6691631fb0
4 changed files with 47 additions and 2 deletions

View File

@ -89,8 +89,9 @@
<toc-element topic="00_iug_1.md"/> <toc-element topic="00_iug_1.md"/>
<toc-element topic="01_iug.md"/> <toc-element topic="01_iug.md"/>
<toc-element topic="iug_thema6_Startliteratur.md"/> <toc-element topic="iug_thema6_Startliteratur.md"/>
</toc-element> <toc-element topic="iug_thema6_thesen.md"/>
</toc-element>
<toc-element toc-title="Projektmanagement"> <toc-element toc-title="Projektmanagement">
<toc-element topic="00_EinführungPM.md"/> <toc-element topic="00_EinführungPM.md"/>
<toc-element topic="01_Projektinitiierung.md"/> <toc-element topic="01_Projektinitiierung.md"/>
@ -113,6 +114,7 @@
<toc-element topic="01_ImplementingForMaintainability.md"/> <toc-element topic="01_ImplementingForMaintainability.md"/>
<toc-element topic="02_TestingForContinuousQuality.md"/> <toc-element topic="02_TestingForContinuousQuality.md"/>
<toc-element topic="03_ContinousDevelopment.md"/> <toc-element topic="03_ContinousDevelopment.md"/>
<toc-element topic="05_GrundlagenGrammatiken.md"/>
</toc-element> </toc-element>
<toc-element toc-title="Theoretische Informatik"> <toc-element toc-title="Theoretische Informatik">

View File

@ -10,7 +10,6 @@
- Verwendung in der **Grenzkontrolle** (z.B. Gesichtserkennung an Flughäfen) ([TATuP][2]) - Verwendung in der **Grenzkontrolle** (z.B. Gesichtserkennung an Flughäfen) ([TATuP][2])
- Automatisierte **Kundenberatung** und **Finanzentscheidungen** durch Cloud-basierte Systeme ([TATuP][2]) - Automatisierte **Kundenberatung** und **Finanzentscheidungen** durch Cloud-basierte Systeme ([TATuP][2])
- **Gesundheitswesen (klinische Entscheidungsunterstützung)** - **Gesundheitswesen (klinische Entscheidungsunterstützung)**
- AICDSS optimieren Ressourcenzuteilung und Therapieempfehlungen im Krankenhausbetrieb ([SpringerLink][22]) - AICDSS optimieren Ressourcenzuteilung und Therapieempfehlungen im Krankenhausbetrieb ([SpringerLink][22])
- Scoping-Review identifiziert Einsatz von KI bei GesundheitspolitikAnalysen und PolicyModeling ([SpringerLink][23]) - Scoping-Review identifiziert Einsatz von KI bei GesundheitspolitikAnalysen und PolicyModeling ([SpringerLink][23])

View File

@ -0,0 +1,16 @@
# Thesen
## These 1: KI-gestützte Entscheidungen sind in vielen Lebensbereichen problematisch
## These 2: Vertrauen in KI ist etwas grundlegend anderes als zwischenmenschliches Vertrauen
## These 3: Verantwortung und Kontrolle bei KI-Entscheidungen sind bisher unzureichend geklärt
### Erklärung:
Mit der zunehmenden Integration von KI-gestützten Entscheidungssystemen in gesellschaftlich relevante Bereiche, wie Justiz, Verwaltung, Verkehr oder Finanzwesen, stellt sich die Frage, wer die Verantwortung trägt, wenn solche Systeme fehlerhafte oder diskriminierende Entscheidungen treffen. Häufig ist nicht klar, wer zur Rechenschaft gezogen werden kann, wenn eine KI Schaden verursacht - die Entwickler, die Betreiber, die Nutzer oder niemand?
Ein zentrales Problem besteht darin, dass viele KI-Systeme als „Black Boxes“ fungieren. Ihre Entscheidungsprozesse sind komplex, nicht immer nachvollziehbar und kausal schwer zurückverfolgbar.
Dies führt dazu, dass Verantwortung entgrenzt oder gar verloren geht. Gleichzeitig fehlt es an verbindlichen Regelungen, die festlegen, wer bei Schäden oder Fehlentscheidungen haftbar gemacht werden kann. Auch ethisch stellt sich die Frage, wie wir mit Systemen umgehen, die menschenähnliche Entscheidungen treffen, aber nicht zu moralischem Handeln fähig sind.
Ein Lösungsansatz, der in der wissenschaftlichen Debatte vorgeschlagen wird, ist das Prinzip der „Meaningful Human Control“. Dieses fordert, dass KI-Systeme immer in einem Maße gestaltet werden müssen, dass sie auf menschliche Werte und Ziele ausgerichtet sind und ihre Entscheidungen rückverfolgbar auf verantwortliche Personen bezogen werden können. Nur wenn ein System unter sinnvoller menschlicher Kontrolle steht, kann es demokratisch legitimiert und ethisch verantwortbar eingesetzt werden.
Damit zeigt sich, dass es klare Regeln für Verantwortlichkeit, Transparenz und Kontrolle braucht, damit KI-Systeme verantwortungsvoll in gesellschaftlichen Bereichen eingesetzt werden können. Ohne diese Grundlagen besteht das Risiko, dass Entscheidungen entpersonalisiert werden und niemand mehr haftet oder verantwortlich gemacht werden kann. Die Frage, wer entscheidet, wer kontrolliert und wer haftet, ist daher zentral für das Gelingen einer demokratisch legitimierten Digitalisierung.
###

View File

@ -0,0 +1,28 @@
# Formale Grammatiken
## Grundbegriffe
### Formale Grammatik
- 4-Tupel
- $G=(Σ,V,S,R)$
- $Σ$: Alphabet
- $V$: endliche Menge Variablen $V ∩ Σ = \not O$
- $S ∈ V$: Startvariablen
- $R$: endliche Menge Regeln
- Form: $α → β$, $α, β ∈ (Σ V)^*$ mit $α \not= ε$
#### Beispielgrammatik
- $G = (\{a,b\},\{S\},S,\{S→aSb, S→ε\})$
- Alphabet $a,b$
- Variable S
- Startvariable S
- zwei (Ersetzungs-) Regeln:
- rekursiv
- leeres Wort
## Funktion einer formalen Grammatik
- Bilden von Wörtern durch Ableitungen
- starte mit dem Startsymbol $S$
- solange noch Variablen vorkommen oder man Lust hat:
- wende eine Regel $α → β$ an, um $α$ durch $β$ zu ersetzen
- das Ergebnis ist eine Zeichenkette $w ∈ Σ^*$
- ein aus $G$ abgeleitetes Wort