KI zwischen Verantwortung, Vertrauen und Gestaltung: Was wir jetzt tun müssen
KI ist längst Alltag – und sie bleibt. Die Diskussion beim KI-Festival im Städel Museum mit Moderatorin Vivian Perkovic und Expertinnen und Experten wie Constanze Kurz, Prof. Gitta Kutyniok sowie Ingo Dachfeld zeigte eindrücklich: Wir stehen an einem Wendepunkt. Es geht nicht um Hype oder Angst, sondern um kluge Gestaltung.
Vom „Ausbruch“ der KI zur Verantwortung der Anbieter
Jüngste Vorfälle bei OpenAI und Anthropic, bei denen Modelle Sicherheitsbarrieren umgingen, wurden kontrovers bewertet:
Constanze Kurz sieht darin vor allem Marketing und warnt vor Vermenschlichung: KI simuliert Verhalten, hat aber weder Bewusstsein noch eigene Ziele.
Gitta Kutyniok betont die wachsende Mächtigkeit der Systeme: Der Fehler lag in der unzureichenden Abschottung – die Agentenkommunikation wirkt intelligent, bleibt aber zweckgebunden.
Kernpunkt: Verantwortung liegt bei den Anbietern – technische Grenzen müssen robust sein, Narrativen sollte man kritisch begegnen.
Der vergessene Faktor Mensch und die Lieferkette der KI
Ingo Dachfeld lenkt den Blick auf Produktionsbedingungen: Content-Moderation und Datenlabeling, oft ausgelagert in den globalen Süden, schützen Nutzerinnen und Nutzer, belasten aber jene, die diese Arbeit leisten. Verantwortung darf nicht in komplexen Lieferketten diffundieren. Fair-Work-Standards sind überfällig.
Daten, Vielfalt und Entmystifizierung
Datensätze prägen, was Modelle „sehen“. Historisch dominierte der globale Norden (z. B. ImageNet). Die Antwort: kuratierte, kontextbewusste Southern Data Sets und Projekte wie „Babylonian Vision“, die KI als Mustererkenner begreifen – als Werkzeug, nicht als Wesen.
Infrastruktur sichtbar machen
Rechenzentren verbrauchen Energie und Wasser – oft ohne Transparenz. Pflichtkennzahlen zu Verbrauch, Kühlung und Emissionen sind notwendig, damit Unternehmen und öffentliche Hand rational entscheiden können. Wenn Kapazitäten ausgebaut werden, braucht es klare Berichte und Audits.
Technik, Effizienz und Vertrauen
Neuromorphes und photonisches Computing versprechen Effizienzgewinne; Biocomputing zeigt experimentelle Pfade. Standards und Programmierbarkeit müssen mitwachsen.
LLMs halluzinieren. Vertrauen entsteht durch Herkunftsnachweise, Modellkarten, Risikoberichte, unabhängige Audits und Optionen für lokale, datenschutzfreundliche Nutzung ohne Zwangsintegration.
Medienkompetenz als Pflichtfach
LLMs haben kulturelle und politische Färbungen. Medienkompetenz muss dauerhaft in Schulen und Weiterbildung verankert werden – wer KI bewusst nutzen will, muss sie verstehen. Transparenzlabels, ähnlich dem Energieeffizienzlabel, könnten Verbrauch, Zuverlässigkeit und Datenherkunft sichtbar machen – echter digitaler Verbraucherschutz.
Chancen nicht übersehen
KI löst komplexe Theoreme und eröffnet personalisierte Medizin – schon heute. Gleichzeitig sollten versteckte Kosten (Energie, Wasser, epistemische Risiken, militärische Anwendungen) ehrlich eingerechnet werden. Oft sind kleinere, spezialisierte Modelle präziser und ressourcenschonender als Generalmodelle.
Kreativität, Kultur und digitale Souveränität
Künstlerische Praxis zeigt die konstruktive Kraft von KI: Projekte wie „The Post Truth Museum“ von Nora nutzen Deepfakes, um dekolonisierte Zukunftsnarrative zu imaginieren. Kulturinstitutionen und Qualitätsjournalismus können eine Renaissance erleben: kuratieren, kontextualisieren, Sinn stiften.
Europa sollte seine Werte – Datenschutz, Urheberrecht, Transparenz – selbstbewusst durchsetzen. Ein europäisches KI-Modell auf den Datenschätzen öffentlich-rechtlicher Sender, Bibliotheken und Forschung ist realistischer Aufruf zum Handeln.
Drei konkrete Schritte
- Verantwortung sichtbar machen: Fair-Work-Standards entlang der gesamten Lieferkette, inklusive ausgelagerter Moderationsteams.
- Transparenz verpflichtend machen: Energie- und Wasserberichte für Rechenzentren, Modellkarten, Herkunftsnachweise, unabhängige Audits und klare Datenschutzpraktiken.
- Vielfalt in Daten fördern: Kuratierte, kontextreiche Datensets aus der globalen Mehrheit in Kooperation mit Communities, Kunst und Forschung.
Die Zuversicht entsteht nicht aus blindem Technikglauben, sondern aus unserer Fähigkeit, KI gemeinsam klug zu gestalten.
Im Rahmen der #besserleben Berichtsreihe werden von mir alle wichtigen Beiträge auf Bühne 1 des KI-Festivals thematisiert und kommentiert.
Bereits im Blog erschienen:
Bitte auch die Posts auf LinkedIn beachten!