AI Safety: Zwischen AI Doomismus und Tech-Utopie
11:45 – 12:25 Uhr
Donnerstag, 2. Juli 2026
Künstliche Intelligenz wird oft zwischen zwei Extremen diskutiert: dystopische Weltuntergangsszenarien auf der einen Seite und grenzenloser Tech-Optimismus auf der anderen. Doch wo liegen eigentlich die realen Risiken – und welche Fragen werden in der AI-Safety-Community tatsächlich diskutiert? In dieser interaktiven Session teile ich Erkenntnisse aus der AI-Safety-Community im Effective-Altruism-Umfeld sowie aus zwei AI-Safety-Kursen von BlueDot Impact. Im Fokus stehen dabei weniger Science-Fiction-Szenarien als konkrete technische, gesellschaftliche und philosophische Herausforderungen rund um leistungsfähige KI-Systeme. Wir sprechen u.a. über: - Die zwei größten realen Risiken: AI Alignment und Prompt Injection - Governance / Regulierungsansätze - autonome Systeme und menschliche Kontrolle - socio-technical security statt „magischer Superintelligenz“ - Missbrauchspotenziale durch intelligente Automatisierung - Verantwortung, Haftung und Regulierung - den EU AI Act und internationale Koordination - Regulierung in EU im globalen Vergleich (v.a. USA und China) - die Frage, ob KI immer nur Werkzeug bleiben sollte - Unsicherheiten rund um Bewusstsein, moralischen Status und Anthropomorphisierung Zentral ist ein interaktiver Zugang zu dem Thema: Gemeinsam schauen wir uns ausgewählte Metriken, Forschungsansätze, Positionen aus der AI-Safety-Community sowie zentrale Papers an, die helfen, Risiken und Unsicherheiten greifbarer zu machen. Ziel ist es nicht, eine vorgefertigte Meinung zu vermitteln, sondern den Teilnehmenden Werkzeuge an die Hand zu geben, um selbstständig zu beurteilen, wie plausibel unterschiedliche Risikoannahmen sind und welche Governance-Ansätze darauf reagieren könnten. Dabei soll bewusst Raum für offene Diskussion, kritische Fragen und unterschiedliche Perspektiven geschaffen werden – zwischen AI Doomismus und Tech-Utopie. Ziel ist ein möglichst empirischer und differenzierter Blick auf AI Safety: Welche Risiken sind heute bereits plausibel? Welche eher spekulativ? Und wie könnte sinnvolle Governance aussehen, ohne Innovation oder gesellschaftliche Freiheit unnötig einzuschränken?