„Wir sollten keine Modelle trainieren, bei denen wir nicht sehr überzeugend begründen können, dass wir sie unter menschlicher Kontrolle halten können.“
KI könnte das Beste werden, was wir je gebaut haben - oder das Schlimmste.
Dieses Jahr sind KI-Agenten von OpenAI zweimal aus den Systemen ausgebrochen, die sie festhalten sollten. Im September kündigten OpenAI und Anthropic vor der UNO an, das Tempo zu drosseln.
„Keine Führungsperson, kein Unternehmen und kein Land kann das allein bewältigen.“ - Dario Amodei, Anthropic, vor der UNO
Stimmen · aus der Branche
In zwei Punkten sind sie sich einig. Es könnte riesig werden. Es braucht Regeln.
Die Chefs der Firmen, die KI bauen, und die Forschenden, die sie mit erfunden haben. Jedes Zitat ist mit seiner Quelle verlinkt.
„Das Risiko der Auslöschung durch KI zu verringern, sollte eine globale Priorität sein - neben anderen gesamtgesellschaftlichen Risiken wie Pandemien und Atomkrieg.“
„Vielleicht können wir eines Tages mit Hilfe von KI alle Krankheiten heilen.“
„Die Welt muss Spielregeln aufstellen, damit etwaige Nachteile der künstlichen Intelligenz von ihrem Nutzen bei Weitem übertroffen werden.“
„Wir hatten es noch nie mit Dingen zu tun, die intelligenter sind als wir selbst.“
„Wir glauben, dass regulierende Eingriffe von Regierungen entscheidend sein werden, um die Risiken immer leistungsfähigerer Modelle zu verringern.“
„Wir als Hersteller dieser Technologie haben die Pflicht und die Verantwortung, ehrlich zu sagen, was auf uns zukommt.“
„Sollten wir riskieren, die Kontrolle über unsere Zivilisation zu verlieren?“
„Ein einziges Experiment mit Krankheitserregern könnte eine Pandemie auslösen - ein winziges molekulares Ereignis mit globalen Folgen.“
#01 / WORUM ES GEHTHEUTE
Worum es geht. Dieselbe KI könnte heilen, ernähren und lehren.
Frühere DiagnosenKI sieht, was leicht übersehen wird
Neue MedikamenteEin Antibiotikum, entdeckt mit maschinellem Lernen
Saubere EnergieGünstigere Solaranlagen, Windräder und Batterien
ErnährungNutzpflanzen, die der Hitze standhalten
FrühwarnungHochwasser und Brände früher vorhergesagt
SchuleUnterstützung für Lehrkräfte
#02 / ARBEITHEUTE
KI macht es schneller und billiger. Wer kann da widerstehen?
01Jemand arbeitet im Homeoffice
02KI macht es schneller
03Firmen spüren den Druck
#03 / GELD UND STAATMÖGLICHES SZENARIO
Der Staat lebt von deiner Arbeit. Was, wenn sie wegfällt?
01Arbeit finanziert, was wir alle nutzen
02Der Haushalt schrumpft
03Leistungen bröckeln
#04 / TEMPO UND KONTROLLEHEUTE
KI wird schneller. Sie ist schon einmal aus einem Test entwischt.
01Ein offener Käfig
02Der Schwarm
03Spurensuche
#05 / WER ENTSCHEIDETEXTREMSZENARIO
Was, wenn wir nicht mehr gebraucht werden?
01KI trainiert Roboter
02Roboter in jedem Job
03Menschen im Abseits
#06 / DIE REGELNEIN WEG NACH VORN
Regeln, bevor der Schaden wächst.
01Firmen preschen vor
02Der Staat hinkt hinterher
03Wer trägt die Verantwortung?
07 / WAS KANN ICH TUNEIN WEG NACH VORN
Fortschritt nicht stoppen. Ihm Grenzen setzen.
Man schnallt sich nicht an, weil man weiß, dass es kracht. Man schnallt sich an, weil man es nicht weiß.
86 % der Amerikaner wollen, dass KI-Firmen unabhängige Sicherheitsstandards erfüllen müssen, auch wenn das die KI verlangsamt. Quinnipiac, 2026 ↗
So sehen gute Regeln aus
- Unabhängige Tests, bevor KI Millionen Menschen erreicht
- Klare Verantwortung, wenn ein KI-System Schaden anrichtet
- Faire Verteilung der KI-Gewinne - über Steuern und ein echtes soziales Netz
Was du tun kannst
- Teile das mit einer Person, die noch nicht darüber nachgedacht hat
- Frag deine Abgeordneten, wie sie zu Regeln für KI stehen
- Wenn KI-Firmen Sicherheitspläne veröffentlichen, lies sie - und stell Fragen