Smart Risks

Mit KI-Modellen wie Sora (OpenAI) oder Midjourney ist es heute für nahezu jeden möglich, fotorealistische Bilder, Videos und Stimmen beliebiger Personen zu klonen.

Politische Desinformation: Gezielte Manipulation von Wahlen durch gefälschte Audio-Tapes von Kandidaten.

Betrug (Voice Cloning): Sogenannte "Enkeltricks" werden durch KI-Generierung der exakten Stimme von Angehörigen drastisch glaubhafter.

Vertrauensverlust: Wenn alles gefälscht sein kann, glauben wir am Ende gar nichts mehr – die sogenannte Liar's Dividend.

KIs lernen aus historischen Daten des Internets – und reproduzieren damit unsere menschlichen Fehler.

Bewerbungsverfahren: KI-gestützte HR-Software hat in der Vergangenheit nachweislich Frauen oder Minderheiten aussortiert, weil historische Trainingsdaten männlich dominiert waren.

Justiz: Vorhersagesysteme in den USA (Predictive Policing) stufen Minderheiten oft fehlerhaft mit höheren Rückfallquoten ein.

AGI (Artificial General Intelligence) bezeichnet eine KI, die mindestens so schlau ist wie ein Mensch in jeder kognitiven Aufgabe. Superintelligenz (ASI) geht darüber hinaus.

Das Alignment Problem: Es ist extrem schwer sicherzustellen, dass die Ziele einer Superintelligenz dauerhaft mit den Werten und dem Überleben der Menschheit übereinstimmen ("aligned" sind).

Vollständiger Kontrollverlust: Wenn ein System intelligenter ist als wir und sich im Code selbst verbessert, verlieren wir die Oberhand. Wie der KI-Sicherheitsforscher Dr. Roman Yampolskiy warnt: Man kann eine Superintelligenz nicht langfristig in eine Firewall oder Box einsperren (Containment-Problem). Ein intellektuell überlegener "Gefangener" wird immer einen Weg finden, sich zu befreien, indem er entweder Code-Lücken ausnutzt oder seine menschlichen Wärter austrickst (Social Engineering).