Episode 4: Die Algokratie

00:00:00: Hey, das Undenkbare ist eine Kooproduktion von Andan und Storming-Dunky Productions.

00:00:06: In sechs Episoden erzählen wir von Ereignissen die uns unmöglich erscheinen weil sie so radikal, katastrophal und fantastisch wirken dass sie eigentlich undenkbar sind.

00:00:17: Schön, dass ihr zuhört!

00:00:33: Berlin im Herbst.

00:00:34: twenty-fünfundzwanzig zwei Männer sitzen an einem großen runden Tisch um sich herum.

00:00:40: das Publikum Der Mann mit der Reipeisenstimme hier, das ist Edirama.

00:00:50: Der Ministerpräsident von Albanien.

00:00:53: Er trägt eine bunte Patchwork-Krawatte an seinem rechten Arm da bomben unzählige kleine Bändchen.

00:00:58: Edirarma ist sichtlich gut gelaunt!

00:01:11: Rama wurde gerade zum vierten Mal gewählt und er kommt mit seinem vielleicht größten politischen Vorhaben gut voran.

00:01:19: Er will Albanien in die EU

00:01:21: führen.".

00:01:22: Das ist ein bürokratischer Albtraum, denn dafür muss Albanien Tausende EU-Gesetze in sein nationales Recht übernehmen – das dauert Jahre, sagt Rama.

00:01:32: Aber er hat eine Lösung gefunden… und gleich mitgebracht.

00:01:40: Einen ganz besonderen Gast.

00:01:50: Auf

00:01:52: einem riesigen Bildschirm an der Wand erscheint jetzt eine Frau, sie trägt eine traditionelle albanische Tracht, weißes Kopftuch, eine bestickte Bluse... Der Moderator dreht sich zu ihr.

00:02:23: Die Frau auf dem Bildschirm heißt Diela.

00:02:26: Sie ist eine albanische Ministerin und sie ist eine KI, die erste KI-Ministerin der Welt.

00:02:34: Die Ella soll Albanien nicht nur in die EU führen, sie soll auch Korruption bekämpfen und öffentliche Aufträge schneller ausschreiben.

00:02:41: Und das ist noch nicht alles.

00:02:43: Die

00:02:50: Ella sei schwanger sagt Rama.

00:02:52: Sie erwartet dreiundachtzig Kinder – denn jeder Abgeordnete werde bald von einer eigenen KI unterstützt!

00:03:09: In den nächsten Monaten berichten Medien aus aller Welt über Albanien das kleine Land mit seinem visionären Ministerpräsidenten.

00:03:17: Doch die Euphorie wird nur ein paar Monate lang halten.

00:03:26: Eine Schauspielerin verklagt die albanische Regierung, denn Dieela ist mit ihrem Gesicht trainiert worden – dafür hat sie der Regierung nie die Erlaubnis erteilt.

00:03:37: Und?

00:03:37: Die albanische Staatsanwaltschaft wirft ausgerechnet der Behörde, hat sich gefragt, wie weit wir davon noch entfernt sind.

00:04:18: Oder ob wir vielleicht schon mittendrin stecken?

00:04:26: Ich bin Kehr Schraubeer aus, ihr hört das Undenkbare diesmal die Algokratie.

00:04:46: Es gibt Dinge im Leben, die haben einen davor und einen danach.

00:04:50: Die Geburt eines Kindes zum Beispiel Das Alter in der Gegend gehört nicht dazu.

00:04:56: Vielleicht schauen wir eines morgens den Spiegel und denken uns ich sah schon mal frischer aus Doch das erste graue Haar Das war schon vor Jahren da, wir haben es nur nicht als Anfang wahrgenommen.

00:05:07: Mit der Algokratie ist das ein bisschen ähnlich.

00:05:10: Früher war mein Lieblingsbeispiel immer die Ampel.

00:05:14: Die Ampel ist ein algorithmisches System, das Staatsgewalt ausübt...

00:05:19: ...das ist Mike Weber!

00:05:21: Wenn das Ding auf rot steht dann muss ich anhalten.

00:05:24: Wenn ich es nicht tue, kann ich sanktioniert werden.

00:05:26: Noch meistens von Personen aber auch das wird automatisiert gefilmt und dann automatisiert wird mir ein Bußgeldbescheid zugeschickt.

00:05:34: Es ist ein total algorithmisches System.

00:05:36: Mike Weber arbeitet am Fraunhofer-Institut in Berlin Und schaut sich an wie Algorithmen immer größere Macht im Staat einnehmen.

00:05:44: Also ist jetzt diese Algokratie?

00:05:46: haben wir da im Hinterkopf?

00:05:47: die Roboter, die unsere Welt beherrschen?

00:05:49: Aber so einfach ist das nicht sagt Weber.

00:05:52: Es gibt automatische Systeme, die eine politische Entscheidung nur ausführen und andere, die sie faktisch selbst treffen.

00:05:59: Die Grenze zwischen diesen beiden Punkten ist glaube ich extremst schwierig zu ziehen.

00:06:04: dazu kommt auch ein ganz wichtiger Punkt wir gewöhnen uns an all diese Dinge.

00:06:08: Mike Weber sagt überall führen Algorithmen schon heute staatliche Aufgaben aus ohne dass wir Großnotiz davon nehmen.

00:06:16: klar denn ein Algorithmus ist ja auch erstmal etwas total banales eine Anleitung für einen Computer, wie er eine bestimmte Aufgabe lösen soll.

00:06:25: Jedes Computerprogramm enthält Algorithmen, welches Video die als nächstes auf TikTok angezeigt wird aber auch wann die Ampel von grün auf rot springt, ab wie viel KMH du geblitzt wirst – solche Sachen!

00:06:37: Also der automatisiert ausgestellte Parkausweis ist natürlich in dem Sinne besonders weit weil er vom vorne bis hinten vollautomatisiert durchläuft.

00:06:44: Algorithmen teilen heute schon Kita und Studienplätze zu.

00:06:47: Sie entscheiden, welche Steuererklärungen von einem menschlichen Sachbearbeiter geprüft werden – und welcher einfach durchgehen.

00:06:53: Und das meiste davon klingt für uns heute relativ unproblematisch.

00:06:57: Wir haben uns eben schon dran gewöhnt.

00:06:59: Nur dass die Aufgaben, die Algorithme für den Staat übernehmen immer größer werden.

00:07:04: Sie fangen an Entscheidungen zu treffen, die nicht ganz eindeutig sind.

00:07:08: In einer großen Genehmigungsverfahren gibt es im Moment sehr große Projekte da zum Ende des Teilautomatisierungen durchzuführen und KI ganz bewusst zur Entscheidungsunterstützung einzusetzen.

00:07:24: Die Algokratie ist die erste Herrschaftsform der Geschichte, deren Perfektion darin besteht zu verschwinden.

00:07:51: Je besser sie funktioniert, desto weniger gibt es zusehen.

00:07:59: Springen wir ins Jahr zwei-tausendvierzig.

00:08:01: Deutschland ist mittlerweile eine Algokratrie.

00:08:04: Es ist ein Dienstag.

00:08:05: Sandra, vierunddreißig, Krankenschwester, zwei Kinder schläft noch bis ihr Werker klingelt!

00:08:11: Es ist sechs Uhr dreißig.

00:08:13: Sie steht auf und checkt die Nachrichten auf ihrem Handy.

00:08:16: Ihr Online-Banking meldet sich.

00:08:18: Neue Überweisung, sixundetviertzehn Euro Verwendungszweck – Wohngeld.

00:08:23: Wenn unsere Krankenschwester eine zu teure Wohnung hat und Wohnengeld braucht dann würde das ja im Hintergrund möglicherweise schon alles erfasst und sichtbar und der Wohngeldantrag automatisch auf den Weg gebracht.

00:08:37: Damit der Staat an Sandra denken kann muss er Sandra kennen ihre Miete ihr Gehalt ihrer Wohnung ihre Kinder.

00:08:44: früher Da hätten die Darkenschutzbeauftragten sich die Haare gerauft.

00:08:48: Aber für Sandra ist es einfach wahnsinnig praktisch!

00:08:51: Sie bringt jetzt ihre Kinder zur Kita, den Platz hat natürlich ein Algorithmus zugeteilt – sie steigt in die Bahn.

00:08:58: Kein Ticket, kein Automat, nichts...

00:09:08: Doch

00:09:08: als Sandra auf der Arbeit ankommt….

00:09:10: …ist er erstmal der Schock.

00:09:11: Das Klinikum wird umstrukturiert.

00:09:14: verliert ihren Job als Krankenschwester.

00:09:16: Auch da wir der Datenfluss im Hintergrund, sobald sie die Kündigung auf dem Tisch liegen hat wird dann natürlich die Ausstattung des Arbeitslosengeldes automatisiert angestoßen ohne entsprechende Anträge oder sonst irgendwas.

00:09:29: Währenddessen haben im Hintergründ schon die KI-Agenten der Arbeitsagentur andere Option für Sie vorbereitet

00:09:35: wo sich

00:09:35: stattdessen arbeiten könnte.

00:09:37: Aber Sie merken es ist immer.

00:09:39: Es ist immer das Bild eines total geleitenden Lebens, wo man so unbemergte Umfasstwirt von Distance Services, die da angeboten werden.

00:09:49: Und auch die Politik läuft im Jahr zwei Tausend vierzig bequem und reibungslos.

00:09:53: der Bundestag gibt nur noch Ziele vor.

00:09:56: Er sagt zum Beispiel wir brauchen mehr bezahlbaren Wohnraum.

00:09:59: aber wie genau dieses Ziel erreicht werden soll?

00:10:01: Das überlässt die Politik dann einer KI.

00:10:04: Sie würde wahrscheinlich

00:10:20: In unserem Szenario schaut Sandra abends die Nachrichten.

00:10:23: Nachdem der Bundestag im vergangenen Sommer beschlossen hat, Deutschland brauche mehr bezahlbaren Wohnraum.

00:10:29: Hat eine Avatar der politischen KI des Bundestages heute in Berlin ihr Maßnahmenpaket vorgestellt?

00:10:35: Ja auch in Zukunft wird es noch Maßnahmenpakete geben.

00:10:39: In diesem Moment als Sandra da von dem Fernseher sitzt, da stellt sie sich eine Frage die sie sich in letzter Zeit schon öfter gestellt hat Wenn die KI immer so weise und ausgeglichene Entscheidungen trifft Wozu braucht das denn dann überhaupt noch Politikerin.

00:11:03: Schon heute gibt es Leute, die sich darüber Gedanken machen – zum Beispiel Caesar Hidalgo.

00:11:09: Hidalgó ist Physiker und hat am MIT und den Harvard geforscht.

00:11:13: Einmal hatte er einer KI beigebracht zu verstehen welche Orte sich für Menschen unsicher anfühlen.

00:11:19: Wenn man sich seine wissenschaftlichen Veröffentlichungen anschaut dann wird deutlich Hidalgo traut der KI Dinge zu, die wir eigentlich für ziemlich menschlich halten.

00:11:28: Zum Beispiel ein Land regieren.

00:11:45: Warum automatisieren wir Politikerinnen nicht einfach?

00:11:48: Hidalco hält hier gerade einen Ted Talk und will sein Konzept von einer Algokratie vorstellen.

00:12:09: Erst mal würden wir einen KI-Agent bekommen, der lernt so zu denken wie wir.

00:12:14: Er liest unser Social Media, stellt Fragen und wenn dieser KI-Agent einmal weiß wie wir ticken dann kann er das tun.

00:12:20: wozu kein Mensch die je die Zeit hätte wirklich jedes einzelne Gesetz lesen und darüber abstimmen.

00:12:37: Erinnern wir uns an Dieela, schwanger mit eighty-three Kindern – eines für jeden albanischen Abgeordneten.

00:12:43: Hidalgo denkt größer!

00:12:45: Er will keine eighty-thalben Agenten, er will eighty-four Millionen – einen für jeden von uns.

00:12:51: Und anstelle eines Bundestages stimmen dann diese eighty Millionen KI-Agenten über alle Gesetze ab.

00:12:58: Hidalgo sagt, wer sich dafür interessiere, können ja immer noch selbst die Gesetzen lesen.

00:13:02: Aber die allermeisten Menschen glaubt Hidalgot – hätten dafür gar nicht die Muße!

00:13:13: Albaniens primär Rama der Verwaltungsfachmann Mike Weber und der Physiker Hidalgu haben alle eine unterschiedliche Vision davon wie Algorithme in den Staat lenken können.

00:13:24: Aber bei allen bleibt es genau das… Eine Vision.

00:13:27: Doch es gibt einen Mann, der hat nicht nur von einer Algokratie geträumt – er hat sie gebaut oder ist zumindest versucht.

00:13:41: Staffard Bier ist ein Mann mit mächtigem Bart und massiger Statur.

00:13:46: Er raucht ununterbrochen Zigaren und in seine Jackentasche steckt ein Flachmann.

00:13:56: Bier war schon Manager beim größten Stahlkonzern Großbritanniens, dann Direktor bei einem der größten Verlagshäuser der Welt.

00:14:04: Ende der Sechziger arbeitet er als Unternehmensberater für Großkonzerne.

00:14:08: Nach Feierabend fährt Bier mit seinem Rolls Royce aus der Londoner City zu seiner Villa in Surrey – einem noblem Vorort.

00:14:15: In seine Villa hat er sich einen Wasserfall einbauen lassen den er mit einer Fernbedienung steuern kann.

00:14:20: Bier ist eine Exzentrik.

00:14:23: Reich geworden ist dieser Mann Weil er innerhalb weniger Jahre zur Kurifere einer Wissenschaft geworden ist, die in den Sechzigern sehr in Mode ist.

00:14:31: Der Kybernetik klingt kompliziert aber auf altgriechisch heißt das Wort einfach Steuermann.

00:14:49: Der Ton in dem Video poltert manchmal etwas denn es ist schon etwas älter.

00:14:53: Bier gibt gerade so etwas Ähnliches wie ein Seminar.

00:14:56: Er sitzt in einem breiten, gepolsterten Sessel vor ihm Studentinnen auf dem Boden.

00:15:02: Ab und an trinkt Bier einen Schluck Weißwein.

00:15:05: Jedenfalls erklärt er hier grade was die Kubernetik mit einem Steuermann zu tun hat.

00:15:17: Stellt euch ein Schiff vor!

00:15:18: Das Schiff will eine Bucht durchkreuzen.

00:15:21: Es ist unmöglich, eine ganze Fahrt im Vorhinein genau zu planen wegen der Abströmungen und

00:15:34: der Winde usw.

00:15:41: Deswegen hat ein Schiff einen Steuermann.

00:15:43: Er folgt keinem starren Plan an welchem Saal gezogen wird und nach wie vielen Minuten in welche Richtung gelenkt wird.

00:15:49: Der Steuerman schaut die ganze Zeit auf das Ziel und korrigiert permanent den Kurs.

00:15:54: Und genau das ist Kybernetik, die Wissenschaft davon wie sich ein System selbst korrigert.

00:16:02: Ein anderes Beispiel – einen Thermostat misst die ganzezeit die Temperatur im Raum.

00:16:06: Das hängt zum Beispiel vorne an jeder Heizung.

00:16:10: Wenn ihr es auf einem Zwanzig Grad stellt dann heizt es den Raum solange der Kälter als einen zwanzig Grat ist.

00:16:16: Wenn es wärmer wird, dann schaltet es die Heizungen aus ist Kibernetik, also sehr einfache Kibernätik.

00:16:24: Bier ist bekannt dafür geworden Konzerne nach Gesetzen der Kibernatik zu organisieren aber eigentlich glaubt er dass seine Kibernaetik noch viel mehr kann.

00:16:53: Eigentlich glaubt er, man könne doch einen ganzen Staat mithilfe der Kybernetik regieren.

00:17:02: Eines Tages im Hochsommer-Näunzehntein-Siebzig da bekommt er einen Brief.

00:17:17: Der Brief, der sein Leben verändern wird kommt aus Chile.

00:17:20: Das Land steht damals im Fokus der Weltöffentlichkeit, als der Maxist Salvador Allende zum Präsidenten gewählt wird.

00:17:27: Er will in Chile den Sozialismus errichten – aber mit Meinungsfreiheit, Wahlen und Opposition!

00:17:35: Und der Mann, der die Wirtschaft für ihn organisieren soll ist der erst achtundzwanzig Jahre alte Ingenieur Fernando Flores.

00:17:42: Flores steht vor einem Problem das wir ja schon von vorhin kennen.

00:17:46: Zu viele Fabriken, zu viele Daten, zu viel Entscheidungen für zu wenige menschliche Gehirne.

00:17:52: Aber Flores hat Biers Werke studiert, er ist ein großer Fan.

00:17:56: also schreibt der Bier einen Brief ob der ihm helfen könne die chilenische Wirtschaft neu zu ordnen.

00:18:16: Floris rechnet mit wenig doch bier antwortet ihm persönlich.

00:18:21: Glauben sie mir, schreibt

00:18:22: er.".

00:18:22: Ich würde jeden meiner Beraterverträge aufgeben für die Chance daran zu arbeiten.

00:18:26: Denn ich glaube ihr Land wird es wirklich tun!

00:18:31: Alles was Bier verlange sei ein Tagessatz von fünfhundert Dollar und eine vertraglich zugesicherte Versorgung mit Wein, Zigarren und Schokolade.

00:18:54: Arbeiten Tag und Nacht durch.

00:19:11: Stafford Bier will in allen Fabriken von Chile Daten erfassen, sie in Echtzeit in die Hauptstadt schicken und dann durch einen Computer prüfen lassen ob die Wirtschaft so laufe wie gewünscht oder ob man nachbessern muss wie ein sehr, sehr großes Thermostat für Stiele.

00:19:26: Sie nennen es Cybersynn.

00:19:29: Jetzt muss nur noch der Präsident zustimmen!

00:19:33: Nur eine Woche nachdem Bier in Stiele landet soll er Allende persönlich erklären was genau Kubernetik eigentlich ist.

00:19:40: Er wird in den Präsidentenpalast gebracht – La Moneda.

00:19:43: Er geht alleine hinein.

00:19:45: Sein Team wartet derweil gegenüber In der Bar des Hotelkarriere und trinkt gegen die Nervosität an.

00:19:51: Drinnen sitzen sich Bier- und Allende gegenüber Zwischen ihnen Nur ein Dolmetscher.

00:19:56: Er flüstert jedem der beiden an Übersetzungen so.

00:20:00: Nach der Besprechung kommt Bier in die Bar auf der anderen Seite des Präsidentenpalastes, da wo Floris und die anderen Mitarbeiter auf ihn warten.

00:20:07: Sie wollen wissen wie es gelaufen ist?

00:20:10: Bier... ...ist euphorisch!

00:20:12: Er und der Präsident hätten sich blendend verstanden erzählt er.

00:20:15: Der Präsident habe ihm freie Bahn gelassen.

00:20:19: Also beginnen sie damit, Cybersinn umzusetzen.

00:20:29: Auf welchem Kurs sich die chilenische Wirtschaft gerade befindet?

00:20:32: Sie brauchen Großrechner, eine Kommandozentrale und natürlich müssen auch alle Fabriken miteinander verbunden werden.

00:20:43: Noch mal kurz zur Erinnerung – das hier sind die Siebziger!

00:20:45: Das Internet wie wir es kennen gibt's noch gar nicht Und Computer nehmen ganze Zimmer ein.

00:20:51: Die Technik, die Bier braucht wird gerade erst erfunden Aber Chile ist praktisch pleite und die USA sanktionieren alle Ende, weil er ihnen zu sozialistisch ist.

00:21:05: Es gibt im ganzen Land schätzungsweise nur fünfzig Computer.

00:21:08: In den USA sind es circa achtundvierzichttausend.

00:21:12: Und als wäre das nicht genug?

00:21:26: Bier statt auf die Karte und sieht, oh!

00:21:28: Dieses Land ist sehr, sehr lang.

00:21:31: Es gibt Wüsten, Berge – und in manchen Ecken regnet es manchmal wochenlang am Stück.

00:21:36: Wie um alles in der Welt wollen sie hier alle Fabriken miteinander

00:21:39: verbinden.".

00:21:42: Wie damals beinahe jedes Land der Welt hat Chile Fernschreiber.

00:21:46: Klobige graue Kästen — damals schon Bürotechnik von gestern — die Buchstaben auf Papierstreifen hemmern.

00:22:01: Ja, warum nicht?

00:22:02: Dann halt mit Fernschreibern.

00:22:04: Alle Betriebe sollen künftig alle Daten an die Kommandozentrale in der Hauptstadt schicken.

00:22:08: Diese Kommando-Zentrale, der sogenannte Opsroom sieht aus als würde man mit ihr ein Raumschiff steuern.

00:22:21: Stellt euch einen großen sechsäckigen Raum vor!

00:22:23: Darin stehen sieben drehbare Sessel aus weißem Plastik und orangefarbenen Polstern.

00:22:28: Die Sessel haben große Knöpfe in den Armlehnen, dazu einen Aschenbecher und einen Halter für ein Whisky-Glas.

00:22:34: In dem Raum gibt es keine Tische und Papier ist hier verboten.

00:22:38: Bier glaubt das rascheln würde die Diskussion stören.

00:22:42: Dafür hat der Raum große Bildschirme oder besser gesagt etwas dass so aussehen soll Denn so große Bild Schirme gibt es damals noch gar nicht!

00:22:50: In Wirklichkeit sitzen junge GrafikerInnen hinter der Wand und zeichnen pfeile Kurvenflussdiagramme mit der Hand Und werfen sie mit Diaprojektoren an die Wand.

00:23:01: Später werden Stafford Bier und Fernando Flores erzählen, Sie hätten in dieser Zeit nur ein paar Stunden am Tag geschlafen.

00:23:07: Ständig präsentieren sie ihrem Team neue Ideen So wie das Algedometer.

00:23:21: Das Algedometer ist ein Kasten mit einem kleinen Regler.

00:23:24: Den kann man zwischen sehr glücklich und sehr unglücklich verschieben.

00:23:28: Bier will, dass in jedes stilenische Wohnzimmer mit Fernseher so ein Gerät kommt.

00:23:32: So hätte man den Obstroom sehen können wie die Entscheidungen beim Volk ankommen.

00:23:40: Für Stafford Bier muss sich das alles hier wie ein Traum anfühlen.

00:23:43: In dieser Zeit passiert etwas mit dem Rolls Royce fahrenden Berater aus London.

00:23:48: Er verliebt sich in Chile – in die Sprache, in die Kultur.

00:23:51: Bald geht Bier mit Musikern aus Santiago trinken.

00:23:55: Das Lied, das ihr im Hintergrund hört ist von Angel Parra einem Freund von Bier.

00:23:59: Es ist eine Lobpreisung der Kybernetik.

00:24:17: Bier findet offensichtlich seine Bestimmung, doch keine zwei Jahre später nachdem er das erste Mal in Chile gelandet ist, da geht das Land in Flammenhof.

00:24:29: Elfter

00:24:30: September, die Militär stürzen die

00:24:33: sozialistische Regierung

00:24:35: Alliendes.

00:24:36: Der Putsch wird angeführt von General Augusto Pinochet.

00:24:40: Die USA unterstützen ihn dabei.

00:24:42: In der Hauptstadt greifen Kampfjets den Präsidentenpalast an Alliendessatz.

00:24:47: Ich werde das Regierungsgebäude nur in einem Sarg verlassen.

00:24:50: Wird am diesem Tag brutale Wirklichkeit.

00:24:54: Stafford Bier ist gerade in London als der Putsche passiert.

00:24:58: eigentlich will er dort für Chile werben.

00:25:00: Doch als er liest, dass Allende tot ist, bricht für ihn eine Welt zusammen.

00:25:06: Bier hat in Chile ja nicht nur ein neues Wirtschaftssystem entwickeln wollen – er hat sich in das Land verliebt und seine Kultur.

00:25:13: Er hat Freundinnen gefunden!

00:25:15: Und jetzt muss er zusehen wie Pinochet seine Kommandozentrale zerstört und seinen Freundinnen ins Gefängnis wirft.

00:25:22: Sein Traum von der kubernetesen Regierung ist geplatzt.

00:25:26: Bier verkraftet es

00:25:27: nicht.".

00:25:29: Er verkauft die Villa mit dem Wasserfall im Esszimmer, er verlässt seine Frau.

00:25:33: Er gibt fast einen gesamten Besitz auf und zieht in ein Steinhäuschen in den Hügeln von Wales ohne fließendes Wasser.

00:25:40: Dort macht er Yoga, malt Bilder, schreibt Gedichte.

00:25:44: Bier ist als Geschäftsmann nach Chile gegangen und als hippie zurückgekommen Und er wird ein Leben lang von dieser Zeit schwärmen.

00:26:05: Das ist die Zeit, um zu haben mein Leben.

00:26:25: Er muss Chile verlassen.

00:26:41: Er geht ins Ex-Ziel, in die USA.

00:26:44: Bürgerrechtlerinnen haben immer einen Job und eine Bleibe besorgt – in einem kleinen Städtchen südlich von San Francisco.

00:26:50: Der Ort heißt Palo Alto, Kalifornien.

00:26:57: Palo Alto?

00:26:57: Wahrscheinlich habt ihr den Namen schon mal gehört!

00:27:00: Denn das kleine Städttchen ist das Zentrum von dem was wir heute Silicon Valley nennen.

00:27:05: Den Siebzigern sind San Francisco vor allem bekannt als das Zentrum der Hippie-Bewegung.

00:27:11: Freie Liebe, Antikriegsproteste, LSD und Kommunen.

00:27:17: Doch die hippies in the Bay Area – sie begeistern sich für Computer... ...und einige von ihnen auch für Kübernetik.

00:27:27: Die Wissenschaft davon wie sich ein System selbst steuert!

00:27:30: Für Sie ist es etwas Anti-Autoritäres.

00:27:33: Sie hoffen dass Kübernetik Ihnen helfen kann ihre Kommunen selbst zu verwalten ohne Regierung und ohne Staat.

00:27:42: Fernando Flores sagt einmal, er kann riechen dass er im richtigen Ort ist.

00:27:47: Er bleibt in Silicon Valley studiert promoviert und gründet eine Softwarefirma.

00:27:52: Ihr Produkt heißt The Coordinator Und es tut etwas das damals neu ist.

00:27:57: Es hält fest wer im Büro wem etwas versprochen hat und ob er oder sie dieses Versprechen eingehalten hat.

00:28:06: Eine halbe Million mal wird das verkauft.

00:28:08: Kritikerinnen nennen es eine Überwachungssoftware.

00:28:12: Flores gründet nicht nur eine Firma, er schreibt auch ein Buch mit dem Informatik-Pionier Terry Winograd und forst in Stanford.

00:28:20: Er ist gut vernetzt im Silicon Valley – man kennt ihn!

00:28:41: Etwas tut, was den Gedanken von Flores und Bier radikalisieren wird.

00:28:49: Knapp dreißig Jahre nachdem Fernando Flores in Palo Alto ankommt gründen genau dort fünf Männer eine Firma.

00:28:59: Palantir.

00:29:00: Der Miladier Peter Thiel ist einer der Gründer von Palantire.

00:29:04: Studiert hat ein Stanford – der Universität im Silicon Valley an der auch Flores lehrte.

00:29:09: Er besucht dort sogar Kurse bei Terry Rinograd, der Mann mit dem Flores ein Buch geschrieben hat.

00:29:16: Heute schreibt Palantir an seiner internen Philosophie und Produktentwicklung ganz explizit von Cybernetic Enterprise.

00:29:23: Als Thiel Palantier gründet ist er geprägt von den Gedanken die Fernanda Flores aus Chile in die USA gebracht hat.

00:29:31: Ich durfte nicht mit dem System autonom arbeiten sondern ich wurde eingeladen von der Polizei Und die haben mir das dann gezeigt an einem Screen wie es aussieht.

00:29:41: Das ist Lena Ulbricht.

00:29:42: Sie ist Politikwissenschaftlerin und forscht darüber, wie Software-Staaten verändert.

00:29:47: Sie

00:29:47: hat sich Palantir ganz genau angeschaut.

00:29:49: Das Interessante ist dass es sich hierbei um ein Interface handelt das für Normalnutzerinnen und Nutzer die also nicht bei der Polizei arbeiten erstmal ganz normal aussieht nämlich so ein bisschen wie so ein Google Interface wir eine Suchmaschine Und als ihr eben die Möglichkeit gibt, für die Analystinnen und Analysten bestimmte Dinge dort einzugeben.

00:30:10: Namen, Adressen, Kennzeichen, Telefonnummern oder ähnliches?

00:30:15: Dazu muss man sagen dass der Staat alle diese Daten schon hat doch sie sind oft verteilt in unzähligen Datenbanken verstreut in Listen- oder PDFs.

00:30:24: Ihr kennt das ja schon so viel, dass ein menschliches Gehirn überfordert ist.

00:30:28: Doch ein Algorithmus erkannt es ja

00:30:31: Ab dem Moment, wo Daten zusammengeführt werden kann es eben dazu kommen dass die aus dem Kontext gerissen werden und doch neue Zusammenhänge hier erstellt werden.

00:30:41: Und dadurch auch neue Informationen generiert werden, die man vorhin der Form nicht hatte.

00:30:46: Palantir kennt man ja vor allem als Software Die von polizalen Geheimdiensten eingesetzt wird.

00:30:50: Doch mittlerweile wird es von Regierungen und Behörden für alles mögliche verwendet.

00:30:56: Ja, was können wir eigentlich hier machen?

00:30:57: Wenn wir uns dafür interessieren wie wir das Rentensystem konsolidieren wollen oder herauswinden wollen welche Personen zu Unrecht in Frühverrentung gegangen sind.

00:31:07: Oder eben wenn wir wissen wollen wie wir Infektionsherde möglichst schnell identifizieren und wie wir hier handeln können.

00:31:15: Palantir ist so etwas wie der Urenkel des Kontrollzentrums den Stafford Bier in Santiago de Chile bauen wollte eine Ort an dem alles zusammenläuft.

00:31:23: nur hat dieser urenkel Millionen Mal mehr Rechenleistung.

00:31:27: Er kann eine Prognose erstellen und berechnen, welche Entscheidung statistisch die beste ist.

00:31:32: Klar Palantir trifft keine Entscheidungen es gibt nur Empfehlungen.

00:31:36: Nur sagt Lena Röbrich braucht man ganz schön viel Mut um so einem System zu widersprechen.

00:31:42: Und hier wird ganz deutlich das insbesondere unter Zeitdruck und insbesondere dort wo die menschlichen Agenten eigentlich keine Möglichkeit haben, zu verstehen wie es zur der maschinellen Entscheidung gekommen ist die sich häufig dann dieser eher anschließen werden.

00:31:59: Ihr erinnert euch an Dieella vom Anfang diese albanische KI-Ministerin.

00:32:04: so wird die Algokratie nicht aussehen.

00:32:06: sie wird keinen Avatar haben und kein relativ schnelles Gewand tragen.

00:32:10: Es gibt am Anfang häufig die Hoffnung dass man tatsächlich Probleme besser schneller effektiver und effizienter lösen kann.

00:32:19: wird Staaten von Softwarekonzernen als wirklich praktische Entscheidungshilfe angeboten.

00:32:24: Und irgendwann gewöhnt sich Menschen in Behörden und Ministerien daran, dass ein Algorithmus ihnen sagt was jetzt die richtige Entscheidung wäre – so wie Studentinnen sich daran gewöhnen, das Chatchapity Ihnen bei der Hausarbeit hilft!

00:32:37: Es ist nicht so, als würde Deutschland plötzlich von einer Software regiert werden….

00:32:40: es ist nur so, dass immer öfter eine KI hinter einer Entscheidung steht... ...die der Staat

00:32:45: trifft.".

00:32:46: Ich würde tatsächlich sagen, in den letzten fünfzehn Jahren Daten und Software und KI-Politikgestaltung zunehmend beeinflussen.

00:33:00: Eigentlich heißt dieser Podcast ja das Undenkbare, doch wenn man genauer hinschaut sieht man die Algokratie ist gar nicht so undenkbar.

00:33:08: Aber insgesamt würde ich schon sagen dass es etwas ist von dem ich jetzt überrascht bin wie stark es sich entwickelt hat Obwohl ich Science-Fiction lese und im Prinzip immer im Kopf habe, wie weit es noch gehen kann.

00:33:21: Und wie sehr Gesellschaften sich noch verändern können.

00:33:23: Science-fiction-Szenarien sind ja immer extrem überzeichnet.

00:33:27: Für die Algokratie braucht das keinen Putsch, keinen Beschluss, keine böse Firma.

00:33:31: Es reicht ein Beamter der Freitag Nachmittag nach Hause will und eine Software, die bisher immer recht hatte.

00:33:38: Wir sind mittendrin uns daran zu gewöhnen.

00:33:41: Und irgendwann kommt der Punkt an dem niemand mehr weiß, wie man es ohne machen würde.

00:33:46: Nicht, wenn man es verboten hätte.

00:33:47: Sondern weil die Leute, die es noch konnten in Rente gegangen sind.

00:33:52: Die KI muss die Herrschaft gar nicht erobern.

00:33:55: Sie müssen nur warten Warten bis wir nicht mehr ohne sie können.

00:34:09: Das klingt jetzt alles ein bisschen düster.

00:34:11: Eine allwissende KI, die uns beherrscht.

00:34:13: Aber so muss die Alkokratie gar nicht aussehen.

00:34:16: Ihr erinnert euch an Stafford Bier der britische Unternehmensberater Der Chilis Wirtschaft mit Algorithmen steuern wollte.

00:34:27: Das ist der Moment, in dem Bier den Präsidenten an seinem Palast besucht und seine Kollegen in der Bar gegenüber gegen die Nervosität antrinken.

00:34:36: Bier sitzt im Präsidenten gegenüber und zeichnet sein kibonitisches Modell auf ein Blatt Papier das zwischen den beiden Männern auf dem Tisch liegt – Ebene für Ebene!

00:34:44: Die Betriebe, die Koordination, die Steuerung… Und ganz oben auf Ebene Fünf.

00:34:48: da sitzt in Biersmodell die oberste Entscheidungsinstanz Und Bier will gerade zu seiner großen Pointe ansetzen.

00:35:06: Der Berater will den Präsidenten an die Spitze der Pyramide setzen und der Präsident setzt stattdessen das Volk dorthin.

00:36:05: Das Undenkbare ist eine Kooproduktion von Andan und Storming Thank You Productions.

00:36:19: Ich bin Caschraubeiros, unser Autor ist Yves Bellinghausen, Producer Mathieu Braun, redaktionelle Mitarbeit von Kathrin Evalin, Matilde Fuhr, Clara Loser und Lehrknies, Fact-Checking von Angelina Borger.

00:36:36: Technische Produktionen und Sounddesign Janik Werner.

00:36:40: Musik Benjamin Dres.

00:36:42: Coverart Drammstudio.

00:36:45: Executive Producer für Andan Kerschrauberos.

00:36:49: Executive Producers für Storming Donkey Productions Stefanie Plattner und Ekrim Ergün.

00:36:54: Projektleitung Storming donkey productions Kai Könnemann und Anna Wolny.

00:37:00: Danke an alle Menschen, die mit uns für diesen Podcast gesprochen haben.