#827 - Constanze Kurz (Chaos Computer Club) über Palantir & KI-Modelle

00:00:00: So, eine neue Folge Jung naiv mit einem nicht neuen Gast.

00:00:03: Wer bist du nochmal?

00:00:04: Ich heiß Konstanz und ich bin schon irgendwie neu.

00:00:07: Hast einen vollen Namen, Constanze?

00:00:08: Konstanze, kurz!

00:00:09: Ja,

00:00:09: Du bist nicht neu bei Jung Naiv.

00:00:12: Weißt du wer oft schon da warst?

00:00:14: Viermal

00:00:16: Stimm dich?

00:00:16: Nein.

00:00:17: Fünf mal?

00:00:18: Nein Der Datenabgleich

00:00:19: ist... Drei Mal?

00:00:21: Sechs.

00:00:22: Echt?

00:00:23: Folge hundertsechs, zweihundsiebzig Zweihundertzweinzwanzig, zweihundertfünfzig, vierhundertsechzig und sechshundertachtzig.

00:00:30: Du warst zum ersten Mal, zwanzig-dreizehn bei mir.

00:00:33: Ja ich weiß.

00:00:34: Du hast dreizehn

00:00:34: Jahre ja?

00:00:35: Ja das war weit vor der Pandemie noch im Hamburg weiss ich.

00:00:40: Da kannten wir uns doch nicht so.

00:00:42: Und du bist auch die einzige ever, die bei Jungo Naiv mich und Tyler interviewen durfte.

00:00:48: Folge zweieinhalbzig!

00:00:49: Es

00:00:49: war nicht wirklich ein Interview.

00:00:51: Was?!

00:00:52: Es waren mehr so eine Mischung...

00:00:54: Das ist denn Kritik an dir selbst?

00:00:57: Ja, ich bin ja auch selbst kritisch wie alle Menschen mithören.

00:01:02: Wie geht's dir?

00:01:04: Danke der Nachfrage!

00:01:05: Wir haben viele technische ungelöste Fragen.

00:01:08: Kann ich mir nicht vorstellen... Aber ich wollte wissen, wie es dir geht.

00:01:17: Was hat sich so geändert?

00:01:18: Du bist jetzt übrigens bei dem laut Google besten YouTube-Kanal für unabhängigen Journalismus.

00:01:25: Das hat sich für uns geändert.

00:01:27: Ich bin jetzt auch katholisch geworden.

00:01:29: Ich war gestern letzte Woche bei einem Katholietentag.

00:01:33: Machst du die um?

00:01:35: Das wollte ich mal hier präsentieren, da war das Motto, Hab Mut steht auf.

00:01:40: Das ist jetzt mein Motto.

00:01:41: Machest du die jetzt um?

00:01:43: Ich will das den Gästen nicht mehr geben.

00:01:44: Hab Mut und steht auf!

00:01:47: Also du meinst, wenn man hier abhauen muss...

00:01:49: Ja Jimmy Wales, das ist der Jimi-Wales-Bruch.

00:01:50: Oh, oh, das wusst ihr gar nicht.

00:01:52: Das sind viele Petergründe.

00:01:54: Co-Gründe.

00:01:55: Wir sind doch ...

00:01:58: Das weiß Wikipedia nicht, aber er hat sich aufgeregt.

00:02:00: Hast du das damals nicht

00:02:01: gesehen?

00:02:03: Nee.

00:02:03: Er ist nach fünfzehn Sekunden aufgestanden.

00:02:06: Hast Du ihn nicht

00:02:07: gesehen?!

00:02:07: Nein!

00:02:08: Der hat

00:02:08: sich hier hingesetzt.

00:02:08: Ich so ... Neue Folge Jungo Naive.

00:02:10: Da bist du und er so öppelt eine Wikipedia-Grunde.

00:02:12: Und dann hatte ich ihm Wikipedia Artikel vor mir legen von ihm.

00:02:17: Unterscheiden Co-Gründer habe ich so mit Gründern oder Gründer.

00:02:20: Und der dann so ist ein Stupid Quash.

00:02:22: Dann hat er sie aufgereght und ist nach zweieinfünftes Sekunde aufgestandet gegangen.

00:02:28: Nee.

00:02:28: Und wie lange hast du da her?

00:02:30: Drei, vier, fünf Monate?

00:02:32: Oh no.

00:02:32: Mhm.

00:02:34: Gute Erste, der hier weggeht ist er nicht.

00:02:39: Bude Rammelow ist mal aufgestanden aber dann wiedergekommen.

00:02:42: Stimmt.

00:02:43: Also bitte

00:02:44: bleib sitzen!

00:02:45: Ich würde sehr kontrovers, dann können wir uns ein bisschen anschreien.

00:02:50: Können wir gerne machen.

00:02:52: Wie war es auf der Republikan?

00:02:55: Eigentlich viel schichtig... Also, es waren zwei Tage da.

00:02:58: Wir haben uns auch gesehen ...

00:03:00: Ich hab einen ersten Vortrag ever gehalten.

00:03:03: Das war der Erste?

00:03:04: Wenn du jetzt Schule und ein Studiumkram auslöst.

00:03:09: Hast du auch moderiert?

00:03:11: Nein.

00:03:12: Okay.

00:03:13: Ja.

00:03:13: Ich habe was vorgerecht.

00:03:16: Das weiß ich.

00:03:17: Der deutschen Beziehung.

00:03:19: nur für unsere Leute, die das nicht gehört haben.

00:03:22: Ein paar Ausschnitte gegen viral hört dich!

00:03:25: Läuft nicht schlecht, das Feedback war gut.

00:03:26: Worüber hast du geredet?

00:03:30: Ich habe einen Vortrag gehalten und ich war noch Teil eines Panels.

00:03:32: Und der Vortrack war über Automatisitadatenanalyse, also Palantir im Wesentlichen.

00:03:38: Da drehen wir gleich drüber.

00:03:40: Was ist das denn nochmal?

00:03:42: Ich verteile des Eröffnungspanels zusammen mit Karenin Ehmke und Luisa Neubauer und Alice Heisters Ein bisschen darüber reflektiert, warum wir nicht als Aktivistin aufhören.

00:03:55: Das war ein bisschen ans Motto angelehnt.

00:03:57: Das Motto war von Rick Estley geborgt, Never Gonna Give You Up.

00:04:02: und glaube, das war so der Grund, also warum wir gerade über Aktivismus und wie sich das verändert hat und was uns motiviert

00:04:12: gesprochen haben.

00:04:13: Du bist ein Aktivisten?

00:04:14: Ja.

00:04:15: Wofür?

00:04:16: Es ist ja jetzt schon Schimpfout geworden aber in dem ... In dem eigentlichen Sinne des Wortes.

00:04:21: Ja, ich setze mich gerne für Sachen ein die ich richtig finde und gegen solche die falsch finde.

00:04:26: Welche sind das?

00:04:27: Naja jetzt hat bei mir oft einen Technikzusammenhang eine technische Entwicklung Die Leute eher einengen sie zu sagen zu Zwangs oder Zuzwangshandlung animieren diese manipulieren die ihre Daten ausforschen an den ganzen Teil des Trackings nicht so positiv.

00:04:50: Was wäre positiv?

00:04:53: Hätte schon gerne mehr Techniken, die so ein bisschen selbstbestimmter sind.

00:04:57: Wo man mehr darüber entscheiden kann... ...die man selber reparieren kann, die vielleicht offen sind mit offenen Schnittstellen.

00:05:07: also bin da schon so richtig oldschool.

00:05:09: Lass mal positiv anfangen!

00:05:10: Gibt es solche Technik gibt's neue Techniken?

00:05:12: kannst du was empfehlen damit wir nicht nur quasi hier?

00:05:17: Ich hatte den Eindruck, dass mit dieser ganzen Debatte um digitale Souveränität und nach Beginn der zweiten Amtzeit von Donald Trump so ein bisschen Bewegung ins Thema gekommen ist.

00:05:29: Die politische Debatte ist manchmal ein bisschen lame.

00:05:33: auch schon festgestellt haben.

00:05:34: Also die ist halt sehr platt, aber die Frage wie unabhängig man sein muss?

00:05:38: Ist jetzt nicht mehr nur so eine bürgerechtliche Frage sondern oft auch eine wirtschaftspolitische Frage geworden.

00:05:43: Die Durchsetzung von Digitalrechten in Europa gegen eventuell US-amerikanische Interessen, aber auch ein bisschen gegen die chinesischen Konzerne.

00:05:52: also da ist völlig weh Bewegung.

00:05:54: und denn gibt es in Deutschland hier einen ziemlich funktionierenden Mittelstand der coole Lösungen anbietet, die offen sind.

00:06:03: Was könnte ich alles darüber nicht wissen?

00:06:04: Gibt man ein paar Beispiele?

00:06:05: Nein, du könntest von den Plattformen wechseln, die dich tracken und die sozusagen ihre Geschäftsmodelle auf Werbung basieren.

00:06:14: Du kannst mittlerweile von einer großen Fülle von Unternehmen profitieren, die eben Lösungen bieten, die davon weggehen oder jedenfalls einen Teil der Abhängigkeit reduzieren.

00:06:23: Hast mehr auswollt, finde ich.

00:06:25: Jetzt kommen wahrscheinlich gleich wieder ein paar Leute hin und sagen ja!

00:06:28: Wir sind hier auf YouTube.

00:06:31: Thilo, da musst du Konstanz ernst nehmen?

00:06:33: Ich bin jetzt nicht so der Fan von YouTube ... Aber ich denke das war die Möglichkeiten eben nicht nur auf YouTube sondern woanders auszuspielen.

00:06:43: heute da sind Die klassischen Möglichkeiten, die das Netz bietet.

00:06:47: Ich selber wie soll ich mal sagen bin ein bisschen abgenauft von YouTube weil sich die Werbefrequenz so erhöht hat in den letzten Jahren und ist so ein bisschen mit.

00:06:54: Ich glaube, so nach Ende der Pandemie ist es ein Schwaps gewesen, der mich nervt.

00:06:58: Der nutzt halt YouTube nicht... Du nutzt

00:07:02: YouTube nicht?

00:07:03: Wie hörst du dein junger Niveau?

00:07:06: Tatsächlich!

00:07:07: Das ist eine seltene lange Folge von dir gesehen.

00:07:09: aber man kann YouTube nutzen ohne YouTube anzuklicken, das geht.

00:07:12: Wie denn?

00:07:13: Die verbreite Statue dafür ist glaube ich schlicht Dr.

00:07:16: Goh weil die eine Möglichkeit bieten nicht auf der Plattform selber abzuspielen und nicht direkt bei YouTube.

00:07:20: Das machen auch viele.

00:07:21: Ohne Werbung

00:07:21: dann?!

00:07:22: Nein, das wird halt übersprungen quasi.

00:07:26: Oder du ziehst dir die Videos, die du magst.

00:07:28: Aber diese ganze ... Die Leute klicken, die Vorschläge runter, davon bin ich schon lange weg.

00:07:33: Dafür habe keine Zeit und eine Zeit lang war ich, glaub ich auch sehr ... fand ich ziemlich spannend.

00:07:40: so vor, weiß ich nicht, sechs, sieben Jahren?

00:07:43: Dann hab ich beschlossen zu viel YouTube in meinem Leben, mag ich nicht mehr.

00:07:47: Das bedeutet nicht, dass ihr keine YouTube-Videos seht Träbt mich ja nicht auf der Plattform

00:07:51: rum.

00:07:52: Du weißt ja eh schon mal, du bist ein junger EFIS-Nix für dich wahrscheinlich?

00:07:57: Ich kann das verstehen weil du willst einfach Leute erreichen.

00:08:00: dafür habe ich Verständnis.

00:08:04: Ich hab auch so'n bisschen in einem Gelaude die sich von YouTube verabschiedet haben die Formate haben die da funktioniert haben.

00:08:10: sie haben Schwierigkeiten als Satz zu finden und kann das in gewisser Weise verstehen.

00:08:17: Und ich glaube auch, dass YouTube zumindest für die langen Gesprächsformate schon ziemlich praktisch ist.

00:08:25: Hier ist Tyler – hier kommt die Werbung!

00:08:27: Für uns selbst!

00:08:28: Kommerzfeierjournalismus sei es seit Jahrzehnten nur möglich durch deine Unterstützung.

00:08:33: Schau in die Infos wie.

00:08:35: Wir haben gerade über deutsche Weiterentwicklung gute Sachen geredet.

00:08:40: Das wäre doch mal was?

00:08:42: Ein deutscher Videoplattform oder ein europäischer Videoplattform?

00:08:45: Es ist schon ein ganz schöner Platz.

00:08:48: Ich fand das gut.

00:08:49: Es gab ja auch mal so wie Mio, wenn du dich noch erinnerst.

00:08:51: Also es gab ja mal Zeitlagen.

00:08:53: Ja!

00:08:54: Also ich weiß nicht... Ich sehe da aber keinen der da... also klar mittlerweile gibt's, ich sag mal, kommerzfreie Alternativen wie PeerTube oder so, aber die sind natürlich total klein gegen Google, also YouTube.

00:09:10: Also ich seh da wenig Konkurrenzaufkommen.

00:09:12: Klar ist eine Konkurrence, dass die kleinen Plattformen Kurz-Ausschnittplattformen jetzt so gewachsen sind.

00:09:18: und diese Kurzklips bei Instagram, TikTok.

00:09:23: Die Kurzklipps?

00:09:24: Ja komm die sind ja vergleichsweise kurz.

00:09:26: Ja das war jetzt... Es

00:09:28: ist schon irgendwie

00:09:29: ein Konkurrenz geworden

00:09:30: in gewisser Weise oder?

00:09:31: Was?

00:09:32: Naja dass du TikTok oder Instagram bespielen musst wenn du einen längeren Format haben willst oder?

00:09:39: Wir machen da jetzt Highlights bzw.

00:09:42: wir versuchen die Leute anzufüllen im Sinne von Guck mal, dann geht's noch länger.

00:09:46: Ja,

00:09:46: das beobachte ich auch.

00:09:49: Kann ich auch verstehen in gewisser Weise.

00:09:51: Ich merke nämlich nervt halt diese ganze ... Die haben einen Feed für mich und schlagen mir Sachen vor.

00:09:54: Habe keinen Interesse dran.

00:09:57: Ist das schon KI?

00:10:01: Nee man hatte früher nicht KI genannt aber dass so Software seitlich gesteuert wird aus verschiedenen Quellen also einmal aus dem Profil des Nutzers aber immer auch nach den Werbekunden ist viel älter als dieser ganze Hype um KI.

00:10:15: Aber das ist ja eigentlich kein Hype mehr.

00:10:17: Das Wort passt nicht so.

00:10:18: Wendetta?

00:10:19: Nee, warte mal!

00:10:21: Also es ist ja viel älter.

00:10:23: Es sind ja irgendwie zwölf Jahre bei YouTube und ich glaube bei Instagram auch schon vor der Pandemie.

00:10:30: Diese Algorithmus... Dessen Ziel ist, dass du einfach weiterklickst.

00:10:35: Ja,

00:10:37: die ihr auch Vorschläge machte es ja nicht unbedingt nur manipulativ sondern soll ja auch dein Interesse ein bisschen entgegenkommen.

00:10:42: aber da hängt natürlich Tracking dran und die Interessen der Wahlbeträger.

00:10:47: Ich weiß nicht, ich kenne mich an alte Bundestagsgespräche darüber erinnern Die sind echt zwölf Jahre hier oder so.

00:10:53: also naja da ging's doch mal noch einen Bots.

00:10:55: Also die Begriffe haben sich geändert.

00:10:58: Finding.

00:11:01: Ja, willst du das KI nennen?

00:11:03: Wir können immer statt Software einfach KI einsetzen wenn dich das froh macht.

00:11:07: Nee!

00:11:08: Ich bin ja dafür quasi klare Sprache zu machen und ich hatte

00:11:11: jetzt

00:11:11: auch wieder reingeschaut... Aber

00:11:12: du sagst auch Algorithmen und eigentlich so Software.

00:11:16: Das hat sich auch so verbreitet.

00:11:17: alle sagen jetzt Algorithm ist für Techniker immer so...

00:11:21: Sag mal was ist die Korrekte?

00:11:23: Software?

00:11:24: Der Algorithmus ist ja erst mal nur eine Vorschrift, wie man ein Software bauen kann und ein Konzept.

00:11:29: Und heute hat sich das aber so eingebürgert.

00:11:31: alle sagen immer, die Algorithmen!

00:11:33: What?

00:11:35: Software.

00:11:35: Im Prinzip ist es Software in der Standard.

00:11:38: Nutzt du denn diese ... nutzt du Software von OpenAI, von Anthropic, die Gemeinden als KI, LLMs

00:11:47: usw.?

00:11:47: Nein dafür gibt's ja auch

00:11:48: einen Überbegriff.

00:11:49: also eigentlich sind dir generell

00:11:50: ... Large Language Models?

00:11:52: Oder generative KI.

00:11:53: Im Deutschen ist das oft, glaube ich ...

00:11:55: Nutzt du generative?

00:11:57: Ja, ich hab mir die gängigen Modelle mal angeguckt, aber mehr so aus technischem Interesse.

00:12:02: Das ist jetzt nicht unbedingt meine tägliche Nutzung.

00:12:06: Ich habe doch nicht auf dem Phone oder so.

00:12:09: Kann das nützlich sein?

00:12:11: Also ich finde vor allen Dingen einen Bereich total nützlich, den ich mir nicht mehr wegdenken kann.

00:12:16: Der aber auch so ein bisschen vorher begann.

00:12:18: Das ist die ganze Frage der Übersetzung.

00:12:20: Automatisierte Übersetzungen, Transkriptionen, das finde ich ungemein praktisch und geht schnell.

00:12:26: Da gibt es schon paar tolle Sachen.

00:12:29: Aber natürlich bin ich mit der Technik beschäftigt über die Zeit immer kritischer geworden und am lustigsten finde dass sich plötzlich der ganze Urheberverwertungsrechte des Kurs gedreht hat, weil plötzlich

00:12:44: ein paar

00:12:46: Tech Bros einfach alle mitnehmen, was sie kriegen können.

00:12:49: Also Bild bewegte Text alles und plötzlich haben wir eine ganz andere Debatte über Urhebergewertungsrechten die mich irgendwie ewig begleitet haben.

00:12:56: Das finde ich sehr lustig.

00:12:58: Na am Ende sind es ja ... Die großen Anbieter müssen ja eine riesengroße Fülle von Daten in ihre Ladschlang-Modelle reinhauen Und damit saugen Sie alle das Lärm, was das irgendwie gibt Und wir anspruchen auch sehr viel Kapazität von Menschen, die im Netzwand anbieten.

00:13:15: Aber auf jeden Fall sorgen sie an das, was es gibt irgendwie auf, um dann die Modelle zu füttern und viele haben dann den Ergebnissen der Modelle gesehen.

00:13:25: Das sind meine Inhalte, die eigentlich urheberrechtlich geschützt sind.

00:13:28: Es gibt große Fälle natürlich jetzt auf Gerichtsfälle vor allen Dingen in den USA weil man da tatsächlich über Geld streiten kann und bei dem Urheberverwetungsrecht in den US ein bisschen anders ist als bei uns.

00:13:38: aber das ist auch ein Riesenschreit in China gerade Natürlich.

00:13:42: Also nicht anders als bei uns, da wird hier nur so wenig berichtet.

00:13:45: Ich hab jetzt grad einen großen Fall gelesen und der dreht sich um Filme weil einer Darstellerin bemerkt hat dass die ganzen generativen chinesischen Modelle von ByteDance das die alle irgendwie ziemlich ähnlich ihrem Gesicht sind?

00:14:00: Die haben auch eine interessante Debatte dazu.

00:14:02: aber bei allem ist es ja also ob es softwares, filmen oder bilder sind.

00:14:07: und Texte die frage ich immer.

00:14:10: Früher war die Frage immer, wer besitzt diese Texte oder Bilder und wer darf sie verwerten.

00:14:16: Irgendwie hat sich dieses Debatte total gewandelt weil zum Teil der Take Process einfach einsammelt.

00:14:22: Ich finde das sehr lustig!

00:14:25: Weil mich das so lange begleitet und es war immer wie eine Art Mantra.

00:14:29: Geistige Deigentum und so... Und jetzt ist es so mal gucken.

00:14:34: Es wird spannend Ja, etwa der große Fall mit den New York Times.

00:14:38: Wie das ausgeht wird interessant.

00:14:41: Ich hatte letztens Rainer Mühlhoff hier Philosoph.

00:14:45: Hat auch ein KI-Buch geschrieben.

00:14:48: Da hatten wir so ein bisschen am Ende die Gemeinsamität entwickelt.

00:14:51: diese ganzen generativen KI-Modelle Bauen ja eigentlich auf dem gesammelten Wissen der Menschheit auf.

00:14:59: Es wird noch nicht alles reingepackt und so weiter.

00:15:01: Das ist ein Ausschnitt.

00:15:02: Aber sie bauen Jahrtausenden Wissen auf Büchern und alles Mögliche sofort.

00:15:09: Da war ich dann so, warum darum muss es vergesellschaftet werden dieses Software?

00:15:14: Und quasi unter kollektive Kontrolle, demokratische Kontrolle gebracht werden... Weil sie beuten ja quasi auch unser aller Wissen aus?

00:15:23: Ja, da gab's schon immer Bereiche des Wissens die nicht unbedingt diesem Kommerzdenken unterworfen waren also in Wissenschaft usw.. Insofern finde ich nicht, dass man es nur unter Kommerzaspekten betrachten muss.

00:15:36: Aber ich kann den Gedanken total gut nachvollziehen, wenn die alle Comments aufsaugen auch längst Werke, die urheberrechtlich gar nicht mehr geschützt sind oder so und auch wissen der Menschheit, das wird dann allen zugutekommen sein.

00:15:47: Den Gedanken kann ich total nachverziehen.

00:15:49: aber Rainer Müller fährt er eher auch... die Kritik, was sich da manifestiert auch eine scharke politische Wirkung hat.

00:15:59: Dass das in Richtung Physismus geht und der hat ja eine besondere Kritik an diesen KI-Brothers aus ihrer Denke ... Können

00:16:10: wir gleich noch mal drüber reden?

00:16:11: Ja, können

00:16:11: wir mal.

00:16:12: Bei Palantir ankommen.

00:16:13: Aber ich wollte erst mal so ein bisschen positiv starten.

00:16:16: Nee, jetzt war nicht positiv bei ... Auf

00:16:18: das nicht!

00:16:20: Ich glaube, generell in der technischen Community und unterhackern die so diesem Open Source Gedanken.

00:16:26: Und irgendwie Informationsfreiheit und Wissensfreiheit nachhängen ist die Kritik im letzten Jahr enorm viel größer geworden.

00:16:34: Auch so ein bisschen ... Die ganze Debatte, die unter dem Schlagwort AI-Slop steht, die überschwemmen mit Slop eben... Also ich kann verstehen dass die Kritik einfach vielschichtig ist.

00:16:52: Wir haben auch ein riesige wissenschaftliche Problem, wir haben einen riesigen Problem in der IT-Sicherheit mit lauter generierten Schwachstellenreports.

00:17:02: also da ist einfach so eine Fülle dazugekommen, die man glaube ich vor einem Jahr oder so noch nicht hatte vermuten können.

00:17:08: Ich hätte erst überlegt vielleicht mal einer KI alle Texte von Konstanz Kurz zu geben dann dazu sagen lerne wie konstanzurz argumentiert schreibt Und so weiter und so fort.

00:17:21: Den Stil kriegen die gut hin, da hab ich auch schon mal getestet.

00:17:24: Da kann man aber auch an Menschen testen, wie man gleich wieder erkennt in ihrem Stil.

00:17:29: Ja klar!

00:17:31: Also das alte Schlagwort vom stochastischen Papagei ist true.

00:17:36: also aus einer technischen Perspektive ist es sehr wahr versucht im Wesentlichen was zu simulieren und kann doch ziemlich gut.

00:17:48: Also so Stile nachmachen, finde ich kann nicht toll.

00:17:52: Wenn man darauf steht...

00:17:54: Oder gerade Open Source angesprochen hat?

00:17:55: Kannst du mal uns erklären, wenn ich es richtig verstanden habe die chinesischen generativen KI-Modelle basieren auf Open Source und die amerikanischen usw.

00:18:07: Nichts?

00:18:07: Was ist der Unterschied?

00:18:08: Ist das wichtig?

00:18:10: Na also so Porsche stimmt's ja auch nicht denn gibt natürlich auch von den großen Modellen ein paar Freie in den USA.

00:18:17: hat ja ein bisschen anderen Kurs eingeschlagen, als zum Beispiel Open AI oder Anthropic und so.

00:18:21: Also da sind ja ein paar Unterschiede.

00:18:23: Es gibt freie Large Language Modelle die auch wissenschaftlich benutzt werden.

00:18:28: Glaubene Teure oder was viele nicht im Blick haben ist es einfach teuer ist sie zu trainieren und zu betreiben.

00:18:35: Die Open Source?

00:18:37: Nee generell richtig große Large Language models.

00:18:40: Die sind halt echt teuer.

00:18:41: War man in den Rechenzentren?

00:18:42: Ja genau.

00:18:44: Ob

00:18:44: das natürlich einen Kritikpunkt den wir jetzt noch nicht angesprochen haben wird mich Wollen wir gleich zuhören?

00:18:48: Ich mich nervt, dass es immer irgendwo hinten dran kommt.

00:18:51: Dass das Nachhaltigkeitsproblem ist.

00:18:53: Damit sollten wir anfangen!

00:18:55: Nee, also ich nervte nur... Das sind immer so eine Fußnote.

00:18:59: Die sind auch echt energieintensiv und damit wird die Dimension des Problems verniedlichtet.

00:19:06: Da bist du gerade gesagt, erinnert mich an jetzt dreizehn Jahre junger Einwärter von unserer Zeit angesprochen.

00:19:11: Das habe ich über unser ökonomisches System gelernt.

00:19:16: nach Energie wird einfach ausgeklammert.

00:19:17: Und so Mainstream-Ökonomen, jetzt nicht den Pluralen und so weiter bei dem Mainstream Öko die beschäftigt das Thema Energie nicht.

00:19:25: Und darum können sie auch mit den Klimaschutz usw.

00:19:26: nix anfangen.

00:19:27: Weil sie ganze Exzellilisierung ist für die...

00:19:29: Aber hat sich das nicht verändert?

00:19:30: Es verändert sich aber der Mainstream, die denkt leider nicht dran.

00:19:34: Für die ist quasi Energieeinspeisungen in ihren Wirtschaftsmodellen diese Mathematisierungsferenz nicht enthalten.

00:19:41: Darum wundert mich gar nicht!

00:19:43: Nämlich auch

00:19:44: nicht.

00:19:44: Nichts daran ist ja mehr verwundernichtbar, es gibt wirklich viele Leute die über die Probleme der ganzen Techbrowser-Generativen können schreiben.

00:19:52: also da ist ja auch noch das Geschäftsmodell was sie nicht haben?

00:19:57: Also da ist eine Menge... Da ist die Verflechtung dieser ganzen Konzerne die sich irgendwie alle gegenseitig Anteile halten.

00:20:03: Da kann man ganze Bücher drüberschreiben.

00:20:07: ich hatte tatsächlich mal vor Dein

00:20:11: Letztes Buch schon lange

00:20:11: her?

00:20:12: Ja, das stimmt.

00:20:13: Das war vor der Pandemie, direkt vor der Pandemie!

00:20:15: Das war über Arbeit noch ne?

00:20:17: Nee, das war noch davor.

00:20:18: Der letzte war zur IT-Sicherheit und die Cyber War.

00:20:21: Aber dein Arbeitsbuch hatte das damals schon, konnte ich schon bedenken dass KI unsere Arbeitsplätze ersetzt?

00:20:27: Nein es hat dann auch einen anderen KI Begriff.

00:20:29: also das ist ja so über.

00:20:29: Lagarde gibt ja auch Projekte der künstlichen Intelligenz also aus informationstechnischer Sicht die voll sinnvoll und toll sind.

00:20:37: Es gibt auch jetzt spannende Entwicklungen in der KI, aber alle haben ja den Begriff jetzt irgendwie so umdefiniert in generative KI.

00:20:44: Und alle sind wie Chatbot und da kommt ja woanders her.

00:20:48: KI ist irgendwie über siebzig Jahre alt also hat ja eine richtig lange Geschichte.

00:20:53: Ist übrigens auch schon immer ein Marketingbegriff gewesen die sich mal Ja!

00:20:58: In den Sechzigen künsten die ganz aussiedelsteren Freuten Drittmittel einwerben.

00:21:02: als Akademiker Das war schon immer so ein Konzept, wo man mit ... Na ja.

00:21:08: Wir haben als Informatiker früher immer ein bisschen gelacht darüber, dass die ... Ja, die Informatik, die sich mit künstlichem Intelligenz beschäftigt hat.

00:21:15: und wir sagten übernächstes Jahr ist das aber soweit.

00:21:17: dann haben wir den Durchbruch.

00:21:18: Es war immer so'n Lacher!

00:21:20: Und die waren übrigens auch schon immer sehr militärner.

00:21:22: Es waren schon immer auch ne Kritik daran, dass sie Gelder von allen genommen haben.

00:21:28: Aber... Zu meiner Studienzeit war das halt super klein.

00:21:32: Das war so ein winziger Lehrstudent, haben sie abgewickelt an der Humboldt Uni.

00:21:36: Aha!

00:21:37: Es gab einen Lehrstuhl dafür?

00:21:38: Ja für künstliche Intelligenz.

00:21:39: Sie haben neue netze gemacht und die hatten auch Roboterhunde und so.

00:21:44: Damals schon?

00:21:46: Ja damals gab es diese WM, ich glaube die gibt's immer noch von den Fußballhunden.

00:21:52: Und da waren die glaub ich auch immer dabei.

00:21:55: Die liefen über uns auf dem Flur.

00:21:57: Diese Hunde, die waren ... heutigen Verhältnissen noch nicht sehr fähig.

00:22:01: Aber sie konnten halt ihren Raum wahrnehmen und einen Ball schieben, glaub ich.

00:22:05: Oft hatten die aber auch mechanische Mängel.

00:22:09: Kannst du mal für Lein erklären, worin der Durchbruch von ein paar Jahren kam?

00:22:16: Die Wahrheit aus meiner Sicht ist eigentlich, dass es zum allergrößten Teil nach wie Formmarketing ist.

00:22:24: Ein technologischer Durchbruchs tatsächlich sehr schwer zu begründen.

00:22:28: Na klar sind large language Modelle, die eine bestimmte Größe überschreiten.

00:22:34: Die haben andere Fähigkeiten als kleiner.

00:22:36: aber aus meiner Sicht ist der Großteil von dem was jetzt behauptet wird Marketing.

00:22:41: Das haben wir in der IT-Sicherheit jetzt auch ganz stark mit diesem deutschen.

00:22:45: jetzt mal einen Mythos was angeblich neue Fähigkeiten hat.

00:22:49: es bleibt ein stochastischer Papagei.

00:22:56: Es kann

00:22:58: nur,

00:22:59: also er kann nur aufgrund von Wahrscheinlichkeiten wiedergeben was eingeschmeißt wurde und ist ganz gelaber darüber dass dann reasoning schon ja nicht im menschlichen Sinne drinnen wird.

00:23:09: es natürlich quatsch.

00:23:11: das heißt nicht dass generative KI nicht auch Fähigkeiten hätte die echt praktisch sind.

00:23:15: ich hab vorhin ja auf welche genannt die beinrucken sind.

00:23:19: Ich hab's jetzt gerade wieder gesehen auf mehreren Konferenzen.

00:23:22: Das wird ja auch praktisch eingesetzt, da ist jemand und du kannst zum Beispiel eine fast latenzfreie Übersetzung laufen lassen für jemanden der die Sprache nicht spricht.

00:23:32: War das gestern bei Republikan so?

00:23:33: Da habe ich nämlich gesehen, nebenher läuft

00:23:35: ein... Nein, glaubt, die hatten es nur schriftlich.

00:23:37: also die hatten glaube ich niemand abgelesen.

00:23:39: Ich hab sie von anderen Konferenz auch mal gesehen auf Kopfhörer.

00:23:42: Und das mag einen nicht stören wenn man Fehler hat.

00:23:45: Das Problem ist prinzipiell Fehler anfällig Und die früher Halluzination genannten Fehlausgaben, also fehlerhafter Ausgaben sind natürlich nicht ausmerzbar technisch.

00:23:59: Die werden bleiben.

00:24:00: Die Frage ist nur wie man sie reduzieren kann.

00:24:02: und dann kommt da übrigens noch so ein Bereich den wir jetzt auch wieder als Fuß unteransprechen werden.

00:24:07: Also ich meine, da sitzen in einer Sub-Sahara... Paar Tausende Leute, die für uns davor sortieren.

00:24:15: Also da ist ja auch noch der ganze... Die Frage des digitalen Colonialismus dran, die sortierendet halt für uns vor damit wir nicht schlimmit kriegen.

00:24:23: und so das hier.

00:24:23: alles manuelle Arbeit.

00:24:26: Erklär mal kurz.

00:24:27: Ich sprach lustigerweise gerade wieder mit einer der Aktivisten aus Sub-Sahara, die war grade in Berlin aber die war auch schon mehrfach hier, die sich dagegen wehren dass sie für billig Arbeit, diese manuelle Aussortieren machen für die großen US-Konzerne und sie sich versuchen zu organisieren.

00:24:49: Kindergewalt

00:24:50: ziehen auf Instagram?

00:24:52: Ich saß ... Die heißt Joan Kenuja.

00:24:55: Das spricht man's aus Kenia.

00:24:59: Wir saßen in Kreuzberg an der Straße am Fenster.

00:25:04: Sie guckte raus und dachte zu mir, das kommt bekannt vor hier.

00:25:09: Was meinst du?

00:25:11: Die Busse, ich habe ja schon immer Bilder sortiert für die US-Konzerne.

00:25:16: Die erkennen Straßenzüge wieder oder wie bei uns die Busse aussehen und wie der Mensch aussieht was sie so anhaben.

00:25:25: Das war ein merkwürdiger Moment wo die noch nie vorher zu diesem Termin in Deutschland waren.

00:25:30: Die machen halt sozusagen diese Arbeit für super billige Geld Arbeitsbedingungen, zu denen hier niemand arbeiten würde.

00:25:37: Mit Inhalten, die teilweise traumatisieren sind und die dann aussortieren müssen.

00:25:41: Darüber redet hier niemand.

00:25:43: Damit wir sozusagen wenn wir die auf unseren Telefonen benutzen nur Ergebnisse bekommen, die ihr säubert sind.

00:25:51: Die ist manuelle Arbeit.

00:25:53: Da spricht nie einer drüber, denkt immer alle, das ist automatisiert.

00:25:55: Warum

00:25:55: reden wir nicht darüber?

00:25:57: Naja, die haben natürlich ... Es gibt eine Kommunion, die darüber redet und die ist auch größer geworden.

00:26:02: Ja, warum?

00:26:03: Ist das kein Geld für dieses Thema!

00:26:05: dass wir da quasi Menschen ausbehalten.

00:26:07: Ja, das war schon vorher nicht Thema... Also es ist ja nicht mit KI dazugekommen, sondern die großen Konzerne haben auch schon davor gemacht um Inhalte zu filtern.

00:26:18: Ich glaube, das hat keine Lobby hier.

00:26:24: Naja ich war einmal in Südafrika vor der Pandemie.

00:26:28: also es ist schon so, weiß ich nicht, zehn Jahre oder so her?

00:26:31: Da gab es tatsächlich mal ein Thema, da gab er eine Zeit lang Medienbreche.

00:26:34: darüber kamen wir zurück und dann haben die ersten Aktivisten auch dabei berichtet.

00:26:38: Aber es ist so ein Nischen-Thema geblieben, also aus meiner Sicht.

00:26:47: Ja, appelliert euch immer so ein bisschen an das Gewissen nicht wahr?

00:26:52: Und da hören ja Leute auch nicht so gerne.

00:26:57: Heute gerade meintest du, KI ist viel Marketing.

00:27:02: Ist denn auch diese ... Gibt doch sie Doomsayers

00:27:07: Die allgemeine KI, die bald kommt.

00:27:09: Genau!

00:27:09: Wir müssen uns jetzt in ein oder zwei Jahren das alles vorbei und dann ist der Punkt überschritten und die Menschheit hat verloren und wir haben nichts mehr unter Kontrolle... Ist das auch quasi das Gegenteil von dem Marketing-Hype?

00:27:23: Man muss sich immer ein bisschen angucken wer sagt so was?

00:27:26: und wenn du siehst welche Menschen sich dazu geäußert haben man sind eben auch auf welche ihr Saläer vor den großen Konzern beziehen.

00:27:36: Es gab ja diesen einen Nobelpreist-Triege, der war doch irgendwie...

00:27:39: Es gibt auch respektable Menschen die so weit sagen ich hatte es für technisch Quatsch weil zumindest nach der wenn du jetzt guckst wo wird derzeit viel Geld und viel aus Forschungsinteresse reingesteckt?

00:27:55: Und wer soll's auch finanzieren?

00:27:56: also wir sind jetzt bei großen Large Language Models.

00:28:01: sie bauen überall große Rechenzentren hin, die nur für diese KI Berechnungen sind und sonst nicht weiter verwendet werden können.

00:28:09: Ich weiß nicht wo das herkommen soll.

00:28:11: Meine Angst davor ist null in meiner Lebenszeit.

00:28:14: Null?

00:28:17: Wir werden nicht.

00:28:18: nein!

00:28:20: Die

00:28:20: Maschinen werden uns nicht

00:28:22: beherrschen.

00:28:22: Sie tun es natürlich teilweise schon weil wir auch zulassen.

00:28:25: Natürlich sind wir manipuliert von Maschinnen weil wir dazu lassen aber nicht in dem Sinne.

00:28:30: Von da kommt eine AGI, die uns beherrschen wird.

00:28:35: No!

00:28:37: Also hallo.

00:28:38: und außerdem wir können den Stecker ziehen.

00:28:39: ich finde das ein Filmschmand.

00:28:42: Gucken mir gerne so einen Film an.

00:28:43: Oh doomsday.

00:28:44: Das ist aber nach Realität nicht wirklich die Gefahr vor der wir stehen.

00:28:49: Und im Übrigen... Wir haben eigentlich andere Probleme als Menschheit, die wir mal lösen müssen.

00:28:55: So als Zivilisation.

00:28:56: Da ist mir dieser ganze AGI Quatsch Verzeihung, da haben wir echt andere Sorgen.

00:29:03: Einmal mal ein Beispiel.

00:29:04: Weißt du noch, ob Du Mythos von Robert mitbekommen hast?

00:29:08: Nein,

00:29:08: weil ich vorhin eingedeutscht habe in Mythos.

00:29:10: Ach

00:29:10: so!

00:29:11: Das meintest Du.

00:29:14: Mein Stand ist... Die haben das noch nicht veröffentlicht, weil es anscheinend so gefährlich ist wenn das quasi in die Hände von alle kommt, weil das besser als jeder Mensch die Schwachstellen in IT-Systemen und Computern finden kann.

00:29:31: No, first!

00:29:36: Das ist auch wieder eine fette Marketingaktion.

00:29:38: übrigens schon die zweite, das haben sie schon mal behauptet, da haben die Leute nur schon wieder vergessen weil es zwei Jahre her ist.

00:29:43: Der Punkt ist... Zeig mal also ne?

00:29:47: Wenn du was technisch vorweisen kannst, musst du das auch zeigen.

00:29:50: Das wird jetzt in amerikanischen Sicherheitsschlangenöder verwendet

00:29:53: werden?

00:29:53: Ja, hoffentlich geben sie ganz viel Geld dafür aus.

00:29:55: der Punkt ist... Du siehst sehr wohl dass es eine Fülle von neuen Berichten über IT-Schwachstellen gibt.

00:30:03: Alle Open Source Projekte können darüber berichten oder alle von diesem Plattformen die Geld für Schwachstellen anbieten.

00:30:10: also da gibts ne ganze Menge.

00:30:11: jeder kann darüber berichen.

00:30:13: aber die Frage ist von welcher Güte?

00:30:14: das ist Tatsächlich so, dass die typischen Fähigkeiten, die jemanden der sich das mit der Hand ansehen würde oder mit Hilfe von automatisierten Tools sieht und natürlich auch früher gab.

00:30:28: Das ist ja nun nicht bei weitem das erste Mal, was mit automatisierter Unterstützung gesucht wird.

00:30:34: Oder ist es nur so, da sehr viel Software getestet wurde auf die lange keiner geschaut hat?

00:30:40: Es muss man sich mal fragen!

00:30:44: Ist da wirklich eine neue Qualität, die Sicherheitslücken findet, die ein Mensch nicht gefunden hätte?

00:30:50: Oder werden dort nur sehr viele Softwareprojekte reingekippt und dann fallen natürlich auch Schwachstellen raus.

00:30:55: D.h.,

00:30:55: ist die Softwarequalität eigentlich so schlecht oder sind diese Projekte so gut?

00:31:03: Ich habe keinen Anhaltspunkt dafür dass die Behauptungen über das Marketing hinausgehen.

00:31:08: Ich hatte dazu gar für mich allzu wahrscheinlich.

00:31:11: Ich habe aber sehr viele Anhaltspunkte dafür, dass die Berichte über Schwachstellen eher zunehmen.

00:31:16: Und das auch zum Beispiel in den klassischen Hackarbeitbewerben, so Capture the Flag also wo du versuchst in einer bestimmten Zeit Schwachstände zu finden.

00:31:25: So hab ich dieses Software auch verstanden, dass es quasi einfach nur so ein KI-Hackermaster Tool ist?

00:31:33: Also inner IT Sicherheit, inner Defense... Versuchen Schwachstellen abzuwehren, aber genauso in der Offense.

00:31:41: Also Leute die versuchen Angriffe auf das Thema zu fahren wird viel automatisiert und du siehst es auch bei den Kriminellen.

00:31:48: natürlich nutzen die generative KI in jeder Hinsicht.

00:31:52: Na klar bringt Geld ist billig kannst du machen.

00:31:56: Ich glaube das wird Qualitativheit total übertrieben wird.

00:32:00: Es kommt noch dazu.

00:32:02: also niemand ist geholfen wenn du eight hundred eighty neue vulnerability reports.

00:32:09: Sondern einer muss sich auch fixen.

00:32:11: Das heißt die Probleme, die in

00:32:14: der... Da gab es irgendwie vier Wochen.

00:32:16: also wenn quasi so ein weißer Ritter wie einen Hacker vom Computer Club irgendeine Schwachstelle bei den jungen naive Server oder so entdeckt Dann ist doch irgendwie die Regel vier Wochen, hat man Zeit oder so?

00:32:28: Nein.

00:32:30: Es

00:32:30: gibt so Prozesse wie typischerweise eine Responsible Disclosure ablaufen soll an einer verantwortlichen Mitteilung über eine Sicherheitslücke aber die Regeln sind nicht gerade von allen eingehalten.

00:32:44: also wir haben beim TCC dafür einen richtigen Prozess.

00:32:48: da kann man sich an uns wenden vor allem denn, wenn man Angst hat, dass man mit dem Strafrecht bedroht wird quasi.

00:32:54: Wenn man eine Sicherheitshilfe gemeldet und dann geben wir so ne Fristen aber das macht nicht jeder.

00:32:59: Und es gibt auch eine Anzahl von Leuten die überhaupt keine oder sehr, sehr kurze Zeitfristen einräumt und es gibt welche, die lassen sich das abkaufen also da ist sie ja kein... Das ist nicht immer gleich.

00:33:17: Es gibt noch den Bereich wo das quasi abgekauft wird.

00:33:20: Das machen Firmen, aber auch Mittler.

00:33:22: Aber das machen natürlich Leute, die für bösartige Zwecke Sicherheitsbücken ausnutzen.

00:33:27: Da ist einfach ein Riesenmarkt!

00:33:30: Und mein Eindruck war nach dem Mythos ihrer Pressemittrag...

00:33:34: Ungeile Name übrigens,

00:33:37: ne?

00:33:37: Wir haben vor allen Dingen mal viele wieder hingeschaut und insofern würde ich es fast positiv bewerten dass man jemanden wieder einen Blick auf diese Problematik wirft.

00:33:51: Ich bin ja leier, als ich gehört habe, die bringen mit was gar nicht raus.

00:33:56: Die sind so verantwortlich oder handeln so verantwürdig, dass sie das erstmal quasi an Experten geben.

00:34:04: Das ist aber auch Marketing?

00:34:06: Ja!

00:34:07: Soll ich noch mal sagen?

00:34:08: Ich hätte das für Marketing.

00:34:10: Und das ist auch nicht das erste Mal.

00:34:12: Das Interessante ist, ich seh' den mal auf wie Feind gerade in der Keihi und es gibt so eine ganze Horde von Berichterstellen die nur macht CEO of Big Tech Brothers sagt.

00:34:22: So wartet hier auch...

00:34:24: Ist denn diese Pentagon-Sache von Anthropic auch ne Marketingsache gewesen?

00:34:29: Weil das Pentagon wollte ja wenn ich's auch wieder richtig verstanden hab diese Software von OpenAI, Anthropic und Co quasi für das US Militär ohne Einschränkungen nutzen.

00:34:42: Und Anthropic hat gesagt, unterschreiben wir nicht anders als auch mehr im Google und so?

00:34:47: Ja das ist natürlich ein bisschen anderer Debatte.

00:34:49: also das eine ist die großen Techkonzerne sind natürlich irgendwie alle samt kunden große Vertragspartner der US Army der Geheimdienst schon lange.

00:35:02: ich fand interessant dass der Anthropic Fall dann so ein bisschen hoch gepusht wurde weil letztlich ja die ganzen Schon in den letzten zwei Jahren sind die alle Vertragspartner geworden.

00:35:15: Mir scheint, dass die alte Debatte darum wie man Software militärisch nutzen kann... zu selten geführt wird.

00:35:24: insofern weit ganz froh über die Öffentlichkeit dafür.

00:35:29: Aber am Ende haben sie ja gar nichts Exklusives, Sie haben ja nix wo jetzt das US-Militär sagen würden wenn wir das nicht kriegen dann sind wir aber aufgeschmissen weil die letztlich KI Produkte schon lange in ihren tatsächlichen Kriegen verwenden.

00:35:43: Insofern weiß ich auch nicht ob bei den Kunden von Anthropic so eine positive PR war.

00:35:51: Ich bin mir ehrlich gesagt nicht sicher.

00:35:55: Äh, ich habe aber auch gesehen.

00:35:57: jetzt zurück zu Deutschland.

00:35:58: das BSI Bundesamt für Sicherheits- und Informationstechnik hat da auch irgendwie was rausgegeben zum Mütterhaus oder die Amerikaner einen Vorschlag gegeben.

00:36:08: Also exakt auf mich... Wenn

00:36:09: das Marketing ist!

00:36:11: Frau Kurz warum Sachen durch BSE?

00:36:13: Auf?

00:36:14: das Bundesamt Für Sicherheit in der Informationstechnik kann nicht so sehr viel über Mütters wissen als das, was sie rausgeben.

00:36:26: Da müssen Sie schon mal die Substanz zeigen!

00:36:29: Aus meiner Sicht ist es erst einmal nicht falsch, wenn alle wieder über IT-Schwachstellen reden und darüber reden auf welcher unsicheren Substanz unsere digitale Welt lebt.

00:36:43: Das BSI sagt KI-Modelle revolutionieren den Umgang mit Sicherheit, revolutionieren ... Den

00:36:48: Umgang?

00:36:52: Ist

00:36:53: das auch schon wieder Marketing zum BSI?

00:36:55: Ich kann letztlich diesem Hype nicht folgen.

00:36:58: Fakt ist, es gibt sehr viel mehr generierte Schwachstellenreports.

00:37:02: Also die Berichte, die an Leute die Software anbieten ... geliefert werden.

00:37:08: Viel mehr!

00:37:09: Das ist eine große Schwämme und die ist auch schon ein bisschen älter, ich würde mal sagen sie hat eigentlich schon im Herbst letzten Jahres begonnen sehr deutlich zu erkennen.

00:37:17: aber am Ende ist auch ein Projekt wie Mytros ein stochastischer Papagei das heißt er nimmt große Mengen Quellcode auf und kann daraus lernen.

00:37:28: Das ist ja nicht so anders als bei Textgenerierung.

00:37:31: insofern... Ich wäre zumindest skeptisch was die Versprechen von Mythos angeht.

00:37:40: Was nicht bedeutet, dass man kleinreden sollte?

00:37:43: Dass sich vielleicht eine Veränderung gerade ergeben hat in der IT-Sicherheit einfach weil du mit so vielen generierten ... one of a ability report zu umgehen musst.

00:37:54: Einer muss das auch fixen und einer muss es priorisieren.

00:37:58: Und natürlich ist davon auch wieder ein Anteil schwachsinn, das muss man auch sagen.

00:38:02: so wie bei der Textgenerierung kommt halt auch einen Anteil raus.

00:38:04: der Quatsch ist aber der Anteil sinkt.

00:38:06: Das ist wohl auch deutlich zu sehen.

00:38:09: Ich habe ja gesagt du bist seit über dreizehn Jahren mit uns zu Gast.

00:38:12: Du bist nicht dafür bekannt auf irgendwelche Hype und Züge aufzuspringen.

00:38:15: Aber hast du dich schon mal erinnerst du dich jetzt in deiner Karriere?

00:38:19: Hast du dich mal geirrt bei einem Hype?

00:38:21: Oh, nee.

00:38:22: Aber ich habe Hypes wahrgenommen, die als ... Ich würde nicht sagen, dass ich mich mal prinzipiell die Urte habe.

00:38:28: Aber es gab Hypes, die ich total verstehen konnte und die übrigens auch nicht den Leuten aufgezwungen wurden Und die in ihre Betriebssysteme integriert wurden Ob sie wollen oder nicht und die jetzt plötzlich überall sind ob man will oder nicht Sondern die einfach zu Recht unser digitales Leben verändert haben.

00:38:46: Das erste wird mir jetzt ein, viele werden kommerzielle Produkte, das ist natürlich iPhone unsere Gesellschaft verändert und dann natürlich nachfolgender Smartphones.

00:38:54: Die Art, wie wir umgehen mit den Information on your fingertips hat sich total gewandelt.

00:39:01: Aber viele von den eigentlichen digitalen Revolutionen sind ja gar nicht so sichtbar.

00:39:07: Wenn ich jetzt mal den Ausbau der Infrastruktur, das wäre irgendwie ... Gut ist es nicht in Deutschland aber dass viele Breitband haben oder die...

00:39:17: Glasfaser meinst du?

00:39:20: In anderen Regionen.

00:39:22: Vieles ist Infrastruktur, was man nicht unbedingt so in your face hat.

00:39:28: Wie ist der Stand jetzt beim Glasfaser?

00:39:31: Immerhin steht es wieder im Koalitionsverdacht wie Bauen aus.

00:39:34: Nee die Telekom baut oder sowas.

00:39:36: Ja das

00:39:38: ist natürlich auch ein Problem mehr aber die Telekommanns hat sich doch mehr... Können

00:39:40: wir nicht wie in Schweden machen wo der Status gemacht hat für in wenigen Jahren.

00:39:44: Neunundneinzig Prozent aller Leute haben Glasfase.

00:39:46: So geht das nicht!

00:39:47: Also wie soll ich sagen Du sprichst mich jetzt an, ob es so Sachen gab.

00:39:56: Ich mache gerne eine Technikfolgenabschätzung.

00:39:58: Ich interessiere mich für die Folgen von Technik auf die Gesellschaft.

00:40:01: Die KI-Folger wird die generative KI auf jeden Fall.

00:40:04: Das hat sie in der Wissenschaft und in den Medien oder das hat sie.

00:40:07: Aber es ist kein technologischer Druck aus meiner Sicht.

00:40:12: Es hat eher damit zu tun wie Leute diese Technik benutzen ... Und wie sie auch in den Markt reingedrückt wird, vor allem über Betriebssysteme und besonders natürlich Google.

00:40:24: Und weniger damit dass die technisch so revolutionär wäre.

00:40:29: also das macht es jetzt nicht unspannend darüber nachzudenken und gibt ja auch eine ganze Menge Bereiche wo der praktisch ist.

00:40:38: aber die verschiedene negative Effekte die wir jetzt ja schon teilweise an die Schnitten haben die gehen halt nicht weg.

00:40:46: Also, das eine ist... Ich meine, es fressen so viel Energie weg, dass wir damit ein Problem haben.

00:40:51: So richtig ein Problem und die Leute haben die Dimension des Problems, glaube ich, wenig begriffen.

00:40:57: Und das andere ist natürlich die Frage, was gibt diesen Take-Brothers für Macht?

00:41:05: Das haben wir auch schon in anderen Bereichen debattiert aber müssen wir halt und dann damit zusammenmengt natürlich irgendwie.

00:41:11: jetzt ist das auch noch irgendwie ... die USA unter Donald Trump und nicht mehr.

00:41:15: Die USA unter einem anderen Präsidenten, die jetzt auch nicht so viel besser waren aber Trump ist ja nur schon speziell.

00:41:21: Apropos speziell ich hatte letztens Evan Osnos es ein amerikanischer John Lewis für New Yorker.

00:41:26: der hat sich mit diesen ganzen Superreichen getroffen und unter anderem Mark Zuckerberg kennt er einige mir scheint das jetzt ohne da psychologisch bewandert zu sein aber das sind auf paar

00:41:41: Wirre Personen, meinst du?

00:41:42: Wirre-Personen an den Elon, Zuckerberg und so weiter.

00:41:48: Die arbeiten jetzt daran am Software ... Unsere Gesellschaft, wenn es negative ...

00:41:55: Wenn's zu Geld macht, Irre ist das ein These.

00:41:59: Ganz viel Geld macht Irre!

00:42:00: Aber die haben nicht eine soziale Art oder so was.

00:42:03: Das ist auch noch mal ein Problem bei dieser Software.

00:42:07: Über einige der Techmilliardäre ist eine Menge geschrieben worden.

00:42:12: Gibt da schon Filme drüber oder denkt man an Sack?

00:42:14: Also Max Zuckerberg, da haben natürlich auch sehr viele persönlich

00:42:18: ... Da kommt bei den zweiten Filmen zwar daraus, ne?

00:42:20: Ja,

00:42:21: aber auch Larry Ellenson sind ja so einige.

00:42:24: Oh, der ist gefährlicher!

00:42:26: Gates, ja.

00:42:27: Aber also Alex Karp von Panantir und Peter Thiel genau.

00:42:31: Das sind natürlich schon spezielle Charaktere.

00:42:34: Ich hab mir gerade kürzlich einen ... Also Peter Thiel, also das Papel und Pallantier.

00:42:41: Der hält ja so Antikrist vor Lesungen die so ein bisschen religionswissenschaftlich sind.

00:42:47: Oh mein Gott!

00:42:48: Ich hab neulich so'n transkribierte ... Jemand hat da was mitlaufen lassen.

00:42:52: Du denkst oft oh Mann, ja echt?

00:42:54: Okay...

00:42:55: Hat er recht?

00:42:56: Boah!

00:42:57: Ich meine nur bin ich keine Religionswissenschaftler.

00:42:59: Er sagt du der Antikrist ist schon da oder so unter uns,

00:43:02: ne?!

00:43:04: Die Hammer hat auch so'nen.

00:43:06: Also die Versuchung finde ich auch nicht unbedingt ihr Image zu verbessern, oder?

00:43:11: Der wurde doch bei so einem New York Times Podcast gefragt ob er daran interessiert ist dass sie Menschheit weiter lebt.

00:43:17: Und der antwort war nein, erschiebt es ja jetzt ohne mehr.

00:43:20: Nichts so wirklich!

00:43:22: Ja aber ist das denn wirklich diese krassige Ideologie von Singularität?

00:43:27: und ich gehe aus meinem Körper raus und dann können dadurch unendlich leben

00:43:32: usw.?

00:43:33: Naja,

00:43:34: das ist ja nochmal noch ein bisschen andere Ecke.

00:43:37: Aber prinzipiell den Sehendeben von diesen Überreichen... Das ist jetzt nicht so mein spezielles Gebiet.

00:43:44: Ich stelle nur fest, dass hier eine auffällig große Menge an verwirrten zu beobachten oder zumindest Teilzeit verwirrt.

00:43:53: Ich finde es ein bisschen beunruhigend, weil die haben sich letztlich die letzte verbliebene Supermacht angeeignet.

00:44:01: Das kann man ja nicht anders sagen!

00:44:03: Das ist ja interessant auch, was die Technikkonzerne da gerade raustragen von diesem reichen Land USA.

00:44:10: Wie sie aber auch ihre Technik überall sonst vor allen Dingen in Europa zum Einsatz bringen, das ist ja eine reale Gefahr wenn man denn möchte.

00:44:20: dass man noch irgendwie selber entscheiden kann und nicht manipuliert wird sehe ich schon als große Gefahr.

00:44:27: Nun bin ich ja so ein Berufsoptimist und meine Hoffnung ist irgendwann, wenn sie vielleicht auch den Trump wieder abwählen.

00:44:32: Und wir wollen hoffen, dass er nicht irgendeinen Kronpranz einsetzt sondern das wirklich eine Wahl ist und so.

00:44:37: Keine Ahnung!

00:44:39: Ich bin da so sehr optimistisch.

00:44:42: Was hättest du von diesem Europa?

00:44:45: Ich glaube es an Österreicher hat Openclaw... erfunden oder programmiert, dieses Software.

00:44:51: Also diese KI-Agenda?

00:44:53: Nee,

00:44:54: ist aber schon wieder vorbei der H.I.- Schon wieder vorbei?

00:44:56: Ja, das war jetzt irgendwie drei Wochen lang ... ja, das ist schon wieder vorgekommen.

00:45:00: Aber

00:45:00: Anfang des Jahres war es, ne?

00:45:01: Ja und irgendwie, aber irgendwann hat er auch was aufgekauft und wieder ganz viele Geld ausgegeben für...

00:45:05: Der Typ, der sich ausgedacht hat, ist jetzt bei OpenAI.

00:45:08: Ah, ja!

00:45:10: Was hättest du von sowas?

00:45:13: Ich habe noch viel schlimmer für ein Hype als der Hype um ... Cloth, Mythos.

00:45:19: Sondern am Ende ... Sie hatten kein Geschäftsmodell, sie hatten keine besonders tolle Technik aber sie hatten sehr viel Presseberichte.

00:45:31: Du hast jetzt noch keinen persönlichen Karrieren.

00:45:35: Nee du?

00:45:38: Wir probieren es gerade aus für Transkripte und Untertitel

00:45:42: Die

00:45:43: deutsche Englische Untertitel und so weiter, für diese Folgen zum Beispiel.

00:45:45: Das funktioniert echt gut!

00:45:47: Wie

00:45:47: hat das?

00:45:47: Und du kannst viel mehr

00:45:48: sprachen?!

00:45:50: Ja natürlich... Ich finde nicht, dass die Technik irgendwie prinzipiell abzulehnen ist.

00:45:56: Ich denke, dass viele ein bisschen mehr Gehirn darin stecken sollten wofür sie es anwenden und ob es für den Zweck, für den Sie es wollen eigentlich gerade sinnvoll ist.

00:46:04: wenn mir scheint das oft mal zu Musik getan oder wenn ich es jetzt nicht habe dann alle überholen mich technisch.

00:46:10: Wer haben

00:46:11: wir von angefangen mit Republikan?

00:46:13: Ja!

00:46:13: Für meinen Vortrag hab' ich ja... ich hab' die letzten dreizehn Jahre Arbeit-Bundespressekonferenz unterziehen lassen.

00:46:22: fast zweitausend Protokolle allein aus den Regierungspressekonferenzen.

00:46:26: Und da hilft so eine Software, aber nur weil die Bundespresse-Konferenz deren Webseiten und Archiv usw.

00:46:34: ist gefühlt für man zwanzig Jahre alt.

00:46:36: Da hat er mir geholfen?

00:46:38: Gar keine Frage!

00:46:39: Heißt aber auch nicht.

00:46:40: im Übrigen generative KI ist nicht die einzige Technik.

00:46:43: Also gäbe auch noch andere Automatisierungstechniken.

00:46:45: Aber auch Automatisierungstechnik werden heute alle als KI bezeichnet.

00:46:49: Das ist irgendwie Software,

00:46:51: wir sagen Software.

00:46:53: Also nee also tatsächlich weit vor dem Hype gibt es natürlich vorher schon Techniken wie man mit großen Textbeständen umgeht, wie man sich sortiert und Katalogisiert

00:47:03: usw.,

00:47:04: kategorisiert zu nicht aber ich will halt nicht die Meinung erwecken dass ich das technisch Unsinnig finde.

00:47:12: Ich finde nur in vielen Bereichen wo jetzt zum Einsatz kommt halte ich die Menschen die darüber entscheiden für zu nachlässig in Bezug auf die Fehleranfälligkeit und in Bezugs auf Nachhaltigkeit.

00:47:26: Ich hab natürlich auch mal alles gecheckt, aber vorwuchbar hilfreich gewesen hat mir sehr viel Zeit gespart.

00:47:33: Man sieht, ich bin kein Ja, ja ... Ich kann mich schon vorstellen wie die Kommentare lauten werden, egal.

00:47:43: Es war quasi nur eine Hilfe meiner Arbeit, das war kein Ersatz!

00:47:47: Und

00:47:47: hast du AIS-Lob Hate abbekommen?

00:47:50: Ich hab ja nichts davon in dem Vordergrund.

00:47:53: Ich habe es nur als Quellenarbeit.

00:47:57: Wo in den Protokollen finde ich das?

00:47:59: Und du kannst ihm auch schon sagen, such nicht nur nach getötete Zivilisten, sondern vielleicht umgersprachliche Totezivilisten ermordet und so weiter und so fort.

00:48:11: Andere KI-Nutzung gehen wir schon mal weiter ... In Kriegen gibt's da... Kannst du noch Übersicht geben?

00:48:19: Ukraine Krieg durch Russland, durch Ukraine.

00:48:22: Da werden ja auch viel Drohnen, Gaza, Iran... Was wissen wir da?

00:48:26: Also

00:48:26: mein Eindruck ist das die schon immer natürlich in ihrer Kriegsführung Technologie einbauenden Militärführer selbstverständlich auch diese Technik mit übernommen haben.

00:48:39: Das überrascht doch niemanden!

00:48:41: Die werden sich vor allen Dingen die Teile der Technologie zu eigen machen als sinnvoller achten.

00:48:49: Dadurch, dass sie ja durch ihre Verträge auf viel Geld raus waren, haben Sie in der Regel auch kein Problem damit Partner zu finden.

00:48:55: Das kannst du in allen aktuellen Kriegen sehen ist aber muss ich so sagen längst vor diesem ganzen Hype, der jetzt schon wieder drei Jahre anhält, wartet schon so!

00:49:07: Das war schon immer High-Tech, das Militär hat auch schon immer ein Teil der Informatik finanziert.

00:49:13: also Forschung und auch Anwendungen

00:49:16: Auch hierzulande?

00:49:18: Auch hier zu landen, Arbeit gehabt in Deutschland.

00:49:20: Jahrelang auch viele Zivilklauseln.

00:49:22: also dass in der akademischen Forschung an Universitäten und Hochschulen eben kein direkter militärischer Bezug sein soll.

00:49:29: aber es gibt auch einen gewissen Gegendruck gegen diese Zivil-Klausel.

00:49:33: mittlerweile war mal selbstverständlicher Aber wie du bemerkt haben wirst, hat sich der so ein bisschen gewandert.

00:49:39: Ich glaube das ist auch Teil der Folgen vom Ukraine-Krieg, dass jetzt ein bisschen aufgeweicht wird.

00:49:46: Wir hatten letztens die damalige amtierende TU-Präsidentin hier gerade in den Raum... Die ist ja

00:49:52: nicht mehr?

00:49:52: Genau, jetzt nicht mehr!

00:49:53: Aber massiver Druck

00:49:55: die Zivilklausel war.

00:49:58: Ich komme nur aus der Informatik.

00:50:00: Ich muss leider sagen, ich habe viele Informatiker kennengelernt, die das eher pragmatisch sehen und auch Teil ihrer Karriere durchaus auch mal geneigt waren bei Militärnern von Unternehmen zu arbeiten oder Praktika zu machen bei den Studenten und so.

00:50:12: Das habe ich leider häufig erlebt.

00:50:14: Die Proteste werden aus meiner Sicht geringer?

00:50:20: Ich würde schon sagen, ein gewisser Stimmungswandel ist da.

00:50:23: Aber wenn ich es jetzt rein technologisch sehe haben immer die Militärs versucht Technologie, die für sie sinnvoll ist zu integrieren auch gerade was die Automatisierung angeht und das deutlich älter dieser Trend als jetzt die generative KI.

00:50:39: Für Militär muss es vor allem auch verlässlich sein, dafür ist generativer KI gar nicht

00:50:43: so.

00:50:43: Aber war das verlässliche?

00:50:44: Verlässlich keine Unschuldigen zu töten

00:50:46: oder... Na in meinem Sinne von die sollte wenig Fehler auswerfen, ich weiß nicht, das ist keine moralische Kategorie.

00:50:53: Das ist oft immer der Ziel.

00:50:55: also man möchte einen Gegner vaporisieren oder was immer deine Waffe gerade tut und das soll ja möglichst denen treffen, da würde ich schon annehmen dass sie das wollen.

00:51:03: Es gibt ja ein Gehummernichteres vorgereicht und gern für Konventionen usw.. Dann könnte man ja meinen, okay das kann man dieser Software auch beibringen.

00:51:12: Wenn du ehrlich bist hatten wir diese Debatten in der Drohendebatte also die teuren Drohnen... Hat

00:51:17: ich mir gerade aufgeschrieben?

00:51:18: Wir hatten auch mal darüber geredet.

00:51:20: da hattest du mal thematisiert was bei US-Drohnen morgen, wenn das irgendwann automatisiert wird oder so weiter.

00:51:26: Wer dafür eigentlich verantwortlich ist?

00:51:27: Wenn eine Hochzeit zwar erfälschlicherweise... Aber

00:51:30: die hatten wir auch schon bevordet komplett automatisiert.

00:51:33: Da gab es solche Fälle auch schon, dass sie mal wieder eine Hochzeitsgesellschaft... Wir treffen haben wir's schon!

00:51:39: Ich hatte auch gehört als der Angriffskrieg auf den Iran Ende Februar angefangen hat und da war ich gleich am ersten Tag irgendwie, dass ne Medienschule bombardiert wurde.

00:51:48: Ich hörte, dass das KI-Fehler gewesen

00:51:51: ist.

00:51:53: Für mich ist der große Unterschied, dass sich die Konzerne ... Die Ausrüster sind damit jetzt Brüsten.

00:51:58: Sie sagen wir optimieren den Krieg und beschleunigen ihn.

00:52:02: Wir optimieren die Zielauswahl.

00:52:04: Das war früher eher so was man nicht ... Also so hat man das nicht gesagt?

00:52:09: Da klettern Blut am Konzern, dann ist heute nicht mehr so.

00:52:11: Palantir ist dafür ein krasses Beispiel einfach schlicht!

00:52:15: Wir haben da so gar keine Hemmungen, das ist so vollpatriotisch.

00:52:20: Bei den klassischen Rüstungsbetrieben also die eher die Hardware herstellen und teilweise heute auch die Software sind ja immer alle ein bisschen dezent.

00:52:27: aber jetzt aus meinem zumindest meinen Eindruck dass einige der US Konzerne da gar keine Hämmung mehr haben.

00:52:33: Also die Maganahen, also die Trump-Nahnen finde ich, die haben sich da jetzt auch sehr deutlich geäußert Zumindest überraschend, das kann die eigentlich von früher nicht so.

00:52:47: Es gibt einen Teil der Informatik, die schon immer sehr militärkritisch war und auch schon mal beleuchtet hat, seit Jahrzehnten beleuchtete wie da so die Geldflüsse sind und wer sich da eigentlich vom Wehen finanzieren lässt.

00:52:57: Das ist ja alles nicht so neu aber die summen sie natürlich auch anders.

00:53:02: Aber wissen wir ob auch unterschiedliche Technologie eingesetzt wird also quasi bei den Amerikanern.

00:53:08: Iran kriegt was anderes als in Israel diesen Gaza?

00:53:12: Oder die Russen in der Ukraine?

00:53:13: Wichtig

00:53:14: ist die Infrastruktur geworden.

00:53:15: Dann hat man, glaube ich, in der Ukrainerseiteutliche sehen also die Satelliten und der Zugang dazu.

00:53:20: aber es ja heute auch eine andere Materialschlacht hat tatsächlich auch im ukrainekrieg gezeigt und da wissen andere sicherlich viel mehr drüber.

00:53:26: Die fliegen

00:53:26: mit Glasfaser

00:53:28: Das?

00:53:30: Ja und das Material ist halt kleiner und wendiger geworden und auch klüger im Sinne von smart der Sinne von technisch klug.

00:53:37: Da hat sich eine Menge getan und man sieht dir jetzt auch, wenn du so ein bisschen diese NATO-Debatten verfolgst oder wie heißt noch dieser private Konferenz im Münchner ...

00:53:46: Münchnersicherheitskonferenz?

00:53:49: Die Rüstungskoferenz,

00:53:50: meinst

00:53:50: du?

00:53:50: Genau, also ich meine das wurde ja thematisiert, da hätte ja auch niemand hinter dem Berg, dass für die Militärs eine starke Veränderung ist.

00:54:00: Wir hatten... Ich weiß noch Wir hatten über Jahre lang die Diskussion und eine kleine Debatte in Deutschland, ob wir Kampfdrohnen brauchen.

00:54:09: Es gibt gar keine Debatte mehr und es ist klar, wir Kami-Karze drohen werden jetzt bestellt...

00:54:16: eine Menge Unternehmen, die sich jetzt an Neugrönen und die sehr viel billigere Waffensysteme als früher war anbieten.

00:54:25: Aber wir haben ja auch also Rhein-Meteil verdient sich ja auch dumm und lustig aus der Ort die großen Konzerne.

00:54:29: Das ist ein massiver Aufrüstung.

00:54:31: das hier auch nicht irgendwie geheim sondern wird ja auch absichtlich in einem positiven Sinne dargestellt, dass wir aufrüstendet.

00:54:40: Das ist ja eine große Veränderung auch gerade mit der Merzregierung.

00:54:45: Aber es fing bei Olaf Scholze schon an.

00:54:49: Er hatte nicht Zeitenwinne genannt und in der Zeitenwinne stickte auch die Aufrüstung drin aber auch ein bisschen ... Na ja dann kam noch die Wehrdienstdebatte das Jahr denn schon März.

00:55:01: Ich bin da nicht sehr zufrieden.

00:55:04: Dürfte man Mitglied im Chaos Computer Club sein?

00:55:08: Bundeswehrsoldat.

00:55:10: Die wollen ja auch die Hacker und IT-Spitze in meiner Bundeswehr haben, ist das kuppertibel?

00:55:16: Ich glaube es gibt bestimmt auch CCC Mitglieder, die bei der Bundeswehr sind.

00:55:19: aber ich glaube also ich würde schon sagen dass er eine eher kritische Haltung zum Militärtechnik gibt und generell Technik die tötet oder dazu konzipiert ist Menschen zu verletzen.

00:55:32: Wir wollen uns verteidigen.

00:55:33: Ja Du hast mich jetzt gefragt, ob das kompatibel ist.

00:55:36: Also ich würde sagen es wird wohl Bundeswehr-Soldaten geben die im CCC sind aber... Es ist schon eine eher kritische Haltung und gibt da aber auch einen... also FIFT zum Beispiel.

00:55:48: Gibt ja richtig Organisationen, die sich als Informatiker für Friedeneinsätze und gegen die Militarisierung.

00:55:56: Da ist der CCC glaube ich nicht sein primäret, würde ich sagen Themen Ziel, aber wir haben eigentlich in den letzten dreißig Jahren auch immer wieder Vorträge dazu gehabt.

00:56:10: Kritische Vortriege von seinen Großen und Uch auf den Kleinenveranstaltungen.

00:56:13: da ist schon eine Menge Skepsis.

00:56:15: also wir sind jetzt keine militärnder Organisation.

00:56:19: Ohno!

00:56:21: Wollte

00:56:22: ich nicht suggerieren.

00:56:24: Ich habe gestern auch zum Beispiel über internationale Konvention geredet.

00:56:27: Da ist mir eingefallen dass du mir mal erzählt hast eine Cybercrime-Konvention Soll kommen, soll es geben.

00:56:35: Wie ist da der Stand?

00:56:37: Der Stand ist leider ziemlich negativ.

00:56:39: Die ist beschlossen worden und die hat auch die Anzahl der Länder, die notwendig waren bekommen.

00:56:45: in den Vereinten Nationen ... Für Deutschland hat so ein bisschen die EU entschieden.

00:56:51: Es kam nicht stark auf die EU an weil auch genügend andere Länder zusammenkamen um sie zu beschließen.

00:56:57: aber die eigentliche Ratifikation also der formaler Akt steht noch aus.

00:57:02: Und das Problem an dieser Cybercrime-Convention ist im Wesentlichen, dass sie ein sehr großer unregulierter Überwachungsvertrag

00:57:11: ist.

00:57:13: Sehr viele Pflichten drinnen, dass Länder die diesem Vertrag beitreten, Daten ausgeben müssen eben auch an Ländern, die undemokratisch sind oder vorständige Diktaturen.

00:57:26: Das heißt es ist ein Problem, der Austausch von Daten da festgelegt für eine große Anzahl von Straftaten, die unter diesem Begriff Cybercrime fallen.

00:57:38: Aber eigentlich Straftat sind sie irgendwie mit dem Computer zusammenhängen und das ist natürlich problematisch weil es demokratisch ganz schwer zu prüfen ist wo dann die Daten hingehen.

00:57:47: da kommt der US-Bekische Geheimdienst okay vielleicht jetzt nicht gerade US-Beeks dran.

00:57:54: Ich bin jetzt nicht über Land aus Bickistan und ob es das ratifizieren muss dabei, aber du hast halt Pflichten vor allen Dingen diese Daten auszugeben oder so ein Problem.

00:58:03: Und es gibt dafür... Bist

00:58:04: du gegen die Konvention?

00:58:06: Ich bin absolut dagegen gewesen dieser Cybercrime-Konvention natürlich.

00:58:11: Ich bin ja so naiv und denke wenn die UN eine Konvention aufsetzt dann ist das ja meistens was Gutes.

00:58:17: Das

00:58:17: war übrigens ein russischer Vorschlag!

00:58:19: Die Russen haben ja... Und?

00:58:21: Aber darüber redet niemand gerne, dass sie die Russen mal initiiert haben.

00:58:24: Ja!

00:58:25: Das ist sehr ärgerlich.

00:58:26: Es war jetzt ein bisschen unangenehm, wenn man die Russinnen lief eine ganze Zeit und da tanden sich auch ein paar aktive NGOs internationale zusammengefunden, die immer wieder berichtet haben aus diesen Meetings, denn die Zivilgesellschaft war mit eingeladen, die durfte zumindest zuhören ab und an was sagen.

00:58:46: Und natürlich haben Staaten wie Russland davon potenziell ein Vorteil, weil sie Daten rausverlangen können.

00:58:54: Ja...

00:58:56: Aber gibt mal einen Beispiel?

00:58:57: Wie würde das aussehen wenn das jetzt quasi für alle gelten würde?

00:59:01: Wenn Deutschland und die Europäer dem das ratifizieren würden, wenn wir uns daran halten müssten?

00:59:05: Gibt man...?

00:59:06: Näh, ein Beispiel wäre klassischer Cybercrime-Forfer.

00:59:09: Du hast, sagen wir mal, einen IT-Angriff auf einem System, nehmen wir mal an in

00:59:15: eine

00:59:16: Und dann können die russischen Behörden Daten herausverlangen.

00:59:21: Die zum Beispiel in Deutschland, wo der Name Europäischen Land oder überhaupt im anderen Land sind um zu ermitteln gegen diesen Cybercrime Vorfall.

00:59:28: dafür soll dann regent geben.

00:59:30: Was ist

00:59:30: daran schlimm?

00:59:32: Also bist du

00:59:33: gegen Verbrechensaufklärung?

00:59:35: Das Rechtssystem in manchen Ländern.

00:59:37: also ich würde es mal so sagen Ein Beispiel dafür ist die europäische Cyberframe Convention, die heißt Budapest-Konvention.

00:59:47: Wo man sich unter demokratischen Ländern geeinigt hat dass man Daten austauschen will im Kampf gegen Kriminelle das aber auszuweiten auf internationale Länder wo eine ganze Menge dazugehören weil ich sage jetzt mal Saudi Arabien oder so die nicht Demokratie sind und den anderen Strafrechtsystem haben wird es natürlich schwierig Und man hat die Bedenken, die da auch selbst hier von rechtlicher Seite geäußert wurden in diesem Rahmen, hat man einfach nicht beachtet.

01:00:21: Normalerweise oder zumindest am Anfang hat man darauf vertraut dass sich die USA schon wären werden also das sie sich gegen diese Cybercrime Convention stellen würden wird es aber dann so nicht gewesen.

01:00:35: Das hat natürlich auch mal den Verhältnissen in den USA zu tun.

01:00:38: Es ist tatsächlich schwierig, wie sich die Demokratien ... Auch die in Europa ... Deutschland hat sich da so ein bisschen rausgehalten und sehr wenig dazu gesagt.

01:00:46: aber die alteingesessenen Demokratien, zu denen die US-Eier gehören?

01:00:52: Jedenfalls bisher.

01:00:57: Man kann den Prozess nachvollziehen das ist ja bei den Vereinten Nationen in der Regel gestreamt und so und auch ein ziemlich komplexes Verfahren, weil sich da halt echt viele Länder äußern.

01:01:08: Und die versuchen dann halt diese Dabkommen zu verhandeln aber im Ergebnis ist es ein riesengroßer Bemachungsvertrag.

01:01:15: Bist du denn mit der Buddha-Apesta-Konvention zufrieden?

01:01:18: Oder auch dagegen?

01:01:20: Nee ich glaube das wird eine sinnvolle Idee war dass Behörden zusammenarbeiten aus verschiedenen Ländern.

01:01:27: Oh danke schön!

01:01:29: Aus

01:01:29: verschiedenen Ländern?

01:01:30: Konzentrieren

01:01:31: Kaffee bekommen von uns.

01:01:34: Ich habe eine

01:01:34: Koffeinsucht, zu der ich aber stehe.

01:01:38: Ich finde das gut wenn Länder zusammenarbeiten um Kriminelle zu fangen und wenn die ähnliche Standards haben und zum Beispiel ein Richter darüber guckt also klassischer Richtervorbereit dann finde ich erstmal ne verkehrt daran.

01:01:49: Ich will mich ja nicht vor Kriminelle stellen Aber diese Standards gelten in der Regel nicht für alle Länder der Welt.

01:01:57: Da besteht natürlich ein Problem.

01:01:59: Und es landet am Ende auch wieder bei Providern zum Beispiel, die auf bestimmten Datensitzen Telekommunikationsdaten ... Ja und diese sind dann diejenigen, die von irgendeinem Geheimdienst in irgendeim Land die Anforderungen kriegen?

01:02:12: Bitte geht mal die Daten raus!

01:02:13: Na ja... Es ist halt aus einer gewissen Geringenschätzung für den Datenschutz dabei.

01:02:22: Das liegt aber auch daran dass diese UN-Konventionen in der Regel von Leuten ausgehandelt werden eher so aus den Staatsanwaltschaften kommen.

01:02:30: Die haben halt eine sehr starke Denke, die bei einer Kriminelle fangen und zur Grundrichtsüberlegung sind denen jetzt nicht so nah.

01:02:39: Dier aber schon?

01:02:40: Darum wollte ich mal bevor wir über Palantir reden das letzte Mal wo wir miteinander geredet haben.

01:02:44: Folge sixundachtzig war auf dem Karajas Computer Congress.

01:02:50: Da hatten wir über die EU-Shed-Kontrolle

01:02:52: gesprochen

01:02:54: Und du warst da... Das habe ich mitgenommen.

01:02:56: Du hast mir gesagt Das ist tot.

01:02:59: Oder das kommt nicht?

01:03:02: Jetzt, liebe Konstanze!

01:03:03: Ich bekomme immer noch mit alle an der Bundesprassenkonferenz.

01:03:06: Es ist immer noch Thema.

01:03:08: Hast du dich

01:03:09: geirrt?

01:03:09: Nein, also ja ... Die Wahrheit ist mehrere EU-Ratspräsidentschaften sind damit gescheitert.

01:03:17: Ist jetzt die fünfte und ein Kompromiss auszuhandeln.

01:03:21: Da geht es ja darum... ob man massenhaft in den Nachrichten, v.a.

01:03:26: Messenger-Nachrichten scannen darf?

01:03:27: WhatsApp-Telegramm-Signal.

01:03:30: Aber es gibt jetzt sozusagen zwei Formen davon.

01:03:32: Es gibt ja die Verpflichtende.

01:03:34: Darüber wurde sehr viel gestritten und darüber haben wir auch gesprochen, dass man eben die Ver Pflichtende einführt.

01:03:39: oder was gibt die Freiwillige?

01:03:40: Die wurde als Ausnahme auch durchgeführt in Europa von den großen US-Konzerten.

01:03:47: Die ist deswegen freiwillig weil man dafür eine ... Man braucht eine Ausnahme, denn in Europa sind die Grundrechte geschützt und wir haben eine eigene Verordnung.

01:03:56: Und da muss man eine Ausnahmung, damit sie eben freiwillig scannen können – das wird auch getan!

01:04:01: Und dieser freiwillige Chatkontrolle ist jetzt nochmal umstritten gewesen.

01:04:06: Das heißt es hat sich so zwei Stringe geteilt, die verpflichtende, die gefährlich ist weil sie dann ein EU-weitert Gesetz wäre und die Freiwillige, die die Teichkonzerne einfach machen, weil sie eine Ausnahmen bekommen haben.

01:04:19: Erklärst mal, was macht die Freiwillige?

01:04:22: Die Schädtkontrolle.

01:04:24: Die gucken also ... Wenn man jetzt WhatsApp benutzt, das gehört Meter und Meter ...

01:04:30: Na da geht's Ihnen vor allem um die Plattformen.

01:04:32: Also LinkedIn macht zum Beispiel auch, die versuchen Inhalte, die Strafbewerts sind zu sortieren oder zu finden.

01:04:39: Keine Kinderpornografie

01:04:40: z.B.?

01:04:40: Ja!

01:04:44: Der ursprüngliche Grund für die Idee der verpflichtenden Chatkontrolle war die Bekämpfung von Gewaltdarstellungen.

01:04:52: Und die Freiwillige würde jetzt noch mal bedeuten, weil es gibt ja noch keine EU-Weite wie wir gerade... Die Freiwilligen

01:04:57: ist eine Ausnahme!

01:04:58: Sie dürfen halt trotzdem scannen sie müssen nicht aber sie dürfen scannen.

01:05:04: Und da haben sie auch gemacht, das war insofern nicht... Also für mich war es in der Auswertung nicht ganz unsinnvoll.

01:05:09: Weil man daraus mal sehen konnte, weil die ja einige US-Konzerne gemacht haben.

01:05:14: Wie verfinden die da so?

01:05:15: Was machen die eigentlich?

01:05:17: Die haben darüber berichtet.

01:05:19: Aber wie gesagt, also das hat sich ein bisschen aufgehört.

01:05:23: vom Tisch ist die verpflichtende Schädtkontrolle auch nicht.

01:05:26: Das läuft jetzt wieder weiter und wird doch gerade wieder verhandelt.

01:05:29: Die Forderungen sind immer noch da.

01:05:30: aber Als wir darüber gerillt haben, welchen Jahr war das?

01:05:34: Oh, es geht gar nicht.

01:05:35: Ende des

01:05:36: Jahres.

01:05:37: Also ist jetzt sozusagen auch nach drei Jahren weiter immer noch kein EU-Gesetz.

01:05:43: Denn die Proteste und aber auch der politische Widerstand war schon groß.

01:05:48: Es gibt eine ganze Menge Länder in Europa, die gesagt haben, nee, wir wollen nicht dass alle Nachrichten gescannt werden.

01:05:55: Und das EU-Parlament wie ist deiner Stand?

01:05:58: Ja, aber der EU-Parlament ist ja sozusagen ... Der Prozess ist ja immer sehr komplex.

01:06:02: Die haben ja verschiedene, also Parlament und auch die Kommission.

01:06:05: Die müssen ja irgendwie Kompromisse finden?

01:06:08: Die Kommission pusht oder die EU-Regierung einpushen oder das EU-Parliament puscht diese Chatkontrolle?

01:06:15: Die EU-Kommission puscht war ja oft den Vorschlag der EU Kommission, aber sie konnten sich halt bisher nicht ... Einigen in Deutschland zählt nicht.

01:06:26: Die Kommissare konnten sie nicht einigen.

01:06:27: oder die Regierung?

01:06:28: Nee,

01:06:28: zwischen Parlament und natürlich sind auch noch Ausschüsse beteiligt also vor allen Dingen der Grundrechtsausschuss.

01:06:33: bisher gibt nach wie vor keinen Text auf den die sich einigen konnten und Deutschland ist kein Befürworter.

01:06:42: Das hört

01:06:42: sich beim BMI aber anders an.

01:06:45: Ich finde das auch sehr begrüßenswert von dir dass du immer wieder ansprichst es wird... Also sagen wir so, bei Themen die sich länger hinziehen lässt es mir den Interesse ja in der Region nach.

01:06:55: Ich bin immer sehr happy dass du danach fragst.

01:06:59: Kann

01:07:00: ich auch mal lustig antworten?

01:07:02: Ähm...ich wäre glaube ein bisschen weniger optimistisch als damals aber ich sehe immer noch keine Riesen.

01:07:09: also sehr große Chance das sie da durchdrücken.

01:07:12: Der Druck der Strafverfolgungsbehörden ist groß Aber ich seh' noch nicht dass Sie das schaffen.

01:07:17: Wie können eigentlich, was man gerade eingefallen Also diese Konzerne, diese freiwillige Schädtkontrolle überhaupt machen?

01:07:23: Wenn die meisten Schätzt auch mittlerweile als Ende zu Ende verschlüsselt gelten.

01:07:27: Nee, Ende der Verschlüsselung würdest du ja eine Form von Client skinning machen.

01:07:32: Du müsstest auf dem Gerät skinn.

01:07:35: Bisher machen sie Detail bei Plattformen wo Sie das technisch auch können.

01:07:40: Die nehmen sich quasi so ne Massenscanner und scannen auf Hash-Werte also um vor allen Dingen Bildmaterial zu finden.

01:07:47: Falls ihr Fragen habt an Konstanze, her damit.

01:07:51: Raja kommt am Ende.

01:07:52: Die werden wir noch kennenlernen.

01:07:54: Wir fördern den Nachwuchs.

01:07:56: Die wird dir die richtigen Frage stellen?

01:07:58: Muss ich schon

01:08:00: schwitzen oder

01:08:01: wie?

01:08:03: Thema Vorratsdatenspeicherung ... Oh!

01:08:06: Du bist zum ersten Mal da, weil wir eine neue Regierung haben.

01:08:09: Ist das wenigstens vom Tisch?

01:08:11: Nein, nix.

01:08:11: Ich hab

01:08:12: was mitbekommen in der Bundespräsentkonferenz.

01:08:14: Es ist nicht vom Tisch.

01:08:16: Ich bin jetzt dreizehn Jahre hier im politischen Berlin.

01:08:19: Jede Regierung, jede neue Regierung probiert es immer wieder mit Vorratsdatenspeichern.

01:08:24: Aber

01:08:24: das noch älter?

01:08:25: Er ist zwanzig Jahre alt.

01:08:26: Der ist unglaublich!

01:08:28: Ja ja also es gibt jetzt einen Entwurf.

01:08:30: was soll kommen?

01:08:31: und es ist die Vorratsstatenspeicherung von IP-Adressen mit paar Begleitdaten.

01:08:36: Aber haben das oberste deutsche Gericht und das oberscheuropäische Gericht nicht gesagt Anlasslose Sie definieren

01:08:47: sich jetzt ein bisschen hin.

01:08:47: Es gab zuletzt einen Urteil vom UGH, was sich mit dem französischen Adobe-Fall beschäftigt ist – urheber Verwertungsrecht übrigens!

01:08:58: Eigentlich sehr lustig, weil der im Prinzip faktisch tot ist seit generativer KI und die haben eine kleine Tür geöffnet.

01:09:06: Die haben gesagt ja, anlasslose Scan, massenhaft ist nicht okay, verstößt gegen die EU Grundrechterkarte Aber solange keiner Profilierung erfolgt, könne man bei den IP-Adressen eine Weile aufhalten.

01:09:22: Aber nur auf das Notwendige beschränkt und diese winzigen Türen wollen Sie jetzt natürlich eintreten?

01:09:28: Was ist notwendig?

01:09:30: Das absolut notwendige sind jedenfalls nicht viele Wochen.

01:09:35: also die Wahrscheinlichkeit dass auch der aktuelle Vorschlag mit den EU-Grundrechten nicht in Einklang zu bringen, ist es ziemlich hoch.

01:09:46: Bisher auch nur mein Stand ... Die Regierung hat das jetzt als Entwurf beschlossen, dass der Bundestag muss ja das als Gesetz

01:09:53: beschließen?

01:09:53: Ja und es gibt doch erst noch die Anhörung.

01:09:55: also jetzt sind die Stellungnahmen dazu abgegeben worden...

01:09:58: Ist da Hoffnung, dass es im Bundestag schon entscheidet?

01:10:02: Wißt du, wirst du das wohl schon eingeladen als Experte?

01:10:06: Nee ich glaube es gibt auch noch keinen.

01:10:08: soweit ich weiß, gibt es noch keinen Termin.

01:10:10: Aber laden die dich ein?

01:10:11: Nein,

01:10:12: würde ich nicht annehmen.

01:10:13: Ich habe damals mal eine Schriftik-Stellung für das Bundesverfassungsgericht geschrieben.

01:10:18: Für den TTT.

01:10:19: Das war glaube ich die zweite EWA.

01:10:24: Lange her, wer glaubt, das war in dem Jahr zwei Tausend Acht oder Neun.

01:10:27: Das ist wirklich lange her!

01:10:29: Da war aber auch Konzeptvorrat zu haben und Speichungen neu, da konnte man technisch noch sehr viel erklären... Jetzt haben sich sehr viele Verbände und Initiativen auch geäußert.

01:10:39: Auch vor allen Dingen die Recht, also Deutsche Anwaltsverein und so.

01:10:44: Also da gibt es jetzt schon eine sehr viel größere Menge an Leuten, die sich da engagieren.

01:10:49: Und man darf nicht vergessen, dass die jetzige Vorratzeichen-Speichung, die rechtswidrig ist, hat einen... Ja, die hat auch einen Wirtschaftsverband weggeklagt.

01:10:57: Weil wir natürlich noch eine Wirtschaft haben.

01:10:59: Die sagt also Entschuldigung für eure Überwachungsdrömer wollen wir jetzt aber nicht so viel Geld ausgeben.

01:11:03: Hab ich gesehen

01:11:04: Telekom und Vodafone haben auch gemäckert als das jetzt beschlossen wurde?

01:11:07: Also da wäre sich ja nicht nur die Menschen, die Grundrechte wertschätzen oder die Techies sondern da wären sicher auch viele Juristen und eben auch Wirtschaftsverbände.

01:11:18: Und auch jetzt gab es wieder sehr viele Stellungnahmen von... dem Providern und von Wirtschaftsverbänden, die auch sehr negativ sind.

01:11:25: Niemand wältet daraus Schlafverfolger?

01:11:30: Dann letztes Thema bevor Palantir kommt... Ich weiß noch, wir hatten mal eine Folge gemacht über Überwachungskameras an Bahnhöfen usw.

01:11:38: Und ich habe mir das aber damals diese Teststation wo war das Südkreuz?

01:11:43: angeguckt und so weiter.

01:11:44: Und dann hast du mir immer erklärt diese Bildtechnik und so.

01:11:48: Die können die meisten Gesichter gar nicht erkennen und so weiter.

01:11:52: Was ich jetzt gelesen habe, auch anhand von KI dass das ziemlich geil funktioniert und dass das... Ich hab' letztens ein Video auf Instagram gesehen, das fand ich ganz geil der mir erklärt hat solange man quasi dem Bereich meines Gesichts sieht also meine Augen und die oberen Nasenrücken ist egal was du sonst zeigst.

01:12:15: Das ist das Entscheidende!

01:12:16: Das musst Du verdecken.

01:12:18: Also tatsächlich hat sich bei biometischem Erkennungssystem eine ganze Menge getan.

01:12:23: Zumindest bei menschlichen weißen Gesichtern, das ist noch mal ein bisschen anders für andere Ethnien und so.

01:12:28: aber Tatsächlich sind die Erkenungsraten hoch.

01:12:31: der Südkreuz-Test war tatsächlich ein absoluter Failure.

01:12:36: Aber der Unterschied ist auch dass es das letzte Mal war, dass das Bundesinnenministerium einen echten Evaluationsbericht, der zwar nicht wissenschaftlich war, aber der veröffentlicht wurde rausgegeben hat.

01:12:45: jetzt lassen wir einfach sein Die Tests, die laufen.

01:12:48: Also etwa in Mannheim und Hamburg, die evaluieren sie selbst oder es gibt gar keine Berichte ... Das war doch

01:12:54: standard in Deutschland

01:12:55: eigentlich?

01:12:55: Es hat sich einfach verändert!

01:12:56: Das ist nicht mehr so dass Sie das wissenschaftlich begleiten lassen.

01:13:00: Der Test ist auch schwerer zu kritisieren.

01:13:03: Ja darum machen Sie's nicht.

01:13:06: Naja also... Wir sind ja nun nicht der einzige Land auf der Welt.

01:13:10: Du kannst dir auch woanders ansehen, wenn das wissenschaftlich untersucht wird und evaluiert wird.

01:13:15: aber ich würde das eigentlich für eine Selbstverständlichkeit halten dass es hier gemacht wird, dass es eine wissenschaftliche Beleitung gibt und diese KI Verhaltenserkennung die jetzt überall kommt weiß schon Wenn sie erkennen wollen also nicht ein biometrische.

01:13:27: Also nicht lass die Gesichtserkennung drüber laufen wollen.

01:13:29: Das ist ja auch Teil von.

01:13:30: also kommt jetzt auch im Bund also tatsächlich ja Plante zu tun als Gesetz Sondern dass sie versuchen, bestimmte Handlungen von Menschen zu bewerten.

01:13:42: Natürlich mit KI.

01:13:43: heute heißt jedenfalls so, es ist also Diorno-Software.

01:13:48: Die ist natürlich wirklich mumppelt und es gibt keine wissenschaftliche Belege dafür das die ordentlich arbeitet.

01:13:54: Also dass eine Software unterscheiden kann als wenn ich dir eine Wange streichle oder dir eine Backpfeife ergebe, dass sozusagen der Software den Unterschied erkennen würde.

01:14:04: Oh Mann!

01:14:05: Da wären wir auch noch mal lustige technologische Auswertungen machen müssen, denn die evaluieren das einfach nicht mehr.

01:14:13: Die behaupten einfach übernehmen die Behauptung der Hersteller, die natürlich immer sagen ja unsere Verhaltenzerkennung ist super und wir haben hier auch ein paar Schauspieler.

01:14:22: da machen wir so Szenen also zum Beispiel eine Schlägerei und dann speisen wir das ein und dann erkennt die Software-Schlägerei.

01:14:31: Oh Mann ey!

01:14:32: Da werden wir noch so Spaß mit haben.

01:14:37: Von Palantir zum Beispiel sind ganze Werbeklipps, also auch für die Staaten, die das dann kaufen sollen und Bundesländer usw.

01:14:45: Jetzt

01:14:45: sagt mir nicht, dass sich die jeweiligen Innenminister oder wer immer da sich das einkauft, sagt, oh der Sohn ist interessant, Palantire, was Sie da so anbietet?

01:14:54: Das ist ja schön!

01:14:56: Ja, Palanti hat schon glaube ich eine sehr anziehende Werbung für den behördlich-staatlichen Bereich.

01:15:00: Da haben sie mehr als ein Jahrzehnte Erfahrung.

01:15:05: Ja, da machen sie schon.

01:15:06: Also heute haben die Werbevideos, die sind A-Eislop, da verbraten die echt ganz viele Token und dann ist das sehr, sehr video spielartig so like First Person Shooter.

01:15:18: Ich find's völlig affig weil man natürlich sehr deutlich sieht dass es generiert ist.

01:15:21: aber also am Ende hat oft eine sehr militärische Anmutung selbst die jetzt zum Beispiel der Produkt was die deutschen Polizei gekauft haben wie Gossem.

01:15:34: Auch da wird sehr militärisch beworben.

01:15:40: Es kommt offenbar bei den Entscheidungsträgern an, die sind ja ein Vertragspartner von Palantir in Deutschland auch.

01:15:46: Also keine Ahnung, das scheint zu wirken.

01:15:49: auf mich wirkt es eher ein bisschen abstoßend, auch manchmal ein bisschen ... Das für mich wirk nicht realitätsnah.

01:15:57: wenn ich einen Softwareprodukt kaufen möchte, dann möchte ich trotzdem erst mal wissen ist es gut?

01:16:02: erfülltet, was das machen soll und nicht so eine komischen Werbefilme.

01:16:06: Die

01:16:06: haben aber auch anderthalb Stunden YouTube-Videos oder sowohl wo sie denn was erklären.

01:16:10: Die sind sehr einschleffend.

01:16:12: Wenn du mal wenn dich schlafen kannst, hol dir zehn Minuten.

01:16:15: Schläfst du sicher weg?

01:16:16: Jetzt hatten wir in der letzten Folge auch schon Gotham.

01:16:19: Da war gab es einen Vortrag auf dem Chaos Computer Congress.

01:16:24: Gotham ist die Software von Palantir, die in jetzt mein Stand NRW Bayern Hessen und Baden-Württemberg eingesetzt.

01:16:33: Gibt es noch mehr Bundesländer?

01:16:36: Es sind

01:16:37: keine Bundesländern, die noch außerdem Vertragspartner sind aber wir wissen natürlich über den Geheimdienstbereich.

01:16:43: also das ist geheim das wissen wir nicht.

01:16:46: Aber wir wissen, diese vier Bundesländer benutzen

01:16:50: Gotham.

01:16:50: Ja und wir wissen ein bisschen mehr.

01:16:52: Es gibt auch so europäische Recherchen über den Einsatz von Palantir-Behörden.

01:16:58: Wir können mit hoher Sicherheit sagen dass andere deutsche Behörden kein Palantiervertragspartner sind.

01:17:05: Hier ist Hans der informelle Alterspräsident hier aus Erfahrung geborender Hinweis es lohnt sich junge naiv zu unterstützen per Überweisung oder Paper guckt in die Beschreibung.

01:17:18: Das ist gleich ein ganz anderer Hörgündes, ehrlich.

01:17:21: Sind diese vier Bundesländer sicherer als die anderen?

01:17:26: Zwölf Bundesländern in Deutschland.

01:17:28: Nee!

01:17:29: Das ist für mich jetzt die entscheidende Frage.

01:17:31: Nein natürlich nicht.

01:17:32: Also zwei Sachen würde ich dazu anmerken und das ist ja jeweils immer Gefahrenabwehrrecht.

01:17:40: Und die meisten Leute, die mit den Juristen nicht so viel zu tun haben kennen den Unterschied nicht.

01:17:45: Die Leute denken an Ermittlungen und an Straftaten aber in Wahrheit eine Software weit im Vorfeld von Straftaten.

01:17:52: Man will da quasi Gefährder aus, finde ich machen genau.

01:17:57: Ich hab gestern mir noch zur Vorbereitung, weil mir langweilig war und ich wollte einfach mal rausgehen.

01:18:01: Ich habe mir hier Minority-Reporten auch mal angeguckt mit dem Krustermars.

01:18:04: Den gesamten Film?

01:18:05: Ja, von Spielberg.

01:18:06: Und so ein Paar ... Da ging es um Precrime und das irgendwelche ...

01:18:11: Die sind ja auch Paranormal.

01:18:12: die können ja Dinge, die Software nicht können.

01:18:15: Wenn du denkst, das sind Rechenzentren statt diesen Menschen in dem Bad.

01:18:20: Dann sitzt du der Wärmung auf?

01:18:22: Sorry!

01:18:23: Aber es ging ja quasi um Pre-Crime.

01:18:29: Die sind nicht predictive.

01:18:30: Das ist von Deutschland auch gar nicht erlaubt ... Das Gotham

01:18:33: Ding jetzt.

01:18:34: Gotham hat diese Elemente aber die sind in Deutschland nicht Teil des Vertrages.

01:18:39: Absichtlich nicht.

01:18:40: Die wollten das nicht.

01:18:43: Vielleicht wollen sie das nicht bezahlen, weiß ich nicht.

01:18:45: Es gibt hier keine Form von Vorhersage-Logik.

01:18:49: Die bietet Prandtier an aber für die Polizeidaten ist es nicht gekauft worden.

01:18:55: Was kann dann dieser?

01:18:57: Im Wesentlichen machen die zwei Sachen, die die Polizei sehr nutzbringend findet, die holen die ganzen heterogenen Daten zusammen, bereiten die auf und machen sie durchsuchbar.

01:19:07: Und im zweiten Schritt kann man Analysen durchführen.

01:19:11: Oh, alle mögliche.

01:19:12: Es sind Fallbearbeitungssysteme, Vorgangssysteme Kriminalakten, Austauschdatenbanken und die großen Terrordatenbanken.

01:19:21: Aber es sind auch Daten aus Aserwarten.

01:19:23: Die meisten Bundesländer erlauben auch so weit weh in den Import von ... externe Daten aus dem Internet und so weiter.

01:19:29: Es ist alles mögliche.

01:19:31: Polizeidaten sind extrem heterogenen, teilweise riesige Datensammlung, Verhandlungsdatenbanken natürlich eine große Fülle.

01:19:38: Ist

01:19:39: es jetzt schlimm wenn ich sage, wenn die Polizei diese Daten legalerweise hat?

01:19:45: Was kann man dagegen haben?

01:19:47: weil sie sollen ja von unserer Sicherheit sorgen dass die Daten, die Sie haben auch endlich nutzen können und auslesen

01:19:54: und normalisieren?

01:19:54: Mehrere Sachen also in Deutschland.

01:19:57: Es gibt einen Ehren-Ad-Prinzip, das leidet sich von einer informationellen Selbstbestimmung geabnet.

01:20:02: Das ist die Zweckbindung.

01:20:04: Wenn du Daten für den Zweck hast zum Beispiel bei der inneren Fahrradklaut und du gehst zur Polizei und sagst Entschuldigung, ich möchte hier eine Anzeige aufgeben dann hat er ein Zweck.

01:20:12: Man kann einfach sagen okay jetzt habe ich keine Telefonnummer in Adresse von Tilo Jung und jetzt können die woanders einfließen.

01:20:18: Dafür braucht man Regeln, wenn man den Zweck der Daten ändert.

01:20:21: Wenn jemand zum Beispiel zur Polizei geht und sagt, ich habe einen Streit mit meinem Nachbarn, ich will den Anzeigen, den dummen Fuzzi ... Dann heißt das nicht für beliebige andere Zwecke verwendet.

01:20:31: Die Zweckbindung ist sozusagen ein wichtiges Prinzip.

01:20:35: Und die wird natürlich hier durchbrochen.

01:20:38: Aber weil du die Frage jetzt so stellst wie du sie stellst muss man vielleicht unterscheiden.

01:20:44: Das sind Polizeidaten und die dürfen genutzt werden für den Zwecken Und niemand, jedenfalls niemand mit Gehirn, den ich kenne würde irgendwie unsinnvoll finden wenn die eine Form von digitaler Zugangsmaske oder so was hätten.

01:20:59: Darum geht es nicht.

01:21:01: Das Problem ist das Ausschlachten analysieren dieser Daten, die für einen ganz anderen Zweck entstanden sind und übrigens auch Daten die natürlich sehr sensibel sein können.

01:21:10: also etwa bei Auserwartung kommen wir da schnell in den Team- und Privatsphärebereich auch in den Kernbereich privater Lebensgeschätzung der absolut geschützt ist.

01:21:18: Wir haben Daten natürlich auch von Geheimdiensten dabei, denn Geheimnienste können ja selbst nicht tätig werden aktiv im polizeilichen Sinne und müssen also auch Sachen die sie erfahren gerade für die Gefahrenabwehr melden.

01:21:29: Also da sind es eine Menge drin Polizeiaustausch-Daten, also die von ganz woanders kommen.

01:21:35: Es ist schon ein große Fülle!

01:21:38: Und das ist jetzt auch nicht so neu, denn das war ja schon einmal ein Kartsruhe.

01:21:44: Es ist jetzt ein zweiter Mann Karlsruhe.

01:21:45: Ich habe gerade mit anderen zusammen eine technische Erstellungnahme geschrieben, die wir nach Karlsbrühe geschickt haben.

01:21:52: Der CCC ist manchmal Sachverständiger Dritter und wird dann einbezogen.

01:21:56: Worüber

01:21:56: urteilen Sie?

01:21:57: Das ist die hessische Sicherheits- und Ordnungsgesetze.

01:22:04: Obwohl sie ja schon mal verfassungswidrig waren, das ist die erste Urteil in ihren zwei reformierten Polizeigesetzen.

01:22:11: Diese Urteil auch einfach nicht bachtet und Sie haben noch ein Ding drauf gesetzt.

01:22:14: jetzt ist auch keine Training drin.

01:22:18: Also da ist Polizei echt Daten der Polizei dürfen zum Training benutzt werden oder.

01:22:24: aus meiner Sicht ist es übrigens nicht nur ein Datenschutzproblem.

01:22:26: also im Kern ist das ein Datenschutzproblem.

01:22:29: dann ist die Aufweichung der Zweckbindung.

01:22:32: Du kannst halt mit allem machen, was du willst.

01:22:34: Und das ist eine Blackbox.

01:22:35: Das ist ja ein intransparentes System, weil die Polizei nicht selber unter ihrer Hoheit hat, sondern letztlich im privaten Unternehmen.

01:22:43: Aber da fließt er

01:22:43: dann mit einer Dreck.

01:22:44: Also die Daten, die die Polizei sammelt ... Die gehen an Palantir?

01:22:51: Nee nee, in Palantirm macht dat Management.

01:22:54: also die bereiten die auf...

01:22:55: Ja aber eine private Firma...

01:22:57: Eher!

01:22:58: Da ist der Vertragspartner, der...

01:23:00: Hat da Zugang?

01:23:02: Ja,

01:23:03: und die haben auch... Oder einen Zweifelzugang?

01:23:05: Und sie wollen oder so weiter.

01:23:08: Also pass auf!

01:23:10: Patanthier, die hat im... Die haben so militärischen Doktors, die haben forward-deployed engineers.

01:23:17: Die sitzen denn... Ja kein Witz, die heißen wirklich so für Entwickler aber die heiße forward deployed software engineers.

01:23:25: Sie sitzen dann in den Amtsstuben etwa im Hessen beim IKR Machen die Maintenance, machen die Updates.

01:23:32: Die kommen immer so Dienstags und dann Donnerstag müssen sie nach Dubai oder keine Ahnung?

01:23:37: Also ja das ist aber Teil des Geschäftskonzepts.

01:23:39: Die haben auch bei nicht behördlichen unterstaatlichen Kunden diese Vorwurde-Deploys, Engineers.

01:23:48: Natürlich sind es ein Problem also aus mehreren... Wenn ihr zum Beispiel die Juristen fragt, das ist doch ein juristischer Problem denn Palantir unterliegt der US-Gesetzgebung und da gibt es zwei US Gesetze, die ein Problem sind.

01:24:02: Der Cloud Act aber auch der Foreign Intelligence Surveillance Act nachdem möglicherweise diese US Konzerne verpflichtet werden da rauszugeben.

01:24:12: Aber die eigentlichen Verträge in Deutschland sind mit einer Tochter von Palatir also einer deutschen Tochter.

01:24:19: Die haben für alle

01:24:20: viele Kritik.

01:24:21: haben sie auch eine Antwort?

01:24:22: Ich schreibe noch immer lange Blockbeiträge.

01:24:24: Da muss man block.palantier.com, da ist auch ein Deutschstück.

01:24:28: Die

01:24:28: schreiben ja sogar Manifeste jetzt auf Twitter.

01:24:30: Oh mein Gott!

01:24:31: Die Zweiundzwanzig Thesen?

01:24:32: From Hell?

01:24:34: Ey...

01:24:35: Was war

01:24:35: das?!

01:24:36: Also ah, why?

01:24:38: Warum?

01:24:39: Warum glaubt diese Tech-Unternehmen irgendwie diesen Manifest raushauchen zu bereichen wo sie nichts mit zu tun haben?

01:24:45: Warum glauben die, warum sich positionieren zu müssen?

01:24:49: Gibt ja auch nicht mal einen Grund dafür.

01:24:52: Ich frage mich manchmal, ob der zu komikartige so einen Willen ist.

01:24:57: Dann sieht er auch noch so aus?

01:24:58: Also ich hab keine Ahnung!

01:25:01: Alle haben sich gefragt wie kommen die jetzt zu diesen Zweiundzwanzig Tees und warum?

01:25:05: Die Presse war ja also bis auf den Margar-Lager natürlich auch eh.

01:25:09: Erklär mal kurz für die, die es nicht gelesen haben was stand da so drin.

01:25:13: Es sind halt letztlich politische Statements... aus den unterschiedlichsten Bereichen eigentlich.

01:25:20: in Deutschland wurde sehr viel darüber berichtet, dass man ja eben so ein Bezug zur Geschichte der Bundesrepublik im Nachgang des Krieges gesungen hat.

01:25:30: Aber die Thesen sind doch nicht irgendwie sortiert finde ich nach also das man jetzt bestimmte Bereiche oder eine Struktur erkennen würde?

01:25:38: Ich erinnere mich habe zu einer Bundespartnerkonferenz gefragt.

01:25:41: unter anderem waren sie ja dagegen, dass Japan und Deutschland nach dem zweiten Weltkrieg wieder...

01:25:49: Warum äußert sich dieser Konzern dazu?

01:25:51: Ich weiß es nicht.

01:25:52: Aber man muss natürlich im Kontext von einer Kommunikationsstrategie sehen, die sich deutlich zeigt im letzten Jahr.

01:25:59: Weniger Peter Thiel, der ja einem der Mitgründer ist, sondern eben der aktuelle Chef-CEO Alex Karp hat sich sehr fundiert in ein Buch geäußert und hat da rausgebracht mit dem Co-Autor zusammen aber vor allen Dingen auch in Interviews geäussert.

01:26:13: also er macht die Öffentlichkeitsarbeit gerade so in der zweiten Amtszeit total patriotisch.

01:26:23: Aber Deutschland-patriotisch, oder?

01:26:24: Sind ja beides Deutsche!

01:26:26: Oder?

01:26:26: Nee,

01:26:27: nee, gar fast kein Deutscher spricht aber fließend Deutsch weil er hier studiert hat im Frankfurter.

01:26:31: Hatte er sich nie auch als Deutscher?

01:26:32: Der spricht sehr gut Deutsch.

01:26:34: Die könnte ich hier auf Deutsch interviewen?

01:26:36: Ohja, der wohnt auch unter Schweiz.

01:26:38: Alex?

01:26:38: Ja

01:26:39: muss man einlernen.

01:26:40: Wenn er kommt...

01:26:42: Also würde ich machen

01:26:43: Ja, na ja.

01:26:44: Es ist ein Multimilliardär die Chancen sind.

01:26:47: Also er ist auch ein bisschen picky was Kritik angeht.

01:26:50: Gibt der diese Dokumentation?

01:26:51: Die Filmische von Klaus Stern.

01:26:54: Er hat seinen Freund von Springer denn er war ja auch mal Aufsichtsrat von Spriger.

01:27:00: Und gerade einen Interview geben und sich beschwert dass sie Deutschen irgendwie so undankbar sein.

01:27:05: Ja, ist aber eine ganz merkwürdige Kommunikationsstrategie.

01:27:08: Also weil Panantir teilweise auch Journalisten verfolgt und auch NGOs im Sinne von anweitlich

01:27:14: gibt.

01:27:14: Dann schweizt den Pfand.

01:27:15: Genau also die Magazin Die Republik.

01:27:18: Aber sie haben sich jetzt auch eingeschossen auf die Electronic Frontier Foundation in den USA.

01:27:22: Schreiben Sie wie sagt Langepamp-Flehte?

01:27:25: Aber Peter Thiel ist

01:27:27: Mitgründer.

01:27:27: Naja der ist deutscher Staatsbürger.

01:27:29: Der ist Deutscher ja, aber Alex Karp nicht, das ist ein Ami Der hat ja nur hier studiert.

01:27:34: Ich glaube, der hat einen guten Verständnis über Deutschland.

01:27:37: Also ich meine, der war lange hier und wenn man die Sprache spricht ist es glaube ich noch mal anders als ... Ja also die beiden wirken auf eine seltsame Weise bizarr in.

01:27:54: Man kann sich eine Menge Gespräche ansehen, sowohl mit Thiel aber in jüngerer Zeit eben auch mit Carp.

01:28:00: Die sind eigentlich gar nicht so würde, die Antwort hat nie auf Fragen, sondern sagt immer irgendwas.

01:28:04: Aber er hat vor allen Dingen diese Managementberichte, die der immer als Chef abgeben muss für sein ... also na?

01:28:10: Für die Shareholder und die sind teilweise wirklich ... Also jedenfalls nicht was von einem typischen Unternehmensführer erwarten würde.

01:28:20: Man, Thiel ist ja schon eine ganze Weile auch in der Öffentlichkeit bekannt.

01:28:24: Ich hab Carp ... Also da geht mir seit dieser Szene nicht mehr aus dem Kopf, aber ich hab irgendeine Doku gesehen auf der New York Times-Panel und so weiter wo er gesagt hat.

01:28:33: Er denkt nicht in Gewinne oder Verlieren, er denkt in Herrschaft.

01:28:39: Was meinen die damit?

01:28:40: Die geben sich keine Mühe diese Machtgelüste zu verschleiern also überhaupt nicht.

01:28:48: Die versuchen auch nicht irgendwie lieb kinden zu machen oder ihr mitstufe verbessert.

01:28:51: Ich kann mich daran erinnern, weißt du noch?

01:28:52: Wir hatten diese Debatte bei Google, dumm wie Evil als die sozusagen.

01:28:56: Das gibt mir alle den.

01:28:57: Ja das sagt ja quasi wie evil.

01:29:00: Sie sagen auch dass die US-Interessen vorgehen was natürlich ein Problem ist für die außer amerikanischen Kunden.

01:29:08: Also es ist eine seltsame Aussage.

01:29:10: aber sie haben auch diesen Shop.

01:29:11: hast du jemals in dem Shop?

01:29:12: Die haben so'n ja die haben einen Palantir wo haste noch kein Palantirs setzen.

01:29:17: Gibt es einen Schal?

01:29:20: Das ist so ein ... Hab bloß

01:29:23: keinen Mut.

01:29:24: Steht bloß nicht auf!

01:29:28: Ich will jetzt auch nicht ins Lächerliche ziehen, denn die Probleme, die sich mit Palantir verbinden... Da ist der Konzern eigentlich an zweiter Stelle zu nennen, weil man viele von den Problemen natürlich hätte, wenn da ein anderer kommerzieller Anbieter ist.

01:29:43: Aber letztlich können Betroffenen vier Polizei blockieren.

01:29:51: Die Fähigkeiten dieser Polizei in Bezug auf die Gefahrenabwehr in technologischer Hinsicht hängt an diesem Konzern und wenn sie keinen Bock mehr haben oder Trump in seinen Handelskrieg gegen Europa plötzlich so was mit einbezieht, dann sehen die deutschen Polizeien schlimm aus.

01:30:06: Und in den Einzelnen im Bundesland sagen die verantwortlichen Polizisten auch dass sie sich auf dieses Produkt verlassen dass sie keine Alternative sehen.

01:30:16: Sie benutzen es Polizei alltäglich, wir haben so weit wie fünfzehntausend Zugriffen im Jahr in Hessen alleine.

01:30:24: Also haben journalistische Recherchen gezeigt.

01:30:26: also die sind da von abhängig und das muss man natürlich unterbinden.

01:30:30: aber dazu gehört, dass man einen Teil dieser automatisierten Daten an diese gar nicht mehr zulassen sollte.

01:30:36: Das ist einfach dystopische

01:30:38: Grütze.

01:30:39: Wenn du das als fünfzehntausendmal benutzt jetzt neim Jahr

01:30:43: Das ist ungefähr fifty-fünfmal jeden Werktag.

01:30:47: Wofür?

01:30:50: Wir wissen relativ wenig darüber.

01:30:51: praktisch, weil die Landesdatenschutzbeauftragten gar nicht oder selten prüfen.

01:30:56: In manchen Bundesländern gar nicht und in manchen sehr selten.

01:30:59: Aber wir haben ein paar journalistische Recherche und da zeigt sich sicher, dass mit Terror und echten Gefahrenlagen halt wenig zu tun hat, sondern es wird dann halt schnell so als tägliche Polizeiarbeiter wurde, der dafür ursprünglich nicht gedacht war.

01:31:11: Dürfen Sie das ... Also so alltägliche Sachen,

01:31:15: dass

01:31:15: keine schweren Straftaten.

01:31:18: Sie dürfen es eigentlich zur Gefahrenabwehr benutzen und das Gericht in Karlsruhe hat natürlich die Grenzen auch ein bisschen höher gesetzt und hat sozusagen den Gefahrenbegriff noch mal eingeschränkt unter so ein bisschen welche Polizisten Wander auf Zugreifen können.

01:31:32: aber das heißt ja nicht immer nach einem Oter in Karlzruhe, dass er sofort angepasst wird.

01:31:38: In NRW haben wir z.B.

01:31:39: auch eine Ausweitung gesehen und in Hessen.

01:31:41: Die haben nach dem Urteil diese Gesetze ausgeweitet, und wir haben ganz neue Bundesländer, die jetzt angefangen haben oder schon beschlossen haben, so eine automatisierte Datenanalyse einzuführen.

01:31:51: Nach dem Urteil ist eigentlich eine richtige Relle losgegangen.

01:31:54: Das sind sehr viele Polizeigesetzer eingeflossen.

01:31:56: Es kommt jetzt demnächst im Thüringen ... Da ist es noch ein parlamentarischem Prozess.

01:32:01: Ist schon beschlossene Sachsen-Anhalt aus meiner Sicht verfassungswidriger Weise?

01:32:05: Die lesen nicht mal mehr das Urteil.

01:32:07: Das kommt in Sachsen, Berlin hat es bereits beschlossen.

01:32:09: Ja, also ... Kommt jemand drüber gesprochen?

01:32:15: Das liegt aber auch daran, dass die Polizeigesetze oft eine Melange an Vorschlägen haben.

01:32:21: Die haben dann Taser drin und Drohnenabwehr, häusliche Gewalt, Fußfesseln ja.

01:32:26: Und dann haben sie jetzt immer noch KI-Verhaltensscanner drin, biometrische Fernidentifikation, die haben ne Menge Sachen unter Feld oft Dieser echt schwerwiegende Grundrechtseingriff, der automatisierten Datenanalyse dann irgendwie unter Ferner liefen.

01:32:42: Und er ist auch nicht so... Er ist nicht so geriffig!

01:32:46: Die Leute, da ist ja auch eine heimliche Maßnahme sind sich ja nicht bewusst was das bedeutet.

01:32:52: Ja

01:32:54: und außerdem ist es ein Teilproblem von vielen, denn dann sagen wir noch Trojaner drin komplexe Entwürfe, aber in den Anhörungen waren die Sachverständigen oft sehr deutlich.

01:33:06: Dass die Menschen das Problem offenbar jetzt breitflächig nicht erkennen ist es einfach ein Kommunikationsproblem der Politik, dass wir als Journalisten zu wenig Aufklärung machen, dass der Computerclub so leise ist und die Leute sich dafür nicht interessieren.

01:33:25: Ist

01:33:25: glaube ich eine Mischung

01:33:26: aus allem?

01:33:29: Ich beobachte gerade in Sachsen-Anhalt, ist die Debatte jetzt ein bisschen anders.

01:33:32: Da ist es im September-Wahlen und das sieht nach den Umfragen so aus als wenn die AfD dort wirklich eine Machtoption haben könnte.

01:33:41: dann plötzlich ändert sich diese Debatte.

01:33:44: aber du siehst natürlich auch Änderungen im Lokaljournalismus.

01:33:47: ja die drei Bundesländer die ich jetzt genannt habe also Thüringen, Sachsen an der Sachsen ist eigentlich nur noch einer öffentlich rechtlichen Rundung ansteigt und eine halbe Stelle gibt halt wenige die darüber berichten.

01:33:58: Textjournalismus im eigentlichen ist auch nicht so häufig.

01:34:04: Es ist eine Mischung aus allem, aber die Opposition in diesen Landtagen oft ziemlich schwachbrüstig ist und die haben auch Mühe ein Thema aufzubringen zumal diese Landespolizeigesetze eben oft sehr viel verschiedene Maßnahmen hat.

01:34:19: Im Bandwirtmarkt ist es etwas anders.

01:34:21: da war ja ein Wahl und der war ein bisschen größer.

01:34:25: Bann-Württemberg, diese Lande.

01:34:30: Ja?

01:34:30: Das ist ja auch interessant.

01:34:31: NRW, Bann Württmberg das sind die Grünen mit einer Regierung tun jetzt aber im Bundestag immer so.

01:34:38: wir sind gegen Palantir.

01:34:40: Ich denke eine Mehrheit ist dafür nicht einzuführen.

01:34:46: also ist kritisch zur automatisierten Datenanalyse Aber

01:34:49: da wo sie tatsächlich an der Macht sind.

01:34:52: Türen Sie es?

01:34:53: Naja, in Baden-Württemberg.

01:34:54: Oder müssen

01:34:55: diese mit Bauchschmerz

01:34:57: und Problemes nicht machen?

01:34:59: Ja, also das hat ja unter dem alten Innenminister Strobel sozusagen die Polizeiverwaltung selber gemacht vor der Rechtsgrundlage aber letztlich jetzt ist die Wahl vorbei Und im Koalitionsvertrag steht dann nur so Windel, weil ich bis zum Jahr- und Dreißig machen würde.

01:35:15: Vor allem mit Palantir.

01:35:17: Die haben nicht mal einen alternativen Anbieter oder so ... Da ist NRW weiter, denn die schreiben jetzt aus!

01:35:24: Wir kommen gleich mal zu diesen Alternativkramen.

01:35:27: Das stört mich ja als das politische Journalist.

01:35:29: aber ganz kurz wegen den deutschen ... Deutsche Geschichte immer.

01:35:33: Wir haben Gestapo, wir haben Stasi

01:35:36: usw.,

01:35:36: da würde mir ... Na, lieberweise meine, gerade wir Deutschen sollten uns mal ganz genau angucken was unsere Polizei und so alles können.

01:35:47: Wir hatten auch in der Bundesrepublik eine Debatte über Rasterfahrendung und über Massenüberwachung.

01:35:53: Natürlich enttäuscht mich dass solche technischen Verfahren so wenig debattiert werden.

01:36:00: aber das ist natürlich auch den Eindruck dieser Multikrisenzeit führt dazu für wenige Themen noch so Aufmerksamkeit gibt.

01:36:10: Bei der Vorwärtsansprechung ist es so ähnlich, musst du dich schon viel interessieren, das überhaupt mitzukriegen?

01:36:15: oder auch bei der Schädtkontrolle zieht sich dann ewig und dann ist die Aufmerksamkeit geringer.

01:36:21: Und dann ist dir ja noch der Begriff automatisierte Datenländer, wie kann man schon gar nicht aussprechen?

01:36:28: Insofern ist eigentlich ein Vorteil dass wir da Prannantier haben, dass wenigstens ein griffiger Begriff und alle finden die wirklich nicht positiv... Das ist eigentlich hilfreich.

01:36:38: Aber wenn man den jetzt genau zuhört, also selbst Cem Özdemir und so was die im Prinzip sagen ja Palantir, aber wir brauchen einfach nur eine europäische Alternative, die das kann, was Palantier kann?

01:36:53: Ja,

01:36:53: das ist natürlich falsch.

01:36:55: Und das ist doch das Problem

01:36:57: oder?

01:36:57: Na klar, es ist auf jeden Fall auch ein Problem, aber dahinter steckt ja vor allen Dingen einen technischen Missverständnis, zumindest meinen Eindruck.

01:37:06: Das Verständnis dafür Das hat einen Unterschied macht, ob ich Daten erst mal nur aufarbeite, damit ich darauf zugreifen kann.

01:37:15: Und im Gegensatz dazu eine Analyse, das heißt, ich bereite die Daten auf

01:37:21: um

01:37:21: daraus Erkenntnisse zu ziehen und sie zu verknüpfen ist halt qualitativ ein großer Unterschied.

01:37:27: Es sind ja Polizeidaten, die dürfen genutzt werden für bestimmte Zwecke aber was diese automatisierte Analyser aufweicht, ist genau die Zweckbindung.

01:37:36: Das wird halt alles verknüpft und dann noch auf eine Weise, die intransparent ist.

01:37:39: D.h.,

01:37:39: würden sie einen alternativen Anbieter nehmen werden überhaupt nicht besser?

01:37:43: Und man sagt zu dem Karlsruheurteil jetzt immer Palantir-Urteil aber am Ende haben Sie über die Gesetze und über die Schwere des Grundrechtseingriffs ja debattiert.

01:37:53: Ja, Palantier war da nicht geladen natürlich nicht also...und da ich finde es natürlich auch enttäuschend wie wenig das Urteil letztlich verstanden wurde.

01:38:04: Die sind nicht alle gleich, übrigens die landesrechtlichen Regelungen.

01:38:06: Manche Innenministerien und Justizministerien in Ländern haben da sehr unterschiedliche Dinge gelesen.

01:38:16: Zur Wahrheit gehört natürlich auch ... Ich war nur an diesem Verfahren beteiligt, weil ich der auch Sachverständige war.

01:38:24: Das Urteil ist schon komplex also es jetzt nicht einfach zu verdauen.

01:38:28: Und die Regeln, die das Gericht gemacht hat sind auch viel schichtig.

01:38:31: Die haben mit der Qualität der Daten und mit der Quantität zu tun und natürlich auch mit Kontrolle und Benachrichtigung.

01:38:38: Da ist eine Vielzahl von Regeln...

01:38:42: Was ist so zufrieden mit dem Urteil?

01:38:44: Nein ich bin nie zufriedend mit dem urteil aus Karlsruhe weil natürlich immer so ein ... kann man noch machen?

01:38:49: muss man nur Regeln einhalten.

01:38:51: Das stört mich natürlich oft.

01:38:52: Aber war er halb voller Glas oder halb leer?

01:38:55: Als es gelesen ist?

01:38:56: Ja, das war in Teilen verfassungswidrig.

01:38:58: Hamburg war damals gegen Hessen.

01:39:04: Das war dann erst mal erledigt und in Hamburg zum Beispiel ist auch kein neuer Versuch gestartet worden.

01:39:09: aber in Hessen hat man nicht einfach so gemacht dass man einen drauf gelegt hat.

01:39:13: zweimal eigentlich so.

01:39:14: ja jetzt ist da auch noch KI-Training drin Aber das hat jetzt auch wieder an Karlsruhe gelandet

01:39:20: In einem NRW, Bayern, Hessen, Baden-Württemberg.

01:39:22: Alle CDU geführt.

01:39:23: Nee außer Baden Württembergs, sorry.

01:39:25: Aber überall sind die Union drin.

01:39:27: Hat die Union so einen besonderen?

01:39:30: Traditionell nicht.

01:39:31: Polizei

01:39:32: hatten alle lüsefetisch ...

01:39:33: Christenunion hat natürlich in der ... Polizei, Politik schon immer diese Hammerarte Linie.

01:39:40: Das ist natürlich nicht neu.

01:39:42: Das jetzt auch in den ostdeutschen Bundesländern wie Sachsen-Anhalt oder so ...

01:39:47: Aber sind dann SPD-Inminister und SPD-Regierung besser?

01:39:51: Nee die Zielschrang im Sachsen Anhalt ist CDU, Armin Schuster ist CDU also auch im Osten.

01:39:57: Was mal kurz überlegen ist da auch ein...

01:39:59: In Mecklen bevor man regiert.

01:40:00: SPD und Linken.

01:40:02: Das stimmt schon aber die haben ja auch keine Automatisier der Datenanalyse jedenfalls bis in ihrem Polizeirecht.

01:40:08: Warst du das?

01:40:09: Nee, aber als Mecklenburger macht mich das stolz.

01:40:12: Aber die Brandenburger und die im Saarland auch noch nicht!

01:40:14: Also es sind nur noch drei Bundesländer, die nicht haben.

01:40:16: Brandenburg

01:40:17: ist auch... naja jetzt ist die Union wieder dran, ne?

01:40:20: Na ja, im Gesetz zu haben heißt auch noch nie eine Anwendung zu haben.

01:40:24: Und wie man's dann anwendet und wie dem ihr selbst steht unterscheidet sich auch noch sehr stark.

01:40:30: Gibt's denn überhaupt jetzt unabhängig von einer Palantirsoftware für die polizeilichen Datenanalyse als auf.

01:40:39: Wir können ja gleich mal Konkrete wie Chaps-Vision oder so weiter ... Das

01:40:42: ist jetzt der Verfassungsschutz, das ist nicht Polizei!

01:40:44: Der Verfassungschutz hat seinen Lieblingsjournalisten gesteckt, dass sie einen alternativen Anbieter haben, nämlich diesen französischen.

01:40:53: Obwohl, die haben gar keine Rechtsgrundlage?

01:40:55: Die dürfen das gar nicht.

01:40:56: Die müssen erst einmal eine Rechtsgrundlager haben, haben Sie gar nicht... Jetzt

01:40:59: fängt noch mal von vorne,

01:40:59: was?!

01:41:01: Wir wissen ja überhaupt nur, dass der das Bundesamt für Verfassungsschutz bei einem alternativen Anbieter angeheuert hat.

01:41:08: Weil Journalisten darüber berichtet haben.

01:41:11: Das ist ja nicht so... Ist

01:41:14: es geliegt oder haben die rausgefunden?

01:41:17: Also jedenfalls die parlamentarischen Abgeordneten, die die Geheimdienste kontrollieren wusstens noch nicht.

01:41:24: Na ja!

01:41:27: Das hat ab mir ein Ströbelerbomber gesagt.

01:41:29: Die wissen manchmal gar nicht, wo nach sie fragen sollen und da... Oh

01:41:31: man, ich vermisse ihn manchmal so!

01:41:35: Ja also ihn und seine kritischen Fragen auch mit dem Wissen über Geheimdienste und deren Gebaren.

01:41:42: Ich vermisse ihm sehr aber gut.

01:41:45: Und er meinte immer, den waren einmal dankbar dann über Journalisten die was berichten oder geliegt bekommen haben sodass sie dann aktiv werden konnten?

01:41:52: Naja Es bleibt trotzdem der Fakt, dass sie keine Rechtsgrundlage haben.

01:41:55: Und seit wann ist das so?

01:41:56: Dass Geheimdienstbehörden selber entscheiden, bevor Sie eine Rechtsgrundlager haben.

01:42:00: Wenn ich dem Minister wäre, hätte ich da ein paar Fragen ...

01:42:06: Die dürfen das gar nicht!

01:42:07: Nein, die haben keine Rechtsgründlage.

01:42:08: Der Bundesnachhändler hat auch keine Rechtskundlage und wir gehen davon aus, dass die auch eine Form von automatisierter Datenanalyse machen.

01:42:14: Habe ich gesagt,

01:42:14: wir leben in einem Rechtsstaat.

01:42:16: wie können Behörden das machen?

01:42:19: Schau, Snowden ist jetzt dreizehn Jahre her Und die Debatte, ist stimmt das?

01:42:24: Ja.

01:42:24: Die Debatte darum fast sogar auf den Tag war.

01:42:27: Na ja nicht ganz!

01:42:30: Die Debatte darüber, was Geheimdienste dürfen hat sich finde ich genauso verändert wie... ...die Frage von Rüstung und Krieg- und Frieden in Europa.

01:42:40: Das Image hat sich von um Mann.

01:42:42: denen muss man wirklich ein bisschen mehr auf die Finger gucken.

01:42:44: Die sind ja im Staat, die machen ja wat zu wollen, die legen ihre Rechte selber aus.

01:42:49: Wieder gewandelt so

01:42:52: Die sind

01:42:52: jetzt ganz wichtig, die brauchen wir unbedingt.

01:42:55: Die retten uns!

01:42:56: Das ist also in den letzten Jahren deutlich gekippt.

01:43:00: Wir sind beim Marketing vorhin eingestiegen mit KI.

01:43:04: Ja... Haben sie dich schon angeworben?

01:43:10: Das wissen unser Publikum her.

01:43:12: Wir machen hier Dauerwerbung ... alles.

01:43:16: Ja, das ist einfach ein Wandel.

01:43:17: Ich kann mich noch gut erinnern wie die irgendwie den auf dem Zahn geführt wurde im Untersuchungsausschuss und nach wie vor ist die geheimdienstliche Kontrolle unterentwickelt.

01:43:30: in Deutschland erfüllt auch nicht die Bedingungen, die zum Beispiel vom Europäischen Menschenrechtsgerichtshof mal aufgestellt wurden.

01:43:37: Das sind eine Menge Defizite aus meiner Sicht.

01:43:40: Aber auch vor allen Dingen ist es die Haltung, die man gegenüber diesen intransparenten Behörden hat.

01:43:44: Und auch die Aufarbeitung, dass wir ein Rechtsextrem da jahrelang als Chef haben, der jetzt sagt er wird bald wieder Innenminister nach der Wahl.

01:43:55: Der ist eine Menge im Argen.

01:43:57: und die Kontrolle, v.a.

01:43:59: die Parlamentarische ist halt nach wie vor unterentwickelt.

01:44:02: Hast du dir bestimmt mitbekommen?

01:44:06: Wie in den Kontrollgremien ... Ja, also Clara Bünger, die ja Mitglied überhören sollte ist ja nicht gewählt worden.

01:44:14: Heidi Reichning auch nicht?

01:44:16: Wir haben jetzt glaube ich nur einen Oppositionspolitiker mit Konstantin von Notz der da in dem Kontrollgremium sitzt.

01:44:21: Aber das Kontroll-Gremium ist ja ohnehin aus meiner Sicht nicht sehr wirkungsvoll.

01:44:27: Aber was ist denn das?

01:44:28: Also Chaps Vision ist etwas französisch für Palatine.

01:44:32: Alternative.

01:44:33: Die

01:44:34: machen auch Datenanalysen, Datenmanagement und breiten Daten auf.

01:44:38: Auch die haben so eine Ontologie mit ... Palantir wirbt ja vor allen Dingen damit, dass sie die Daten aufbereiten und zugänglich machen.

01:44:46: Also gibt es schon europäische Alten?

01:44:48: Ja!

01:44:49: Die haben auch sehr lange monatelang immer wieder versucht irgendwie anzuklopfen bei den Ministerien.

01:44:55: Ich kriege ganz viele Mädes von denen auch seit ich darüber schreibe.

01:44:58: Warum

01:44:58: sind denn jetzt die deutschen Politiker innen?

01:45:01: Nicht einfach so schlau aus Ihrer Sicht, das Palantierding abzuräumen.

01:45:07: Und dann sagen wir haben jetzt Palantir weg und so weiter.

01:45:09: Wir machen jetzt europäische Alternativen, Bums aus

01:45:12: die meisten Menschen.

01:45:13: Weil praktisch nicht so leicht ist.

01:45:15: Das eine ist ... Kannst du jetzt an NRW sehen?

01:45:19: Die müssen europäisch ausschreiben!

01:45:20: Das ist natürlich aufwendig und zeitintensiv, während der in Deutschland ein von Bayern ausgerhandelter Rahmenvertrag ist, in den die Polizei einsteigen können.

01:45:29: Und diejenigen, die Palantir schon benutzen sind natürlich ohnehin schon am Haken.

01:45:34: Denn dieser Systeme sind nicht interoperabel und dauert eine Zeit umzusteigen.

01:45:40: Und Eigenentwicklung versuchen Sie jetzt im Programm P-Zwanzig seit einem Jahrzehnt und kommt irgendwie nie so richtig voran?

01:45:47: Wir hatten sich immer vorgenommen, dass sie das doch selber entwickeln!

01:45:51: Es gibt ja ein paar Beispiele, da weißt du, dass man bestimmte ... Das wollte ich vorhin noch erwähnen.

01:45:56: Es ist nicht nur Datenschutz, sondern was aus der Hand gegeben wird, ist auch polizeiliche Organisationswissen wissen darüber wie Daten bei den Polizei behandelt werden.

01:46:07: Ich finde das größer als nur Datenschutzprobleme.

01:46:11: Ich würde mich in dieser Abhängigkeit nicht begeben, wenn ich eine Behörde wäre.

01:46:17: Aber hey, in Baden-Württemberg hat er jetzt eine neue Innenministerin.

01:46:20: Ich glaube der ist kein Tage, oder so ein Amt.

01:46:21: Der heißt Hagel bei den Rehauben von der CDU.

01:46:25: Der

01:46:25: Ministerpräsident werden wir

01:46:26: heute?

01:46:27: Ja leider nicht geworden aber es ist jetzt Innenminister, der eine Strohbel abgelöst.

01:46:29: Die hat eine Fachaufsicht zu Beschwerden an einer Backe weil ob die Verweiterung alles richtig gemacht hat wer weiß ich finde das sehr unterhaltsam.

01:46:37: Ein Sparkassendirektor hat da angefangen und er ist ja jetzt Innenmesser.

01:46:40: Gickt mal hier diese ganze KIS Software über die wir vorhin geredet haben, die kann ja auch code'n.

01:46:48: Kann man nicht quasi der KI sagen?

01:46:50: Nee,

01:46:50: die kann nicht koden.

01:46:51: Die ist ein stochastischer Papagei.

01:46:53: Ich hatte dir das schon mal erklärt ... Ich

01:46:55: wollte dich jetzt mal

01:46:56: probieren!

01:46:56: Ja.

01:46:58: Können wir einem Code-Simulator und ich sagen, guck mal hier, wir brauchen eine Grundrechtskompatible, diese Datenanalyse Software, die sich an den Zweckbindungen hält, an den Datenschutz hält, die der Polizei tatsächlich hilft, aber auch für unsere Gesellschaft.

01:47:15: da ist Code uns das mal.

01:47:18: Und danach können wir dann nach so einen Mythos drauf werfen und die Sicherheitslücken finden?

01:47:23: Genau,

01:47:24: für die gute Sache!

01:47:26: Okay.

01:47:26: Macht doch mal so ein Cast-Computer-Sommercampen.

01:47:31: Ehrlich ich bin umgeben von Leute... also ist vielleicht auch schon eine Weile unterwegs mit Technik.

01:47:37: Ich bin umgegeben von Leuten wie Senior Developer sind und immer den generierten Quellcode aufräumen müssen von Leuten, die generieren was der Zeug hält.

01:47:50: In der Regel sind diejenigen, die diese Code-Generierung anwenden oft nicht in der Lage Fehler auszumerzen schon ja nicht in effizienter Zeit.

01:48:01: also ich bin immer jetzt von sehr vielen Menschen umgeben.

01:48:03: sie müssen immer da aufräuben weil die junior developer dahin generiert haben.

01:48:09: Trotzdem ist es natürlich eingezogen.

01:48:12: Die Welt der Entwickler das würde ich schon sagen Er braucht jemanden, der drüber guckt und Problem ist vor allem die Ausbildung.

01:48:19: Wenn du glaubst das Kotgenerierend Koden ist dann hast du natürlich ein Problem in der Ausbildung.

01:48:26: Also was ist eigentlich Softwareentwicklung?

01:48:29: Softwareentwickelung ist problemlösen.

01:48:31: Du hast einen Problem meistens in einer realen Welt mit Daten Und du willst es lösen.

01:48:37: wenn du aber einen stochrassischen Papagei hast der keine Semantik kann Der weiß ja nicht was.

01:48:42: was ist zu sagen, Zimulation.

01:48:45: Na ja dann musst du natürlich jetzt wissen haben darüber zu gucken.

01:48:49: was kommt da für Code raus?

01:48:52: Also na und jetzt kommt dir noch ein Agentik wie du sicherlich weißt.

01:48:55: also jetzt übergeben wir der KI auch noch Prozesse und Passwörter und so.

01:49:01: Was ist eigentlich Vibe Coding?

01:49:03: Das ist ja der Begriff für Generier... Ach das ist es!

01:49:08: Wenn Leute wie ich die keine Ahnung haben von Informatik oder so weiter.

01:49:11: Nee,

01:49:11: du könntest Vibe kohnen!

01:49:12: Du kannst nicht machen einen Kurs zu dir halt tauchen und kosten ein bisschen Geld... Also

01:49:17: ich beschreibe dann dem Sprachmodell was ich aussehen soll?

01:49:21: Nein, du kannst

01:49:21: vor allem eine königere Sprache sagen hey, ich bin der App.

01:49:24: also nein das ist ein paar mehr Schritte.

01:49:26: ja es ist nicht dass ich nicht verstehen kann warum Leute das benutzen weil eben oft auch so aussieht als wenn's ein Shortcut ist.

01:49:34: Du erspaßt dir viel Arbeit.

01:49:36: Das Problem ist, dass man den Quellcode der da rauskommt ziemlich schwer prüfen kann.

01:49:41: A- ist das immer bloated?

01:49:42: Das ist sehr, sehr viel saying good!

01:49:45: Das ist halt nicht gerade effizient und wenn dann jemand durchsehen muss, dann muss er natürlich auch verstehen Und üblicherweise hast du... Du hast ja auch dem Wunsch, dass es ein sicheres Produkt ist, möglichst keine Sicherheitsblücken.

01:49:57: Ja wir sollten machen.

01:50:01: Also das macht natürlich auch Hochfehler aber das machen natürlich Menschen auch.

01:50:04: Es ist halt genau so ein Hype wie alles andere.

01:50:10: Ich mache mir eigentlich eher Sorgen um die jungen Informatiker und Fachinformatiker, die nicht mehr Koden lernen weil sie glauben das Generieren wird selber, ist wie Programmieren.

01:50:20: Damit wollte ich ja zu mir schließen.

01:50:21: Du bist Informatikerin, du hast das alles gelernt?

01:50:24: Ich war auch kein guter Programmierer.

01:50:26: Oh nee!

01:50:26: Hättet ihr nicht beruflich, ich war nicht schnell genug.

01:50:28: Also beim Programmieren brauchst du ja auch Übung.

01:50:30: Das ist ein Handwerk am Ende und musst dir auf Freude machen.

01:50:33: Und gute Programmiere haben Erfahrung und auf Freudern programmieren und nicht beim Vibe-Coding aufräumen.

01:50:43: Oh Gott, das wäre bestimmt von den ganzen AI-Lovern irgendwie Folgeschwafel.

01:50:48: Die jetzt nicht verstehen können warum ich der KI kritisch gegenüberstehe.

01:50:53: Ich glaube, dass haben sich die Leute wahrscheinlich schon denken können.

01:50:58: Nutzt du denn KI, Tilo?

01:51:00: Also außer in der einfach schon beschriebenen Weise war dir ja auch Tour.

01:51:05: Nur bei Sachen wo ich mich auskenne und selber dann schnell die Fehler überprüfen kann.

01:51:09: Aber wenn es so Pückelarbeit ist also keine Ahnung hier Zwei Tausend Protokolle nachgucken und so weiter.

01:51:15: Wir haben so ein Spiel, wo wir mit einem Chatbot in möglichst kurzer Zeit versuchen rauszufinden, wenn der erste kompletter unsinnige Müll rauskommt.

01:51:26: Ich bin oft bei drei Fragen.

01:51:28: Bin echt gut darin!

01:51:30: So schnell?

01:51:30: Ja ja... Die machen wir nass, gibt mal Tipps.

01:51:32: Wir warten nämlich auf Raher, die auf meine Nachrichten bekommt dass sie kommen sollt.

01:51:40: Der Trick ist, ne Domäne zu nehmen wo du dich auskennst.

01:51:43: Da gehst du super schnell dass du die größtenteilten Chatbots zu großem Quatsch bringen kannst.

01:51:52: aber dann musst du dich halt daran auskennen.

01:51:55: Aber hey wenn du Google benutzt wirst du eh bald nur noch AI haben sie doch angekündigt.

01:51:59: Ich hab mal eine ansache.

01:52:00: die habe ich ganz früh gelernt bei diesem ... da war es schetsche bittier quasi nur heiße Scheiß dass man egal, was man mit dem mal so bespricht oder durchsucht.

01:52:10: Dass man immer wieder mal fragt gibt mir die kontraere Haltung.

01:52:15: oder recherchiert das jetzt genau in die konträre Richtung und das hilft also hilft mir oft.

01:52:23: ich glaube auch dass so wie die meisten benutzen ist tatsächlich eher ein Ersatz für Früher in Wikipedia geguckt haben.

01:52:30: Dove ist halt nur, wenn du dich mit was gar nicht auskennst, kannst schlecht beurteilen, wenn da mal wieder Quatsch raus kommt.

01:52:37: Das hat ein Problem und die Wikipedia ist menschlich bereinigt.

01:52:41: Also die Quatschwote ist gering.

01:52:44: Gab es das, was wir heutzutage unter diese Psychose ... Dass sich Leute in irgendwas hineinsteigern?

01:52:52: Oder sich verlieben?

01:52:54: Gab's so etwas früher auch schon durch Technik?

01:52:57: oder ist das jetzt was Neues?

01:52:59: Nee, auch nicht.

01:53:00: Es gibt ja den berühmten Eliza Chatbot von Josef Weizenbaum, der ist sechzig Jahre alt ...

01:53:06: War das die, wo diese Sekretärin immer wiedergekommen

01:53:09: ist?

01:53:09: Da gab es schon viele Menschen, die gesagt haben, er versteht mich oder die in dem Fall, Eliza.

01:53:16: Ja, das ist nicht neu und da hingen nicht so viel Versprechen dran und nicht so viele Millionen.

01:53:25: Ich wollte sagen, habe ich Millionen gesagt.

01:53:30: Verzeihung!

01:53:33: Ich warte jedenfalls auf deren Geschäftsmodell.

01:53:34: da bin ich schon total gespannt.

01:53:37: Jetzt könnt ihr auch unsere ganze Weltwirtschaft, wenn diese Blase platzt und man pechert könnte das Wirtschaftskrise auslösen oder?

01:53:45: Ja aber die Bubble über die letztes Jahr noch alle geschrieben haben und dann kann den nicht so richtig... ich hätte mich dagegen.

01:53:52: Also eine Marktbereinigung finde ich so verkehrt nicht.

01:53:55: Aber jetzt ist doch alles zu verwoben.

01:53:57: Die sind doch alle Anteile voneinander Also die großen Tech-Konzerner, gerade Google und Mediacomment.

01:54:02: Die haben ja ein Geschäftsmodell.

01:54:04: Ja, ja, die!

01:54:04: Also die haben auch Umsätze...

01:54:06: Aber was ist mit Open AI?

01:54:08: Weißt du nicht dass diese irgendwie so als too big to fail positionieren

01:54:12: wollen?

01:54:12: Die könnte man doch

01:54:13: vom

01:54:13: Rahmen der Bubblemarkt bereinigen oder?

01:54:17: Ja.

01:54:19: Also mich persönlich würde das nicht so stören.

01:54:21: Gut.

01:54:22: Du hast mich jemals jetzt nicht in den letzten zwei Stunden gestört.

01:54:24: Danke, dass du wieder da bist.

01:54:25: Sehr gerne.

01:54:26: Lass dir nicht so viel Zeit wieder.

01:54:28: Ich werde hier nie eingeladen

01:54:31: Das stimmt nicht.

01:54:33: Nein, komm bald wieder.

01:54:35: Danke für deine Aufmerksamkeit.

01:54:38: Jetzt kommt Raja zum ersten Mal mit dir ...

01:54:41: Ich hab schon Angst.

01:54:41: Was kommt jetzt?

01:54:43: Die richtig kritischen Fragen kommen jetzt aus der Community.

01:54:46: Mal gucken was die so als mitgebracht haben.

01:54:48: Vielleicht gibt's auch eine KI-Frage!

01:54:50: Okay...

01:54:52: Let's go!

01:54:54: Hallo!

01:54:55: Na?

01:54:56: Disclamer

01:54:56: ist halt nicht ganz so schlimm.

01:54:58: Okay.

01:54:58: Brauchst du den nicht noch

01:54:59: aufmachen?

01:54:59: Ach

01:55:00: echt?

01:55:00: Nein.

01:55:01: Hat die Leute das witzig geklämt?

01:55:02: Nee.

01:55:04: Es gab schon öfter ein paar kritisch fragend, vor allem zu Gaza die noch gestellt wurden.

01:55:09: Da möchte man natürlich wissen wie viel du da so weißt?

01:55:12: Ich habe noch einen Edit und zwar zur Tötung der Mädchen in der Schule in Minap.

01:55:20: Und zwar wurde die Schule einer Datenbank als Militäreinrichtung klassifiziert und nicht aktualisiert und man soll seit zehn Jahren in der Satellitenbildern sehen können dass das Gebäude vom Gelände der Islamischen Revolutions gerade abgetrennt ist und in eine Schule umgewandelt wurde.

01:55:37: Also kann man sagen, es hat keine Software die Kinder getötet sondern Menschen, die eine Datenbank nicht aktualisiert haben.

01:55:45: Ganz bezeichnet

01:55:46: für den angeblichen

01:55:48: Anspruch so weiße Zivilisten entschützen zu wollen.

01:55:51: Am Ende seid ihr immer ein Mensch der Verantwortung trägt für den Einsatz ja auch selbst wenn man jetzt das Softwareprodukt nicht angeguckt hat.

01:55:58: Ja, aber es ist glaube ich ein guter Hinweis.

01:55:59: Und

01:55:59: siehst du da vielleicht auch was Systemisches oder Systematisches hinter?

01:56:03: Hast Du sowas öfter mitbekommen?

01:56:05: Naja mein Eindruck ist eigentlich dass sich die Qualität der Daten gerade durch die Satelliten natürlich in diesem verbessert hat also etwa über geografische Geländennutzung von Gebäuden und so weiter ist sicherlich nochmal anders als vor zehn Jahren einfach weil die Technik heute die Bildauflösung usw.

01:56:20: besser ist und auch die Auswertungen von Massendaten besser geworden aus.

01:56:25: qualitativ Naja, die Anzahl der Kriege ist natürlich nicht geringer geworden.

01:56:30: Es

01:56:30: gibt doch einfach viele menschliche Versäumnisse oder?

01:56:33: Also das scheint sich ja immer mehr rauszustellen.

01:56:35: Ja es gibt auch diesen Automation Bios also dass Menschen die Tendenz haben Maschine in Ergebnissen stärker zu trauen als sie sollten.

01:56:47: wenig Skepsis haben gegenüber Maschinenergebnissen.

01:56:51: Man könnte auch sagen, man kann dem was moralisches Vorwerfen quasi das Menschenleben einfach nicht so viel Wert zugeschrieben wird und dass man sich deswegen intern nicht so viele damit auseinandersetzt und guckt gibt Slops

01:57:02: usw.,

01:57:03: also das ist so das was viel diskutiert wird.

01:57:06: Na ja generell würde ich sagen... Kriege haben sich verändert, seit sich Menschen nicht mehr gegenüberstehen und erschießen.

01:57:12: Sondern das eben weit entfernte Gebiete ist in denen ein Hightech-Deployt wird.

01:57:19: Natürlich hat es den Krieg verändert aber das ist ja keine neue Erkenntnis die ist eigentlich schon älteren.

01:57:23: Aber ganz sicher zu dem moralischen Bewertung was man selbst als Mensch tut innerhalb einer Armee natürlich eine triggende Menge bei wenn ich mein Gegenüber nie sehe oder ihm nie physisch nahe komme.

01:57:35: natürlich Das ist natürlich keine Militärhistorik, aber mir ist klar, dass die Technik einen großen Unterschied macht.

01:57:44: Aber dann kann ja quasi KI viel zur Humanisierung beitragen oder?

01:57:51: Ich würde schon sagen, dass so automatisierte Techniken zur Mustererkennung auch Zivilisten schützen können wenn man sie etwa wenn man jetzt sagt, okay ich bemühe mich meine Software so zu bauen.

01:58:02: Dass sie etwa die Hager Landkriegsordnung oder generell den Schutz von Zivilisten oder so versuchen technisch zu unterstützen kann man machen.

01:58:12: aber wo siehst du das?

01:58:13: Scheitert es

01:58:14: eben an der

01:58:15: Effizienz?

01:58:16: Wo siehst Du dass denn das gut funktioniert?

01:58:20: Zumindest in den Debatten, die wir hatten wenn ich an die Drohendebatte oder so denke war ja vielfach auch die Rede davon dass man Technik im Sinne von Zivilschutz benutzen könnte.

01:58:31: Ob das praktisch getan wird ist eine andere Frage und zieht sich leider oft der öffentlichen Prüfbarkeit entfiedet.

01:58:37: in diesen Militärbereichen ist ja ohnehin geheim.

01:58:43: Und dazu wurde ein bisschen was geschrieben.

01:58:45: wieviel weißt du zum KI-Kontext Israel Gaza?

01:58:50: Ich habe natürlich wahrgenommen, dass darüber zumindest im Nachgang eine Menge geschrieben wurde.

01:58:56: Ich habe seit ich über Palantir schreibe auch natürlich

01:59:00: faktisch... So ein Nachgang ist schwierig so ne?

01:59:02: Also es hat ja nie ganz aufgehört mit

01:59:04: Angst.

01:59:04: Ja aber in meinem Sinne von als welche Technik da eingesetzt wurde gibt's ja immer einen gewissen Nachgang bis jemand berichtet oder so.

01:59:12: Ich hab' natürlich auch mit Aktivisten Kontakt, die versuchen eine Öffentlichkeit herzustellen.

01:59:18: Dafür wie stark der Technisiert ist und wie wichtig welche Technik dafür war.

01:59:24: Aber ich habe den Eindruck so im größeren Kontext sind auch die großen Artikel in der New York Times gab es ja einen und am Guardian und so sind glaube ich in diesen Debatten untergegangen.

01:59:38: Also, ja.

01:59:39: Ich weiß, dass es auch eine kleine Szene gibt oder den Fif gibt zum Beispiel.

01:59:43: Da gibt's auch so Informatiker die sich damit beschäftigen und gibt doch immer wieder Vorträge dazu.

01:59:47: Das finde ich auch gut und wichtig aber ich glaube in der große Öffentlichkeit hatte wenig erreicht.

01:59:54: Aber gut im ganzen Kontext von...

01:59:58: Wie erklärst du dir das?

01:59:59: Es ist doch ein super großes Thema!

02:00:02: Naja mir scheint also es braucht ja immer Institutionen und auch ganze Staaten, die sich dafür einsetzen, dass man sich an Rechte hält.

02:00:11: Ob es ein Völkerrecht ist oder eben ... Und mir scheint da gibt's einen starken Rückgang bei den Demokratien, die allen voran die USA aber auch in Europa dafür eingesetzt haben und da mal laut waren.

02:00:23: Da ist, glaube ich, gerade bei Israel ist die deutsche Debatte natürlich von dieser ganzen Staatsreson-Debatte überformt.

02:00:34: Man sieht natürlich Unterschiede.

02:00:35: jetzt, wenn ich mir angucke wie sich Frankreich positioniert oder Spanien und auch die Briten.

02:00:41: Dann merkt man dass sie schon kritischer geworden sind.

02:00:44: aber das hat dann wenig mit dem Technikeinsatz zu tun als mein Eindruck.

02:00:48: Und in der Technikbubble?

02:00:49: Wie viel wird das so besprochen?

02:00:51: Es gibt sehr viele Militärkritiken natürlich.

02:00:54: Klar es gibt auch eine Menge Hackarty-Würden nicht für militärnahe Firmen arbeiten oder die möchten oder ich würde mal prinzipiell sagen... Diese Tee gibt es natürlich so eine Form von... Oder dem Wunsch, die Fähigkeiten, die man hat für was Gute einzusetzen.

02:01:09: Für Gemeinwohl und den Fortgang von einer guten Zivilisationen ist da sehr verbreitet auch oft eben eine positive Vision zu haben von einem Zusammenleben mit technischem System ins Leben integriert.

02:01:25: Aber ich will natürlich auch nicht ausschließen, welche gibt uns die CDU anders sehen.

02:01:29: Aber bei uns in den Veranstaltungen auf dem Bühnen ist es doch oft sehr deutlich wie sich Leute positionieren und ich würde mich dazu zählen.

02:01:36: also natürlich klar.

02:01:38: aber kommen wir natürlich über aus einem Bereich meine Kapnausbildung Informatik und Gesellschaft ja wo schon immer auch sehr viel Kritik daran geübt wurde Wie stark dich die informatik finanziert hat von den Militärs bis heute Und auch vor den Geheimdiensten.

02:01:55: Das ist jetzt vielleicht nicht überraschend.

02:01:58: Okay, schon mal ein ganz guter Einblick!

02:02:01: Ich gehe mal in eine andere Richtung und zwar schrieb jemand es gab und gibt zunehmend Fälle von Debanking von linken oder antikapitalistischen Organisationen zum Beispiel Deutsche Kommunistische Partei.

02:02:14: Wie sind vor diesem Hintergrund Kryptocoins zu bewerten?

02:02:18: Müssen diese von links nochmal neu gedacht werden?

02:02:21: Oder kann man die Crypto-Coins den Rechten und Libertären überlassen?

02:02:27: Ja, es gibt natürlich auch im TTC immer wieder eine Debatte um so digitale Währung.

02:02:33: Und das gibt auch ganz praktische Versuche etwa mit Genuta da.

02:02:37: Aber es gibt mittlerweile auch eine große Reserviertheit gegenüber der Bitcoin Community.

02:02:42: Das liegt aber daran wie sich das kommerziell entwickelt hat und was jetzt so für Gestalten sind, sich viel öffentlich zu äußern.

02:02:50: Ich glaube, aber das sind diese Libertäre in Bezug auf Geld schon auch immer noch dazu beiträgt, dass uns die CDU gerne darüber nachdenken.

02:02:59: und gerade so diese genutale Initiative ist ein typischer Beispiel dafür.

02:03:06: Generell würde ich sagen ... Ja, das ist, glaub ich... Das ist so'n Feld wo die tatsächlichen Bedingungen, wie man heute Geld transferiert und wie man sozusagen welche Unternehmen dafür im Mittelpunkt stehen hat halt wenig zu tun mit idealistischen Träumen die man haben kann oder technischen Ideen wie man es besser machen könnte.

02:03:39: Deswegen ja das hat wenig Grip finde ich.

02:03:43: also Ich finde es schön, dass er eine ziemlich aktive Forschungscommunity gibt.

02:03:48: Die da auch technologisch neue Ideen entwickelt.

02:03:50: aber ich teile auch nicht mit allen die Logien also Matisse der ziemlich fault.

02:03:56: trotzdem finde ich jetzt spannend darüber nachzudenken.

02:03:58: was

02:03:58: heißt das?

02:03:59: naja da gibt's so ne lieber Tiere ekel glaube ich wohl ein bisschen

02:04:04: klar.

02:04:06: aber andererseits ist es auch technologie sehr spannend weil ja darum geht wie man Ja, letztlich ohne dass man getrackt werden kann.

02:04:16: Geld transferiert und was man sich überhaupt für eine Zukunft vorstellen kann für Geld?

02:04:21: Und die Fragen finde ich natürlich spannend.

02:04:23: Die sind aber auch schon alt.

02:04:25: Im CCC werden die glaube ich auch schon seit vor über zwanzig Jahren debattiert.

02:04:28: also...

02:04:29: Und zu finale Antworten gibt es nicht.

02:04:32: Mir wurde gerade ne Frage reingerecht und zwar folgende ist in der EU KI Verordnung das Militär ausgenommen?

02:04:42: Also nee, nicht wirklich ausgenommen in diesem Sinne.

02:04:45: Die EU-KI-Verordnung hat ja so einen risikobasierten Ansatz.

02:04:49: Das heißt die haben so eine Art wie ich würde fast sagen wieso nach Hierarchie Wie stark Risiko behaftet ist eine Anwendung der künstlichen Intelligenz und dafür gibt es verschiedene Regeln bis hin zu.

02:05:02: das ist zu risikoreich und darf nicht benutzt werden.

02:05:05: Ich würde nicht sagen dass die Militärster prinzipiell raus sind Aber die Uhr hat der eigentlich auch keine Regelungsbefugnis für die Militärs und nicht für die Polizei.

02:05:17: Das ist ja Sache der europäischen Nationalstaaten.

02:05:21: Ich habe mich ein bisschen mit der KI-Verordnung beschäftigt in Bezug auf Pallantier, weil klar ist dass sie bei der Benutzung von deutschen Polizeibehörden in die Kategorie Hochrisiko fallen und ich habe mir auch mal so ein bisschen diese ... Verbote und wo da eigentlich die Grenzen sind angesehen.

02:05:40: Aber meine Vermutung wäre, dass sich militärische Anwendungen zumindest ausgenommen fühlen.

02:05:49: würde ich einsortieren könnte man auch militärischer Anwendung in diesen risikobasierten Ansatz wäre kein Problem.

02:05:57: aber das verbot was da ja drin ist und gibt dir Ein Teilbereich von hohes Kantenanwendungen, die nicht erlaubt sind.

02:06:04: Da würden Militärs wohl rausfallen.

02:06:07: Ich bin ziemlich sicher.

02:06:08: Aber ich bin auch kein Juristin.

02:06:10: Ich finde jetzt prinzipiell gesehen aber auch nicht falsch dass man darauf beharrt das einiges als Thema einige Teile der Rechtsgebiete nicht von der EU geregelt sind, die in einer nationalen Hochzeit sind.

02:06:27: Ich weiß jetzt nicht ob das unbedingt die Militärs sein sollen aber ich finde es nicht falsch darauf zu beharren welche Dinge die EU regeln darf und welche nicht.

02:06:37: Aber gut die KI-Verordnung ist ohnehin ein bisschen in der Debatte wird verfolgt.

02:06:40: also gibt's da so ein paar Bemühungen die KI Verordnung nochmal abzuhändern.

02:06:45: mal sehen wo

02:06:46: würdest du dem zustimmen dass was verändert werden muss?

02:06:50: Naja Ich bin nicht so ganz zufrieden mit der KI-Verordnung wie viele in einer technischen Community, aber ich hättet angesichts der Änderungswünsche auf jeden Fall für eine Regelung die wir beibehalten sollten und nicht verwässern sollten.

02:07:09: Und wir haben überhaupt einen.

02:07:10: Verwässern oder nicht verbessern?

02:07:12: Verwessern!

02:07:14: Prinzipiell muss ich sagen dass sie gar nicht so richtig einsehen habe warum KI Also ein bestimmtes Softwareprodukt, anders geregelt werden sollte als alle anderen Softwareprodukte in Bezug auf etwa Haftung und so weiter.

02:07:29: Das hat sich mir noch nie so richtig erschlossen.

02:07:32: Aber die KI-Verordnung ist etwas älter als der eigentliche Hype insofern.

02:07:38: Ich denke, es sollte Regeln für alles Wüste ergeben und nicht nur für KÖI.

02:07:42: Mhm, das stimmt!

02:07:46: So ich weiß nicht was hier heute ... los ist, aber wir werden die ganze Dingel reingereicht.

02:07:50: Wieso nicht?

02:07:51: Machen wir mal!

02:07:52: Und zwar... das ist wohl in Chatchibiti eingegeben worden und zwar die Frage bist du ein stochastischer Papagei.

02:08:03: Die Antwort, kennst du die Antwort?

02:08:05: Ich vermute mal das auf der Paper wo dort herkommt, referenziert wird.

02:08:08: Ihr kann nicht sehen was du da hast, aber ich vermute immer dass da angegeben wurde, woher der Begriff kommt.

02:08:14: Äh ja, ich lese es dem bevor.

02:08:15: stochastischer Papagei ist.

02:08:16: eine zugespitze Kritik.

02:08:18: Sprachmodelle erzeugen Text indem sie Muster aus Trainingsdaten statistisch fortsetzen ohne menschliches Bewusstsein Absichten oder eigenes erleben.

02:08:26: in diesem Sinne Ja, ich arbeite probalistisch und habe kein bewusst sein.

02:08:31: dann aber weiter.

02:08:32: Superbalistische Genau Bitte?

02:08:34: Probabilistisch.

02:08:35: Ich habe Öl gesagt, was?

02:08:36: Naja, Papa Geil greife aber zu kurz.

02:08:39: ich wiederhole nicht bloß gespeicherte Sätze sondern kann Muster kombinieren abstreichieren Schlüsse ziehen Coach schreiben bla bla bla.

02:08:45: präziser wäre ich bin ein Prohabilis prohabilistisches Sprach und Reasoning System ohne Bewusstsein.

02:08:55: All righty!

02:08:57: Danke für dieses Wort.

02:09:00: der Begriff Den kann man sich streiten.

02:09:03: Aber letztlich ist es eine Form von Wahrscheinlichkeit, die daraus fällt, versucht zu simulieren wie jemand anderes, der einen Text mit Gehirn ... Also mit einem menschlichen Gehirnen, der was sich dabei gedacht hat zum Simulieren.

02:09:17: Ist ein Unterschied, ob ich was sementisch verstehe oder nicht?

02:09:20: Das heißt nicht dass sie nicht etwas können aber das heißt nicht, dass sie etwas können, was ihnen unterstellt wird, was sie können.

02:09:26: Ja absolut.

02:09:27: Und das ist ja auch der Grund für die Fehler.

02:09:29: also Wenn ich was nicht verstehe auf der semantischen Ebene, dann können mir Fehler passieren über die sich dann aller Lustig machen.

02:09:37: Gibt's ja viele Beispiele ... Was man immer wieder in den Chatbots eingibt?

02:09:42: Also war da noch typische Beispiels.

02:09:44: Strawberry wie viel Air?

02:09:45: Nicht wahr?

02:09:46: Also bestimmte Begriffe, die immer wieder kommen oder die Uhrzeit lesen oder so gibt es sehr viele Bespiele, die eben Chatbottes nicht gut können, die ein Kind beantworten können.

02:09:56: Ich glaub das war strawberry.

02:09:57: wie viel air hat strawberry?

02:09:59: Ich bin jetzt gerade nicht sicher, glaube ich.

02:10:01: Ah

02:10:01: stimmt!

02:10:02: Wie viele er sind?

02:10:03: Stimmt, stimmt, stimmt.

02:10:05: Also simple Dinge... Den Chor würde auch nicht unbedingt einstimmen weil natürlich wenn man weiß wie die Technik funktioniert dann weiß man auch was die Beschränkungen sind.

02:10:16: Dennoch Die Fehleranfälligkeit bleibt und die macht mich halt besorgt für wie viel Zwecke.

02:10:22: Diese Chatbots jetzt zum Einsatz kommen, wo offenbar niemand darüber nachdenkt, wie man mit diesen Federn umgeht?

02:10:29: Das ist halt irgendwie beängstigend!

02:10:32: Okay was auf ich muss jetzt hier mal ein bisschen durchkürzen du willst um viertel nach raus war drei minütchen ungefähr.

02:10:40: Lass mich mal kurz überlegen Was mit viel Anwendbarkeit würd ich mal behaupten.

02:10:47: Worauf sollte man beim eigenen Handy achten?

02:10:51: Um KI-basierten Tracking versuchen, etwas den Wind aus den Segeln zu nehmen.

02:10:55: Oh

02:10:56: Mann!

02:10:56: Man kommt...

02:10:56: Einseinstellungen.

02:11:00: Okay also was ich empfehlen kann und was mittlerweile auch ziemlich nutzerfreundlich ist und man einfach hinbekommt ist ein Grophin OS.

02:11:08: Also gibt Betriebssysteme für Smartphones die von Google befreit sind und akzeptable Sicherheits- und Privatsphäre-Einstellungen haben, die man sich besorgen kann.

02:11:19: Wie macht man das?

02:11:21: Wenn man selber nicht machen will, würde ich empfehlen zu einem Digital Independence Day zu gehen.

02:11:26: Da gibt es jetzt immer im ersten Sonntag ein Monat und sich helfen zu lassen.

02:11:29: Ich finde, dass mittlerweile die Anleitung, also gibt's so YouTube-Videos und so, dass man das auch selber hinkriegt.

02:11:34: Und wenn man das aber nicht will, dann kann man sich helfen lassen ist relativ einfach.

02:11:40: Hast du das auch gemacht?

02:11:42: Nein, ich habe derzeit kein Graphene OS.

02:11:45: Aber ich habe das schon benutzt allerdings in einer Version davor wo es schon noch mit einigen Ecken und Enden war.

02:11:51: Sie fanden es so ein bisschen anstrengend.

02:11:55: Ich will mal so sagen man hat wenig Wahl bei den Smartphones weil entweder kann man sich letztlich für Google oder für Apple entscheiden.

02:12:05: Ich hab aber auch gelernt dass man mit vielen weniger Feature reichen Smartphones auch klar kommt.

02:12:13: Und die kann man auch ohne Google auf dem Smartphone klaren.

02:12:16: und jetzt mit diesem Betriebssystem funktioniert das bei Apple und auch bei Android?

02:12:20: Nein, es ist ein Android.

02:12:21: Also es ist... Ach so!

02:12:22: Ja, ein Android basiert.

02:12:23: Okay,

02:12:24: verstehe.

02:12:25: Jude dann bin ich raus.

02:12:27: Schade

02:12:28: Naja also Apple hat ja einen bisschen anderen Ansatz weil der mit der Hardware verwoben ist.

02:12:35: Aber in Europa ist halt der Marktanteil von Android sehr viel höher als zum Beispiel in den Vereinigten Staaten.

02:12:43: Man muss halt eine Menge Geld dafür ausgeben, die manche Leute nicht haben und deswegen kann ich durchaus Grafino es empfehlen.

02:12:51: Okay das ist eigentlich Punkt Landung hier dass wir viertel nach rausgehen.

02:12:54: Ich hätte hier... Koma ein zwei drei vier fünf sechs Fragen noch gehabt die wirklich alle schon so sortiert, wann es nur die wichtigsten sind.

02:13:02: Heißt du musst noch mal wiederkommen?

02:13:03: Ich

02:13:03: komme total gerne wieder!

02:13:05: Ich würde mich auch gern mal mit Tilo streiten aber ist ja immer nicht...

02:13:08: Ja schade das sehr gut versteht und blöd.

02:13:12: Du dann danke ich dir dass du hier warst.

02:13:14: Sehr

02:13:14: gerne.

02:13:14: Du bist immer willkommen und euch dankig fürs zugucken.

02:13:18: im Namen aller schön dass ihr ein bisschen zugeschaut habt.

02:13:21: seid gerne beim nächsten Mal

02:13:22: dabei bis bald.