KI-Notbremse: DAS steckt wirklich dahinter! Es ist NICHT, was die dir erzählen | KI-NEWS

Everlast AI www.youtube.com

Kurze Zusammenfassung

In diesem Video wird die aktuelle Situation in der KI-Industrie thematisiert, die von einer Besorgnis über die Sicherheit und mögliche Gefahren der KI geprägt ist. Führende Persönlichkeiten wie Elon Musk und Sam Altman äußern sich zu einem Essay von Dariel, der ein langsameres Tempo bei der KI-Entwicklung fordert. Es wird auch auf verschiedene Aspekte der Regulierung und Haftung in der KI eingegangen, mit einem besonderen Fokus auf die Sicherheitsbedenken und die finanziellen Herausforderungen, die Europa gegenüberstehen.

  • Dario fordert eine Verlangsamung der KI-Entwicklung.
  • Musk und Trump äußern sich kritisch zur Sicherheit von KI.
  • Es wird diskutiert, wer für mögliche Schäden durch KI haftet.
  • Europa benötigt 1,3 Billionen Euro, um im KI-Bereich aufzuholen.

Alle wollen bremsen

Das Video beginnt mit der Forderung von Dariel in seinem Essay nach einer Verlangsamung der KI-Entwicklung, um Sicherheitsbedenken zu berücksichtigen. Elon Musk und Sam Altman unterstützen seine Meinung. In der Öffentlichkeit entwickelt sich eine Debatte über die Schnelligkeit der Fortschritte in der KI und die potenziellen Gefahren, die damit verbunden sind. Trump bezeichnet die ganzen Entwicklungen als Hoax und bringt die Sichtweise aus China ins Spiel.

Der Whistleblower

Der Whistleblower Jacob Coxon äußert starke Bedenken hinsichtlich der verantwortungslosen Handlungsweise von Unternehmen wie OpenAI und Anthropic, die auf eine potenzielle selbstverbessernde Superintelligenz hinarbeiten und dabei die Menschheit gefährden könnten. Diese Behauptungen finden rasche Bestätigung innerhalb der Forschungscommunity und führen zu einer intensiven Diskussion über die ethischen Implikationen der KI-Entwicklung.

Jensen widerspricht

Jensen Wang diskutiert die Sicherheitsaspekte der KI und argumentiert, dass es möglich sei, schnell zu innovieren und dennoch sicher zu bleiben. Er kritisiert die wissenschaftlichen Vorhersagen, die ohne angemessene Grundlagen formuliert wurden, und stellt die Frage, wie solche Behauptungen dem durchschnittlichen Bürger verständlich gemacht werden können. Wang hebt hervor, wie wichtig eine verantwortungsvolle Diskussion über Risiken und Chancen der KI ist.

Trump nennt es Hoax

Trump äußert sich direkt über ein Telefonat mit Jensen Wang und bezeichnet die gesamte KI-Debatte als Schwindel. Er schlägt vor, dass die Rechenzentren, die die KI-Technologie antreiben, der Schlüssel zur zukünftigen Wohlstandssicherung sind und lehnt die Idee ab, dass KI eine Bedrohung darstellen könnte. Trump unterstützt die Entwicklung der KI und fordert pragmatische Lösungen zur Verbesserung der Sicherheitsstandards.

Musks Gegenvorschlag

Elon Musk reagiert auf die Äußerungen von Dario und hebt hervor, dass es wichtig ist, die KI-Sicherheit zu verbessern und gleichzeitig die Industrie nicht zu stoppen. Musk diskutiert die ernstzunehmenden Risiken, die von KI-Modellen ausgehen, und spricht sich für eine Art regulative Rahmenbedingungen aus, um diese Risiken zu mindern.

Wer haftet eigentlich?

In diesem Kapitel wird die Frage behandelt, wer letztendlich für die Schäden haftet, die durch KI-Modelle verursacht werden könnten. Sam Altman von OpenAI betont, dass es unannehmbar wäre, ein Risiko einzugehen, das die Menschheit bedrohen könnte. Es wird auf bestehende Haftungsprobleme hingewiesen und darauf, dass Unternehmen Verantwortung übernehmen müssen.

IPO wegen Safety verschoben

Die Sicherheitsbedenken haben zu einer Verschiebung des Börsengangs von OpenAI geführt. Es wird diskutiert, dass diese Technologie möglicherweise nicht in den Händen einer Privatfirma liegen sollte und eine gemeinsame Führung durch demokratische Regierungen eine mögliche Lösung sein könnte.

Das Safety-Kartell

Das Konzept eines Safety-Kartells, das eine Gruppe von Unternehmen beschreibt, die sich auf die Sicherheit von KI-Technologien konzentrieren, wird erläutert. Es wird auf Verbindungen zwischen verschiedenen Unternehmen und deren möglichen Einfluss auf den Markt hingewiesen, sowie auf die Notwendigkeit einer breiten Diskussion über die Regulierung und Haftung in der KI-Branche.

Regulierung statt Haftung

Hier wird erörtert, wie Unternehmen Regulierung fordern, um sich von der Haftung zu befreien. Die Verantwortung für den Schaden durch KI-Modelle wird thematisiert, und es wird betont, dass Firmen, die potentielle Risiken schaffen, auch für die Folgen in vollem Umfang haftbar gemacht werden sollten.

Die Druckergilde

Ein historischer Vergleich zur Druckergilde des 16. Jahrhunderts wird gezogen, um zu verdeutlichen, wie Eliten Technologie kontrollieren. Es wird argumentiert, dass Regulierungen oft nicht im Interesse der breiten Masse sind und dass die Freiheit durch technische Innovation gefördert werden sollte.

Europas 1,3-Billionen-Lücke

In diesem Abschnitt wird darauf hingewiesen, dass Europa 1,3 Billionen Euro benötigt, um im Wettbewerb mit der KI-Technologie aufzuholen. Die aktuelle finanzielle Unterausstattung wird thematisiert, und es wird der Drang nach einer Debatte über die Verbesserung dieser Situation hervorgehoben.

Ärger hinter den Kulissen

Interne Konflikte innerhalb der Unternehmen aufgrund der neuen regulativen Anforderungen werden angesprochen. Es wird erwähnt, dass Mitarbeiter besorgt sind über mögliche Datenlecks und die Sicherheit ihrer Technologien.

OpenAI wurde gehackt

Berichte über einen Hacks bei OpenAI und Mistral werden diskutiert, bei dem interne Modelle und Daten im Dark Web aufgetaucht sind. Dies wird als Warnung vor den Risiken gesehen, die mit der Kontrolle und Verwaltung von KI-Technologien verbunden sind.

Mistrals Modelle geleakt

Es wird darüber berichtet, dass umfassende Datensätze und technische Modelle von Mistral scheinbar an die Öffentlichkeit gelangt sind. Diese Vorfälle verdeutlichen die Herausforderungen und Risiken, die durch unzureichende Sicherheitsmaßnahmen innerhalb der Unternehmen entstehen können.

200-mal schneller

Ein neues KI-Tool namens Jeff, das verspricht, 20 bis 200 Mal schneller zu sein, wird vorgestellt. Es soll Entscheidungsprozesse innerhalb von Workflows optimieren, indem es die Interaktionen zwischen verschiedenen Agenten erleichtert.

Agenten arbeiten tagelang

Das Konzept von Agenten, die über längere Zeiträume hinweg arbeiten, wird erklärt. Durch das Zusammenspiel von Planung und Ausführung sollen effizientere Ergebnisse in Projekten erzielt werden.

Planner und Worker

Hier wird das Prinzip von "Planner" und "Worker" behandelt, bei dem unterschiedliche Modelle für die Planung und Ausführung genutzt werden. Dies ermöglicht eine verbesserte Nachverfolgbarkeit und Qualitätssicherung im Entwicklungsprozess.

Vier Tage autonom

Der Abschnitt berichtet von einem viertägigen Projekt, in dem Agenten effektiv einen geplanten Workflow abgearbeitet haben. Dieses Beispiel zeigt die Effizienz des Planner-Worker-Ansatzes und die Effektivität in der Projektumsetzung.

Agenten sprechen miteinander

Die Interaktionen zwischen verschiedenen Agenten im Rahmen eines gemeinsamen Projekts werden detailliert beschrieben, um die Botschaften und Informationen, die zwischen den Agenten ausgetauscht werden, zu beleuchten.

Die Weltmodelle kommen

Es wird darauf hingewiesen, dass neue Weltmodelle, die auf KI basieren, entwickelt werden. Diese haben das Potenzial, Aufgaben effizienter zu bewältigen und verschiedene Anwendungsfälle zu transformieren.

Roboter lernen spontan

Hier wird die Entwicklung von Robotertechnologien, die in der Lage sind, sich spontan an neue Aufgaben anzupassen, thematisiert. Dies stellt einen wichtigen Fortschritt in der Robotik dar und öffnet neue Möglichkeiten für praktische Anwendungen im Alltag.

Claude räumt auf

Ein Update zu Claude, einem KI-Modell, das neue Funktionalitäten erhalten hat, um die Nutzererfahrung zu verbessern und interaktive Aufgaben effizienter zu gestalten.

Die große Diskrepanz

Hier wird auf die Diskrepanz zwischen den großen Schlagzeilen über das Risiko der KI und der tatsächlichen Nutzung der Technologie in der Wirtschaft eingegangen. Die kontrastierenden Narrative werden kritisch analysiert.

Decks direkt im Chat

Die neue Funktion, die es ermöglicht, Präsentationen und Designs direkt aus dem Chat heraus zu erstellen, wird vorgestellt. Diese Funktion zielt darauf ab, die Nutzung von KI-Tools einfacher und zugänglicher zu gestalten.

Gemini 4 Pro

Ein neues KI-Modell, Gemini 4 Pro, wird angekündigt, das laut Berichten über verbesserte Fähigkeiten und schnellere Reaktionszeiten verfügt. Dies könnte einen signifikanten Fortschritt in der KI-Entwicklung darstellen.

300 Millionen für Europa

Es wird über die Finanzierung von 300 Millionen Euro für KI-Projekte in Europa gesprochen, um die Wettbewerbsfähigkeit zu stärken. Die internationale Zusammenarbeit in diesem Bereich wird als entscheidend hervorgehoben.

Nächstes Millennium-Problem?

Das Thema des nächsten Millennium-Problems, die Hodge-Vermutung, wird angesprochen, mit Spekulationen darüber, dass OpenAI möglicherweise an einer Lösung arbeitet. Die Bedeutung solcher wissenschaftlichen Durchbrüche wird betont.

Dev Day

Der Developer Day wird erwähnt, an dem wichtige Ankündigungen zur KI-Entwicklung zu erwarten sind. Der Sprecher plant, vor Ort zu berichten und die neuesten Updates für die Zuschauer bereit zu stellen.

Summarize any YouTube video in seconds

Get summaries like this one for any video, in your language, with the free Summ app.

Download on the Apple Store
Get it on Google Play

Transkript

YouTube Transcript Generator

0:00 Wir müssen das Tempo an der Spitze der KI kontrollieren. Das fordert Dariel in seinem neuen 3800 wörter langenem Essay. Also nichts geringeres als die gesamte KI Industrie in der Entwicklung ihrer Modelle zu verlangsamen. Nur eine Stunde später antwortet Musk. Dario hat recht. Zweieinhalb Stunden später schreibt Sam Oldman: "Ich stimme Dario zu." Und am Montag ruft dann Präsident Trump live auf der Bühne bei Jenson Wang an und nennt das Ganze einen Hoax. also einen Schwindel und China spricht von einem Drehbuch aus dem kalten Krieg. Also die drei mächtigsten Männer der KI Welt, die sich seit Jahren ein Wettrennen um jedes zehnte Prozent in den Bch liefern, sind sich zum ersten Mal einig, dass sie bremsen wollen und ausgerechnet der

0:47 Präsident und Peking sind es, die auf das Gaspedal treten. Was steckt hinter allem? Was muss man wirklich darüber wissen? Was bedeutet das für uns in Europa? Und vor allem, welche Schlussfolgerungen müssen Unternehmen jetzt darausziehen? Diese Woche war mal wieder super viel los in der KI Wel. Ich fas dir wie jede Woche seit jetzt über zweieinhalb Jahren alle wichtigen Updates für die Praxis zusammen, s dass du den entscheidenden Vorsprung hast, um Kosten zu sparen mehr Geld zu verdienen. Mein Name ist immer noch Leonard Schweding, also starten direkt rein. Ja, also noch mal kurz zum Hintergrund. Alles beginnt mit dem Kündigungsfre von Jacob Coxon, einem Preining Researcher, der 3 Jahre lang erst bei Open AI und dann bei Enhropic gearbeitet hat und schreibt: "Keines der beiden Unternehmen handelt verantwortungsvoll. Beide rasen geradewegs auf eine sich

1:32 selbstverbessernde Superintelligentz und spielen dabei mit unser allerleben. Der Fred wird fast 200 Millionen mal angesehen. Coxen verzichtet dafür auf seine Ropic Anteile, die zwei Monate später fällig geworden wären und keine anderthalb Stunden später bestätigt Even Hubinger Limon Forscher bei Fropic öffentlich, dass Jacob recht habe. Ja, persönlich sehe eine Wahrscheinlichkeit von über 10 %, dass KI innerhalb des nächsten Jahrzehnts die gesamte Menschheit auslöscht. Keine vier Tage später erscheint dann Emis Esse. Es folgen dann Musk, Man, Demis Hasabis und am Montag eben der Anruf von Trump. Das haben wir jetzt alle mehr als genug gehört, deswegen nun die Frage, wie reagiert die andere Seite? Und schauen wir erstmal, wie Jenson Wang auf all das reagiert.

2:18 Es gibt einen Teil über Sicherheit, den wir sehr ernst nehmen müssen. Sicherheit steht natürlich an erster Stelle. Sicherheit und Führung, das sind falsche Alternativen. Man kann schnell innovieren, man kann schnell umsetzen und Amerika kann führen und dies sicher tun. Offensichtlich ist die die Coxen Whistleblower Angelegenheit eine sehr ernste Sache. Wenn wann immer man einen Whistleblower hat, sollte man das sehr ernst nehmen. Ich fand Coxon hatte großen Mut, seine Bedenken zu äußern. Ich halte das Whistleblowing für in Ordnung. Ich halte die wissenschaftliche Vorhersage äh über die Zukunft äh für weniger in Ordnung, weil sie nicht fundiert ist. Sie wurde zwar von einem Wissenschaftler geäußert, aber sie war offensichtlich nicht wissenschaftlich fundiert und deshalb habe ich ein Problem damit. Was bedeutet das? 10% aussterben? Niemand weiß, wie man das dem Durchschnittsbürger erklären soll, wie

3:04 das überhaupt möglich ist. Nun, erstens sollten wir das gar nicht, weil es erfunden ist. Das sind gut ausgebildete Leute. Sie werden Forscher genannt. Offensichtlich arbeiten sie in einem Labor und deshalb ist das Zusammentreffen dieser Worte und dann die Vorhersage alarmierend und beunruhigend und das sollte nicht getan werden. Es ist unverantwortlich. Ja, also Jens Nang stellt hier meiner Meinung nach genau die richtige Frage. Was ist denn die wissenschaftliche Grundlage für all diese Claims? Also wie kommt man ja auf diese 10%? Das sind doch aus der Luft gegriffene Aussagen und vielleicht sollten wir gar nicht versuchen zu argumentieren, wie man diese Claims jetzt eben entsprechend rechtfertigt. Und der Richard Socher, wir haben mir vor einiger Zeit auf dem Kanal gesprochen, der Finner des Prompt Engineerings, der hat das auch noch mal gut auf Twitter auf dem Punkt gebracht und zwar sagt er, ich habe bisher nicht ein einziges nicht Sci-Fi Szenario

3:50 gehört, wie bis 2030 die Menschheit ausgelöscht werden soll von KI. Und das sehe ich halt auch so, ja, weil letztlich läuft KI auf GPUs in Rechenzentren, die können alle lokalisiert werden, die werden immer alle noch von Menschen kontrolliert. Es ist ein Engineering Thema. Natürlich sind Cyberrisiken real, ja, aber von einem Cyberrisiko bis zum Auslöschen der Menschheit. Um diesen Schritt zu erklären, müsste man jetzt noch mal diverse Sci-Fi Autoren in den Raum holen, dann geht das vielleicht. Ja, und dann wird Jenson eben auch mit dem Gespräch noch mal angerufen. Herr Präsident, ja, Sie sprechen jetzt zum Planeten. Sehen Sie, das Großartige am Leben ist, dass Jensen den komplexesten Computerchip der Welt entwickeln kann, den 10 Jahre lang niemand kopieren kann, aber er kriegt es nicht hin, mich auf Lautsprecher zu stellen. Das ist alles

4:37 ein Schwindel. Rechenzentren sind großartig. Sie machen Menschen und Staaten wohlhabend und sind das Öl der nächsten 20 bis 25 Jahre. Es ist größer als das Internet. Sie spielen damit genau den Leuten in die Hände, die das nicht sehen wollen und äh das könnten Politiker sein und es könnte auch China sein und wir werden nicht zulassen, dass das passiert. Es ist ein Schwindel. Nun, ich kenne mich mit KI aus und besitze auch den gesunden Menschenverstand. Die Roboter werden sicher nicht die Macht übernehmen. Äh die äh KI wird nicht den Rest der Welt übernehmen. Die ganze Sache ist ein Schwindel. Nun, damit müssen wir ein wenig vorsichtig sein. Wir müssen sehr, wissen Sie, wir müssen Dinge tun und wir müssen sie umsichtig tun. Wir stoppen die Industrie nicht, während wir in den nächsten 10 Jahren an

5:22 ihrem Wandel arbeiten. Ich bin ganz bei Ihnen. Dazu habe ich einen Ausdruck. Wer auch immer bei der KI siegt, gewinnt. Echt groß. Das ist größer als Internet. Also Trump steht in dieser Frage auch auf der Seite der Chipindustrie und Hang erklärt direkt nach dem Anruf, wieso er der Debatte nicht traut. Weil zuerst hieß das Argument gegen KI nationale Sicherheit. Das sei inzwischen erledigt. Jetzt heiße es plötzlich Safety. Experte Prüfer findet eher sinnvoll sowie Wirtschaftsprüfer. Sie müssen das Geschäft nicht besser verstehen als das Unternehmen. Sie müssen nur die richtigen Fragen stellen. Und da fand ich den Vorschlag von Elem Mast tatsächlich durchaus interessant, der auch genau mit dieser Frage konfrontiert wird. Also was meinte er damit? Dario hat recht. Elon, als du am Wochenende sagtest Dario, habe recht, meintest du

6:09 damit seine Einschätzung zum potenziellen Schaden und hat er auch bei der regulatorischen Lösung recht? Ich hätte wahrscheinlich deutlicher sagen sollen, dass Dario recht hat. Ich habe versucht, das auf X klarzustellen. Doch diese Beiträge erhalten leider viel weniger Aufmerksamkeit. Mit er hat Recht, meinte ich, die Gefahr durch KI ist aktuell sehr groß. Wir müssen bei der KI Sicherheit besser werden, sonst riskieren wir durch diese KI Modelle ein exponentiell wachsendes Risiko. Das habe ich nicht nur von Dario gehört, sondern auch von vielen anderen Leuten bei Anthropic. Und tatsächlich haben sie auch auf X darüber gepostet, wenn Leute von Antropic und sogar von Open AI sagen, ihre Modelle seien gefährlich, dann sollten wir ihnen das glauben. Es ist schon eine Art verrücktes 4D Schach, vor einer zehnprozentigen Chance zu warnen, die Menschheit auszulöschen, aber gleichzeitig zu fragen, wie viel

6:55 Zuteilung hätten Sie denn gerne bei unserem Börsengang? Ja, anstatt dass jedes KI Unternehmen seine eigenen Modelle korrigiert, sollen die großen Firmen ihre Modelle vor dem Release gegenseitig durch die Sicherheitsstest Hannesses der Konkurrenz jagen. Vielleicht sogar open source, ne? Z.B. Tropic tested Old May Ice, SpaceX Tested Google, dazu drei oder vier der führenden chinesischen Firmen und wer nach so einer Peer Review ein als unsicher markiertes Modell trotzdem veröffentlicht und damit Schaden anrichtet, dem Droher ein Haftungsprozess auf dem Niveau der Tabakindustrie und als Auslöser nennt auch er, dass es wird noch relevant sein, den Hugging Face Vorfall, also der Schwarm von KI Agenten, der eine Woche lang auf Hugging Face eingeprügelt und sich dann Admin Zugang zu Open AI verschafft hat, ohne dass Open AI das eine Woche Woche lang bemerkte. Ja, und

7:41 genau diese Frage, also wer haftet denn am Ende dafür? Die wird, glaube ich, zu wenig gestellt in dieser ganzen Debatte. Vor allem, wenn wir uns jetzt mal anhören, was Sam Altman noch dazu gesagt hat. Ich halte es für inakzeptabel, eine zehprozentige Chance in Kauf zu nehmen, bis Ende des Jahrzehns alle zu töten. Die Menschen, die an diesen Bemühungen arbeiten, haben enorme Macht, das Geschehen hier zu beeinflussen. Wir haben Maßnahmen ergriffen, als wir dieses neue Fähigkeitsniveau erreichten, um sicherzustellen, dass wir kein solches Risiko für die Menschheit eingehen. Das sollte niemand tun. Dies ist ein leistungsfähigeres Modell, bei dem mehr auf dem Spiel steht. Wenn Modelle ein neues Leistungsniveau erreichen, entstehen neue Risiken. Deshalb müssen wir unsere Ausrichtung, Überwachung und Sicherheitsvorkehrungen

8:26 verstärken, um diese Risiken zu mindern. Also die Sicherheit hat den IPO von Open AI jetzt scheinbar verschoben und Dario geht da sogar noch weiter. Er sagt, es sei schon immer seltsam gewesen, dass diese Technologie von einer Privatfirma gebaut werde. Er selbst fühle sich unwohl und dann kommt die Frage, ob er die Technologie an die Regierung übergeben würde. Wissen Sie, ich fand es schon immer seltsam, dass diese Technologie von einer Privatfirma entwickelt wird. Oft fragen mich Leute, warum macht das nicht die Regierung? Und das Seltsamste ist, ich stimme Ihnen zu. Ich fühle mich dabei unwohl. Wären Sie bereit, die Technologie an die Regierung abzugeben? An die richtige Kombination von Regierungen. Die Sorge, die ich habe. Sie sind bereit, dieses Unternehmen zu

9:12 übergeben? Ich bin besorgt, dass eine einzelne Regierung diese Technologie genauso leicht missbrauchen könnte wie ein einzelnes Unternehmen. Aber ich denke, eine Kombination aus demokratisch gewählten Regierungen, ich weiß nicht, ob man das Übergabe nennen kann, aber vielleicht eine Art Aufsicht, eine Art gemeinsame Führung. Das wäre wohl der richtige Weg. So und spätestens nach dieser Aussage dürften die meisten verstehen, wieso Kritiker von allem mich eingeschlossen von einem Safety Kartel sprechen und weil die meisten davon schlicht nichts wissen, man kann dazu ein zweistündiges Video machen. Ich will dir hier mal nur ein Beispiel geben. Ja, der Holn Kanowski, das ist der Ehemann von Daniela Amodi seit 2017, das ist die Schwester von Dario Amodi und auch Cfounderin von Enhropic. Und dieser

9:57 Holen Kanowski, also der Ehemann von Daniela, der war von 2017 bis 2021 im Board bei Open AI und seit 2025 ist er bei Entropic. der gründet 2014 unter anderem Open Philanthropy. Die haben den Vermögen von über eine Milliarden. Hauptgeldgeber von Open Philanthropy ist Dustin Moskowitz, der wiederum ist Teil der Series A von Inhropic und der schreibt wörtlich selbst auf Blue Sky: "Meine Anteile, das sind etwa 8 Milliarden, sind zu 100% in meiner Stiftung und die wiederum finanziert unter anderem Meter und Redwood Research und jetzt erinnerst du dich Meter und Redwood Research, das waren ja auch die Organisationen, die unter anderem den Hugging Face Vorfall ja analysiert und ausgewertet haben und Miete ist im übrigen auch die Organisation, die Dari wörtlich sich in seinem Artikel Pace the

10:44 Frontier als unabhängige Prüfstelle vorschlägt. Also wie gesagt, das ist nur ein Beispiel und da darf man doch den Elefanten im Raum einfach mal ansprechen. Es geht um die Monopolisierung, ja, oder das Absichern des Monopols, Duopols, Oligopols, was auch immer das mittlerweile für eine Situation ist in den USA durch Regulierung. J selbstverständlich kann man über noch weitere Schlussfolgerung dessen sprechen. Das kann sich jeder ganz einfach ausmalen, wie das weitergehen könnte. Zudem sollte man auch wissen, dass die meisten lautesten Politiker, die für KI Regulierung ja ins Hornblasen auch hochfinanziert sind, ja, mit am höchsten finanziert sind von den KI unterdem selbst. Ja, also die Finanzierung, die kommen unter anderem aus diesen ganzen Safety ja Kartell Kreisen. Und das ist übrigens noch die

11:31 Einordnung von Alex Carp, der sagt, wer eine Technologie baut, die 10% der Welt zerstören könne, hafte dafür zivil und strafrechtlich. Und die Labs bitten jetzt um gesellschaftliche Regulierung, um aus genau dieser Verteidigungslinie herauszukommen. Die erste Verteidigungslinie: Sie haften für eigene Handlungen, eine seltsame Wendung. Sie fordern Regulierung, um sich der Haftung zu entziehen. Wer Technologien baut, die 10% der Welt zerstören könnten, muss zivil und strafrechtlich haften. Ein weiteres Problem: Jeder, der das versteht, steht auf einer Gehaltsliste. Wem kann man also trauen? Bei der Kernenergie und der Bombe glaubten die Entwickler noch an ihre Sache. Sie standen nicht auf der Liste. Die Haftung, von der Sie sprechen, wie wird die in ein S1 Formular geschrieben?

12:16 Wie klingen Risikofaktoren? Sie gehen davon aus, dass es ein S1 Formular geben wird. Vielleicht wird es eines geben. Der einzige Weg mit dieser Haftung umzugehen ist die Regierung zu bitten. Bitte verstaatlichen Sie uns. Oft sagen Geschäftsleute nicht, was sie wirklich wollen. Das führt zu dem Schluss. Jeder Investor, der glaubt, Geld zu verdienen, denkt: "Die Unternehmen sind das Ziel. Was ist die erste Lektion beim Poker und im Leben?" Wenn du denkst, dass die andere Person das Ziel ist, dann bist du das Ziel und es wird einfach wegen der Haftungsfragen, von denen sie sprechen, verstaatlicht werden. Ja, und wieso ist das alles überhaupt wichtig? Ich habe mich jetzt auch gefragt, soll ich das überhaupt in diese Kws mit reinnehmen? Lass ich es einfach raus, das ganze Thema. Aber weil ich diesen Diskurs jetzt auch in Deutschland

13:03 immer größer werden sehe, unter anderem K Lauterbach, der jetzt weltweite KI Regulierung fordert, sehe ich es als wichtig an, dass jeder mal wirklich mit den gesamten Informationen auch ausgestattet ist und eben nicht einfach nur ja solche wilden Claims hört und ja, das ist eben auch meine Meinung dazu. Also, wenn die Eliten den kleinen Mann vor der ach so gefährlichen Technologie schützen wollen, ist meist exakt das Gegenteil der Fall. Und ich gebe dir mal ein wirklich treffendes Beispiel dafür. Das ist die Druckergilde aus dem 16. Jahrhundert in England. Da hat man nämlich den Buchdruck nahezu monopolisiert, ja, in Zusammenarbeit mit Staat Königshaus und in dieser Druckergilde, die nicht lizensierte Bücher beschlagnahmen durfte und das hielt ja von 1557 bis 1695

13:49 an. Das heißt, wir haben historische Beispiele dafür, wie Eliten, eine ubiquitäre Technologie, die die Freiheit ja von allen vergrößert. Und das ist doch das, was wir jeden Tag mit KI erleben. Also, ich habe noch niemanden kennengelernt, der sagt, die führenden KI Modelle und auch die Open Weights Modelle, die schränken jetzt in irgendeiner Form eine Freiheit ein. Also ganz im Gegenteil, ja, wir können alle viel mehr schaffen und haben viel mehr Zugriff zu Informationen, ja, die man sich sonst erstm müselig beschaffen müsste. Und demnach ist KI in erster Linie heute noch eine Technologie, die der breiten Masse zugute kommt. Und in Europa brauchen wir erstens nicht über KI Regulierung weltweit reden, weil wir kein Mitsprache Recht aktuell haben. Wir sind einfach nicht führend. Ja, und das hat der Professor Dr. Clemens Fürst rund ums Ivo Institut jetzt mal konkret

14:35 beziffert. Und zwar sagt der Europa fehlen 1,3 Billionen Euro, um bei KI aufzuholen. Das ist doch die Debatte, die jetzt mal stattfinden muss. Denn selbst wenn wir Regulierung fordern, dann müssen wir überhaupt technologisch mal eine Rolle spielen in Europa. Ansonsten wird uns doch ohnehin hier niemand zuhören, wenn es uns doch so wichtig ist, dass unsere moralischen Standpunkte in USA und in China gehört werden. Ja, und dabei geht's aber nur um das Aufstocken der globalen Rechenzentrumskapazität von 5% auf 15 % bis 2030. Allein dafür, wir reden hier noch nicht mal von dem Bau eigener KI Modelle. Wir reden hier nur von dem Ausbau der Rechenzentrazität von 1,3 Billionen. Also, wir haben jetzt mal eine konkrete Zahl hier im Raum. Die Frage ist nur noch, ob jetzt auch wirklich gehandelt wird. Ansonsten ja,

15:21 wird es düster. Und ich fand die Aussage vom Arthur Mensch, dem CEO von Misrael, ziemlich gut. Ja, er sagt, wir sind der Kontinent der Strategen. Ja, so reagiert er eben darauf, weil wir haben schon seit Jahren sämtliche Strategien, was man alles machen müsste, aber am Ende gehandelt wird dann eben doch sehr wenig. Ja, trotzdem abschließend, um das Ganze jetzt aber positiv zusammenzufassen, hier noch mal ein KI generierter Clip zur aktuellen Situation. We decide who uses AI.

16:11 Ja, übrigens ein Gerücht, das heftte ich noch an und zwar der Vorstoß von Dary Omodi die Frontier KI zu verlangsamen hat wohl Mitarbeiter laut Financial Times in beiden Unternehmen kalt erwischt und den Plan dieser externen Evaluatoren, also Mieter, Redwood Research und so weiter, die Zugriff auf interne Systeme haben sollen, der sorgt jetzt für interne Reibung in den Firmen. und Führungskräfte befürchten, dass sensible Informationen und sensible Daten so nach außen dringen könnten. Ja, Open AI wurde jetzt scheinbar auch selbst noch mal gehackt und das wurde dann bewiesen durch ein intern PR in Open Eyes interner Codebase. Ja, seitens der Angreifer und gleiches gilt übrigens auch für Mistral, also auch Mistrals gesamten Modellgewichte. Das sind

16:58 aktuell noch Gerüchte rund um Mistrail, also vom Unternehmen selbst wurds noch nicht bestätigt. Bei Open AI schon. Ja, bei MR scheinen wohl alle Modellgewichte, Posttraining Pipelines, etc. im Dark Web zur Verfügung zu stehen. Also Mistal scheint wohl einen massiven Hack erfahren zu haben, aber das beides, das unterstreicht doch auch noch mal die Aussage von Jensen Wang. Also bekommt erstmal euer eigenes Engineering in den Griff, letztlich auch Hugging Face. Das habe ich ja auch in jedem Video über KI Zivilisation, über KI Schwärme habe ich gesagt, man muss bedenken, es gibt ein Marketingesse und da wurde engineering technisch einfach einiges offensichtlich falsch gemacht. Ja, die KI ist nicht von sich aus immergent ausgebrochen. Ja, und das bestätigt das hier eben auch noch mal so. Aber jetzt noch mal zu ein paar

17:43 wirklich relevanten Updates, die du auch nutzen kannst. Und zwar ein neues KI Modell, ein neues KI Tool. Ja, Jeff wurde veröffentlicht und das soll 20 bis 200 mal schneller sein und gleichzeitig 40 bis 400 mal günstiger. Der ganze Ansatz von Jeff ist ein völlig anderer. Jeff ist allerdings kein Modell, welches Text oder Code generiert, sondern spezialisiert auf Workflows und das Treffen von Entscheidungen innerhalb von Workflows, weil Jeff sitzt mitten im Code und kann z.B. entscheiden, ja, welches Team muss das Ticket, muss die Aufgabe an einen Agent delegiert werden? ist der Output eines anderen Modells korrekt. Ja, also es ersetzt praktisch auch den Human in the Loop und hilft dabei Entscheidung zu treffen. Spannend ist, dass es tatsächlich ein völlig neuer anderer Ansatz ist und testen

18:30 kannst du es leider noch nicht. Es ist aktuell nur per Warteliste verfügbar und deswegen lass uns mal in die Praxis schauen und zwar wie bekommt man das denn eigentlich hin, ja, dass Agenten oder Agententeams wirklich am Stück arbeiten? Ich habe mal den Marcel aus unserem Engineering Team gebeten, das zu zeigen. Ja, also wie schafft man es überhaupt? seine Agenten tagelang am Stück durcharbeiten zu lassen. Das ist essentiell, bevor du beispielsweise ein neues Feature oder auch einen Bugfix in deine Codepaste implementierst, dass du primär erstmal mit einer Planning Session einen Plan erstellst. Dieser Plan wird dann später in GitHub beispielsweise abgespeichert Form von einem Issue. Doch wenn es dann nun an die Implementierung dieses Issues geht, ist es essentiell, dass du nicht

19:16 die gleiche Session, mit welcher du den Plan erstellt hast, zum Implementieren benutzt, sondern du das Planner Worker Prinzip anwendest. Bei dem Planner Worker Prinzip arbeitest du prinzipiell mit zwei neuen Sessions, jeweils mit einem neuen bzw. anderen LM Modell. Wichtig dabei ist, dass das Modell, welches für die Planner Session ausgewählt wurde, nicht das gleiche Modell ist, mit welchem du den Plan zuvor erstellt hast. Denn die Planner Session verifiziert noch mal deinen gesamten Plan, bevor sie dann Aufgabe für Aufgabe, um diesen Plan abzuarbeiten, an die Worker Session gibt. Während die Worker Session arbeitet, kontrolliert die Planner

20:02 Session, die Arbeit des Workers, dokumentiert alles auf GitHub und meldet sich beispielsweise mit gewünschten Anpassungen wieder beim Worker. Das Ganze geht so lange hin und her, bis das gesamte Issue abgearbeitet ist. Beispielsweise habe ich genau mit diesem Planner Worker Prinzip aktuell den gesamten Datef MCP gebaut. Hier siehst du einmal links die Planner Session und rechts die Worker Session. Das Ganze hat insgesamt vier Tage lang gedauert. Vier Tage lang haben der Planner und der Worker sich untereinander ausgetauscht, das gesamte GitHub Issue, also den Plan abgearbeitet, alles feinsäuberlich

20:50 dokumentiert und der Worker hat eine Aufgabe nach der anderen abgearbeitet und dies kann ich natürlich vielfach parallel laufen lassen. beispielsweise habe ich jetzt hier nicht nur vier Tage lang den Dart MCP bauen lassen, sondern habe unter anderem auch in einer anderen Session noch nebenbei einen Elster MCP gebaut, wo wir auch gerade sehen können, dass hier der Worker dementsprechend am Arbeiten ist und sobald er fertig ist wiederum den Planner informiert, damit der Planner dem Worker den nächsten Step geben kann zum Abarbeiten. Okay, aber wie funktioniert das Ganze jetzt? Und zwar benutze ich in diesem Fall hier Hurder. Hurder kümmert sich darum, dass diese zwei Sessions über einen Skill

21:37 miteinander kommunizieren können und somit Informationen austauschen können. Und wenn beispielsweise der Planner von dem Worker irgendeine Information bekommen hat bzw. Weise irgendetwas wichtig ist, was ich jetzt in meinen Terminkalender wissen muss oder aber auch ich wieder dran erinnert werden muss, sendet der Planner das dementsprechend an eine weitere Session, hier in dem Fall an eine sogenannte Backoffice Session, die dann für mich alles für den nächsten Termin in dem Fall mit Elster zusammenfasst, damit ich bestens daruf vorbereitet bin. Ja, wirklich höchst interessante Einblicke und die Use Casases davon sind natürlich nicht nur Coding, sondern auch Marketing. Damit auch noch mal vielen Dank an alle, die beim Atentic Marketing Workshop dabei waren. Es war wirklich ein Fest und wir werden das auch noch

22:22 mal wiederholen. Also den Link findest du in der Videobeschreibung oder auf genticmarketing.de, falls du das verpasst hast diese Woche unseren Live Workshop rund ums Thema, indem ich dir auch wirklich zeige, wie das dann im Marketing z.B. funktioniert und interessant dabei dürfte auch Odyssee sein. Odyssee 3 ist jetzt der nächste große Schritt für Foundation World Models. Mit Odyssey hatten wir schon im Rahmen des Odyssee 2 Updates hier auf dem Kanal gesprochen. Die Modelle sind vor allem für Roboter, ja, humanoide Roboter, autonome Fahrzeuge, AI Training, aber auch Videospiele relevant, wie man auch hier an diesem Beispiel tatsächlich noch mal sieht. Und das war tatsächlich auch ein größeres Update aus dieser Woche von Figure AI, also eines der führenden Humanoid Unternehmen aus den USA. Hören wir da mal kurz rein.

23:08 Helix 2.5 ist ein Quantensprung gegenüber all unseren bisherigen Systemen. Es ist das fortschrittlichste neuronale Netzwerk, das wir je gebaut haben. Es kann Räume aufräumen, Betten machen und Wäschefalten, selbst in Häusern, in denen es noch nie war. Diese Aufgaben wurden ausgewählt, weil sie die gleichzeitige Lösung fast aller klassischen Robotikpreme erfordern. Wahrnehmung Fortbewegung Manipulation sowie die Handhabung starrer und verformbarer Objekte alles in Echtzeit. Dieses Modell muss sich nicht nur in ein oder zwei Haushalten bewähren. Wir haben Tests in 30 Haushalten der Bay Area durchgeführt, ohne Datensammlung und Helix 25 war überall erfolgreich. In der Robotik nennen wir das Zero Shot Whole Body Generalization. Es ist das erste Ergebnis dieser Art. Ja, so humanoide

23:53 Roboter, die irgendwelche Aufgaben im Haushalt ausführen, haben wir schon öfter jetzt gesehen. Ist nicht unbedingt etwas Neues. Was aber neu ist, dass diese Aufgaben nicht vortrainiert sind und dass die Roboter laut Angabe von Figer noch nie die Gegenstände im Haus gesehen haben und on the Fly neue Tätigkeiten ausführen können. Und das ist natürlich ein riesen Durchbruch, der auch noch mal gut zeigt, ja, wie die Software Seite, also die KI Modelle und die Hardware im Kontext von Humanuin Robotern zusammenspielen müssen. Meiner Meinung nach wird das natürlich kein langfristiger Mode, also Burgra sein können von den Robotik Unternehmen. Nicht zuletzt, wenn man sich mal anschaut, wie gut Astra schon tatsächlich solche Roboter steuern kann. Das wirft noch mal ganz neue Fragen auf und wenn dich das interessiert, also die ganze Robotics Entwicklung, wir haben den Everlast Robotics Kanal jetzt schon

24:39 vor einiger Zeit gestartet und dort kommt nächste Woche schon wieder ein ausführliches Video genau zu diesem Thema Live aus China. Ja, also wenn dich das interessiert, schau mal bei Everlast Robotics vorbei. Ja, auch bei Clud gibt es ein Update und zwar werden Clud Cowork und Clud Chat jetzt in Clud Chat migriert. Das heißt, Cork fällt komplett weg. Das ist schon die ganze Story und du hast nur noch den Chat Uncla Code. Das Update ist gut und richtig, weil Cork auch verwirrend war irgendwann, ja, mit drei verschiedenen Produkten und letztlich ist Cowork die produktivere Art mit KI, also mit Claud zu arbeiten als der normale Chat. Und eine Sache, die ich mir dabei nicht verkneifen kann, weil der Darry Omi Modi, der war ja diese Woche auf der Dream Force, also bei Sales Force und der wurde hier wirklich gefragt, also es ging auch um das Thema Pay Frontier und der wurde

25:25 gefragt, was sind denn die Durchbrüche, die du siehst, ja, mit KI und mit Claud und dann erzählte er eben davon, wie sie Clud in Sales Force nutzen und wie die Vertriebsmitarbeiter jetzt durch den Chat mit Clud in Sales Force sich besser vorbereiten können auf Gespräche mit potenziellen Kunden. Ja, und wenn das das Riesen Thema ist, also in dem B2B CRM SARS ja Lied mit Claud vorzubereiten und auf der anderen Seite wird über das Auslöschen der Menschheit gesprochen, dann ist das eine Diskrepanz, ja, auf die man durchaus ja mal hinweisen darf. nichts desto weniger einver US Case, ja, von KI, also die Vorbereitung auf Verkaufsgespräche, die Leadrecherche natürlich und du kannst jetzt eben auch direkt aus dem Chat heraus Decks, Docs, Designs in der Konversation erstellen.

26:10 Also für alle, die vielleicht noch eine zu große Hürde vor Cloud Code hatten und mit diesen Möglichkeiten noch nicht arbeiten, wird's jetzt auch noch ein bisschen leichter, dadurch dass du es direkt aus dem Chat herauserstellen und wie du hier siehst auch bearbeiten kannst, ja, die Farben ändern kannst, Schriften, Texte anpassen kannst, alles nahtlos aus dem Chat heraus und Projekte sind für alle wiederum, die Cloud Code nutzen, auch in Cloud Code verfügbar. Ja, damit auch zu ein paar Spekulationen aus dieser Woche und zwar was ist eigentlich mit Google bei all dem und laut Gerüchten ist Gemini 4 Pro extrem gut und soll tatsächlich ein großer Sprung sein und jetzt geht's scheinbar nur noch darum die Inferenzlatenz zu erhöhen, also das Modell einfach deutlich schneller zu machen in den Antworten und das ist schon Beispiel hier von Gemini 4 Pro. Wenn das der Praxis standhält, dann ist Gemini 4 Pro

26:57 tatsächlich mal wieder ein größerer Sprung und es gibt ja durchaus einige, die mit Gemini arbeiten, die zuletzt natürlich berechtigterweise etwas frustriert waren über den geringen Fortschritt von Gemini. Da könnte es also bald wahrscheinlich Ende September, Anfang Oktober, ein größeres Update geben mit 4 Pro. Ja, und in Europa gibt's jetzt auch ein neues Modell und zwar La Zero wird mit 300 Millionen finanziert von Deutschland und Kanada. Das ist ein Unternehmen von Jos Benjio, auch im übrigen ein großer Befürworter von KI Sicherheit, der auch schon sehr lange warn vor den KI Risiken und damit möchte man jetzt AI Science in Europa vorantreiben, was ich persönlich ein bisschen schade finde, gerade dadurch, dass hier auch öffentliche Gelder im Spiel sind, dass explizit nicht über Open Source KI gesprochen wird. Also das

27:43 würde ich mir doch schon erhoffen. Ja, also gerade wenn man dann ein KI Unternehmen, was ja richtig ist in Europa so stark finanziert, dann wäre es dann natürlich schön, wenn es sich nicht wie hier in diesem Fall um eine NGO handelt, bei der es dann am Ende fraglich sein dürfte, ja, wer dann wirklich von all dem profitiert, sondern ich hoffe natürlich, dass wir am Ende dann auch alle Zugriff bekommen auf diese Law Zero Modelle, idealerweise Open Source, aber wie gesagt, dazu gibt's in der technischen Roadmap von Law Zero keine Ankündigung zu. Ja, Ankündigung gibt's auch keine konkreten zu den nächsten wissenschaftlichen Durchbrüchen von Open AI, aber die Spekulationen werden jetzt laut, dass das nächste Millennium Problem, die Hodch Conjecture gelöst sein könnte bereits von Open AI und aufgrund der Riesenkritik aus der Mathematikcommunity

28:29 nach Veröffentlichung von Navier Stalks ist man jetzt gerade noch defensiv und will alles wirklich so perfekt wie möglich vorbereiten. Es kann allerdings sein, weil selbst Greg Brookman eben darauf hinwies im Subtext, dass das nächste Problem schon in Arbeit und sehr wahrscheinlich schon gelöst ist. Also die nächsten Durchbrüche gehen weiter und eventuell könnte man sich das eben für den Developer Day aufsparen, genauso wie die großen Ankündigungen, die eigentlich für diese Woche anstanden laut Sam Oldman, die wurden jetzt alle verlegt auf den Developer Day. Ich werde selbst vor Ort sein in San Francisco und selbstverständlich hier auf dem Kanal berichten, welche Updates vom Open AI Developer Day und sonst noch ja aus San Francisco und Silicon Valley für uns hier im Dachraum tatsächlich relevant sind. Und wenn dich dazu eine weitere

29:14 Einordnung interessiert, wo stehen wir eigentlich mit KI? Was bringt 2027? Was sind die überg Trends? Dann empfehle ich hier noch mal in das Interview mit Dr. Sebastian Raschkar reinzuschauen. Dort schauen wir nämlich aus der übergeordneten Perspektive auf diese gesamte Entwicklung und wenn du noch mehr über die Entwicklung dieser KI Schwärme aus einer technischeren und neutralen Perspektive reinhören möchtest, dann schau mal gerne in dieses Video hier rein. Ich freue mich dich dort wiederzusehen. Bis dahin. Mach's gut. Dank, Leo.

Share

Zusammenfassungen von YouTube-Videos