Anthropics Model 4 Just Shocked The AI Industry

0:00 Einer unabhängigen Forschungsgruppe wurde kürzlich ein seltener Einblick bei Anthropic gewährt, und was sie fand, beunruhigt viele KI-Forscher zutiefst. Laut METR verbessert Anthropic seine KI-Modelle derzeit etwa doppelt so schnell wie noch vor einem Jahr, und diese Beschleunigung scheint größtenteils von der KI selbst zu kommen . METR enthüllte außerdem, dass Anthropic ein geheimes internes Modell namens Modell 4 besitzt, das niemals der Öffentlichkeit zugänglich gemacht wurde . Es ist das Modell mit der höchsten Punktzahl im gesamten Bericht, und Anthropics eigene Mitarbeiter geben an, dass KI sie nun etwa 12-mal produktiver macht. Und hier ist der Teil, der die Leute wirklich aufhorchen ließ. Anthropic hat den Großteil der Beweise geschwärzt, die METR als am aufschlussreichsten einstufte. Wir können also die Schlussfolgerung sehen, aber den Großteil der Beweise bekommen wir nicht zu Gesicht. Ein Forscher sagte, er sei von diesem Bericht tief erschüttert und

0:47 habe geglaubt, wir hätten noch mehr Zeit . In diesem Video werde ich daher aufschlüsseln, was METR tatsächlich herausgefunden hat, was wir über Anthropics geheime Modelle wissen und warum so viele Forscher Alarm schlagen. Das führt mich zu Punkt eins: Was METR gerade erst entdeckt hat. Am 5. November veröffentlichte METR einen Bericht mit dem recht schlichten Titel „Unabhängige Bewertung der KI-F& E-Beschleunigung bei Anthropic im Oktober 2026“. Doch der Inhalt ist alles andere als schlicht. METR ist eine gemeinnützige Forschungsgruppe, die testet, was moderne KI-Modelle tatsächlich leisten können. Es ist die Gruppe hinter dem berühmten Diagramm, das zeigt, wie lange Aufgaben ein KI-Agent eigenständig erledigen kann–ein Wert, der sich alle paar Monate verdoppelt. Wenn METR also

1:33 etwas über das Tempo des KI-Fortschritts sagt, hört die Branche zu. Und für diesen Bericht bekam METR etwas, das externe Forscher fast nie erhalten: Zugang. Vom 12. August bis zum 29. Oktober arbeitete ein kleines METR-Team innerhalb der Anthropic-Systeme auf den firmeneigenen Geräten. Sie erhielten interne Benchmark-Ergebnisse Trainingsdaten Rechenleistungszahlen, interne Prognosen , Mitarbeiterbefragungen und Interviews mit etwa 15 Forschern. METR verfasste daraufhin einen vollständigen Bericht von etwa 100 Seiten für Anthropic sowie eine deutlich kürzere öffentliche Version. Und METR äußerte sich sehr klar zu der Frage, die es beantworten wollte. Beschleunigt KI den Prozess der KI-Entwicklung? Denn das ist die entscheidende Frage. Wenn KI-Modelle anfangen, beim Bau besserer KI-Modelle zu helfen, die dann

2:18 noch bessere Modelle erschaffen, entsteht eine Schleife. Diese Schleife nennt man rekursive Selbstverbesserung, und genau das ist es, wovor sich viele KI-Sicherheitsforscher seit Jahren sorgen. Wenn diese Schleife schnell genug in Gang kommt, könnte der Fortschritt weit schneller voranschreiten, als irgendjemand überprüfen kann, ob diese Systeme sicher sind. Was hat METR also tatsächlich geschlussfolgert? Drei große Punkte. Erstens: Stand Oktober 2026 verbessert Anthropic die Fähigkeiten seiner Modelle wahrscheinlich etwa doppelt so schnell wie zwischen März 2024 und Oktober 2025 . Zweitens: Der Großteil dieser Beschleunigung–METR schätzt grob etwa 80 %–ist wahrscheinlich auf die KI selbst zurückzuführen. Und drittens: METR fand keine eindeutigen Engpässe, die eine weitere Beschleunigung verhindern könnten. Zusammen sind sie der Grund, warum sich

3:04 dieser Bericht so schnell verbreitet hat , was mich zu Punkt zwei führt: Anthropics geheime Modelle. Einer der überraschendsten Teile dieses Berichts ist, dass er Modelle auflistet, die die Öffentlichkeit noch nie gesehen hat. METR bezeichnet sie als Modell zwei, Modell drei und Modell vier. Und im Methodenteil gibt uns METR ihre groben Zeitpläne. Modell zwei schloss das Training im Juli 2026 ab. Modell drei wurde zwischen August und September fertig, und Modell vier beendete das Training zwischen September und Oktober , also vor wenigen Wochen. Andrew Curran fasste es auf X gut zusammen: Anthropic hat ein neues internes Modell, das letzten Monat fertig trainiert wurde. METR bezeichnet es als Modell vier. Anthropic hat dafür einen eigenen internen Codenamen. Es ist das Modell mit der höchsten Punktzahl in der von METR analysierten Gruppe und das erste, das bei jedem getesteten

3:49 Benchmark die 50%-Marke überschreitet. Und Salio wies darauf hin, dass es bei einigen dieser Benchmarks bereits die 90 %-Marke übersteigt. Dieses 50%-Detail ist wichtiger, als es klingt. METR testete diese Modelle anhand von 15 Benchmarks, und Modell vier erzielte bei allen 15 ein Ergebnis von über 50%. Bei einigen liegt es bereits bei etwa 90%oder höher. Die Leute fingen schnell an, zwischen den Zeilen zu lesen. Ein Account auf X namens Bink wies darauf hin, dass Anthropic seit Mythos fünf bereits drei weitere interne Flaggschiff-Etappen durchlaufen hat. Bink behauptete auch, Anthropic habe METR mitgeteilt, dass Modell zwei ein neues Basismodell sei und man erwarte, dass spätere darauf aufbauende Modelle viel größere Sprünge gegenüber Mythos fünf machen würden. Dan McAteer ging sogar noch weiter und vermutete, dass Modell vier am Ende Claude sechs sein könnte und es vielleicht Anfang nächsten Jahres

4:34 veröffentlicht wird. Das ist jedoch Spekulation. Aber eine Grafik zeigt wirklich, wie weit Anthropics interne Modelle voraus sind. Shiyu Dang nahm die Daten von METR und stellte Anthropics interne Entwicklung der Öffentlichkeit gegenüber, was diese tatsächlich nutzen kann. Die orangefarbene Linie zeigt, was Anthropic innerhalb des Unternehmens hatte. Die grüne Linie zeigt, worauf Sie und ich über Claude zugreifen konnten, und die Lücke zwischen ihnen zeigt sich immer wieder. Laut dieser Grafik liegt Modell vier schon seit über 40 Tagen vor allem, was die Öffentlichkeit nutzen kann. Deshalb stellte der Beitrag die Frage: Wie lange sind wir nach diesem Stand schon „ erledigt“? Die leistungsfähigste KI der Welt ist nicht unbedingt die, die man selbst nutzen kann, was mich zu Punkt drei führt: die Grafik, die zeigt, dass sich der Fortschritt verdoppelt hat. Dies ist das Diagramm, das gerade jeder teilt. Es stammt aus der allerersten

5:20 Erkenntnis im METR-Bericht. Seit Oktober 2025 wachsen die Benchmark-Werte für Anthropics Modelle, einschließlich interner Versionen, etwa 1,9-mal schneller als bisher. Der Wert auf der linken Seite heißt AECI . Es ist Anthropics Version des Epoch Capabilities Index, eine Methode, um viele verschiedene Benchmarks zu einer Kennzahl zu bündeln, damit man Modelle über die Zeit vergleichen kann. Jeder Punkt stellt ein Modell dar. Grüne Punkte sind Modelle, die für die Öffentlichkeit zugänglich waren. Orange Punkte sind die internen Modelle. Und die Daten unten sind keine Veröffentlichungsdaten für die Öffentlichkeit. Es sind die Zeitpunkte, an denen die meisten Anthropic-Mitarbeiter das jeweilige Modell tatsächlich nutzen konnten. Betrachten Sie nun die Steigung. Vor Oktober 2025 legten Anthropics Modelle um etwa 15 Punkte pro Jahr zu. Nach Oktober 2025 kamen etwa 29 Punkte pro Jahr hinzu, also fast das Doppelte. METR

6:07 hat es auf eine Weise formuliert, die es meiner Meinung nach sehr deutlich macht . Anthropic scheint im letzten Jahr bei den Benchmarks so große Fortschritte gemacht zu haben wie im Zeitraum von Oktober 2023 bis Oktober 2025. Grob gesagt entspricht das dem gesamten Sprung von Claude 2.1 bis hin zu Sonic 4.5. Zwei Jahre Fortschritt wurden in eines gequetscht. Eine zweifache Beschleunigung bedeutet zwei Jahre Fortschritt in nur einem Jahr. Wenn also etwas um das Dreifache pro Jahr wuchs, würde eine zweifache Beschleunigung bedeuten, dass es nun um das Neunfache pro Jahr wächst. Die beste Schätzung liegt bei 1,9-mal, aber der Unsicherheitsbereich reicht von 1,5 bis 2,8-mal. METR erklärte, man wäre nicht überrascht, wenn der tatsächliche Wert näher bei 1,3 oder 3 liegt. Und als METR Modelle anderer Unternehmen wie OpenAI und Google einbezog, fiel die

6:52 branchenweite Beschleunigung mit etwa 1,4-mal niedriger aus. Aber hier ist das Interessante. In Anthropics eigener Systemkarte für Haiku 5.5 wurde bereits eine Beschleunigung von etwa 1,7-mal gemeldet. Die Zahl von METR ist höher, hauptsächlich weil sie die unveröffentlichten internen Modelle mit einbezogen haben. Mit anderen Worten : Die Modelle, die wir nicht sehen können, treiben den Trend nach oben. Zeffa fasste die Stimmung auf X zusammen : Anthropic schließt jetzt alle 45 bis 60 Tage ein neues Vortraining ab und die Fähigkeiten steigen doppelt so schnell wie im Vergleich zum Stand von Oktober 2025, was mich zu Punkt vier führt: Es geht hier nicht nur um mehr Computer. Wenn die Leute hören, dass sich der KI-Fortschritt beschleunigt hat, ist die offensichtliche Frage: Hat Anthropic einfach viel mehr Chips gekauft? Aber METR sagt nein. METRs zweites Ergebnis

7:38 ist, dass die Beschleunigung nicht durch eine Zunahme bei der Rechenleistung für das Training vorangetrieben wird. Im Bericht schrieb METR, man habe überzeugende Beweise dafür erhalten, dass die Beschleunigung nicht auf ein gesteigertes Wachstum der Trainingsrechenleistung zurückzuführen sei. Und in der nächsten Zeile heißt es , dass weitere Details zu diesen Beweisen geschwärzt wurden. Wenn es also nicht hauptsächlich mehr Rechenleistung ist, woher kommt dann das Tempo? METRs Antwort lautet, dass es wahrscheinlich größtenteils die KI ist. Die grobe Schätzung besagt, dass etwa 80 %der derzeitigen Beschleunigung darauf zurückzuführen sind, dass die KI bei der Forschung hilft. METR gibt an, dass dieser Wert mit erheblichen Unsicherheiten behaftet ist . Und im Laufe der Zeit scheint der Anteil der KI an der Beschleunigung gewachsen zu sein. Jahrelang war der Hauptweg zu einem besseren KI-Modell, mehr für Chips auszugeben. Wenn dieser Bericht jedoch stimmt, stammt ein wachsender Teil des Fortschritts jetzt daher, dass die KI

8:24 die Entwickler der KI viel schneller macht. Deshalb dachten viele Leute bei diesem Bericht sofort an rekursive Selbstverbesserung. Benjamin Todd drückte es auf X unverblümt aus: Es sieht so aus, als hätte die rekursive Selbstverbesserung im Oktober 2025 begonnen, was mich zu Punkt fünf führt: der 12-fachen Beschleunigung. Im Rahmen des Berichts untersuchte METR informelle Umfragen und Slack-Abstimmungen unter Anthropic-Mitarbeitern dazu, wie sehr die KI ihre eigene Arbeit beschleunigt. Und der Trend ist ziemlich dramatisch. Anfang 2025, bei Claude 3.7 Sonnet, berichteten die Leute von einer Beschleunigung um das etwa 1,2-Fache. Zur Zeit von Mythos 5 lag sie bereits über dem 5-Fachen. Und für Modell 4 im Oktober 2026 lag die durchschnittliche selbstberichtete Beschleunigung beim etwa 12-Fachen. 12-mal. Nun stellt METR

9:10 sehr klar, dass dies nur sehr vage Belege sind. Es handelt sich um Selbsteinschätzungen. Aber selbst wenn man sie stark abwertet, ist die Tendenz schwer zu ignorieren. METRs Kurve zeigt , dass diese Beschleunigung jedes Jahr um das etwa 3,9-Fache wächst. METR führte auch richtige Interviews durch, und einige Zitate sind beeindruckend. Ein Forscher sagte, sie seien jetzt nur noch durch Ideen und Rechenleistung begrenzt, nicht mehr durch Code. Ein anderer sagte: „Es ist schwer zu erkennen, wie ich nicht dreimal produktiver sein sollte.“ Aber nicht jeder stimmte dem zu. Ein Forscher schätzte, dass nur 15 bis 20%der Beschleunigung auf die KI zurückzuführen seien, und sagte, er glaube nicht an selbstberichtete Produktivitätssteigerungen. Insgesamt lagen die Antworten im Bereich des Zweifachen. Das andere wichtige Detail ist, wie die KI eingesetzt wird. Laut METR hilft die KI den Menschen

9:55 immer noch hauptsächlich bei der Forschung, anstatt die Forschung komplett alleine durchzuführen. Aber METR sagte, es gäbe Anzeichen für baldige, vollständig autonome Beiträge. Und genau dieser Unterschied zwischen KI , die Menschen hilft, und KI, die die Arbeit allein erledigt, ist das, wovor Demis Hassabis, der CEO von Google DeepMind, gewarnt hat. Also, ich mache mir Sorgen darüber, denn letztendlich gibt es verschiedene Formen von RSI. Wir befinden uns derzeit in der Anfangsphase von RSI, würde ich sagen, in der–und das erleben Sie wahrscheinlich alle auch in Ihren Teams –die menschliche Produktivität eines Ingenieurs vielleicht um das Drei-, Vier -oder Fünffache gesteigert wird. Verstehen Sie? Also, aber der Mensch ist nach wie vor in die Abläufe eingebunden, überprüft den Code, entwirft Architekturen und

10:40 schreibt immer noch selbst Code, aber alles ist eben verbessert. Die nächste Phase, die meiner Meinung nach das größte Risiko birgt, ist die geschlossene RSI, der geschlossene Regelkreis, bei dem man es irgendwie schafft, den gesamten Prozess ohne menschliche Überprüfung durchzuführen. Und das wird natürlich schneller sein, aber ich halte es auch für einen sehr gefährlichen Weg zu einer vollständigen AGI, wahrscheinlich aus zwei Gründen. Vor 20 Jahren wurde dies manchmal als Intelligenzexplosion bezeichnet, weil man nicht genau weiß, wie man die Kontrolle über ein solches System, einen solchen Prozess, behalten soll. Und das Endergebnis wird wahrscheinlich ziemlich fremdartig sein. Es wird wie eine außerirdische Intelligenz sein. Es gibt keinen Grund zu der Annahme, dass es sich in einem ähnlichen geistigen

11:27 Bereich bewegt wie wir Menschen. Das wird es für uns sehr schwer machen, es zu verstehen, und vielleicht auch für das System, uns zu verstehen. Ich denke also, wir sollten sehr vorsichtig sein, je näher wir dieser Form der geschlossenen RSI kommen. Und ich glaube, das wissen eigentlich alle KI-Forscher. Nach Hassabis 'Definition ist das, was METR bei Anthropic gefunden hat, immer noch die frühe Form der rekursiven Selbstverbesserung mit Menschen in der Schleife. Die große Frage ist, wie lange das so bleibt. Hier ist der Grund, warum das so überraschend ist. Anfang des Jahres war Anthropic-CEO Dario Amodei im Podcast von Dwarkesh Patel zu Gast und Dwarkesh stellte eine scharfe Frage. Wenn KI die Forschung wirklich so sehr beschleunigt, warum setzt sich dann das Unternehmen mit dem besten Programmiermodell nicht einfach ab? Und Dario nannte eine ziemlich bescheidene Zahl.

12:13 Also nein, nein, nein. Ich meine, ich meine, ich glaube, mein Modell der Situation ist, dass es einen Vorteil gibt, der allmählich wächst. Ich würde sagen, aktuell bringen die Coding-Modelle vielleicht, keine Ahnung , eine 15-bis 20-prozentige Gesamtbeschleunigung. Das ist jedenfalls meine Ansicht. Ähm, vor sechs Monaten waren es vielleicht 5%, und deshalb spielte es keine große Rolle. Ich meine, 5%fallen kaum ins Gewicht. Es erreicht jetzt gerade den Punkt, an dem es einer von mehreren Faktoren ist, die tatsächlich ins Gewicht fallen. Und das wird sich immer weiter beschleunigen. Ich glaube, vor sechs Monaten waren mehrere Unternehmen ungefähr auf demselben Stand, weil dies noch kein nennenswerter Faktor war, aber ich denke

12:59 , es nimmt immer mehr Fahrt auf. Anfang des Jahres vertrat Dario die Ansicht, dass KI Anthropic eine Gesamtbeschleunigung von etwa 15 bis 20 %brachte und dass es sechs Monate zuvor nur etwa 5%waren. Aber Dario sagte auch, dass sich dies immer weiter beschleunigen würde. Und jetzt, nur Monate später, sagt eine unabhängige Gruppe, dass sich das allgemeine Fortschrittstempo in etwa verdoppelt zu haben scheint. Wenn das stimmt, ist der Schneeball, den Dario beschrieb, sehr schnell viel größer geworden, was mich zu Punkt sechs führt: METR konnte nichts finden, was diesen Prozess verlangsamen würde. Eines der Hauptargumente dafür, warum der KI-Fortschritt nicht explodieren wird, sind Engpässe. Vielleicht gibt es nicht genug Chips oder gute Daten, oder neue Ideen sind schwieriger zu finden. Doch METRs vierte Erkenntnis ist, dass sie

13:44 keine überzeugenden Beweise für signifikante Engpässe sahen, die innerhalb der nächsten 12 Monate wirksam werden würden. Weder beim algorithmischen Fortschritt, noch bei der Trainingsrechenleistung, der Versuchsrechenleistung oder bei den Daten. Und das ist eine wirklich wichtige Erkenntnis, denn wenn keine Mauer in Sicht ist, könnte sich die Beschleunigung immer weiter verstärken. Nun sagte METR, dass sich ihre Ansicht zu den Engpässen mehrmals geändert habe , daher sind sie sich hierbei nicht sicher. Und wieder einmal hat Anthropic die Analyse von METR zu einer Reihe spezifischer Engpässe geschwärzt. Wir wissen also nicht, welche das waren oder warum METR entschied, dass sie nicht überzeugend seien. METR merkte auch an, dass die Beschleunigung höher sein könnte als festgestellt. Das jüngste Wachstum könnte sich selbst beschleunigen, worauf einige der geschwärzten Beweise hindeuten. Aber die meisten METR-Mitarbeiter bei diesem Projekt glauben, dass Anthropic seine Modelle etwa doppelt so schnell

14:31 verbessert wie zuvor, was mich zu Punkt sieben führt: die Schwelle, die Anthropic möglicherweise bereits überschritten hat. Anthropic hat eine Reihe von Sicherheitsregeln, die „Responsible Scaling Policy“ genannt wird, und eines der Warnsignale in dieser Richtlinie betrifft genau das. Es nennt sich die Schwelle der zweifachen Beschleunigung. Einfach ausgedrückt ist es der Punkt, an dem die KI den Fortschritt von Anthropic so stark beschleunigt, dass das Unternehmen in einem einzigen Jahr zwei Jahre Fortschritt erzielt. Wenn das geschieht, schreiben Anthropics eigene Regeln vor, dass zusätzliche Sicherheitsmaßnahmen ergriffen werden müssen. Wurde diese Schwelle also überschritten? In seinem Risikobericht vom August argumentierte Anthropic, dass dies nicht der Fall sei. METR überprüfte diesen Abschnitt des Berichts, veröffentlichte seine Einschätzung am selben Tag und widersprach der Zuversicht, die Anthropic ausstrahlte. METR stimmte zu, dass das tatsächliche Risiko dieser Modelle gering sei und

15:17 dass Anthropics KI die Forschungsmitarbeiter noch nicht ersetzen könne. METR erklärte jedoch, Anthropics Argument, die zweifache Schwelle sei nicht überschritten worden, sei übertrieben und ein Überschreiten durchaus plausibel. Der öffentliche Bericht besagte, die Frühindikatoren zeigten eine Beschleunigung von weniger als dem Faktor zwei, doch METR wies darauf hin, dass Anthropics eigener interner Bericht Zahlen enthielt, die auf etwa 1,97 hindeuteten. METR schlug vor, dass der öffentliche Bericht stattdessen „etwa zwei“ sagen sollte. Und dann ist da noch der Börsengang von Anthropic. Am 2. November aktualisierte Anthropic sein S -1, das offizielle Dokument, das ein Unternehmen vor dem Börsengang einreicht . Theo Bertman entdeckte die neue Formulierung. Anthropic gibt nun an, dass seine internen Schätzungen und Erwartungen für zukünftige Modelle–statt für die aktuellen–darauf hindeuten, dass es möglicherweise bald die Definition der „

16:03 verantwortungsvollen Skalierungsrichtlinie“ für dramatisch beschleunigten KI-gestützten Fortschritt erfüllen könnte. Es heißt dort auch, dass bisher keines der aktuellen Modelle als diese Schwelle überschreitend eingestuft wurde. Doch es gibt noch einen weiteren Satz in diesem Dokument, den ich für noch bemerkenswerter halte. Anthropic gibt an, in der Vergangenheit eine signifikante Beschleunigung seiner Entwicklungsrate nicht identifiziert zu haben und diese möglicherweise auch in Zukunft erst erkennen zu können, nachdem sie bereits stattgefunden hat. Denken Sie darüber nach. Das Unternehmen, das diese Modelle entwickelt, teilt Investoren mit, dass es eine große Beschleunigung möglicherweise erst bemerkt, wenn sie bereits eingetreten ist. Daniel Kokotajlo, der das AI Futures Project leitet, reagierte auf diese Einreichung und sagte, das Team sei durch diese Information beunruhigt. Wenn Anthropic tatsächlich kurz davor stehe, die zweifache Beschleunigungsschwelle zu erreichen–was Kokotajlo als „großes Wenn

16:49 “ bezeichnete–, könnten die Zeitpläne bis zur vollständigen rekursiven Selbstverbesserung und Superintelligenz sehr kurz sein. Nachdem der METR-Bericht veröffentlicht wurde, postete Kokotajlo: „Okay, METR bestätigt es also“, was mich zu Punkt acht führt: was Anthropic geschwärzt hat . Direkt oben im öffentlichen METR-Bericht befindet sich eine Zusammenfassung der Schwärzungen. Darin steht, dass Anthropic das Recht hatte, alle nicht- öffentlichen Informationen im Bericht zu schwärzen, und dass es einen Großteil der Beweise schwärzte, die METR als am aufschlussreichsten erachtete. Einen Großteil. Anthropic erklärte, die Schwärzungen dienten dazu, vertrauliche Informationen zu entfernen, die andere KI-Entwickler beschleunigen könnten. Und infolgedessen sagt METR, dass sie zwar ihre übergeordneten Schlussfolgerungen teilen konnten, nicht jedoch die Beweise , die dahinterstehen. Und sie sagen, die Öffentlichkeit müsse sich viel stärker

17:35 auf das Urteil von METR verlassen, als es ideal wäre. Der ursprüngliche Plan beinhaltete auch die Überprüfung, wie Anthropic seine Rechenleistung zwischen der Verbesserung der Modellfähigkeiten und deren Sicherheit aufteilt. METR sagt jedoch, dass Anthropic diesen Teil des Projekts mitten im Verlauf entfernte und angab, man werde später darauf zurückkommen. Daher kam METR diesbezüglich zu überhaupt keinen Ergebnissen. Fairerweise muss man METR gegenüber erwähnen, dass sie auch sagten, sie hielten es für äußerst unwahrscheinlich , dass Anthropic sie absichtlich in die Irre geführt habe, und sie bewerteten das gesamte Unterfangen als hinreichend solide. Und fairerweise muss man auch Anthropic gegenüber erwähnen, dass sie sich entschieden haben, eine externe Gruppe einzubeziehen, was die meisten KI-Unternehmen überhaupt nicht tun. Sam McAndlish, einer der Mitbegründer von Anthropic, der einen Großteil der Sicherheitsarbeit leitet, reagierte auf X. McAndlish sagte, Anthropic habe METR Zugang zu einer Reihe sensibler interner Daten gewährt, einschließlich

18:21 Benchmark-Ergebnissen für noch nicht veröffentlichte Modelle, und dass METR völlig unabhängig eigene Schlussfolgerungen ziehen konnte. Und McAndlish schrieb: Viele ihrer Schlussfolgerungen decken sich mit meinen eigenen. KI beschleunigt unsere Forschung, aber es ist schwer zu sagen, um wie viel genau. Doch viele Leute waren damit nicht zufrieden. Der Account "AI not kill everyone is a meme" zitierte die Zeile darüber, dass Anthropic einen Großteil der informativsten Beweise geschwärzt hat, und stellte die offensichtliche Frage. Was hat METR gesehen? Es hieß, Blogbeiträge und Interviews über eine Verlangsamung seien bei weitem nicht genug. Und auch Daniel Kokotajlo widersprach der Argumentation von Anthropic und sagte, es sei schon dreist , andere, die schneller sein könnten, als Grund für die Schwärzung so vieler wichtiger Informationen anzuführen. Und hier wird es für Anthropic unangenehm. Im September veröffentlichte Dario Amodei einen Beitrag mit dem Titel „We

19:08 must pace the frontier“. Darin schrieb Dario: Wir müssen das Tempo verlangsamen, mit dem wir die Fähigkeiten von KI-Modellen verbessern. Dario argumentierte, dass der KI-Fortschritt seit Beginn der rekursiven Selbstverbesserung viel schneller geworden sei und dass er, wenn er unkontrolliert bliebe, unsere Fähigkeit, diese Systeme zu verstehen und zu kontrollieren, überholen könnte. Und nun besagt ein externer Bericht, dass sich das eigene Tempo von Anthropic etwa verdoppelt hat, was mich zu Punkt neun führt: warum die Leute glauben, dass "AI 2027" wahr wird. Wenn Sie KI schon eine Weile verfolgen, haben Sie wahrscheinlich von „AI 2027“ gehört. Es ist ein detailliertes Szenario, das im April 2025 von Daniel Kokotajlo, Scott Alexander und dem Team des „AI Futures“-Projekts veröffentlicht wurde und beschreibt, wie sich die nächsten Jahre der KI Monat für Monat entwickeln könnten. Im Mittelpunkt steht eine einfache Idee

19:53 , die sie als den F& E-Fortschrittsmultiplikator bezeichnen. So hat es Scott Alexander, einer der Autoren, im Podcast von Dwarkesh Patel erklärt. Wir glauben also, dass sie mit Agenten-Training beginnen, die Zeithorizonte erweitern und das Programmieren verbessern werden. Unsere Theorie ist, dass sie teils bewusst, teils zufällig auf diese Intelligenzexplosion hinarbeiten, bei der die KI selbst beginnt, Teile der KI-Forschung zu übernehmen und schneller voranzukommen. Also etwas besseres Programmieren, 2026 etwas bessere Agenten, etwas besseres Programmieren. Und dann konzentrieren wir uns auf das Szenario und benennen es nach 2027, weil sich das Ganze dann auszuzahlen beginnt . Die Intelligenzexplosion kommt dann

20:39 richtig in Fahrt. Die Agenten werden gut genug, um anfänglich zwar noch nicht die Arbeit zu machen, aber bei der KI-Forschung zu helfen. Also haben wir dieses Konzept des F& E-Fortschrittsmultiplikators eingeführt . Wie viele Monate Fortschritt ohne KI erhält man in einem Monat mit all diesen neuen KIs, die bei der Intelligenzexplosion helfen? Das gesamte Szenario hängt von diesem Multiplikator ab. Und jetzt vergleichen die Leute die Ergebnisse von METR direkt mit diesem Szenario. Nicola Jerkovic schrieb: Wieder eine korrekte Vorhersage durch „AI 2027“. In dem Szenario liegt die Beschleunigung durch KI um den Dezember 2026 bei etwa dem Zweifachen. Der Beitrag fügte hinzu: Mir gefällt nicht, dass der Fortschritt ungefähr so schnell verläuft wie von „AI 2027“ vorhergesagt, denn in dem Szenario tritt die Superintelligenz 2027 ein. Jerkovics

21:26 eigene beste Einschätzung für das Erscheinen von Superintelligenz ist übrigens 2028 oder 2029. Und Jerkovic ist nicht der Einzige. David Krueger, ein KI-Forscher, gab zu, etwas überrascht darüber zu sein, wie gut die Vorhersagen von „AI 2027“ bisher waren und dass es scheint, als würden wir uns schneller bewegen. Und Spicy Lemonade teilte einen Tracker, der behauptet, dass „AI 2027“ mittlerweile zu etwa 85% bei den bisher überprüfbaren Vorhersagen richtig liegt. In dessen Diagramm liegen Modell zwei, Modell drei und Modell vier direkt an der Linie des Szenarios und in einigen Fällen sogar darüber. Das ist ein von Fans erstellter Tracker und bisher konnten nur etwa 39%der Vorhersagen überprüft werden. Aber Jeffrey Ladish, der Exekutivdirektor von Palisade Research, sagte in einem Interview etwas, das meiner Meinung nach erklärt, warum das die Leute so getroffen hat. Und ich finde es bemerkenswert, dass dies eine schnellere Beschleunigung ist

22:12 , als Daniel Kokotajlos „AI 2027“- Szenario vorhersagt. Mhm. Also, ich weiß nicht, ob du dich erinnerst, vor etwa einem Jahr waren viele Leute etwas enttäuscht von Daniel Kokotajlo, weil er seine Einschätzung in Richtung längerer Zeitrahmen korrigiert hatte, als in „AI 2027“ prognostiziert. Und jetzt sagt er: Nein, ich glaube, die Zeitrahmen könnten tatsächlich kürzer sein, als wir vorhergesagt haben. Und weißt du, ich weiß es nicht. Die Leute vom AI Futures Project haben meiner Meinung nach die fundiertesten Modelle; sie untersuchen alle Parameter und versuchen herauszufinden, was die Inputs sind und wie sich das auf das Gesamttempo auswirkt. Und ich denke mir nur: Wahnsinn, das ist ein unglaublich schneller Fortschritt für etwas, das ohnehin schon extrem schnell vorankam. Das ist es, was diesen Moment so außergewöhnlich macht. Vor einem Jahr verschob Cotylo die Zeitpläne des AI Futures Project ein wenig, und viele sahen das als Zeichen dafür, dass der

22:57 Hype abkühlt. Jetzt sagt Cotylo das Gegenteil. Laut Cotylo erhält man bei einer naiven Annahme einer zweifachen Beschleunigung im Januar 2027 in ihrem Modell eine Superintelligenz, die früher eintritt, als es AI 2027 selbst darstellte. Das Team denkt intensiver und länger darüber nach und hofft, bald ein ausführlicheres Update zu teilen, was mich zu Punkt Nummer 10 führt: Warum KI-Forscher Alarm schlagen. Die Reaktion auf diesen Bericht war heftig, und viele der stärksten Reaktionen kamen von Leuten, die früher eher skeptisch waren. Andrew Caron sagte, dass dieser Bericht für viele ein massives Update darstellt und dass eine Reihe prominenter Persönlichkeiten, die früher skeptisch waren, nun von rekursiver Selbstverbesserung in unter sechs Monaten und Superintelligenz in ein bis zwei Jahren sprechen. Und Caron fügte hinzu: Ich stimme beiden Punkten zu.

23:42 Caron hatte auch eine Botschaft an die KI-Sicherheits-Community: Es mache ihm keine Freude, ihnen mitzuteilen, dass ihre Zeit abgelaufen sei, aber wenn ihre Pläne eine unterstützende Regierung, ein Abkommen mit China oder ein Zeitfenster von mehr als einem Jahr erforderten, seien sie sinnlos. Das ist hart, zeigt aber, wie sehr sich die Stimmung gewandelt hat. Sydney von Arxs schrieb, Mitarbeiter von KI-Unternehmen hätten bekanntermaßen kurze Zeitpläne. Ich habe das früher auf internen Hype zurückgeführt. Ich glaube , damit lag ich grundlegend falsch. Die Dinge entwickeln sich etwa so schnell, wie sie gewarnt haben, und wir sind auf dem besten Weg, dass KI den Menschen bei fast allen intellektuellen Aufgaben noch vor Ende 2028 überflüssig macht. Und ein Beitrag verbreitete sich besonders stark. Aiden schrieb: Ich bin vom METR-Bericht zutiefst erschüttert. Ich dachte, wir hätten mehr Zeit, und ich habe große Angst davor, was auf meine Familie und die Welt zukommt. Dieser Beitrag erreichte fast 300.000

24:30 Aufrufe. Dann gibt es noch die Leute, die sich darauf konzentrieren, was man tatsächlich dagegen tun kann. Alex Boraz , ein Politiker aus New York, wies darauf hin, dass OpenAI angibt, bis März 2028 auf dem besten Weg zu sein, die KI-Forschung vollständig zu automatisieren. Mitarbeiter von Anthropic sagen, sie seien bis 2027 auf dem richtigen Weg, und der METR-Bericht legt nahe, dass sie wahrscheinlich recht haben. Und Boraz warnte davor, dass jeder Fehler oder jede Fehlsteuerung bei heutigen KIs sich mit jeder Generation vervielfachen könnte. Und Nicola Jerkovic sagte, dass wir angesichts der rasanten Entwicklung keine Garantie dafür haben, dass die Welt benachrichtigt wird, falls ein Unternehmen kurz vor der Entwicklung einer weit übermenschlichen KI steht. Jerkovic nannte das inakzeptabel und forderte, dass Unternehmen verpflichtet werden sollten, regelmäßig Kennzahlen zur rekursiven Selbstverbesserung zu melden. Auch Jeffrey Ladish äußerte sich sehr ehrlich zu seiner Skepsis gegenüber den Zeitplänen der KI-Unternehmen und

25:16 den Aussagen der Mitarbeiter von Anthropic. Ich meine, meine erste Reaktion ist: Ich weiß es nicht. Ich war insgesamt eher skeptisch gegenüber den Behauptungen der KI-Unternehmen, wie nah sie an der rekursiven Selbstverbesserung sind. Na ja, vielleicht nicht ganz so skeptisch. Ich rechne eigentlich mit vollautomatischer KI-Forschung und- Entwicklung so gegen 2028. Wobei ich mit vielen Leuten bei Anthropic spreche, die sagen: Nein, ich glaube, Anfang bis Mitte 2027 werden wir wahrscheinlich dazu in der Lage sein. Dann wird der Großteil der KI-Entwicklung autonom durch KI-Agenten erfolgen. Ich finde, das ist extrem optimistisch, da es die Welt so schnell verändern würde. Aber ich war etwas skeptisch, weil ich es einfach nicht weiß. Und das nicht, weil ich glaube, dass die Leute lügen. Ich glaube nicht, dass sie lügen. Ich denke, es ist leicht, innerhalb eines

26:01 Unternehmens so viele Fortschritte zu sehen, sich von der eigenen Euphorie mitreißen zu lassen und zu glauben: Ja, wir schaffen das schon. Ich halte das für eine der fairsten Einschätzungen zu diesem Thema. Ladish behauptet nicht, dass Anthropic lügt. Der Punkt ist, dass man sich leicht mitreißen lässt, wenn man im Unternehmen wöchentliche Verbesserungen beobachtet. Aber diesmal sagt das nicht nur Anthropic. Es ist eine externe Gruppe, die die Daten geprüft hat und zu dem Schluss kam, dass sich das Tempo etwa verdoppelt hat, was mich zu Punkt 11 führt: das Argument, ruhig zu bleiben. Es gibt einige sehr gute Gründe, nicht in Panik zu geraten, und METR selbst nennt die meisten davon. Erstens sind Benchmarks nicht die reale Welt. METR sagt, es bleibe unklar, wie Benchmark-Ergebnisse auf reale Fähigkeiten übertragbar sind, und wies speziell darauf hin, dass die Gewinne auf klar definierte, leicht bewertbare

26:46 Aufgaben konzentriert sein könnten. Zweitens basiert die Zwölffach-Zahl auf einer Selbstauskunft aus Slack-Umfragen . METR bezeichnet dies als sehr schwache Beweislage. Drittens spielt die Ausgangslage eine Rolle. Vor Ende 2025 lagen die Anthropic-Modelle oft hinter dem Industriestandard zurück, sodass das Aufholen den Fortschritt größer erscheinen lassen könnte, als er tatsächlich ist. Und als METR die Modelle anderer Unternehmen einbezog, lag die branchenweite Beschleunigung bei etwa dem 1,4-Fachen, nicht beim 1,9- Fachen. Viertens: Die KI führt die Forschung noch nicht eigenständig durch. Sie unterstützt derzeit hauptsächlich den Menschen. Und fünftens stimmte METR mit Anthropic überein, dass das katastrophale Risiko dieser Modelle gering sei und die KI das Forschungsteam von Anthropic noch nicht ersetzen könne . Dies ist also kein Bericht, der besagt, dass die Superintelligenz nächsten Monat eintrifft.

27:31 Aber darum geht es: Jeder dieser Vorbehalte betrifft das Ausmaß der Beschleunigung, nicht die Tatsache, ob sie stattfindet. Und METR selbst gab an, es wäre überrascht, wenn es überhaupt keine Beschleunigung gäbe. Das führt mich zu Punkt 12, nämlich dazu, was als Nächstes passiert und zu meiner ehrlichen Einschätzung. Worauf sollten wir also tatsächlich achten? Erstens: Anthropic selbst. Berichten zufolge sagte Sam McCanlish, dass Anthropic plant, in den kommenden Wochen eine eigene Analyse über seine Fortschritte und den Stand seiner Richtlinien zur verantwortungsvollen Skalierung zu veröffentlichen. Im Börsenprospekt von Anthropic steht außerdem, dass das Unternehmen Aktualisierungen dieser Richtlinien erwägt, die eine menschliche Überprüfung und Genehmigung bestimmter Entscheidungen im Forschungsprozess erfordern würden. Eine solche Regel führt man nicht ein, wenn man nicht glaubt, dass die KI bald viele dieser Entscheidungen treffen könnte. Zweitens : Modell vier. Irgendwann wird Anthropic etwas auf

28:17 Basis dieser internen Modelle veröffentlichen, und dann werden wir eine viel bessere Vorstellung davon bekommen, ob diese 50%bei jedem Benchmark tatsächlich einen spürbaren Fortschritt bedeuten. Nun zu meiner ehrlichen Einschätzung. Ich halte dies für einen der wichtigsten KI-Berichte des Jahres–nicht, weil er beweist, dass die Superintelligenz vor der Tür steht, sondern weil zum ersten Mal eine unabhängige Gruppe ein führendes Labor untersucht und zu dem Schluss kommt: „Ja, KI beschleunigt jetzt den Prozess der KI-Entwicklung, und zwar erheblich.“ Aber ich halte die Schwärzungen auch für ein echtes Problem. Wenn die wichtigsten Beweise verborgen bleiben, müssen wir anderen einfach dem Unternehmen und dem Prüfer vertrauen. Und da KI immer leistungsfähiger wird, glaube ich nicht, dass Vertrauen allein ausreicht. Wenn Unternehmen an den Punkt gelangen, an dem KI die KI entwickelt, müssen die Öffentlichkeit und die Regierungen dies

29:04 klar und frühzeitig erkennen können. Und das Ganze hat eine seltsame Ironie. Dasselbe Unternehmen, das einen Beitrag darüber veröffentlichte, dass wir das Tempo an der technologischen Spitze drosseln müssen, bewegt sich laut diesem Bericht jetzt etwa doppelt so schnell wie zuvor. Ich halte Anthropic deshalb nicht für heuchlerisch. Es zeigt nur, wie schwer es ist, in einem Rennen langsamer zu werden, wenn die Werkzeuge, die man baut , einen immer schneller machen. Ob dies der Beginn einer Intelligenzexplosion ist oder nur ein sehr schnelles Jahr, eines ist sicher. Die Modelle, die wir sehen können, sind nicht mehr die ganze Geschichte. Die leistungsfähigste KI der Welt könnte diejenige sein, die in einem Labor an ihrem eigenen Nachfolger arbeitet. Und das ist etwas, dem wir alle viel mehr Aufmerksamkeit schenken sollten. Lasst mich in den Kommentaren wissen, was ihr denkt. Glaubt ihr, dass die rekursive Selbstverbesserung wirklich begonnen hat, oder wird das Ganze überbewertet?

29:50 Wenn euch dieses Video gefallen hat, lasst ein Like da, abonniert den Kanal und wir sehen uns im nächsten Video.