Full transcript of “Godfather of AI: I Tried to Warn Them, But We’ve Already Lost Control! Geoffrey Hinton”. Click a timestamp to open the video at that moment. Need another video? Use the YouTube transcript generator.
0:00 Sie nennen Sie den Paten der KI. Was würden Sie den Leuten also über ihre Karriereaussichten in einer Welt der Superintelligenz sagen? Machen Sie eine Ausbildung zum Klempner. Wirklich? Ja. Okay. Ich werde Klempner. Jeffrey Hinton ist der mit dem Nobelpreis ausgezeichnete Pionier, dessen bahnbrechende Arbeit die KI und die Zukunft der Menschheit geprägt hat. Warum wird es der Pate der KI genannt? weil es nicht viele Menschen gab, die daran glaubten, dass wir KI nach dem Vorbild des Gehirns modellieren könnten, sodass sie komplizierte Dinge wie das Erkennen von Objekten und Bildern oder sogar das logische Denken erlernen könnte. Und ich habe diesen Ansatz 50 Jahre lang vorangetrieben, bis Google diese Technologie erwarb und ich dort 10 Jahre lang an etwas arbeitete, das heute in der KI ständig zum Einsatz kommt. Und dann bist du gegangen. Ja. Warum? Damit ich auf einer Konferenz frei sprechen kann. Worüber wollten Sie frei sprechen? Wie gefährlich KI sein könnte.
0:45 Mir wurde klar, dass diese Dinge eines Tages intelligenter sein werden als wir. Und damit mussten wir uns nie befassen. Und wenn Sie wissen möchten, wie das Leben ist, wenn Sie nicht über die höchste Intelligenz verfügen, fragen Sie ein Huhn. Der Missbrauch von KI birgt also Risiken . Und dann besteht das Risiko, dass die KI superintelligent wird und entscheidet, dass sie uns nicht braucht. Ist das ein echtes Risiko? Ja, das ist es. Aber sie werden es nicht stoppen, weil es für zu viele Dinge zu gut ist . Wie sieht es mit Vorschriften aus? Sie verfügen über einige, sind jedoch nicht darauf ausgelegt, mit den meisten Bedrohungen fertig zu werden. So enthalten die europäischen Vorschriften beispielsweise eine Klausel, die besagt, dass diese Bestimmungen nicht für die militärische Nutzung von KI gelten. Wirklich? Ja. Es ist verrückt. Einer Ihrer Studenten hat OpenAI verlassen. Ja. Er war wahrscheinlich die wichtigste Person hinter der Entwicklung der frühen Versionen des Church GPT und ich glaube, er ist aus Sicherheitsbedenken ausgestiegen. Wir sollten erkennen, dass diese Dinge eine existenzielle Bedrohung darstellen und uns der Möglichkeit stellen müssen, dass wir
1:31 dem Ende nahe sind, wenn wir nicht bald etwas unternehmen. Gehen wir also die Risiken ein. Was machen wir letztendlich in einer solchen Welt? Das hat mich immer ein wenig umgehauen . 53 % von Ihnen, die die Sendung regelmäßig hören, haben die Sendung noch nicht abonniert . Könnte ich Sie also um einen Gefallen bitten, bevor wir anfangen? Wenn Ihnen die Show gefällt und Ihnen gefällt, was wir hier tun, und Sie uns unterstützen möchten, können Sie dies ganz einfach und kostenlos tun, indem Sie auf die Schaltfläche „Abonnieren“ klicken. Und wenn Sie das tun, verspreche ich Ihnen, dass ich – mein Team und ich – alles in meiner Macht Stehende tun werde, um sicherzustellen, dass diese Show für Sie jede Woche besser wird. Wir hören uns Ihr Feedback an. Wir finden die Gäste, mit denen Sie sprechen möchten, und machen weiter mit dem, was wir tun. Vielen Dank . Jeffrey Hinsson, man nennt Sie den Paten der KI. Äh, ja, das tun sie. Warum nennen sie dich so
2:18 ? Es gab nicht viele Leute, die daran glaubten, dass wir neuronale Netzwerke, künstliche neuronale Netzwerke, zum Funktionieren bringen könnten. Seit den 1950er Jahren gab es in der KI-Forschung lange Zeit zwei verschiedene Vorstellungen darüber, wie KI umgesetzt werden könnte. Eine der Vorstellungen war, dass der Kern der menschlichen Intelligenz die Fähigkeit zur Vernunft sei. Und um Schlussfolgerungen zu ziehen, musste man eine Form der Logik anwenden. Daher musste KI auf Logik basieren. Und in Ihrem Kopf müssen Sie so etwas wie symbolische Ausdrücke haben, die Sie mit Regeln manipuliert haben. Und so funktionierte Geheimdienstarbeit. Und Dinge wie Lernen oder analoges Denken kommen erst später, wenn wir herausgefunden haben, wie das grundlegende Denken funktioniert. Es gab einen anderen Ansatz, nämlich : Lasst uns KI nach dem Gehirn modellieren,
3:04 denn offensichtlich macht uns das Gehirn intelligent. Simulieren Sie also ein Netzwerk von Gehirnzellen auf einem Computer und versuchen Sie herauszufinden, wie Sie die Stärke der Verbindungen zwischen Gehirnzellen lernen können, sodass diese komplizierte Dinge lernen, wie etwa Objekte in Bildern oder Sprache erkennen oder sogar logisches Denken. Ich habe diesen Ansatz etwa 50 Jahre lang vorangetrieben, weil so wenige Menschen daran glaubten. Es gab nicht viele gute Universitäten, die Gruppen hatten, die das taten. Wenn Sie das getan haben, kamen die besten jungen Studenten, die daran glaubten, und arbeiteten mit Ihnen. Ich hatte also das große Glück, eine ganze Menge wirklich guter Studenten zu bekommen, von denen einige später Plattformen wie Open AI entwickelt haben und bei deren Entwicklung eine entscheidende Rolle gespielt haben . Ja. Ich vermute, es gibt
3:52 eine ganze Reihe davon als schönes Beispiel. Warum glaubten Sie, dass eine Modellierung anhand des Gehirns ein effektiverer Ansatz sei? Nicht nur ich habe das anfangs geglaubt. Fonoyman und Cheuring glaubten daran, und wenn einer von beiden überlebt hätte, hätte AI meiner Meinung nach eine ganz andere Geschichte gehabt, aber sie sind beide jung gestorben. Glauben Sie, dass es KI schon früher gegeben hätte? Ich denke, der neuronale Netzansatz wäre viel früher akzeptiert worden, wenn einer von beiden in dieser Phase seines Lebens gelebt hätte. Auf welcher Mission sind Sie? Meine Hauptaufgabe besteht nun darin, die Menschen vor der Gefahr künstlicher Intelligenz zu warnen . Wussten Sie das, als Sie zum Paten der KI wurden? Nein, nicht wirklich. Ich habe einige der Risiken erst nach einiger Zeit verstanden
4:38 . Einige der Risiken waren immer sehr offensichtlich, beispielsweise die Möglichkeit, dass Menschen KI nutzen würden, um autonome tödliche Waffen herzustellen. Das sind Dinge, die herumlaufen und selbst entscheiden, wen sie töten. Andere Risiken, wie etwa die Vorstellung, dass sie eines Tages klüger sein könnten als wir und vielleicht irrelevant werden, habe ich nur langsam erkannt. Andere Leute haben es vor 20 Jahren erkannt. Mir ist erst vor ein paar Jahren klar geworden, dass es sich hierbei um eine echte Gefahr handelte, die möglicherweise schon bald eintreten könnte. Wie konnten Sie das nicht vorhersehen, wenn Sie all das wissen, was Sie über das Knacken der Fähigkeit dieser Computer wissen, ähnlich wie Menschen zu lernen und einfach, wissen Sie, Verbesserungen einzuführen? Das ist eine sehr gute Frage. Wie konntest du das nicht sehen ? Bedenken Sie jedoch, dass neuronale Netzwerke vor 20 bis 30
5:24 Jahren noch sehr primitiv in ihren Fähigkeiten waren. Sie waren bei weitem nicht so gut wie Menschen, aber in Bereichen wie Sehvermögen, Sprache und Spracherkennung. Die Vorstellung, dass man sich jetzt Sorgen machen muss, dass es klüger wird als die Menschen, erscheint dann albern. Wann hat sich das geändert? Für die breite Masse änderte sich dies mit der Einführung von Chat GPT. Das änderte sich für mich, als mir klar wurde, dass die Art digitaler Intelligenzen, die wir erschaffen, etwas besitzt, das sie der Art biologischer Intelligenz, die wir haben, weit überlegen macht. Wenn ich Informationen mit Ihnen teilen möchte, gehe ich los, lerne etwas und erzähle Ihnen gern, was ich gelernt habe. Also produziere ich einige Sätze. Dies ist ein ziemlich vereinfachtes Modell, aber im Großen und Ganzen richtig. Ihr Gehirn versucht herauszufinden, wie ich die Stärke der Verbindungen zwischen Neuronen ändern kann. Also
6:10 hätte ich dieses Wort vielleicht als nächstes gesetzt. Sie lernen also viel, wenn ein sehr überraschendes Wort vorkommt, aber nicht viel, wenn es ein sehr offensichtliches Wort ist. Wenn ich Fish and Chips sage, lernen Sie nicht viel, wenn ich Chips sage. Aber wenn ich Fisch und Gurke sage, lernen Sie viel mehr. Sie fragen sich, warum ich Gurke gesagt habe? Das ist also ungefähr das, was in Ihrem Gehirn vor sich geht. Ich sage voraus, was als nächstes kommt. Wir glauben, dass es so funktioniert. Niemand weiß wirklich genau, wie das Gehirn funktioniert. Und niemand weiß, wie es an die Informationen gelangt, ob die Stärke einer Verbindung erhöht oder verringert werden soll. Das ist das Entscheidende. Was wir heute jedoch durch KI wissen, ist, dass wir unglaubliche Dinge lernen könnten, wenn wir Informationen darüber erhalten könnten, ob wir die Verbindungsstärke erhöhen oder verringern sollten, um die jeweilige Aufgabe besser zu erledigen.
6:57 Denn genau das tun wir heute mit künstlichen Neuronennetzen. Wir wissen nur nicht, wie echte Gehirne das Signal erhalten, ob sie die Menge erhöhen oder verringern sollen. Welche großen Bedenken haben Sie heute in Bezug auf die Sicherheit von KI? Wenn wir die wichtigsten Paare auflisten würden, die uns am meisten im Kopf herumgehen und über die wir nachdenken sollten. Ähm, kann ich mehr als ein paar haben? Fortfahren. Ich werde sie alle aufschreiben und wir werden sie durchgehen. Okay. Zunächst möchte ich zwischen zwei völlig unterschiedlichen Arten von Risiken unterscheiden. Der Missbrauch von KI birgt Risiken. Ja. Und das sind die meisten und alle kurzfristigen Risiken. Und dann gibt es noch Risiken, die sich daraus ergeben, dass die KI superintelligent wird und entscheidet, dass sie uns nicht braucht. Ist das ein echtes Risiko?
7:43 Und ich spreche hauptsächlich über dieses zweite Risiko, weil viele Leute sagen: „Ist das ein echtes Risiko?“ Und ja, das ist es. Wir wissen nicht, wie groß das Risiko ist. In einer solchen Situation waren wir noch nie. Wir mussten uns noch nie mit Dingen auseinandersetzen, die intelligenter waren als wir. Das Problem mit dieser existenziellen Bedrohung besteht also darin, dass wir keine Ahnung haben, wie wir damit umgehen sollen . Wir haben keine Ahnung, wie es aussehen wird. Und jeder, der Ihnen erzählt, dass er genau weiß, was passieren wird und wie man damit umgeht, redet Unsinn. Wir wissen also nicht, wie hoch die Wahrscheinlichkeit ist, dass es uns ersetzen wird. Ähm, manche Leute sagen, es ist weniger als 1 %. Mein Freund Yan Lar, der mit mir auf Postto war, meint: „Nein, nein, nein, wir werden diese Dinge immer bauen.“ Wir werden immer die Kontrolle behalten. Wir werden sie so erziehen, dass sie gehorsam sind.
8:29 Und andere Leute wie Yudkowski sagen: „Nein, nein, nein. Diese Dinger werden uns mit Sicherheit auslöschen. Wenn irgendjemand so etwas baut, werden wir alle ausgelöscht.“ Und davon ist er überzeugt. Ich halte beide Positionen für extrem. Es ist sehr schwierig, die Wahrscheinlichkeiten dazwischen abzuschätzen . Wenn Sie wetten müssten, wer von Ihren beiden Freunden Recht hat, wüsste ich es einfach nicht. Wenn ich also wetten müsste, würde ich sagen, die Wahrscheinlichkeiten liegen dazwischen, und ich weiß nicht, wo ich sie dazwischen einschätzen soll. Ich sage oft, dass die Wahrscheinlichkeit, dass sie uns auslöschen, 10 bis 20 % beträgt, aber das ist nur ein Bauchgefühl, das auf der Annahme basiert, dass wir sie immer noch herstellen und ziemlich erfinderisch sind. Und die Hoffnung ist, dass wir, wenn genügend kluge Leute genügend Forschung betreiben und genügend Ressourcen einsetzen,
9:14 einen Weg finden, sie so zu bauen, dass sie uns nie Schaden zufügen wollen. Manchmal denke ich, wenn wir über diesen zweiten Weg sprechen, manchmal denke ich an Atombomben und die Erfindung der Atombombe und wie sie im Vergleich dazu anders sind, weil die Atombombe aufkam und ich mir vorstelle, dass viele Leute damals dachten, unsere Tage seien gezählt. Ja, ich war dort. Das haben wir. Ja. Aber, aber, aber, was soll's, wir sind immer noch hier. Wir sind immer noch hier. Ja. Die Atombombe war also wirklich nur zu einem Zweck gut und ihre Funktionsweise war sehr offensichtlich . Auch wenn man die Bilder von Hiroshima und Nagasaki nicht gehabt hätte, wäre es offensichtlich gewesen, dass es sich um eine sehr große Bombe handelte, die sehr gefährlich war. KI ist für viele, viele Dinge gut.
10:00 Im Gesundheits- und Bildungswesen wird dies großartige Auswirkungen haben, und praktisch jede Branche, die auf ihre Daten angewiesen ist, wird diese mithilfe von KI besser nutzen können . Wir werden die Entwicklung also nicht stoppen . Wissen Sie, die Leute sagen: „Warum hören wir nicht einfach jetzt damit auf?“ Wir werden es nicht stoppen, weil es für zu viele Dinge zu gut ist . Und wir werden es auch nicht stoppen, weil es gut für Kampfroboter ist, und keines der Länder, die Waffen verkaufen, wird es stoppen wollen . Ähnlich wie in den europäischen Vorschriften gibt es auch hier Regelungen zur KI, und es ist gut, dass es einige Regelungen gibt, aber sie sind nicht darauf ausgelegt, den meisten Bedrohungen zu begegnen. Und insbesondere enthalten die europäischen Vorschriften eine Klausel, die besagt, dass keine dieser Vorschriften für die militärische Nutzung von KI gilt.
10:45 Regierungen sind also bereit, Unternehmen und Menschen zu regulieren, aber sie sind nicht bereit, sich selbst zu regulieren. Es erscheint mir ziemlich verrückt, dass sie – ich gehe hin und her – eine Regelung haben, der Rest der Welt aber keinen Wettbewerbsnachteil. Ja, das sehen wir bereits. Ich glaube, die Leute sind sich nicht darüber im Klaren, dass OpenAI ein neues Modell oder eine neue Software, wenn es in Amerika herauskommt, aufgrund der dortigen Vorschriften noch nicht in Europa veröffentlichen kann. Sam Alman twitterte: „Unser neuer KI- Agent ist für jeden verfügbar, kann aber aufgrund bestehender Vorschriften noch nicht nach Europa kommen .“ Ja. Warum entsteht uns dadurch ein Produktionsnachteil? Produktivitätsnachteil . Was wir brauchen, ist – ich meine, an diesem Punkt der Geschichte, an dem wir dabei sind, Dinge zu produzieren, die intelligenter sind als wir selbst –, eine Art funktionierende
11:34 Weltregierung, die von intelligenten, nachdenklichen Menschen geführt wird. Und das ist nicht das, was wir bekommen haben. Also alles frei für alle. Nun, wir haben sozusagen Kapitalismus, den wir sehr gut umsetzen. ist, viele Waren und Dienstleistungen für uns zu produzieren. Aber diese großen Unternehmen sind gesetzlich dazu verpflichtet, ihre Gewinne zu maximieren, und das ist nicht das, was man von den Leuten erwartet, die diese Dinge entwickeln. Dann lasst uns die Risiken eingehen. Sie haben davon gesprochen, dass es menschliche Risiken gibt und dass es dann noch Risiken gibt. Ich habe also zwischen diesen beiden Arten von Risiken unterschieden. Lassen Sie uns über alle Risiken sprechen, die durch den Einsatz von KI durch böswillige menschliche Akteure entstehen. Es gibt Cyberangriffe. Zwischen 2023 und 2024
12:22 stiegen sie also um etwa das 12.200-fache. Und das liegt wahrscheinlich daran, dass diese großen Sprachmodelle Fishing-Angriffe viel einfacher machen . Und für alle, die es noch nicht wissen: Ein Phishing-Angriff besteht darin, dass sie Ihnen etwas schicken, in dem steht: „Ähm, hallo, ich bin dein Freund John und stecke in El Salvador fest.“ Könnten Sie das Geld einfach überweisen ? Das ist eine Art von Angriff. Doch bei den Angelangriffen geht es in Wirklichkeit darum, an Ihre Seetaucher-Anmeldeinformationen zu gelangen. Und jetzt können sie mit KI meine Stimme und mein Bild klonen. Sie können das alles. Ich habe im Moment Schwierigkeiten, weil es auf X und auch Meta eine Menge KI-Betrug gibt. Und es gibt insbesondere eine auf Meta, also derzeit auf Instagram und Facebook, bei der es sich um eine bezahlte Anzeige handelt, für die sie meine Stimme aus dem Podcast genommen haben. Sie haben meine Eigenheiten übernommen und ein neues Video von mir gemacht, in dem ich die Leute dazu ermutige,
13:08 bei diesem Krypto-Ponzi-Betrug oder was auch immer mitzumachen. Und wir haben, wissen Sie, wochenlang damit verbracht und am Ende eine E-Mail an Meta geschickt und gesagt: „Bitte nehmen Sie das herunter.“ Sie nehmen es herunter, ein anderes taucht auf. Sie nehmen das eine herunter, und ein anderes taucht auf. Es ist also wie Whack-a-Ole. Und dann ist es sehr ärgerlich. Das Herzzerreißende daran ist, dass man Nachrichten von Leuten bekommt, die auf den Betrug hereingefallen sind und 500 £ oder 500 $ verloren haben. Sie wenden sich an Sie, weil Sie es empfohlen haben, und das tut mir leid für sie. Es ist sehr ärgerlich. Ja. Ich habe eine kleinere Version davon, nämlich PE. Einige Leute veröffentlichen jetzt Artikel, bei denen ich einer der Autoren bin. Mhm. Und es scheint, als ob dies der Zweck ist, dass sie möglichst viele Zitate erhalten. Ah, Cyberangriffe sind also eine sehr reale Bedrohung. Davon gab es eine explosionsartige Zunahme. Und diese KI ist offensichtlich sehr geduldig. Sie können also 100 Millionen Codezeilen durchgehen und
13:56 nach bekannten Angriffsmethoden suchen . Das ist ganz einfach. Aber sie werden kreativer werden und einige Leute glauben, und ich, einige Leute, die viel wissen, glauben, dass sie bis 2030 vielleicht neue Arten von Cyberangriffen entwickeln werden, an die noch niemand gedacht hat. Das ist sehr beunruhigend, denn sie können selbst denken und entdecken, dass sie selbst denken können . Sie können aus viel mehr Daten neue Schlussfolgerungen ziehen, als ein Mensch je gesehen hat. Tun Sie irgendetwas, um sich vor Cyberangriffen zu schützen? Ja. Es ist einer der wenigen Orte, an denen ich meine Vorgehensweise radikal geändert habe, weil ich Angst vor Cyberangriffen habe. Kanadische Banken sind extrem sicher. Im Jahr 2008 war keine kanadische Bank auch nur
14:43 annähernd pleite. Es handelt sich also um sehr sichere Banken, da sie gut reguliert sind, zumindest ziemlich gut. Dennoch bin ich der Meinung, dass ein Cyberangriff eine Bank lahmlegen könnte. Wenn Sie nun alle Ihre Ersparnisse in Bankaktien angelegt haben, die von Banken gehalten werden, und wenn die Bank angegriffen wird und Ihre Aktien hält, sind es immer noch Ihre Aktien. Ich denke also, dass alles in Ordnung wäre, es sei denn, der Angreifer verkauft die Aktien, denn die Bank kann die Aktien verkaufen. Wenn der Angreifer Ihre Aktien verkauft, sind Sie meiner Meinung nach aufgeschmissen. Ich weiß nicht. Ich meine, vielleicht müsste die Bank versuchen, Ihnen das Geld zurückzuerstatten, aber die Bank ist doch inzwischen pleite, oder? Ich mache mir also Sorgen, dass eine kanadische Bank durch einen Cyberangriff lahmgelegt wird und
15:29 der Angreifer die Aktien, die die Bank hält, verkauft. Deshalb habe ich mein Geld und das meiner Kinder auf drei Banken verteilt, in der Überzeugung, dass, wenn eine kanadische Bank durch einen Cyberangriff lahmgelegt wird, die anderen kanadischen Banken sehr schnell sehr vorsichtig werden. Und haben Sie ein Telefon, das nicht mit dem Internet verbunden ist? Haben Sie irgendwelche, wissen Sie, ich denke über die Speicherung von Daten und solche Sachen nach. Halten Sie es für sinnvoll, über eine Kühllagerung nachzudenken? Ich habe ein kleines Laufwerk und sichere mein Laptop auf dieser Festplatte. Also ich habe eigentlich alles auf meinem Laptop auf einer Festplatte. Zumindest wissen Sie, dass ich bei einem Internetausfall das Gefühl hatte, dass ich immer noch auf meinem Laptop darauf zugreifen und meine Informationen behalten konnte. Okay. Der nächste Schritt besteht darin, KI zum Erstellen bösartiger
16:16 Viren einzusetzen. Okay. Und das Problem dabei ist, dass es dafür nur einen verrückten Kerl mit einem Groll braucht. Ein Typ, der ein bisschen Ahnung von Molekularbiologie und viel über KI hat und einfach nur die Welt zerstören will. Mithilfe künstlicher Intelligenz können Sie heute relativ kostengünstig neue Viren erstellen. Und Sie müssen kein besonders erfahrener Molekularbiologe sein, um dies zu tun. Und das ist sehr beängstigend. So könnte man zum Beispiel eine kleine Sekte gründen. eine kleine Sekte könnte vielleicht ein paar Millionen Dollar aufbringen. Für ein paar Millionen Dollar könnten sie möglicherweise eine ganze Reihe von Viren entwickeln. Nun, ich denke an einige unserer ausländischen Gegner, die staatlich finanzierte Programme durchführen. Ich meine, es gab viele Gespräche über COVID und das Wuhan- Labor und was sie dort taten und welche
17:02 Forschungsarbeiten sie durchführten, aber ich frage mich, ob die Regierung in China oder Russland oder im Iran oder so ein Programm für eine kleine Gruppe von Wissenschaftlern finanzieren könnte, um ein Virus zu entwickeln, mit dem sie, wissen Sie, ich denke, das könnten sie. Ja. Jetzt hätten sie Angst vor Vergeltungsmaßnahmen. Sie hätten Angst, dass andere Regierungen ihnen dasselbe antun könnten . Hoffentlich hilft das, es unter Kontrolle zu halten. Sie sind möglicherweise auch besorgt, dass sich das Virus in ihrem Land ausbreiten könnte. Okay? Dann gibt es da noch die Manipulation von Wahlen. Wenn Sie also KI zur Manipulation von Wahlen einsetzen möchten , wäre es sehr effektiv, gezielte politische Werbung zu schalten, bei der Sie viel über die Person wissen. Wer also KI zur Wahlmanipulation einsetzen möchte, würde versuchen,
17:49 möglichst viele Daten über jeden Wähler zu sammeln. Vor diesem Hintergrund ist es ein wenig beunruhigend, was Musk derzeit in den USA tut: Er geht dorthin und besteht darauf, Zugang zu all den Dingen zu bekommen, die sorgfältig isoliert wurden. Es wird behauptet, dass dies zu mehr Effizienz führen soll, aber es ist genau das, was man sich wünschen würde, wenn man die nächste Wahl manipulieren wollte. Wie meinen Sie? Weil Sie all diese Daten über die Leute bekommen. Sie erhalten alle diese Daten über Personen. Sie wissen, wie viel sie dort verdienen, und Sie wissen alles über sie. Wenn man das einmal weiß, ist es sehr einfach, sie zu manipulieren, weil man eine KI erstellen kann, der man für die Patienten sehr überzeugende Nachrichten senden kann, in denen man ihnen beispielsweise sagt, sie sollen nicht wählen. Ich habe also keinen anderen Grund als den gesunden Menschenverstand, so zu denken, aber es
18:35 würde mich nicht überraschen, wenn die Motivation, all diese Daten aus amerikanischen Regierungsquellen zu beziehen, teilweise darin besteht, Wahlen zu manipulieren. Ein weiterer Grund könnte sein, dass es sich um sehr gute Trainingsdaten für ein großes Modell handelt, er diese Daten jedoch von der Regierung nehmen und in sein „Ja“ einspeisen müsste. Und was sie getan haben, ist, viele Sicherheitskontrollen abzuschalten und einige Teile der Organisation zu entlassen, um sich davor zu schützen. Ähm, das ist also Wahlmanipulation. Okay. Dann werden diese beiden Echokammern von Organisationen wie YouTube und Facebook geschaffen, die den Leuten Dinge zeigen, die sie empören. Die Leute lieben es, empört zu sein. Empört im Sinne von wütend oder
19:22 was bedeutet empört? Ich bin irgendwie wütend, fühle mich aber im Recht. Okay. Wenn Sie mir beispielsweise etwas zeigen würden, in dem steht, dass Trump diese verrückte Sache getan hat, dann sehen Sie hier ein Video, in dem Trump diese völlig verrückte Sache tut. Ich würde sofort darauf klicken. Okay. Das bringt uns in Echokammern und spaltet uns. Ja. Und das ist die Richtlinie, die YouTube, Facebook und andere verwenden, um zu entscheiden, was Ihnen als Nächstes angezeigt wird und die das verursacht. Wenn sie die Strategie verfolgen würden, Ihnen ausgewogene Dinge zu zeigen, würden sie nicht so viele Klicks erhalten und könnten nicht so viele Anzeigen verkaufen. Das Gewinnmotiv besteht also im Wesentlichen darin, ihnen zu sagen, dass man ihnen alles zeigen soll, was sie zum Klicken bringt. Und was sie anspricht,
20:09 sind immer extremere Dinge. Und das bestätigte meine bestehende Voreingenommenheit. Das bestätigt meine bestehende Voreingenommenheit. Ihre Vorurteile werden also immer weiter und weiter und weiter bestätigt, was bedeutet, dass Sie sich voneinander entfernen. In den USA gibt es jetzt zwei Gemeinschaften, die kaum noch miteinander reden. Ich bin nicht sicher, ob den Leuten klar ist, dass dies tatsächlich jedes Mal passiert, wenn sie eine App öffnen. Aber wenn Sie auf Tik Tok oder YouTube oder eines dieser großen sozialen Netzwerke gehen, ist der Algorithmus, wie Sie sagten, darauf ausgelegt, Ihnen mehr von den Dingen anzuzeigen, die Sie beim letzten Mal interessiert haben. Wenn Sie das also über einen Zeitraum von zehn Jahren durchziehen, werden Sie immer weiter in Ihre Ideologie oder Ihren Glauben hineingetrieben und immer weiter von Nuancen, gesundem Menschenverstand und Gleichheit entfernt, was eine ziemlich bemerkenswerte Sache ist. Ich mag es, wenn die Leute nicht wissen, dass es passiert. Sie klappen einfach ihr Telefon auf, erleben etwas
20:56 und denken, das seien die Neuigkeiten oder das Erlebnis, das alle anderen auch haben. Rechts. Wenn Sie also eine Zeitung haben und jeder die gleiche Zeitung bekommt, ja. man sieht alle möglichen Dinge, nach denen man nicht gesucht hat und bekommt das Gefühl, dass es wichtig oder bedeutsam ist, wenn es in der Zeitung steht. Aber wenn man seinen eigenen Newsfeed hat (mein Newsfeed auf meinem iPhone 3/4), dann handeln die meisten Geschichten von KI und ich finde es sehr schwer zu erkennen, ob die ganze Welt die ganze Zeit über KI redet oder ob es nur mein Newsfeed ist, okay? Das treibt mich also in meine Echokammern, ähm, was uns immer weiter entzweien wird. Mir fällt tatsächlich auf, dass die Algorithmen immer mehr, wie sagt man noch? Maßgeschneidert. Und die Leute sagen vielleicht: „Oh,
21:42 das ist großartig.“ Das bedeutet aber, dass sie noch persönlicher werden, was wiederum bedeutet, dass sich meine Realität noch weiter von Ihrer Realität entfernt. Ja. Es ist verrückt. Wir haben keine gemeinsame Realität mehr. Ich teile die Realität mit anderen Menschen, die die BBC und andere BBC-Nachrichten sehen, und mit anderen Menschen, die den Guardian lesen, und mit anderen Menschen, die die New York Times lesen. Ich habe mit den Leuten, die Fox News schauen, kaum eine gemeinsame Realität. Es ist ziemlich, es ist ziemlich, ähm, ich, ich, es ist besorgniserregend. Ja. Dahinter steckt die Vorstellung, dass diese Unternehmen nur Profit machen wollen und alles tun werden, um mehr Profit zu machen, weil sie es müssen . Sie sind gesetzlich dazu verpflichtet. Wir können dem Unternehmen also fast keine Vorwürfe machen , oder? Wenn ja, dann hat
22:28 uns der Kapitalismus sehr geholfen. Es sind viele Leckereien dabei herausgekommen. Ja. Aber Sie müssen es sehr gut regeln. Was Sie also wirklich wollen, sind Regeln, die ein Unternehmen, das möglichst viel Gewinn machen möchte, dazu zwingen, Dinge zu tun, die gut für die Menschen im Allgemeinen sind, und nicht Dinge, die schlecht für die Menschen im Allgemeinen sind. Wenn also eine Situation eintritt, in der ein Unternehmen aus Profitgründen beginnt, Dinge zu tun, die sehr schlecht für die Gesellschaft sind, wie etwa immer extremere Dinge zu zeigen, dann sind Regulierungen der Sinn dieser Dinge . Deshalb braucht es im Kapitalismus Vorschriften. Unternehmen werden immer sagen, dass Vorschriften uns behindern und unsere Effizienz verringern, und das stimmt. Der Sinn von Regulierungen besteht darin, sie daran zu hindern, Profite zu machen, die der
23:14 Gesellschaft schaden. Und wir brauchen eine strenge Regulierung. wer wird entscheiden, ob es der Gesellschaft schadet oder nicht, denn das ist, wie Sie wissen, die Aufgabe der Politiker. Wenn die Politiker den Unternehmen gehören, ist das leider nicht so gut. Außerdem verstehen die Politiker möglicherweise die Technologie nicht. Sie haben wahrscheinlich die Anhörungen im Senat gesehen, bei denen Mark Zuckerberg und die CEOs dieser großen Technologieunternehmen vorgeführt werden, und es ist ziemlich peinlich, weil sie die falschen Fragen stellen. Ich habe das Video der US-Bildungsministerin gesehen, in dem sie darüber spricht, wie sie KI in die Klassenzimmer bringen werden, nur dass sie dachte, es hieße A1. Tatsächlich sagt sie dort, dass alle Kinder mit A1 interagieren werden. Es gibt ein Schulsystem, das damit beginnt, sicherzustellen, dass Erstklässler oder sogar Vorschulkinder jedes Jahr A1-Unterricht erhalten, und
24:01 zwar schon ab den unteren Klassenstufen. Und das ist einfach eine wunderbare Sache. [Gelächter] Und das sind die Leute, das sind die Leute, die das Sagen haben. Letztendlich haben die Technologieunternehmen das Sagen, denn sie werden die Technologieunternehmen in den USA überlisten. Zumindest vor ein paar Wochen, als ich dort war, lief dort eine Anzeige, in der es hieß, es sei sehr wichtig, KI nicht zu regulieren, weil uns das im Wettbewerb mit China schaden würde. Ja. Und das ist ein plausibles Argument . Ja, das wird es. Aber Sie müssen sich entscheiden: Wollen Sie mit China konkurrieren, indem Sie Dinge tun, die Ihrer Gesellschaft großen Schaden zufügen? Und das
24:46 tun Sie wahrscheinlich nicht. Ich schätze, sie würden sagen, dass es nicht nur China ist, sondern auch Dänemark, Australien , Kanada und das Vereinigte Königreich. Um Deutschland machen sie sich nicht so viele Sorgen. Aber wenn sie sich durch Regulierung selbst in die Knie zwingen und sich selbst ausbremsen, dann werden die Gründer, die Unternehmer und die Investoren gehen. Ich denke, dass die Bezeichnung „Kniescheibenfunktion“ einen bestimmten Standpunkt einnimmt, nämlich den Standpunkt, dass Regulierungen sehr schädlich sind. Man muss den großen Unternehmen lediglich Beschränkungen auferlegen, sodass sie, um Gewinn zu machen, Dinge tun müssen, die gesellschaftlich nützlich sind. Ein gutes Beispiel hierfür ist die Google-Suche, die keiner Regulierung bedurfte, weil sie den Menschen einfach Informationen zur Verfügung stellte. Es war großartig. Nehmen wir aber YouTube, wo Werbung und
25:31 immer extremere Dinge gezeigt werden, die reguliert werden müssen. Aber wie wir festgestellt haben, haben wir nicht die Leute, um das zu regulieren. Ich denke, die Leute kennen das spezielle Problem, einem immer extremere Dinge zu zeigen, ziemlich gut. Das ist ein bekanntes Problem, das die Politiker verstehen. Sie müssen einfach weitermachen und es regulieren. Das war also der nächste Punkt, nämlich dass die Algorithmen uns noch weiter in unsere Echokammern treiben werden, richtig? Wie geht es weiter? Tödliche autonome Waffen. Tödliche autonome Waffen. Damit sind Dinge gemeint, die Sie töten können und selbst entscheiden, ob sie Sie töten. Und ich schätze, das ist der große Traum des militärisch-industriellen Komplexes, solche Waffen herstellen zu können . Das Schlimmste daran
26:17 ist, dass große, mächtige Länder immer die Möglichkeit haben, in kleinere, ärmere Länder einzumarschieren. sie sind einfach leistungsstärker. Wenn man das jedoch mit echten Soldaten macht, bekommt man die Leichen in Säcken zurück und das gefällt den Angehörigen der getöteten Soldaten nicht. Man bekommt also so etwas wie Vietnam. Mhm. Am Ende gibt es zu Hause viel Protest. Wenn man statt der in Säcken verpackten Leichen tote Roboter zurückbrächte, gäbe es viel weniger Proteste und der militärisch-industrielle Komplex wäre viel zufriedener, weil Roboter teuer sind. Und nehmen wir an, Sie hätten etwas, das kaputt gehen könnte und dessen Ersatz teuer wäre. Das wäre einfach großartig. Große Länder können kleinere Länder
27:04 viel leichter überfallen, weil ihre Soldaten nicht getötet werden. Und dabei besteht das Risiko, dass diese Roboter Fehlfunktionen aufweisen oder einfach nur mehr ... Nein, nein, selbst wenn die Roboter genau das tun, was die Leute, die sie gebaut haben, von ihnen wollen, besteht das Risiko, dass große Länder dadurch häufiger in kleine Länder einfallen. Öfter, weil sie es können. Ja. Und es ist nicht nett, das zu tun. Dadurch werden die Reibungen des Krieges verringert. Es senkt die Kosten einer Invasion. Und auch in der Kriegsführung werden diese Maschinen intelligenter sein . Es wird ihnen also auch dann gut gehen, wenn die Maschinen nicht intelligenter sind. Tödliche autonome Waffen können also jetzt hergestellt werden. Und ich glaube, alle großen Verteidigungsmodelle sind damit beschäftigt, sie herzustellen. Auch wenn sie nicht schlauer sind als Menschen, sind sie dennoch sehr böse und beängstigende Dinger. Denn ich denke, sie könnten
27:50 einfach ein Bild zeigen. Schnapp dir den Kerl. Ja. Und schalten Sie alle aus, denen er eine SMS geschrieben hat, und diese kleine Wespe. Vor zwei Tagen besuchte ich einen Freund in Sussex, der eine Drohne hatte, die weniger als 200 £ kostete, und die Drohne ging hoch. Es hat mich genau angesehen und konnte mir dann durch den Wald folgen. Es war sehr unheimlich, diese Drohne dabei zu haben. Es war etwa 2 Meter hinter mir. Es sah mich an und wenn ich dorthin ging, ging es dorthin. Es könnte mich einfach verfolgen . Mhm. Für 200 Pfund war es aber schon ziemlich unheimlich. Ja. Und ich kann mir vorstellen, dass gerade, wie Sie sagen, ein Wettlauf stattfindet, wer die komplexesten autonomen Waffen bauen kann. Es besteht das Risiko, wie ich oft höre, dass einige
28:35 dieser Dinge zusammenkommen und der Cyberangriff Waffen freisetzt. Sicher. Ähm, Sie können viele Risiken kombinatorisch erzielen, indem Sie diese anderen Risiken kombinieren. Mhm. Ich meine, man könnte zum Beispiel eine superintelligente KI haben, die beschließt, Menschen loszuwerden, und der naheliegendste Weg, dies zu tun, besteht einfach darin, einen dieser fiesen Viren zu erschaffen. Wenn man ein Virus erzeugen würde, das sehr ansteckend, sehr tödlich und sehr langsam wäre, hätte es jeder, bevor er merkt, was passiert. Ich meine, wenn eine Superintelligenz uns loswerden wollte, würde sie sich wahrscheinlich etwas Biologisches aussuchen, das ihr nichts anhaben könnte. Glauben Sie nicht, dass uns das sehr schnell gegeneinander aufbringen könnte ? Beispielsweise könnte man an die Atomsysteme in
29:22 Amerika eine Warnung senden, dass eine Atombombe aus Russland kommt oder umgekehrt, und man würde Vergeltung üben. Ja. Ich meine, meine grundsätzliche Ansicht ist, dass es so viele Möglichkeiten gibt, wie die Superintelligenz uns loswerden könnte. Es lohnt sich nicht, darüber zu spekulieren. Was Sie tun müssen, ist, zu verhindern, dass es jemals dazu kommt. Das ist es, was wir erforschen sollten. Wir können es auf keinen Fall verhindern, es ist schlauer als wir, oder? Wir können es nicht daran hindern, uns loszuwerden, wenn es das möchte. Wir sind es nicht gewohnt, über Dinge nachzudenken, die klüger sind als wir. Wenn Sie wissen möchten, wie das Leben ist, wenn Sie nicht über die höchste Intelligenz verfügen, fragen Sie ein Huhn. Ja. Als ich heute Morgen das Haus verließ, dachte ich an meinen Hund Pablo, meine französische Bulldogge . Er hat keine Ahnung, wohin ich
30:08 gehe. Er hat keine Ahnung, was ich mache, oder? Ich kann nicht einmal mit ihm reden. Ja. Und die Intelligenzlücke wird so sein. Sie sagen mir also, dass ich, wenn ich Pablo, meine französische Bulldogge, wäre, einen Weg finden müsste, damit mein Besitzer mich nicht umbringt. Ja. Ein Beispiel hierfür sind Mütter und Babys. Die Evolution hat hier viel Arbeit investiert. Mütter sind klüger als Babys, aber Babys haben die Kontrolle. Und sie haben die Kontrolle, weil die Mutter viele Hormone und so einfach nicht ertragen kann , aber die Mutter kann das Weinen des Babys einfach nicht ertragen . Nicht alle Mütter. Nicht alle Mütter. Und dann hat das Baby keine Kontrolle mehr und dann passieren schlimme Dinge. Wir müssen einen Weg finden, ihnen die Machtübernahme zu verwehren. Die Analogie, die
30:53 ich oft verwende, lautet: Vergessen Sie die Intelligenz und denken Sie an körperliche Stärke. Angenommen, Sie haben eine schöne kleine Tigertasse. Es ist irgendwie etwas größer als eine Katze. Es ist wirklich süß. Es ist sehr kuschelig und sehr interessant anzusehen. Allerdings sollten Sie sicher sein, dass es Sie niemals töten will, wenn es erwachsen wird . Denn wenn es Sie jemals töten wollte , wären Sie in wenigen Sekunden tot. Und Sie sagen, dass die KI, die wir jetzt haben, das Zieljunge ist. Ja. Und es wird erwachsen. Ja . Wir müssen es also so trainieren, als wäre es ein Baby. Nun, ein Tiger hat eine Menge eingebautes Zeug. Wenn er also erwachsen wird, ist es nicht ungefährlich, ihn in der Nähe zu haben. Aber Löwen, Menschen, die Löwen als Haustiere halten, ja. Manchmal ist der Löwe seinem Schöpfer gegenüber liebevoll, anderen gegenüber jedoch nicht . Ja. Und wir wissen nicht, ob wir diesen KIs den Wunsch
31:42 absprechen können, die Macht zu übernehmen und uns zu verletzen. Glaubst du, wir können das? Glauben Sie, dass es möglich ist, Superintelligenz zu trainieren ? Ich glaube nicht, dass klar ist, ob wir das können. Ich glaube also, dass es hoffnungslos sein könnte . Aber ich denke auch, dass wir dazu in der Lage sein könnten. Und es wäre irgendwie verrückt, wenn die Menschen aussterben würden, weil wir uns nicht die Mühe machen würden, es zu versuchen. Wenn das überhaupt möglich ist, wie stehen Sie zu Ihrem Lebenswerk? Weil du es warst. Ja. Ähm, das nimmt der Sache irgendwie die Schärfe, nicht wahr? Ich meine, die Idee wird im Gesundheitswesen wunderbar sein, und wunderbar im Bildungswesen, und wunderbar. Ich meine, Callcenter werden dadurch wesentlich effizienter, obwohl man sich ein wenig Sorgen darüber macht, was die Leute machen, die diese Arbeit derzeit machen. Es macht mich traurig. Ich habe keine besonderen Schuldgefühle, wenn ich an die Entwicklung von KI vor 40 Jahren denke, denn
32:30 damals hatten wir keine Ahnung, dass sich diese Dinge so schnell entwickeln würden. Wir dachten, wir hätten genug Zeit, uns über solche Dinge Gedanken zu machen. Wenn Sie es nicht dazu bringen können, viel zu tun, möchten Sie, dass es ein bisschen mehr tut. Sie machen sich keine Sorgen, dass dieses dumme kleine Ding die Macht über die Leute übernehmen wird. Sie möchten einfach, dass es ein bisschen mehr von den Dingen kann, die die Leute tun können . Es ist nicht so, dass ich wissentlich etwas getan hätte, weil ich dachte, dass es uns alle auslöschen könnte , aber ich werde es trotzdem tun. Mhm. Aber es ist ein bisschen traurig, dass es nicht einfach etwas Gutes sein wird. Daher sehe ich es als meine Pflicht an, jetzt über die Risiken zu sprechen. Und wenn man es 30, 50 Jahre später betrachten könnte und herausfände, dass es zur Ausrottung der Menschheit geführt hat, und wenn das am Ende tatsächlich
33:17 das Ergebnis wäre, nun, wenn man es weiter betrachtet und es zur Ausrottung der Menschheit geführt hätte, würde ich das nutzen, um den Leuten zu sagen, dass sie ihren Regierungen sagen sollen, dass wir wirklich daran arbeiten müssen, wie wir diese Dinge unter Kontrolle halten können. Ich denke, wir müssen den Regierungen klarmachen, dass sie die Unternehmen zwingen müssen, ihre Ressourcen für die Sicherheit einzusetzen. Und das tun sie nicht oft, weil sich damit kein Gewinn erzielen lässt. Einer Ihrer Schüler, über den wir vorhin gesprochen haben, ähm, Ilia, ja. Ilia hat OpenAI verlassen. Ja. Und es gab viele Gespräche darüber, dass er aus Sicherheitsbedenken gegangen war. Ja. Und er hat ein KI- Sicherheitsunternehmen gegründet. Ja.
34:04 Warum, glauben Sie, ist er gegangen? Ich glaube, er ist gegangen, weil er Sicherheitsbedenken hatte. Wirklich? Er, ähm, ich esse immer noch von Zeit zu Zeit mit ihm zu Mittag. Seine Eltern leben in Toronto. Wenn er nach Toronto kommt, essen wir zusammen zu Mittag. Er spricht mit mir nicht darüber, was bei Open AI vor sich ging, daher habe ich darüber keine Insiderinformationen . Aber ich weiß, dass ihm die Sicherheit sehr am Herzen liegt. Ich glaube, dass er deshalb gegangen ist, weil er einer der Top-Leute war. Ich meine, er war wahrscheinlich die wichtigste Person hinter der Entwicklung von, ähm, Church GPT, den frühen Versionen wie GPT2, er war sehr wichtig bei der Entwicklung davon, Sie kennen ihn persönlich, also kennen Sie seinen Charakter, ja, er hat einen guten moralischen Kompass, er ist nicht wie jemand wie Musco, der keinen moralischen Kompass hat, hat Sam Alman einen guten moralischen Kompass,
34:50 wir werden sehen, ich kenne Sam nicht, also möchte ich das nicht kommentieren. Aber sind Sie angesichts dessen, was Sie gesehen haben, besorgt über die Maßnahmen, die sie ergriffen haben? Denn wenn Sie Ilia kennen und wissen, dass Ilia ein guter Kerl ist und er gegangen ist, würde Ihnen das einige Einblicke geben. Ja. Dies würde Ihnen Anlass zu der Annahme geben, dass hier ein Problem vorliegt. Und wenn man sich Sams Aussagen von vor einigen Jahren ansieht, sagte er in einem Interview ziemlich unbekümmert: „ Dieses Zeug wird uns wahrscheinlich alle umbringen.“ Das ist nicht genau das, was er gesagt hat, aber darauf lief es hinaus. Jetzt sagt er, Sie müssen sich darüber nicht allzu viele Sorgen machen . Und ich vermute, dass dies nicht auf der Suche nach der Wahrheit beruht. Der Antrieb dafür ist das Streben nach Geld. Ist es Geld oder
35:38 ist es Macht? Ja. Ich hätte nicht Geld sagen sollen. Es ist eine Kombination davon. Ja. Okay. Ich schätze, Geld ist ein Stellvertreter für Macht. Aber ich habe einen Freund, der Milliardär ist und sich in diesen Kreisen bewegt. Und als ich eines Tages zu ihm nach Hause kam und mit ihm zu Mittag aß, kannte er viele Leute im KI-Bereich und baute die größten KI-Unternehmen der Welt auf. Und er erteilte mir über seinen Küchentisch in London hinweg eine warnende Warnung, indem er mir einen Einblick in die privaten Gespräche dieser Leute gewährte. Dabei ging es nicht um die Medieninterviews, in denen sie über Sicherheit und all diese Dinge sprechen, sondern darum, was einige dieser Personen tatsächlich denken, was passieren wird, und was sie denken, was passieren wird. Es ist nicht das, was sie öffentlich sagen. Wissen Sie, es gibt eine Person, deren Namen ich lieber nicht nennen sollte, die eines der größten KI-Unternehmen der Welt leitet. Er sagte mir, dass er diese
36:24 Person sehr gut kenne und insgeheim glaube, dass wir auf eine Art dystopische Welt zusteuern, in der wir einfach nur Unmengen an Freizeit hätten. Wir arbeiten nicht mehr. Und dieser Person ist der Schaden, den das der Welt zufügen wird, völlig egal. Und die Person, auf die ich mich beziehe, baut eines der größten KI-Unternehmen der Welt auf. Und dann schaue ich mir die Interviews dieser Person online an und versuche herauszufinden, um welche der drei Personen es sich handelt. Ja. Nun, es ist eine dieser drei Personen. Okay. Und ich schaue mir die Interviews dieser Person online an und denke über ein Gespräch nach, das mein Milliardärsfreund, der ihn kennt, mit mir geführt hat , und denke: „Verdammt, dieser Typ lügt öffentlich.“ Er sagt der Welt nicht die Wahrheit. Und das hat mich ein wenig verfolgt. Das ist einer der Gründe, warum ich in diesem Podcast so viele Gespräche über AR führe, denn ich denke, ich weiß nicht, ob sie es sind. Ich glaube, einige von ihnen sind ein bisschen sadistisch, was Macht angeht. Ich glaube, ihnen gefällt die Vorstellung, dass sie
37:09 die Welt verändern werden, dass sie diejenigen sein werden, die die Welt grundlegend verändern . Ich denke, Musk ist eindeutig so, oder? Er ist eine so komplexe Persönlichkeit, dass ich nicht wirklich weiß, wie ich Musk einordnen soll. Ähm, er hat einige wirklich gute Dinge getan, wie zum Beispiel, ähm, Elektroautos voranzutreiben. Das war wirklich eine gute Sache. Ja. Einige seiner Aussagen zum autonomen Fahren waren etwas übertrieben, aber was er getan hat, war wirklich nützlich . Gewährleistet den Ukrainern während des Krieges mit Russland die Kommunikation. Stling. Ähm, das war wirklich gut, was er getan hat. es gibt eine Menge solcher Dinge. Ähm, aber er hat auch einige sehr schlimme Dinge getan. Kommen wir also auf die Möglichkeit einer Zerstörung
37:57 und die Motive dieser großen Unternehmen zurück: Sind Sie überhaupt zuversichtlich, dass sich das Tempo und die Beschleunigung der KI verlangsamen lassen? Okay, es gibt zwei Probleme. Eine ist: Können Sie es verlangsamen? Ja. Und die andere Frage ist: Können Sie es so machen, dass es am Ende sicher ist? Es wird uns nicht alle auslöschen. Ich glaube nicht, dass wir es verlangsamen werden. Ja. Und der Grund, warum ich nicht glaube, dass wir diesen Prozess verlangsamen werden, liegt darin, dass es einen Wettbewerb zwischen den Ländern und einen Wettbewerb zwischen den Unternehmen innerhalb eines Landes gibt, und all das führt dazu, dass der Prozess immer schneller voranschreitet. Und wenn die USA es verlangsamten, würde China es nicht bremsen. Glaubt die KI, dass es möglich ist, KI sicher zu machen ? Ich denke, das tut er. Er will mir seine geheime Quelle nicht verraten. Ich bin nicht sicher, wie
38:45 viele Leute seine geheime Quelle kennen . Ich glaube, viele Investoren kennen seine geheime Quelle nicht, aber sie haben ihm trotzdem Milliarden von Dollar gegeben, weil sie so großes Vertrauen in Asien haben, was nicht dumm ist. Ich meine, er war sehr wichtig bei Alexet, wo die Objekterkennung gut funktionierte. Er war die treibende Kraft hinter Dingen wie GBC2, die dann zu CH GPT führten. Daher halte ich es für eine sehr vernünftige Entscheidung, großes Vertrauen in die KI zu haben. Es ist ziemlich unheimlich, dass der Typ, der GPT2 entwickelt hat und die treibende Kraft hinter GPT2 war, das zu dieser ganzen Revolution geführt hat, das Unternehmen aus Sicherheitsgründen verlassen hat. Er weiß etwas darüber, was als Nächstes passieren könnte, was ich nicht weiß . Nun, das Unternehmen hatte, ich
39:32 kenne die genauen Einzelheiten nicht, aber ich bin ziemlich sicher, dass das Unternehmen angegeben hatte, dass es einen erheblichen Teil seiner Ressourcen und Rechenzeit für die Sicherheitsforschung verwenden würde, und dann hat es diesen Anteil reduziert. Ich glaube, das ist eines der Dinge, die passiert sind. Ja, das wurde öffentlich berichtet. Ja. Ja. Wir sind beim Teil des Risikorahmens angelangt, der sich mit autonomen Waffen befasst. Rechts. Das nächste Thema ist Arbeitslosigkeit. Ja. In der Vergangenheit gab es neue Technologien, die nicht zur Arbeitslosigkeit geführt haben. Es wurden neue Arbeitsplätze geschaffen. Das klassische Beispiel, das die Leute verwenden, sind automatische Telemaschinen. Als die automatischen Fernmeldegeräte auf den Markt kamen, verloren viele Bankangestellte ihre Jobs nicht. Sie mussten einfach interessantere Dinge tun. Aber ich
40:19 glaube, das ist hier eher so, wie es in der industriellen Revolution mit den Maschinen war. Und Sie können heute keine Gräben mehr ausheben, weil das mit einer Maschine viel besser möglich ist als mit Ihnen. Und ich glaube, dass die KI bei alltäglicher intellektueller Arbeit einfach jeden ersetzen wird. Dies könnte sich durchaus in der Form äußern, dass weniger Menschen die Luftunterstützung in Anspruch nehmen. Es handelt sich also um eine Kombination aus Mensch und KI- Assistent, die jetzt die Arbeit erledigt, die früher von zehn Personen erledigt werden konnte. Allerdings heißt es, dass dadurch neue Arbeitsplätze geschaffen werden, also wird es uns gut gehen. Ja. Und das war auch bei anderen Technologien der Fall, aber hier handelt es sich um eine ganz andere Art von Technologie. Wenn die gesamte alltägliche geistige Arbeit des Menschen durch die Industrie erledigt werden kann ,
41:05 welche neuen Arbeitsplätze werden dann dadurch geschaffen? Man müsste sehr geschickt sein, um eine Aufgabe zu erledigen, die es nicht einfach so erledigen kann. Ich glaube also nicht, dass sie Recht haben. Ich denke, man kann versuchen, Verallgemeinerungen von anderen Technologien wie Computern oder automatischen Telematikgeräten vorzunehmen, aber ich denke, das hier ist anders. Die Leute verwenden diesen Ausdruck. Sie sagen, dass KI Ihnen nicht den Job wegnehmen wird. Ein Mensch, der KI nutzt, wird Ihren Job übernehmen. Ja, ich denke, das stimmt. Für viele Jobs bedeutet das allerdings, dass Sie wesentlich weniger Personal benötigen. Meine Nichte beantwortet Beschwerdebriefe an einen Gesundheitsdienst. Früher brauchte sie dafür 25 Minuten. Sie las die Beschwerde, überlegte, wie sie antworten könnte, und schrieb einen Brief. Und jetzt scannt sie es einfach in einen Chatbot und er schreibt den Brief.
41:51 Sie überprüft lediglich den Brief. Gelegentlich fordert sie es auf, es in gewisser Weise zu überarbeiten. Der gesamte Vorgang dauert bei ihr fünf Minuten. Das bedeutet, dass sie fünfmal so viele Briefe beantworten kann und dass sie fünfmal weniger Leute brauchen, um die Arbeit zu erledigen, die früher fünf Leute von ihr erledigt haben . Das bedeutet, dass sie weniger Leute brauchen. In anderen Berufen, etwa im Gesundheitswesen, sind sie viel flexibler. Wenn man also die Effizienz der Ärzte um das Fünffache steigern könnte , könnten wir alle zum gleichen Preis eine fünfmal so gute Gesundheitsversorgung erhalten, und das wäre großartig. Es gibt praktisch keine Begrenzung dafür, wie viel Gesundheitsversorgung die Menschen in Anspruch nehmen können. Sie wollen immer mehr Gesundheitsversorgung, wenn es nichts kostet. Es gibt Arbeitsplätze, bei denen man die Effizienz einer Person mithilfe eines KI-Assistenten deutlich steigern kann,
42:38 ohne dass dadurch weniger Personal benötigt wird, weil dann einfach viel mehr davon erledigt wird. Aber ich glaube, bei den meisten Jobs ist das nicht so. Habe ich Recht, wenn ich annehme, dass die industrielle Revolution eine Rolle bei der Ersetzung von Muskeln gespielt hat? Ja. Genau. Und diese Revolution in der KI ersetzt die Intelligenz durch das Gehirn. Ja. Also, banale geistige Arbeit ist wie starke Muskeln und nicht mehr viel wert. Es wurden also Muskeln ersetzt. Jetzt werden wir Geheimdienste ersetzen. Ja. Was bleibt also übrig? Vielleicht bleibt für eine Weile eine gewisse Form der Kreativität bestehen, aber von der Idee der Superintelligenz ist nichts mehr übrig. Ähm, diese Dinger werden in allem besser sein als wir. Was also tun wir letztendlich in einer solchen Welt? Wenn
43:23 sie für uns arbeiten, erhalten wir letztendlich viele Waren und Dienstleistungen ohne großen Aufwand. Okay. Das klingt zwar verlockend und nett, aber ich weiß nicht. Es ist eine warnende Geschichte, den Menschen immer mehr Komfort zu bieten, wenn es schiefgeht. Ja. Und wir müssen herausfinden, ob wir es gut hinbekommen. Stellen Sie sich ein schönes Szenario vor: ein Unternehmen mit einem CEO, der sehr dumm ist, wahrscheinlich der Sohn des ehemaligen CEO. Und er hat einen sehr klugen Assistenten der Geschäftsleitung, der sagt: „Ich denke, wir sollten das tun.“ Und die Assistentin der Geschäftsführung sorgt dafür, dass alles klappt. Der CEO fühlt sich großartig. Er versteht nicht, dass er nicht wirklich die
44:09 Kontrolle hat. Und in gewisser Weise hat er die Kontrolle. Er schlägt vor, was das Unternehmen tun sollte. Sie sorgt dafür, dass alles funktioniert. Alles super. Das ist das gute Szenario. Und im schlimmsten Fall, im schlimmsten Fall, denkt sie: „Wozu brauchen wir ihn?“ Ja. Ich meine, in einer Welt, in der wir über Superintelligenz verfügen , glauben Sie nicht, dass das noch so weit entfernt ist. Ja, ich denke, es ist vielleicht nicht so weit weg. Es ist sehr schwer vorherzusagen, aber ich denke, wir könnten es in etwa 20 Jahren oder sogar weniger schaffen. Wegen meiner Freundin habe ich die größte Investition getätigt, die ich je in ein Unternehmen getätigt habe. Ich kam eines Nachts nach Hause und meine liebe Freundin war um 1:00 Uhr morgens wach und raufte sich die Haare, während sie versuchte, einen eigenen Online-Shop für ihr Geschäft zusammenzustellen. Und in diesem Moment
44:55 erinnerte ich mich an eine E-Mail, die ich von einem Typen namens John bekommen hatte, dem Gründer von Stanto, unserem neuen Sponsor und einem Unternehmen, in das ich unglaublich viel investiert habe. Und Stanto hilft Entwicklern, digitale Produkte, Kurse, Coaching und Mitgliedschaften zu verkaufen – und zwar über einen einfachen, anpassbaren Link im Bio-System. Und es kümmert sich um alles: Zahlungen, Buchungen, E-Mails, Community- Engagement und sogar Links zu Shopify. Und ich glaube so sehr daran, dass ich eine Stan-Challenge starten werde. Und als Teil dieser Herausforderung werde ich einem von Ihnen 100.000 $ schenken. Wenn Sie an dieser Herausforderung teilnehmen und Ihr Wissen zu Geld machen möchten, besuchen Sie stephenbartlet.stan stan.store, um sich anzumelden. Und wenn Sie diesen Link verwenden, erhalten Sie außerdem eine erweiterte 30-tägige kostenlose Testversion von Stan Store. Ihr nächster Schritt könnte, ehrlich gesagt,
45:41 alles verändern. Da ich in diesem Podcast über Ketose und Ketone gesprochen habe, hat mir eine Marke namens Ketone IQ ihr kleines Produkt hier geschickt und es lag auf meinem Schreibtisch, als ich ins Büro kam. Ich habe es aufgehoben. Es lag ein paar Wochen auf meinem Schreibtisch . Dann habe ich es eines Tages probiert und ehrlich gesagt, ich habe seitdem nicht mehr zurückgeblickt . Ich habe das jetzt überall dabei, wenn ich um die Welt reise. Es ist in meinem Hotelzimmer. Mein Team wird es dort platzieren. Bevor ich heute die Podcast- Aufnahme gemacht habe, die ich gerade beendet habe, habe ich mir eine Dosis Ketone IQ gespritzt. Und wie immer, wenn ich mich in ein Produkt verliebe, rief ich den CEO an und fragte, ob ich ein paar Millionen Pfund in sein Unternehmen investieren könnte. Ich bin jetzt also ein Investor des Unternehmens und das Unternehmen ist gleichzeitig auch ein Markensponsor. Wenn ich eines davon habe, fällt es mir so leicht, mich in eine konzentrierte Arbeit zu vertiefen . Ich würde mich freuen, wenn Sie eines ausprobieren und sehen, welche Auswirkungen es auf
46:26 Sie, Ihre Konzentration, Ihre Produktivität und Ihre Ausdauer hat. Wenn Sie es also heute ausprobieren möchten, besuchen Sie ketone.com/stephven und erhalten Sie 30 % Rabatt auf Ihr Abonnement. Außerdem erhalten Sie mit Ihrer zweiten Lieferung ein kostenloses Geschenk . Das ist ketone.com/stephven. Ich freue mich für dich. Ich bin. Was ist also der Unterschied zwischen dem, was wir jetzt haben, und Superintelligenz? Denn es erscheint mir wirklich intelligent, wenn ich chatbt3 oder Gemini oder Okay verwende. Es ist also so, dass die KI in vielen Dingen, insbesondere im Schach, bereits besser ist als wir. Ja. KI ist uns so viel überlegen, dass Menschen diese Dinge nie wieder besiegen werden. Vielleicht ein gelegentlicher Sieg, aber im Grunde werden sie nie wieder vergleichbar sein. Das Gleiche gilt offensichtlich auch für den Wissensstand, über den sie verfügen. Ähm,
47:12 so etwas wie GBT4 weiß tausendmal mehr als Sie. Es gibt einige Bereiche, in denen Ihr Wissen besser ist als das seines Vorgängers, und in fast allen Bereichen weiß er einfach mehr als Sie. In welchen Bereichen bin ich besser als es? Wahrscheinlich bei der Befragung von CEOs. Das kannst du wahrscheinlich besser. Du hast darin viel Erfahrung. Sie sind ein guter Interviewer. Du weißt viel darüber. Wenn Sie mit GPT4 versucht hätten, einen CEO zu interviewen, wäre das Ergebnis wahrscheinlich schlechter ausgefallen. Okay. Ich versuche darüber nachzudenken, ob ich dieser Aussage zustimme. Äh, GPT4, ich denke auf jeden Fall. Ja. Ähm, aber ich, aber ich schätze, Sie könnten, aber es kann nicht mehr lange dauern, bis, ja. Ich schätze, Sie könnten einem beibringen, wie ich Fragen stelle und was ich tue, und sicher. Und wenn Sie eine
48:00 Art allgemeines Grundlagenmodell nehmen und es dann nicht nur an sich selbst, sondern an jedem Interviewer, der solche Interviews führt, und insbesondere an Ihnen selbst trainieren. Sie werden Ihre Arbeit wahrscheinlich recht gut erledigen können, aber wahrscheinlich nicht so gut wie vorher. Okay. Es bleiben also noch einige Bereiche übrig, und von Superintelligenz spricht man, wenn jemand in allen Dingen besser ist als wir. Wenn es viel schlauer ist als Sie und fast alles besser ist als Sie. Ja. Und Sie sagen, dass dies noch etwa ein Jahrzehnt dauern könnte. Ja. Das könnte sein. Es könnte sogar noch näher sein. Manche Leute meinen, es sei sogar noch näher, und es könnte durchaus noch viel weiter sein. Es könnte noch 50 Jahre dauern. Das ist immer noch möglich. Es kann sein, dass Sie durch das Training mit menschlichen Daten irgendwie darauf beschränkt sind, nicht viel intelligenter als Menschen zu sein. Ich schätze, dass wir in 10 bis
48:47 20 Jahren über Superintelligenz verfügen werden. Was die Arbeitslosigkeit betrifft, habe ich besonders viel darüber nachgedacht, weil ich angefangen habe, mich mit KI-Agenten zu beschäftigen. Wir haben heute Morgen tatsächlich eine Folge im Podcast veröffentlicht, in der wir mit dem CEO eines großen KI-Agentenunternehmens und einigen anderen Leuten über KI-Agenten diskutiert haben. Das war der erste Moment, in dem ich keine Ahnung hatte, wie die Zukunft aussehen könnte. Es war ein weiterer Moment, in dem ich ein Heureka-Erlebnis hatte, als ich im Interview diesem Agenten sagen konnte, er solle für uns alle Getränke bestellen. Fünf Minuten später im Interview sehen Sie, wie der Typ mit den Getränken auftaucht und ich habe nichts angerührt. Ich habe ihm lediglich gesagt, dass es uns Getränke ins Studio bestellen soll. Und Sie wussten nicht, von wem Sie normalerweise Ihre Getränke bekamen. Das habe ich aus dem Internet herausgefunden. Ja, habe ich herausgefunden, weil es bei Uber Eats lief. Es hat meine, meine, meine Daten, nehme ich an. Und wir haben es in Echtzeit auf dem Bildschirm angezeigt, sodass jeder zu Hause
49:33 sehen konnte, wie der Mitarbeiter das Internet durchsucht, die Getränke auswählt, ein Trinkgeld für den Fahrer hinzufügt, meine Adresse eingibt , meine Kreditkartendaten eingibt und als Nächstes die Getränke angezeigt werden. Das war also ein Moment. Und dann war da noch der Moment, als ich ein Tool namens Replet verwendete und Software erstellte, indem ich dem Agenten einfach sagte, was ich wollte. Ja. Es ist unglaublich, oder? Es ist erstaunlich und erschreckend zugleich. Ja. Denn wenn es solche Software erstellen kann, richtig? Ja. Bedenken Sie, dass die KI beim Training Code verwendet und es ziemlich beängstigend wird, wenn sie ihren eigenen Code ändern kann, oder? weil es sich verändern kann. Es kann sich auf eine Weise ändern, die wir selbst nicht ändern können. Wir können unsere angeborene Begabung nicht ändern, oder? Es gibt nichts an sich, was es
50:19 nicht ändern könnte. Was die Arbeitslosigkeit betrifft: Sie haben Kinder. Ich tue. Und sie haben Kinder. Nein, sie haben keine Kinder. Noch keine Enkelkinder. Was würden Sie den Leuten über ihre Karriereaussichten in einer Welt der Superintelligenz sagen? Worüber sollten wir nachdenken? Ähm, in der Zwischenzeit würde ich sagen, dass es noch lange dauern wird, bis es bei der physischen Manipulation so gut ist wie wir. Okay. Daher wäre es eine gute Idee, Klempner zu werden. bis die humanoiden Roboter in einer Welt auftauchen, in der es Massenarbeitslosigkeit gibt, was man nicht einfach vorhersagen kann, aber das ist etwas, was Sam Alman Open AI vorhergesagt hat, und ich habe es von ihm und vielen CEOs wie Elon Musk gehört. Ich habe ein Interview gesehen, in dem ihm diese Frage gestellt wurde, das ich auf dem Bildschirm abspielen werde, und es kommt sehr selten vor, dass Elon Musk 12 Sekunden oder so lang schweigt
51:05 und dann im Grunde etwas darüber sagt, dass er tatsächlich in einem Zustand der Ungläubigkeit lebt, d. h., er denkt im Grunde einfach nicht darüber nach. Wenn Sie darüber nachdenken, Ihren Kindern in einer Zeit der ständigen Veränderungen einen Berufsrat zu geben, was würden Sie ihnen dann als wertvoll erachten? Nun, das ist eine schwierige Frage. Ich würde einfach sagen, dass sie ihrem Herzen folgen sollen, was das angeht, was sie interessant oder erfüllend finden. Ich meine, wenn ich zu viel darüber nachdenke, kann es ehrlich gesagt zu Unstimmigkeiten und Demotivation führen. Ähm,
51:53 weil, ich meine, ich habe viel Blut, Schweiß und Tränen in den Aufbau der Unternehmen gesteckt, und dann denke ich mir: Moment, sollte ich das tun? Denn wenn ich Zeit mit Freunden und Familie opfere, die ich lieber nicht verbringen würde, kann die KI letztendlich all diese Dinge erledigen. Ist das sinnvoll? Ich weiß es nicht. Ähm, bis zu einem gewissen Grad muss ich meine Skepsis bewusst aussetzen, um motiviert zu bleiben. Ähm, also ich würde sagen, arbeiten Sie einfach an Dingen, die Sie interessant und erfüllend finden und die, ähm, einen guten Beitrag zum Rest der Gesellschaft leisten. Ja. Viele dieser Bedrohungen
52:39 sind intellektuell schwer zu erkennen, emotional jedoch schwer zu verarbeiten. Ja. Ich bin emotional noch nicht damit klargekommen . Was meinst du damit? Ich habe mich noch nicht damit abgefunden, welche Auswirkungen die Entwicklung einer Superintelligenz auf die Zukunft meiner Kinder haben könnte. Mir geht es gut. Ich bin 77. Ich werde hier bald raus sein. Aber was meine Kinder und meine jüngeren Freunde, meine Neffen und Nichten und deren Kinder betrifft, ähm, ich möchte einfach nicht daran denken, was passieren könnte. Warum? Denn es könnte schrecklich sein. Inwiefern
53:29 ? Nun, wenn ich mich jemals dazu entschließen sollte, die Leitung zu übernehmen. Ich meine, es bräuchte eine Zeit lang Menschen, um die Kraftwerke zu betreiben, bis man bessere analoge Maschinen zum Betreiben der Kraftwerke entwickelt hätte. Es gibt so viele Möglichkeiten, Menschen loszuwerden, und jede davon wäre natürlich sehr unangenehm. Ist das einer der Gründe, warum Sie jetzt das tun, was Sie tun? Ja. Ich meine, wir sollten jetzt große Anstrengungen unternehmen, um herauszufinden, ob wir es sicher entwickeln können. Sind Sie besorgt über die möglichen Auswirkungen der Wahlen auf die Arbeitsplätze Ihrer Neffen und Ihrer Kinder mittelfristig ? Ja, das alles macht mir Sorgen . Gibt es bestimmte Branchen, die Ihrer Meinung nach am stärksten gefährdet sind? Es wird viel über die Kreativwirtschaft und die Wissensarbeit gesprochen. Sie reden über Anwälte und
54:16 Buchhalter und solche Sachen. Ja. Deshalb habe ich Klempner erwähnt. Ich denke, Klempner sind weniger gefährdet. Okay,
…
