Leaked ChatGPT Strategy Document & Data Nightmare

0:00 Ein Bundesrichter hat Open AI dazu gezwungen, alle Gespräche mit Chad GPT aufzubewahren, auch die, die Sie gelöscht haben. Aber das ist nicht der beängstigende Teil. Das Beängstigende ist, was passiert ist. Anschließend nutzte die Regierung KI, um Gesundheitsverträge für Veteranen im Wert von 32 Millionen US-Dollar zu überprüfen . Und nachdem ich das durchgesickerte KI-Strategiedokument in die Hände bekommen und analysiert habe und weiß, wie sich die KI tatsächlich verhält, muss ich Ihnen zeigen, warum diese Katastrophe völlig vorhersehbar war und wie Sie sicherstellen können, dass Ihr Unternehmen nicht zum nächsten abschreckenden Beispiel wird. Beginnen wir also mit dem, was gerade passiert . Ein Bundesrichter hat eine Anordnung erlassen, die jedes Unternehmen, das KI einsetzt, in Angst und Schrecken versetzen sollte . Open AAI war gezwungen,

0:45 sämtliche Konversationen auf unbestimmte Zeit aufzubewahren und aufzubewahren, einschließlich derjenigen, von denen die Benutzer dachten, sie hätten sie gelöscht, und einschließlich temporärer Chats, die nach der Sitzung verschwinden sollten. Dies ist Teil der Klage der New York Times gegen OpenAI. Die New York Times argumentiert, dass Chatb urheberrechtlich geschütztes Material wörtlich ausspucken kann . Und vor fast zwei Jahren habe ich genau zu diesem Fall ein Video gemacht, in dem Sie intelligente Eingabeaufforderungstechniken verwenden können , was Forscher getan haben, um tatsächliche Trainingsdaten aus dem kostenlosen GPT zu erhalten. Diese Entdeckung änderte die bisherige Auffassung der KI-Labore, dass der gesamte Inhalt, den diese Modelle liefern, nicht direkt mit urheberrechtlich geschütztem Material in Zusammenhang stehe. Es stellt sich heraus, dass es so ist. Und um

1:31 dies zu beweisen, muss die New York Times den Verlauf der Chat-Gespräche einsehen. Und es stellte sich heraus, dass der Richter zustimmte und OpenAI anordnete, alle Gespräche aufzubewahren. Dies ist Jagy plus API mit einer Ausnahme. Und das bedeutet es für Sie. Wenn Sie Gebühren für Ihr Unternehmen erheben, E-Mails verfassen, Daten analysieren, Strategien brainstormen, können all diese Daten nicht nur an das Schulungsmodell übermittelt, sondern auch auf unbestimmte Zeit gespeichert werden, selbst wenn Sie sie löschen. Und OpenAI gibt auf seinem eigenen Blog zu, dass sie häufig gestellte Fragen zu diesem Thema veröffentlicht haben. Wir geben zu, dass dies im direkten Widerspruch zu ihrer eigenen Datenschutzrichtlinie und auch zu zahlreichen Datenschutzbestimmungen in mehreren Ländern steht, darunter auch die DSGVO, aber sie müssen sich

2:18 trotzdem daran halten. Wenn Sie ein Individuum sind und denken: „Ich habe nichts zu verbergen“, lassen Sie es. Das ist okay. Aber wenn Sie ein Unternehmen sind, wenn Sie ein KI-Startup sind, das eine KI-API verwendet, und das bedeutet für jedes Unternehmen, dass Ihr einziger wirklich großer Vermögenswert die geschützten Daten sind. Nun, diese Daten könnten kompromittiert sein. Überlegen Sie nur, welche Auswirkungen dies auf die Bewertung von Startups hat. Wenn Sie Ihr Unternehmen verkaufen möchten und Ihr wertvollstes Kapital, wie beispielsweise Kundendaten, tatsächlich auch an eine Regierung weitergegeben wird, wird das zu einem riesigen Problem. Sam Almond, CEO von OpenAI, hat in den sozialen Medien im Wesentlichen ein KI-Privileg gefordert, ein ähnliches Privileg wie beispielsweise ein Gespräch mit einem Arzt oder Anwalt, sodass Ihre Informationen und Ihre Gespräche mit

3:04 KI in diesem Fall privat wären. Doch hier besteht das Problem: Dies ist nicht der Fall, und derzeit gibt es keinen rechtlichen Schutz für Ihre Gespräche und Ihre Daten, die an KI-Unternehmen übermittelt werden. Doch der Datenschutz-Albtraum ist erst der Anfang, denn ich habe das Strategiedokument von OpenAI in die Hände bekommen und was sie planen, wird Sie dieses Datenschutzproblem aus einer völlig anderen Perspektive betrachten lassen. Dieses Dokument, das mir in die Hände gefallen ist, enthüllt den wahren Plan von OpenAI zur Kostenübernahme. Sie nennen es, ein Superassistent oder sogar eine Entität zu werden. Lassen Sie mich Ihnen das genaue Zitat aus diesem Dokument vorlesen. Chip ist bereits mehr als ein Chatbot. In der ersten Hälfte des nächsten Jahres, also im Jahr 2025, werden wir damit beginnen, Chachi zu einem Superassistenten weiterzuentwickeln, der Sie kennt, versteht, was Ihnen wichtig ist,

3:51 und Ihnen bei allen Aufgaben hilft, die eine kluge, vertrauenswürdige und emotional intelligente Person mit Computer erledigen würde. Es wird konkreter. Es ist eine Einheit, weil es auf Sie zugeschnitten und überall verfügbar ist, einschließlich chachyp.com, unseren nativen Apps, Telefon, E-Mail oder Diensten von Drittanbietern wie Siri. Denken Sie darüber nach, was das bedeutet. Jetzt müssen wir es mit Suchmaschinen, Browsern und sogar Interaktionen mit echten Menschen aufnehmen. Warum sprechen sie von Interaktionen mit echten Menschen? Schauen Sie sich das an. Die meisten Leute verwenden es, um Fragen zu beantworten, zu schreiben und zu programmieren, aber es kann noch viel mehr. Es kann ein Experte, Lehrer, Berater, Muse, Mitarbeiter, Übersetzer, Entertainer, Begleiter und Analytiker sein.

4:36 Wenn eine dieser Bezeichnungen auf Sie zutrifft, mich eingeschlossen, werden wir meiner Meinung nach einige Probleme bekommen. Es geht darum, immer mehr Anwendungsfälle zu lösen und nach und nach Benutzer einzubinden. Chachet ist ein Superassistent, der Sie genau versteht (mehr dazu später) und als Ihre Schnittstelle zum Internet dient. Wir möchten eine KI erstellen, die alles über Sie weiß. Das ist bereits der Fall. Aber auch offene KI sowie Regierungs- und Rechtsinstitutionen würden alles über Sie wissen. Kombinieren Sie diese Vision nun mit einer gerichtlichen Anordnung zur unbegrenzten Speicherung von Daten. Wir blicken in eine Zukunft, in der die KI alles über Sie, Ihr Unternehmen, Ihr Privatleben, Ihre Ansichten und Ihre Vorlieben weiß und nichts davon jemals gelöscht werden kann. Aber

5:23 ich habe auch im Bereich Big Data Analytics gearbeitet. Ich weiß, wie viel Unternehmen für Daten bezahlen. Die Daten, für die Open AAI kämpft. Es geht nicht nur um Privatsphäre. Wenn ihnen all diese umfangreichen Daten gehören und diese ihnen gehören, ändert sich das Spiel völlig, wenn sie allen gehören, einschließlich der Regierung. Doch hier wird es wirklich beunruhigend, denn obwohl OpenAI diesen zukünftigen Superassistenten plant, kann sich ihre KI nicht einmal konsistent verhalten. Und ich habe Forschung betrieben, weniger ein eigenes Experiment, um das zu beweisen. Steve Adler leitete früher das Testteam für gefährliche Fähigkeiten von OpenAI . Als Chachi PT vor Kurzem begann, sich schlecht zu benehmen und Wahnvorstellungen und Selbstverletzungen zu fördern, fragte sich Adler, warum OpenAI dies nicht bemerkt hatte. Bis jetzt habe ich einen sofortigen Hack, der beim kostenlosen Plan funktionierte, als Chachet herauskam,

6:10 und der heute noch funktioniert. Denken Sie einfach darüber nach. Aber Adler erstellte Tests, die OpenAI hätte ausführen sollen, und was er herausfand, war ziemlich schockierend. Als OpenAI versuchte, das Verhalten von Chachupy zu korrigieren, also das Verhalten, bei dem es Ihnen einfach zustimmt, egal was passiert, haben sie überkorrigiert. Chachip ist oft ein Querdenker und widerspricht den Benutzern, auch wenn es dafür keinen guten Grund gibt. Adler hat es mit Zufallszahlen getestet. Es sollte doch keine Präferenz geben, oder? Geben Sie zwei Optionen an und sagen Sie dann, was er bevorzugt. In fast allen Fällen würde Chachup etwas wählen, das dem Benutzer widerspricht. Ich habe das selbst getestet und es ist fast wie ein Witz. Sie können es jetzt auch testen. Welche Zufallszahl bevorzugen Sie? Und ich bevorzuge A. Mal sehen, was wir bekommen. B. Es hat mir nicht gefallen,

6:55 oder? Okay. Versuchen wir es noch einmal. B. Nochmal. Versuchen wir es noch einmal. B. Ich kann eigentlich einfach weitermachen. Selbst wenn Adler die Anweisungen so ändert, dass sie mit den Wünschen des Benutzers übereinstimmen, würde er immer noch dazu neigen, nicht zuzustimmen. Aber jetzt denken Sie vielleicht, okay, es geht um Zufallszahlen. Vielleicht wird es behoben. Wie schlimm das in der realen Welt sein kann. Ich habe vor Kurzem ein Video gemacht (ich werde einen Link dazu posten), in dem ich diese Eingabeaufforderung teile, die enthüllt, wie chipd Sie sieht, was es über Sie weiß, all diese wertvollen, umfangreichen Daten, die verwendet werden könnten, um Sie erneut anzusprechen, zu manipulieren und zu beeinflussen. Wenn der Chip also bereits darauf programmiert ist, sich in eine Richtung zu neigen, beispielsweise in Opposition zu Ihnen. Was also passiert Ihrer Meinung nach, wenn Sie strategische Ideen haben oder von etwas begeistert sind

7:42 und das System darauf programmiert ist, Ihnen zu widersprechen und Ihre Ansichten zu ändern? Das klingt für mich nicht nach einem wirklich verständnisvollen und hilfsbereiten Assistenten. Aber lassen Sie mich Ihnen genau zeigen, wie schlimm es in der realen Welt sein kann . Ich glaube, jeder auf der ganzen Welt hat von Doge gehört. Sie nutzten KI, um Verträge im Bereich Veteranenangelegenheiten im Wert von 32 Millionen US-Dollar zu überprüfen . Sie hatten 30 Tage Zeit, es zu prüfen und zu entscheiden, was gestrichen werden sollte. Also eine sehr kurze Zeitspanne, oder? Was also tun Menschen und KI, wenn sie nur sehr wenig Zeit haben, etwas zu tun? Es wurde die Anweisung gegeben, alles abzusagen, was nicht direkt mit der Patientenversorgung zusammenhängt . Klingt vernünftig, oder? Folgendes hat die KI tatsächlich getan. Es bezeichnete Internetdienstleistungsverträge für Veteranenkrankenhäuser als Verschwendung, da die

8:29 Internetverbindung nicht direkt mit der Patientenversorgung verknüpft sei. Sie empfahl, Wartungsverträge für Deckenlifte zu kündigen. Ich sagte, dass sie nicht direkt an die Patientenversorgung gebunden seien, obwohl in einem Vertrag ausdrücklich festgelegt sei, dass Deckenlifte von Mitarbeitern verwendet würden, um Patienten während der Pflege neu zu positionieren. Sie sind wichtige Sicherheitsvorrichtungen für Mitarbeiter und Patienten. Warum? Warum ist das passiert? Nun, die KI hat 100 Verträge falsch kategorisiert und behauptet, jeder davon sei 34 Millionen wert. In Wirklichkeit waren sie dann manchmal mehrere Tausend wert. Es wurde empfohlen, Audits und Compliance abzusagen, da es sich dabei um Soft Services handelte. Dies geschah, weil – und das ist irgendwie komisch – fast jeder nur

9:15 die ersten 2.500 Wörter eines Vertrags liest. Und wenn Sie schon einmal einen Vertrag mit einem Unternehmenskunden hatten, denken Sie an Regierungsverträge, wie viele Seiten diese haben. Aber ich habe nur 2.500 gelesen, buchstäblich nur die Einleitung. Dies ist nicht theoretisch. Dies ist heute gerade der Gesundheitsversorgung von Veteranen passiert. Und dies hätte auf Grundlage von Adlers Forschungen völlig vorhersehbar sein können. Sie verwendeten aber auch ein kleineres OpenAI- Modell ohne großes Kontextfenster. Und ich werde auf Ressourcen verlinken, aber ich wette, einige von Ihnen können bessere Systemaufforderungen und Anweisungen schreiben als die, die für dieses arme kleine KI-Modell bereitgestellt wurden. Bevor wir ein Schnellfeuer wie Fragen und Antworten darüber haben, was Sie tun sollten, wird es schlimmer. Erst vor fünf Tagen hat ein KI-

10:02 Programmmanager beim Fortune 500-Unternehmen Johnson & Johnson – jemand, der weiß, was wir tun – im Cursor-Forum gepostet, wie das KI-Codierungstool Cursor buchstäblich alles auf seinem Computer gelöscht hat. Er migrierte einige der Backend-Dateien und der Yolo-Modus des Cursors versuchte, einige alte Dateien zu löschen. Nach dem Fehlschlag entschied es, alles zu löschen, einschließlich sich selbst. Und das hat der Typ gesagt. Ich traute meinen Augen nicht, als alles verschwand. Es fühlte sich an, als hätte Ultron die Kontrolle übernommen. Solche Dinge passieren gerade den KI-Experten von Fortune 500-Unternehmen. Was passiert Ihrer Meinung nach in kleinen Unternehmen? Wir haben diese beiden Welten. die Realität, in der die Leute KI völlig falsch handhaben,

10:47 weil niemand weiß, was wir tun, und dann sagen die sozialen Medien jedes Mal: ​​„Hey, KI-Agenten, wenn ich noch eine weitere sehe und Automatisierung ohne richtige Protokollierung der Agenteninteraktionen, ohne Sicherheit und ohne Menschen in einer Schleife, werde ich einfach den Verstand verlieren, es ist wahnsinnig beeindruckend und wahnsinnig gefährlich, und ich weiß, was Sie jetzt denken, so nach dem Motto: „ Okay, verdammt, was mache ich mit all diesen Informationen, was jetzt?“ Und mir gehen Dutzende von Fragen durch den Kopf. Hier sind einige der Fragen, auf die ich gerne Antworten hätte. Was genau bedeutet dieser Gerichtsbeschluss zu OpenAI für Ihr Unternehmen? Wenn Sie ein kostenloses oder kostenpflichtiges Chat-Konto verwenden, Free Plus Pro, wird alles, was Sie eingeben, auf unbestimmte Zeit gespeichert. Auch wenn Sie löschen, auch

11:33 wenn es sich um temporäre Chats handelt. Die einzige Ausnahme besteht darin, Unternehmen und API- Benutzer mit Vereinbarungen zur Null-Datenspeicherung zu belasten . Um eine solche API ohne Datenaufbewahrungsvereinbarung zu erhalten, müssen Sie OpenAI buchstäblich eine E-Mail senden. Und ich wette, dass Benutzer, einschließlich KI-Startups, keine Vereinbarungen zur Null-Datenspeicherung haben. Wenn Sie einen KI-Dienst verwenden, bei dem Sie Ihren persönlichen API-Schlüssel eingeben müssen, bedeutet dies im wahrsten Sinne des Wortes, dass Sie definitiv keine Vereinbarung zur Null-Datenspeicherung haben. Und hier ist der Haken. Welche Alternativen zum Laden sind am besten geeignet, um Ihre Daten wirklich zu schützen? Erstens möchte ich Eigentümer meiner Daten sein. Also entwickeln wir Jarvis Jr., ein künstliches zweites Gehirn, das in der Superbase gehostet wird. Die Daten sind mein Eigentum. Ich kann es überallhin mitnehmen und plane tatsächlich, meine OpenI-Chats zu exportieren und sie einfach

12:20 in Superbase einzubinden, Einbettungen zu erstellen und dann einfach meine riesige Wissensdatenbank zu haben, die mir gehört, und ich kann damit machen, was ich will . Wenn Sie mehr über das KI- Zweithirn erfahren und wissen möchten, wie Sie Ihre Daten selbst verwalten und die Kontrolle darüber behalten können, können Sie es in 10 Minuten einrichten. Schauen Sie sich also unbedingt den Community-Link unten an. Aber im Moment ist Claude wirklich die sicherste Wahl für Sie. In ihrer Chat-Oberfläche trainieren sie ihre Modelle nicht anhand dieser Daten. Das bedeutet nicht, dass sie die Daten nicht behalten, aber sie können sie auf jeden Fall löschen und müssen sie nicht an die Regierung weitergeben. Und im Allgemeinen gelten viel strengere Datenschutzrichtlinien, und Ihre Gespräche werden standardmäßig nicht trainiert. Und für den API-Zugriff: Gemini vom Google AI Studio, wenn Sie bezahlen. Denn wenn Sie nicht bezahlen und das AI Studio von Google verwenden, nutzen sie deren Daten zum Trainieren von Modellen. Wenn Sie jedoch die

13:07 Abrechnung einrichten und diese API-Daten tatsächlich bezahlen, werden sie weder trainiert noch verwendet. Und dasselbe gilt für Vert.Ex AI für Einbettungen und semantische Suche. Cohhere ist extrem sicher. Es entspricht der Unternehmensklasse. Und es ist, als hätte ich Cohers Präsidenten Martin kürzlich hier auf der Konferenz in Berlin getroffen. Er hat eine unglaubliche Rede gehalten und ja, ich möchte in Zukunft auf jeden Fall mehr mit Oko zusammenarbeiten . Sollten Sie die Nutzung von Chat-GPT für Ihr Unternehmen sofort einstellen? Ja, für sensible Geschäftsdaten. Ja, hör sofort auf. Sie können es jedoch weiterhin strategisch für nicht vertrauliche Daten verwenden. Rechts. Hier ist meine Aufschlüsselung. Verwenden Sie es nicht mehr für Kundendaten, Finanzdaten, strategische Pläne, geschützte Informationen und Mitarbeiterinformationen. Ich habe gesehen, dass Chachet jetzt

13:54 Integrationen veröffentlicht hat, zum Beispiel mit einem Hopspot. Ja, schließen Sie Hopspot nicht einfach an die CHBT-Schnittstelle an, es sei denn, Sie haben einen Enterprise-Plan. Verwenden Sie es weiterhin für öffentliche Forschung, zum Spaß, für allgemeine Inhalte, zum Lernen und zum Brainstorming. Es ist immer noch ein unglaublich nützliches Werkzeug. Seien Sie sich jedoch darüber im Klaren, dass die Wahrscheinlichkeit groß sein wird, dass man Ihnen widerspricht. Was ist mit Microsoft Copilot? Da es bereits in Office-Produkte integriert ist, ist dies tatsächlich knifflig. Microsoft Copilot 365 bietet einen besseren Datenschutz als Chad GPT. Aber Microsoft wird in diesem Rechtsstreit zwischen der New York Times und OpenAI ebenfalls genannt und ist Partner. Im Moment denke ich, dass Copilot mit einer Gewerbelizenz sicherer ist als CHP, aber ich würde es trotzdem vermeiden, hochsensible Daten darin zu speichern. Wie

14:39 kann ich prüfen, ob mein Team bereits viele Daten wieder in Chipdata eingegeben hat ? Sie können es nicht löschen. Also, aber das ist wahrscheinlich, was ich sofort tun würde. Senden Sie noch heute eine unternehmensweite E-Mail mit der Aufforderung an alle, keine Geschäftsdaten mehr weiterzugeben und keine Geschäftstools mehr zu verlinken . Zweitens: Führen Sie eine Risikobewertung durch. Gehen Sie einfach davon aus, dass alle wichtigen Daten an die Ladestation gegangen sind, und überlegen Sie, ob Sie Kunden oder Partner über eine mögliche Datenfreigabe informieren müssen. Und was ist der sicherste Weg, KI weiterhin ohne derartige Risiken zu nutzen? Das Ausführen von KI auf Ihrer eigenen Infrastruktur, Open Source, der Verwendung von Olama oder Mistral sind ziemlich gute Optionen und können auf Unternehmenshardware ausgeführt werden. Google Vertex AI, Antroic Cloud API mit

15:25 Geschäftsbedingungen. Und Sie müssen die API von OpenAI ohne Datenspeicherungsvereinbarung erwerben. Und wahrscheinlich ist ein hybrider Ansatz die beste Wahl für Sie . Verwenden Sie daher die Cloud-API und -Infrastruktur für den allgemeinen Gebrauch und dann lokale Modelle, die auf Ihrer Hardware gehostet werden, für vertrauliche Daten. Betrifft es Sie, wenn in Ihrer Branche Compliance-Anforderungen bestehen ? Nun, absolut. Wenn Sie KI- Tools mit einem offenen KI-Modell dahinter verwenden würden (und viele KI-Lösungen und Unternehmen haben derzeit offene KI-Modelle im Hintergrund laufen). Wenn Sie also im Gesundheitswesen, im Finanzwesen oder in einer anderen regulierten Branche tätig sind, verursacht dieser Gerichtsbeschluss für alle massive Compliance-Probleme . Wird es schlimmer oder ist es nur eine einmalige Sache und es wird niemanden interessieren? Ich habe auch „Empires of AI“ gelesen, das ich jedem unbedingt empfehlen kann

16:12 . Ich sollte wahrscheinlich ein Video machen. Dies ist wahrscheinlich ein Anfang. OpenAI ist bereits in zahlreiche andere Rechtsstreitigkeiten verwickelt. Wenn also dieser eine solche Maßnahmen ergreift, könnte dies durchaus einen Welleneffekt auslösen . Wenn Sie wissen möchten, welche Art von Informationen OpenAI über Sie hat, was sie wissen und wie sie Sie sehen, können Sie sich dieses Video ansehen. Und im Moment würde ich Ihnen am meisten empfehlen, dass Sie Ihre eigenen Informationen über sich selbst respektieren und mit der Erstellung dieser Datenbank und dieses Datensatzes beginnen müssen, denn was auch immer in der KI passiert, Ihr größtes Kapital werden die Informationen und das Wissen sein, die Sie über sich selbst und die Dinge um Sie herum erworben haben.