Andrej Karpathy: Software Is Changing (Again)

0:01 Поприветствуйте бывшего директора AI Tesla Андре Карпати. [Музыка] Привет. [Музыка] Ого, как много здесь людей. Привет. Ну ладно. Ага. Поэтому я рад быть здесь сегодня и поговорить с вами о программном обеспечении в эпоху ИИ. Мне сказали, что многие из вас — студенты, бакалавры, магистры, доктора наук и так далее. И вы собираетесь войти в эту отрасль. И я думаю, что сейчас на самом деле крайне уникальное и очень интересное время для входа в эту отрасль. И я думаю, что основная причина этого в том, что программное обеспечение снова меняется.

0:47 И я говорю это еще раз, потому что я уже выступал с этой речью. Но проблема в том, что программное обеспечение постоянно меняется. Так что у меня на самом деле много материала для создания новых выступлений, и я думаю, что он меняется довольно кардинально. Я думаю, что, грубо говоря, программное обеспечение не сильно изменилось на таком фундаментальном уровне за 70 лет. А потом, по- моему, за последние несколько лет ситуация изменилась дважды, причем довольно быстро. И поэтому предстоит проделать огромный объем работы, написать и переписать огромное количество программного обеспечения. Давайте взглянем, пожалуй, на сферу программного обеспечения. Итак, если представить это как карту программного обеспечения, то это действительно крутой инструмент под названием карта GitHub. Хм, это похоже на всё написанное программное обеспечение . Это инструкции компьютеру для выполнения задач в цифровом пространстве. Итак, если вы увеличите масштаб, то увидите все эти репозитории разного рода, а также весь написанный код. И несколько лет назад я заметил,

1:33 что программное обеспечение как бы меняется, и появился новый тип программного обеспечения, и я тогда назвал его ПО 2.0, а идея заключалась в том, что ПО 1.0 — это код, который вы пишете для компьютера. Software 2.0, по сути, представляет собой нейронные сети, в частности веса нейронной сети, и вы не пишете этот код напрямую, скорее, вы настраиваете наборы данных, а затем запускаете оптимизатор для создания параметров этой нейронной сети. Я думаю, что в то время нейронные сети рассматривались как просто другой вид классификатора, типа дерева решений или чего-то в этом роде. Поэтому я думаю, что это было как бы... Я думаю, что эта постановка вопроса была намного более уместной. И сейчас на самом деле то, что у нас есть, является своего рода эквивалентом GitHub в сфере программного обеспечения 2.0. И я думаю, что обнимающее лицо по сути является эквивалентом GitHub в сфере программного обеспечения 2.0.

2:20 А еще есть атлас моделей, где можно визуализировать весь написанный там код. Кстати, если вам интересно, гигантский круг, точка посередине, это параметры потока, генератора изображений. И поэтому всякий раз, когда кто-то настраивает что-то поверх модели Flux, вы по сути создаете коммит git в этом пространстве и создаете другой тип генератора образов. По сути, у нас есть программное обеспечение версии 1.0 — это компьютерный код, который программирует компьютер. Программное обеспечение 2.0 — это веса, которые программируют нейронные сети. А вот пример нейронной сети распознавания изображений Alexet. До недавнего времени все нейронные сети, с которыми мы были знакомы, представляли собой своего рода компьютеры с фиксированными функциями преобразования изображений в категории или что-то в этом роде. И я думаю, что изменилось, и я думаю, что это довольно фундаментальное изменение, так это то, что нейронные

3:06 сети стали программируемыми с помощью больших языковых моделей. И поэтому я вижу это как нечто совершенно новое, уникальное. Это новый тип компьютера, и, по моему мнению, ему стоит дать новое обозначение — программное обеспечение 3.0. И по сути ваши подсказки теперь представляют собой программы, программирующие LLM. И что примечательно, эти подсказки написаны на английском языке. Так что это очень интересный язык программирования. Итак, если обобщить разницу, то, например, если вы занимаетесь классификацией настроений, вы можете представить, что пишете некоторый объем кода на Python, чтобы в принципе выполнить классификацию настроений, или вы можете обучить нейронную сеть, или вы можете создать большую языковую модель. Итак, вот несколько коротких подсказок, и вы можете представить, как можно изменить их и запрограммировать компьютер

3:52 немного по-другому. По сути, у нас есть программное обеспечение 1.0, программное обеспечение 2.0, и я думаю, что мы видим, что, возможно, вы видели много кода на GitHub, который больше не является просто кодом . есть куча английского вкрапления кода, и поэтому я думаю, что есть своего рода растущая категория нового вида кода. Так что это не только новая парадигма программирования, но и для меня примечательно, что она на нашем родном языке — английском. И вот, когда это сразило меня наповал несколько лет назад, я написал об этом в Твиттере, и, я думаю, это привлекло внимание многих людей, и вот мой закреплённый твит: «Как это ни удивительно, теперь мы программируем компьютеры на английском языке». Когда я работал в Tesla, мы работали над автопилотом и пытались заставить машину ездить, и я как бы показывал этот слайд, на котором

4:39 можно представить, что входные данные для машины находятся внизу, и они проходят через программный стек для управления рулевым управлением и ускорения. В то время я заметил, что в автопилоте было много кода на C++, который был программным кодом версии 1.0, а затем там были нейронные сети, распознающие изображения. Я заметил, что со временем, по мере того, как мы улучшали автопилот, возможности и размер нейронной сети росли, и вдобавок ко всему весь код на C++ удалялся, и многие возможности и функции, изначально написанные в версии 1.0, были перенесены в версию 2.0. Так, например, большая часть информации, собранной из изображений с разных камер и в разное время, была выполнена нейронной

5:24 сетью, и нам удалось удалить большую часть кода, поэтому программный стек версии 2.0 буквально «съел» программный стек автопилота. Поэтому я тогда подумал, что это действительно замечательно, и я думаю, что мы снова видим то же самое: по сути, у нас есть новый вид программного обеспечения, и он разъедает стек. У нас есть три совершенно разные парадигмы программирования, и я думаю, что если вы приходите в эту отрасль, будет очень хорошей идеей свободно владеть всеми из них, поскольку у всех них есть свои небольшие плюсы и минусы, и вы можете захотеть запрограммировать некоторые функции в версиях 1.0, 2.0 или 3.0. Вы собираетесь тренировать нейролет? Вы собираетесь просто побудить меня получить степень магистра права? Должен ли это быть фрагмент кода, который является явным и т. д. Таким образом, нам всем приходится принимать эти решения и фактически потенциально плавно переходить между этими парадигмами. Итак, в первой части я хотел бы поговорить о программах магистратуры права и о том,

6:11 как следует воспринимать эту новую парадигму и экосистему, а также о том, как она выглядит. Эм, что это за новый компьютер? Как это выглядит и как выглядит экосистема ? Эм, на самом деле, меня поразила эта цитата из Эндинга, на самом деле, много лет назад, я думаю, и Эндрю будет говорить сразу после меня. Но в то время он сказал, что ИИ — это новое электричество, и я думаю, что это как бы отражает что-то очень интересное в том, что магистры права определенно чувствуют, что у них сейчас есть свойства утилит . Итак, лаборатории LLM, такие как OpenAI, Gemini, Enthropic и т. д. Они тратят капитальные затраты на обучение LLM, и это своего рода эквивалент построения сети, а затем есть эксплуатационные расходы на предоставление этого интеллекта через API для всех нас, и это делается с помощью тарифицированного доступа, когда мы платим за

6:58 миллион токенов или что-то в этом роде, и у нас есть много требований, которые являются очень полезными требованиями к этому API, мы требуем низкой задержки, большого времени безотказной работы, постоянного качества и т. д. В электричестве у вас был бы переключатель передачи. Таким образом, вы можете перевести свой источник электроэнергии, например, с сети на солнечную батарею, аккумулятор или генератор. В LLM у нас, возможно, есть открытый маршрутизатор и возможность легко переключаться между различными типами существующих LLM. Поскольку степени магистра права являются программными, они не конкурируют за физическое пространство. То есть нормально иметь, по сути, шесть поставщиков электроэнергии и переключаться между ними, верно? Потому что они не конкурируют столь напрямую. И я думаю, что это также немного интересно, и мы увидели это в последние несколько дней: на самом деле, многие программы LLM были отменены, и люди как бы застряли и не могли работать. И, э-э, мне кажется, что это довольно увлекательно: когда

7:43 выходят из строя самые современные магистратуры права, это на самом деле похоже на сбой в работе интеллекта во всем мире. Это как если бы напряжение в сети было нестабильным, и планета становилась бы глупее, чем больше мы полагаемся на эти модели, что уже само по себе является весьма драматичным и, я думаю, будет продолжать расти. Однако степень магистра права обладает не только свойствами полезности. Я думаю, будет справедливо сказать, что у них есть некоторые свойства великих людей. Причина этого в том, что капитальные затраты, необходимые для создания LLM, на самом деле довольно велики. Это ведь не просто строительство какой-то электростанции или чего-то в этом роде, верно? Вы вкладываете огромные деньги, и я думаю, что дерево технологий и сами технологии растут довольно быстро. Итак, мы живем в мире, где существуют своего рода глубокие технологические деревья, секреты исследований и разработок, которые

8:28 централизуются в лабораториях LLM. Хм, и я думаю, что аналогия немного запутана, потому что, как я уже сказал, это программное обеспечение, а программное обеспечение немного менее защищено, поскольку оно очень податливо. И поэтому я думаю, что это просто интересная тема для размышлений . Можно провести множество аналогий, например, узел 4-нанометрового процесса может быть чем-то вроде кластера с определенным максимальным числом операций. Подумайте о том, когда вы используете графические процессоры Nvidia и работаете только с программным обеспечением, а не с аппаратным. Это своего рода модель без фейслесс. Но если вы на самом деле также создаете собственное оборудование и обучаетесь на TPU, то, если вы Google, это похоже на модель Intel, где вы являетесь владельцем своей фабрики. Поэтому я думаю, что здесь есть некоторые аналогии, которые имеют смысл. Но на самом деле, я думаю, что наиболее разумная аналогия, возможно, заключается в том, что, по моему мнению, у LLM есть очень сильные аналогии с операционными

9:15 системами. В том смысле, что это не просто электричество или вода. Это не то, что можно купить как товар. э-э, это сейчас все более сложные экосистемы программного обеспечения, так что, э-э, они не просто похожи на простые товары вроде электричества, и мне интересно, что экосистема формируется очень похожим образом, когда у вас есть несколько поставщиков с закрытым исходным кодом, таких как Windows или Mac OS, а затем у вас есть альтернатива с открытым исходным кодом, такая как Linux, и я думаю, что для нейронных сетей для LLM у нас также есть несколько конкурирующих поставщиков с закрытым исходным кодом, и, возможно, экосистема ламы в настоящее время является, возможно, близким приближением к чему-то, что может вырасти во что-то вроде Linux. Опять же, я думаю, что пока еще очень рано говорить об этом, поскольку это всего лишь простые степени магистра права, но мы начинаем понимать, что они станут намного сложнее.

10:01 Речь идет не только о самой степени магистра права. Речь идет об использовании всех инструментов, многофункциональности и о том, как все это работает. И вот, когда некоторое время назад я это осознал, я попытался это обрисовать, и мне показалось, что LLM — это что-то вроде новой операционной системы, верно? Итак, LLM — это новый тип компьютера. Он сидит, как будто эквивалент центрального процессора. Окна контекста - это своего рода память, а LLM управляет памятью и вычисляет ее для решения проблем, используя все эти возможности, и поэтому, если посмотреть с этой точки зрения, это определенно очень похоже на операционную систему. Хм, еще несколько аналогий. Например, если вы хотите загрузить приложение, скажем, я захожу в VS Code и нажимаю «Загрузить», вы можете загрузить VS Code и запустить его на

10:46 Windows, Linux или Mac точно так же, как вы можете взять приложение LLM, например курсор, и запустить его на GPT, в облаке или в серии Gemini, верно? Это просто выпадающий список. Так что в этом смысле это тоже похоже. Еще одна аналогия, которая, как мне кажется, приходит мне в голову, это то, что мы находимся в эпоху 1960-х, когда вычисления LLM все еще очень дороги для этого нового типа компьютеров, и это вынуждает LLM быть централизованными в облаке, а мы все просто клиенты, которые взаимодействуют с ними по сети, и никто из нас не использует эти компьютеры в полной мере, и поэтому имеет смысл использовать разделение времени, когда мы все просто, знаете ли, измерение пакета, когда они запускают компьютер в облаке. И примерно так

11:32 выглядели компьютеры в то время. Операционные системы находились в облаке. Все транслировалось и группировалось. Итак, революция в области персональных компьютеров пока не произошла, потому что это просто неэкономично. Это не имеет смысла. Но я думаю, что некоторые пытаются. И оказывается, что, например, Mac mini очень хорошо подходят для некоторых LLM, потому что если вы делаете вывод в пакетном режиме, все это очень ограничено памятью. Так что это действительно работает. И я думаю, что это, возможно, ранние признаки появления персональных компьютеров. Но на самом деле этого еще не произошло. Неясно, как это выглядит. Может быть, кто-то из вас придумает, что это такое, или как это работает, или что это должно быть. Возможно, еще одна аналогия, которую я упомяну, заключается в том, что всякий раз, когда я общаюсь с Чачем или каким-нибудь магистром права напрямую в текстовом формате, у меня возникает ощущение, будто я общаюсь с операционной системой через

12:18 терминал. Как будто это просто текст. Это прямой доступ к операционной системе. И я думаю, что парень еще не изобретен в общем смысле, так что должен ли быть парень, отличный от просто технических пузырей? Конечно, в некоторых приложениях, которые мы рассмотрим чуть позже, есть guey, но, если это имеет смысл, ни один guey не подходит для всех задач . Хм, есть некоторые моменты, в которых LLM отличаются от операционных систем, и это довольно уникальный способ, которым они отличаются от ранних вычислений. И я написал об одном конкретном объекте недвижимости, который на этот раз показался мне совершенно другим. Дело в том, что LLM как бы меняют направление распространения технологий, что обычно и присутствует в технологиях.

13:05 Например, электричество, криптография, вычисления, полеты, интернет, GPS — множество новых преобразующих технологий, которых раньше не было. Обычно первыми пользователями являются правительство и корпорации, поскольку это ново, дорого и т. д., и только потом это распространяется среди потребителей. Но мне кажется, что степень магистра права как-то перевернута с ног на голову . Так что, возможно, в ранних компьютерах речь шла только о баллистике и военном применении, но в случае со степенью магистра права речь идет о том, как сварить яйцо или что-то в этом роде. Это, конечно, похоже на многое из того, что я использую. И поэтому меня действительно завораживает то, что у нас есть новый волшебный компьютер, который словно помогает мне сварить яйцо. Это не поможет правительству сделать что-то действительно безумное, вроде военной баллистики или какой-то особой технологии. Действительно, корпорации и правительства отстают от всех нас, от принятия всех этих технологий. Итак, это просто обратный процесс, и я думаю, что он, возможно, информирует о том,

13:50 как мы хотим использовать эту технологию или где находятся первые приложения и так далее. Итак, подводя итоги, можно сказать, что LLM-лаборатории LLM. Я думаю, это точный язык, но LLM — это сложные операционные системы. На дворе 1960-е годы в области вычислительной техники, и мы заново переделываем вычисления. и в настоящее время они доступны через разделение времени и распространяются как утилита. Новым и беспрецедентным является то, что они не находятся в руках нескольких правительств и корпораций. Они находятся в руках каждого из нас, потому что у каждого есть компьютер, и это всего лишь программное обеспечение, а Чашип был передан на наши компьютеры, как миллиарды людей, мгновенно и за одну ночь, и это безумие. И для меня это своего рода безумие, что это так, и теперь пришло наше время войти в эту отрасль и программировать эти компьютеры. Это безумие. Поэтому я

14:37 считаю, что это весьма примечательно. Прежде чем программировать LLM, нам нужно потратить некоторое время на то, чтобы подумать о том, что это такое . И мне особенно нравится говорить об их психологии. Поэтому мне нравится думать о магистрах права как о своего рода человеческих душах. Хм, это стоастические симуляции людей. И симулятор в данном случае — это авторегрессивный трансформатор. Итак, трансформатор — это нейронная сеть. Ну, это просто как бы переходит на уровень токенов. Это звучит как куски, куски, куски, куски. И для каждого фрагмента требуется почти одинаковый объем вычислений . Хм, и, конечно, этот симулятор, по сути, просто включает в себя некоторые веса, и мы подгоняем его под весь текст, который есть в Интернете и так далее. И в итоге вы получаете своего рода симулятор, и поскольку он обучен

15:24 на людях, у него есть эта эволюционная психология, похожая на человеческую. Итак, первое, что вы заметите, это то, что у магистров права, конечно же, энциклопедические знания и память. и они могут помнить очень много вещей, гораздо больше, чем любой отдельный человек, потому что они читают очень много. На самом деле, это немного напоминает мне фильм «Человек дождя», который я действительно рекомендую всем посмотреть. Это потрясающий фильм. Мне нравится этот фильм. Эм, а Дастин Хоффман — аутичный гений, обладающий почти идеальной памятью. Итак, он может читать, как телефонную книгу, и помнить все имена и номера телефонов. И мне кажется, что LM очень похожи. Они очень легко могут запомнить хэши Шоу и множество других вещей. Так что в некоторых отношениях у них, безусловно, есть суперспособности . Но у них также есть ряд, я бы сказал, когнитивных нарушений. Поэтому у них довольно много галлюцинаций. Хм, и

16:11 они как бы выдумывают всякую ерунду и не имеют хорошей внутренней модели самопознания, по крайней мере недостаточной. И ситуация улучшилась, но не идеальна. Они демонстрируют неровный интеллект. Поэтому в некоторых областях решения проблем они будут сверхлюдьми . И тогда они будут совершать ошибки, которые, по сути, не совершает ни один человек . как вы знаете, они будут настаивать, что 9,11 больше, чем 9,9, или что в слове «клубника» две буквы «Р», это некоторые известные примеры, но в основном есть острые углы, о которые можно споткнуться, так что это своего рода, я думаю, также своего рода уникальность, гм, они также страдают от энтроградной амнезии, гм, так что, э-э, и я думаю, я намекаю на тот факт, что если у вас есть коллега, который присоединяется к вашей организации, этот коллега со временем изучит вашу организацию, э-э, он поймет и получит как бы огромное количество контекста об организации, и он

16:57 пойдет домой, спит, они закрепляют знания и со временем набираются опыта. LLM изначально не делают этого, и эта проблема не была решена в ходе исследований и разработок LLM. Я думаю, что контекстные окна на самом деле похожи на рабочую память, и вам приходится программировать рабочую память довольно напрямую, потому что они не становятся умнее просто так, по умолчанию, и я думаю, что многие люди путаются в подобных аналогиях. В популярной культуре я рекомендую людям посмотреть эти два фильма: « Моменто» и «51-е свидание». В обоих фильмах главные герои имеют фиксированный вес, а их контекстные окна стираются каждое утро, и когда это происходит, становится действительно проблематично ходить на работу или заводить отношения, и это происходит постоянно. Думаю, еще одна вещь, на которую я хотел бы обратить внимание, — это ограничения, связанные с безопасностью использования LLM. Так,

17:44 например, обладатели степени магистра права (LLM) весьма доверчивы. Они подвержены риску быстрой инъекции . Они могут допустить утечку ваших данных и т. д. И так далее, есть много других соображений, связанных с безопасностью. Итак, если говорить коротко, вам нужно загрузить свою... вам нужно загрузить свою... вам нужно одновременно думать об этой сверхчеловеческой штуке, у которой куча когнитивных дефицитов и проблем. Как мы и они, в то же время, чрезвычайно полезны, и как мы программируем их, и как мы обходим их недостатки и наслаждаемся их сверхчеловеческими способностями. Итак, теперь я хочу поговорить о возможностях использования этих моделей и о том, каковы некоторые из самых больших возможностей. Это не полный список, а лишь некоторые моменты, которые, по моему мнению, будут интересны для этого выступления. Первое, что меня воодушевляет, — это то, что я бы назвал приложениями частичной автономии. Давайте, например,

18:32 рассмотрим пример кодирования. Конечно, вы можете напрямую зайти в chacht и начать копировать-вставлять код, копировать отчеты об ошибках и прочее, получать код и копировать- вставлять все подряд. Зачем, зачем ты это делаешь? Зачем вам переходить сразу к операционной системе? Гораздо разумнее иметь специальное приложение для этого. И поэтому я думаю, что многие из вас используют курсор. Я тоже так считаю. А курсор — это как раз то, что вам нужно. Вам не нужно сразу идти в комнату. И я думаю, что курсор — это очень хороший пример раннего приложения LLM, которое имеет ряд свойств, которые, как я считаю, полезны для всех приложений LLM. В частности, вы заметите, что у нас есть традиционный интерфейс, который позволяет человеку войти и выполнить всю работу вручную, как и раньше. Но в дополнение к этому у нас теперь есть

19:17 интеграция LLM, которая позволяет нам работать более крупными частями. Итак, некоторые свойства приложений LLM, которые, по моему мнению, являются общими и на которые полезно обратить внимание. Во -первых, магистры права по сути выполняют большую часть работы по управлению контекстом. Во-вторых, они организуют несколько звонков для студентов магистратуры, верно? Итак, в случае с курсором, под капотом есть встроенные модели для всех ваших файлов, реальные модели чата, модели, которые применяют различия к коду, и все это организовано для вас. Действительно важный момент, который, как мне кажется, не всегда в полной мере оценивается, — это графический интерфейс пользователя, специфичный для приложения, и его важность. Хм, потому что вы не хотите просто общаться с операционной системой напрямую в текстовом формате. Текст очень сложен для чтения, интерпретации, понимания, и, кроме того, некоторые из этих действий вы вряд ли захотите выполнять изначально в тексте. Поэтому

20:03 гораздо лучше просто увидеть разницу, например, как меняется красный и зеленый, и вы можете видеть, что добавляется или вычитается. Гораздо проще просто дать команду Y, чтобы принять, или команду N, чтобы отклонить. Мне не нужно было вводить это в текстовом виде, верно? Таким образом, парень позволяет человеку проверять работу этих ненадежных систем и двигаться быстрее. Я вернусь к этому моменту немного позже . И последняя особенность, на которую я хочу обратить внимание, это то, что я называю ползунком автономности. Так, например, в курсоре вы можете просто выполнить завершение нажатием. В основном вы всем управляете. Вы можете выбрать фрагмент кода и нажать команду K, чтобы изменить только этот фрагмент кода. Вы можете выполнить команду L, чтобы изменить весь файл. Или вы можете выполнить команду I, которая, как вы знаете, позволяет ему делать все, что вы хотите, во всем репозитории, и это своего рода версия агента полной автономии, и вы отвечаете за

20:48 ползунок автономии, и в зависимости от сложности поставленной задачи вы можете настроить объем автономии, от которого вы готовы отказаться, э-э, для этой задачи, может быть, чтобы показать еще один пример довольно успешного приложения LLM, э-э, недоумение, э-э, у него также есть очень похожие функции с тем, на что я только что указал в курсоре, э-э, он упаковывает большую часть информации. Он организует несколько программ LLM. У него есть графический интерфейс, который позволяет вам проверять некоторые из его работ. Так, например, он будет размещать источники, и вы можете представить, как вы их проверяете. И у него есть ползунок автономности. Вы можете либо просто выполнить быстрый поиск, либо провести исследование, либо провести глубокое исследование и вернуться через 10 минут. Итак, это всего лишь различные уровни автономии, которые вы предоставляете инструменту. Итак, я думаю, мой вопрос в том, что, по моему мнению, многие программы станут частично автономными. Я пытаюсь представить, как

21:33 это выглядит? А как многие из вас, занимающиеся обслуживанием продуктов и услуг, собираются сделать свои продукты и услуги частично автономными? Может ли магистр права видеть все, что видит человек? Может ли магистр права действовать всеми способами, которые может действовать человек? И могут ли люди контролировать и быть в курсе этой деятельности? Потому что, опять же, это несовершенные системы, которые подвержены ошибкам . А как выглядит разница в Photoshop или чем-то подобном ? Знаете, а также большая часть традиционного программного обеспечения сейчас имеет все эти переключатели и тому подобное, и все это разработано для человека. Все это должно измениться и стать доступным для магистров права. Итак, я хочу подчеркнуть одну вещь, касающуюся многих приложений LLM, которая, я не уверен, привлекает столько внимания, сколько заслуживает. Мы теперь как бы сотрудничаем с AIS, и обычно они занимаются

22:18 генерацией, а мы, люди, занимаемся проверкой. В наших интересах сделать так, чтобы этот цикл прошел как можно быстрее. Итак, мы проделываем большую работу. Я думаю, что есть два основных способа, которыми это можно сделать. Во-первых, вы можете значительно ускорить проверку. Хм, и я думаю, что парни, например, чрезвычайно важны для этого, потому что парень использует ваш графический процессор компьютерного зрения в нашей голове. Чтение текста требует усилий и не доставляет удовольствия, а вот разглядывание чего-либо — увлекательно, и это своего рода магистраль к вашему мозгу. Поэтому я считаю, что ребята очень полезны для аудита систем и визуальных представлений в целом. И второе, я бы сказал, это то, что нам нужно держать ИИ на поводке. Я думаю, что многие слишком увлекаются агентами ИИ, и мне бесполезно добавлять в свой репозиторий изменения в 10 000 строк кода

23:05 . Как будто я все еще остаюсь узким местом, верно? Несмотря на то, что эти 10 000 строк появляются мгновенно, мне нужно убедиться, что эта штука не вносит ошибок. Это просто похоже на то, что он делает правильные вещи, верно? И что нет никаких проблем с безопасностью и т.п. Так что, я думаю, что, по сути, нам нужно сделать так, чтобы поток этих двух событий развивался очень-очень быстро, и нам нужно как-то держать ИИ на поводке, потому что он становится слишком бурно реагирует. Это, ну, что-то вроде этого. Вот что я чувствую, когда занимаюсь программированием с использованием ИИ. Если я просто пишу код, то все хорошо и замечательно, но если я действительно пытаюсь выполнить работу, то не так уж здорово иметь слишком реактивного агента, который делает все эти вещи. Так что этот слайд не очень хорош. Извините, но я, как и

23:51 многие из вас, пытаюсь разработать способы использования этих агентов в моем рабочем процессе кодирования и создания кода с помощью ИИ. А в своей работе я всегда боюсь получить слишком большие различия. Я всегда действую небольшими постепенными порциями. Я хочу убедиться, что все хорошо. Я хочу вращать этот цикл очень-очень быстро, и я работаю над небольшими кусками одного конкретного предмета. И я думаю, что многие из вас, вероятно, разрабатывают похожие способы работы с магистрами права. Я также видел несколько сообщений в блогах, в которых предпринимаются попытки разработать лучшие практики для работы с магистрами права. А вот одна из них, которую я недавно прочитал и которая мне показалась весьма неплохой. И там обсуждались некоторые приемы, и некоторые из них связаны с тем, как держать ИИ на поводке. Итак, например, если вы даете подсказку, и ваша подсказка неопределенна, то ИИ может сделать не совсем то, что вы

24:36 хотели, и в этом случае проверка не будет пройдена. Вы попросите что-то еще. Если проверка не пройдена, то вам придется начать вращать монеты. Поэтому имеет смысл потратить немного больше времени на то, чтобы сделать ваши подсказки более конкретными, что увеличит вероятность успешной проверки, и вы сможете двигаться дальше. И поэтому я думаю, что многие из нас в конечном итоге найдут что-то вроде этой техники. Думаю, в своей работе я сейчас интересуюсь тем, как выглядит образование, и теперь, когда у нас есть искусственный интеллект и степени магистра права, как выглядит образование? И я думаю, что для меня очень важно то, как держать ИИ на поводке. Я не думаю, что можно просто подойти поболтать и сказать: «Эй, научи меня физике». Я не думаю, что это сработает, потому что ИИ словно теряется в лесу. Так что для меня это фактически два отдельных приложения. Например, есть приложение для учителя, которое

25:22 создает курсы, а есть приложение, которое берет курсы и предлагает их студентам. И в обоих случаях у нас теперь есть промежуточный артефакт курса, который можно проверить, и мы можем убедиться в его качестве. Мы можем гарантировать его последовательность. и ИИ держится на поводке в соответствии с определенной программой, определенной последовательностью проектов и так далее. Итак, это один из способов держать ИИ на поводке, и я думаю, что он имеет гораздо большую вероятность сработать, и ИИ не потеряется в лесу. Еще одна аналогия, на которую я хотел бы сослаться, заключается в том, что я не новичок в области частичной автономии, и я работал над этим, по-моему, пять лет в Tesla, и это также продукт частичной автономии, и он имеет много общих функций, например, прямо на панели приборов находится графический интерфейс автопилота, который показывает мне то, что видит нейронная сеть, и так далее,

26:09 и у нас есть ползунок автономии, где в течение моего пребывания там мы выполняли все больше и больше автономных задач для пользователя, и, возможно, история, которую я хотел бы рассказать очень кратко, заключается в том, что на самом деле я впервые сел за руль беспилотного автомобиля в 2013 году, и у меня был друг, который работал в Whimo, и он предложил мне прокатиться по Пало-Альто. В то время я сделал эту фотографию с помощью Google Glass, и многие из вас настолько молоды, что, возможно, даже не знают, что это такое. Ну да, в то время это было в моде. Мы сели в машину и около 30 минут ехали по шоссе, улицам и т. д. Пало-Альто. И эта поездка была идеальной. Не было никаких вмешательств, и это было в 2013 году, то есть уже 12 лет назад. И это меня как-то поразило, потому что в то время, когда у меня была эта идеальная поездка, эта идеальная демонстрация, я чувствовал: «

26:56 Ух ты, беспилотное вождение неизбежно», потому что это просто сработало. Это невероятно. Хм, но прошло уже 12 лет, а мы все еще работаем над автономностью. Мы все еще работаем над водителями-агентами, и даже сейчас мы на самом деле не решили проблему. Например, вы можете видеть, как ездят Whimos, и они выглядят беспилотными, но вы знаете, что в этом процессе вождения все еще много телеуправления и много человеческого участия, поэтому мы еще даже не объявили об успехе, но я думаю, что на данный момент это определенно произойдет, но на это ушло много времени, и поэтому я думаю, что это программное обеспечение действительно сложное, я думаю, так же, как и вождение, и поэтому, когда я вижу что-то вроде: о, 2025 год — год агентов, я очень беспокоюсь, и я как бы чувствую, что это десятилетие агентов, и это будет продолжаться довольно

27:44 долго. Нам нужны люди, которые будут в курсе событий. Нам нужно делать это осторожно. Это программное обеспечение. Давайте будем серьезны. Еще одна аналогия, которую я всегда продумываю, — это костюм Железного человека. Э-э, я думаю, это то, что я всегда любил Железного человека. Я думаю, что это во многом правильно с точки зрения технологий и того, как они будут развиваться. А что мне нравится в костюме Железного человека, так это то, что он одновременно является и усовершенствованием, и Тони Старк может им управлять, и он также является агентом. А в некоторых фильмах костюм Железного человека вполне автономен и может летать, находить Тони и тому подобное. Итак, это ползунок автономности, с помощью которого мы можем создавать дополнения или агентов, и мы хотим сделать и то, и другое. Но на данном этапе я бы сказал, что нужно работать с подверженными ошибкам магистрами права и т. д. Я бы сказал, что вы хотите построить меньше

28:29 роботов Железного человека и больше костюмов Железного человека . Это больше похоже на создание частично автономных продуктов, а не на создание эффектных демонстраций автономных агентов . И эти продукты имеют индивидуальные интерфейсы и UIUX. И мы пытаемся сделать так, чтобы цикл проверки генерации человека был очень и очень быстрым. Но мы не упускаем из виду тот факт, что в принципе автоматизировать эту работу возможно. И в вашем продукте должен быть слайдер автономности. И вам следует подумать о том, как можно сдвинуть этот ползунок автономности и сделать ваш продукт более автономным с течением времени. Но я думаю, что в такого рода продуктах есть много возможностей . Теперь я хочу немного сменить тему и поговорить еще об одном измерении, которое, на мой взгляд, является совершенно уникальным. Появился не только новый тип языка программирования, который обеспечивает автономность программного обеспечения, но и, как я уже

29:15 упоминал, он программируется на английском языке, который является естественным интерфейсом, и внезапно все становятся программистами, потому что все говорят на естественном языке, например, на английском. Так что это крайне оптимистично и очень интересно для меня, а также совершенно беспрецедентно. Я бы сказал, что раньше требовалось потратить от пяти до десяти лет на изучение чего-либо, чтобы научиться что-то делать в сфере программного обеспечения. теперь это уже не так. Так что я не знаю, слышал ли кто-нибудь о виброкодировании. Э-э, это твит, который вроде как ввел это, но мне сказали, что теперь это стало чем-то вроде крупного мема. Хм, забавная история: я пользуюсь Twitter уже около 15 лет или около того, и до сих пор не имею ни малейшего понятия, какой твит станет вирусным, а какой просто провалится, и всем все равно. И я думал, что этот твит

30:00 будет последним. Я не знаю. Это было похоже на поток мыслей. Но это стало чем-то вроде мема, и я действительно не могу этого сказать. Но, думаю, это затронуло какую-то струну и дало название чему-то, что все чувствовали, но не могли выразить словами. Теперь есть страница в Википедии и все такое. Это как [Аплодисменты] да, это как большой вклад или что-то в этом роде. Итак, Том Вулф из HuggingFace поделился этим прекрасным видео, которое мне очень нравится. Хм, это детское кодирование. И я считаю, что это очень полезное видео. Мне нравится это видео. Ну

30:46 как можно смотреть это видео и переживать из-за будущего? Будущее прекрасно. Я думаю, что это станет своего рода « лекарством от всех бед» в разработке программного обеспечения. Хм, я не пессимист по поводу будущего поколения, и я думаю, что да, мне нравится это видео. Поэтому я попробовал немного покодировать, потому что это так весело. Ну, так вот, кодирование велосипеда так здорово, когда вы хотите построить что-то супер-пупер кастомное, чего, похоже, не существует, и вы просто хотите импровизировать, потому что сегодня суббота или что-то в этом роде. Итак, я создал это приложение для iOS, и я на самом деле не умею программировать на Swift, но я был действительно шокирован тем, что мне удалось создать такое простое приложение, и я не собираюсь этого объяснять. Это действительно глупо, но мне это нравится, это был просто рабочий день, и позже в тот же день это было запущено на моем телефоне, и я подумал: «Ух ты, это потрясающе».

31:32 Мне не пришлось изучать Swift дней пять или около того, чтобы начать. Я также закодировал vip-код для приложения под названием Menu Genen. И это в прямом эфире. Вы можете попробовать это в menu.app. У меня была такая проблема: я приходил в ресторан, читал меню и понятия не имел, что в нем есть. И мне нужны фотографии. Так вот, этого не существует. Поэтому я подумал: «Эй, я собираюсь это закодировать». Ну, вот как это выглядит. Вы заходите в menu.app, эм, и, эм, делаете снимок меню, а затем menu генерирует изображения, и каждый получает 5 долларов в виде кредита бесплатно при регистрации. И поэтому это основной источник затрат в моей жизни. Итак, для меня это приложение сейчас приносит отрицательный доход .

32:17 Я потерял огромную сумму денег на меню. Хорошо. Но самое интересное для меня в menu genen то, что код части кодирования vite на самом деле был самой простой частью меню кодирования v, и большая его часть на самом деле была сделана, когда я пытался сделать его реальным, чтобы на самом деле можно было использовать аутентификацию, платежи, доменное имя и среднее развертывание. Это было действительно сложно, и все это не было кодом. Все эти DevOps- штуки я делал, нажимая кнопки в браузере, и это было очень медленно и заняло еще неделю. Так что было действительно интересно, что я создал меню, по сути, демо, работающее на моем ноутбуке, за несколько часов, а потом мне потребовалась неделя, потому что я пытался воплотить его в реальность, и причина этого в том, что это просто ужасно

33:02 раздражало. Хм, например, если вы попытаетесь добавить вход через Google на свою веб- страницу, я знаю, что это очень мало, но это просто огромное количество инструкций этой библиотеки клерка, рассказывающих мне, как это интегрировать. И это безумие. Как будто мне говорят перейти по этому URL-адресу, нажать на этот раскрывающийся список, выбрать это, перейти к этому и нажать на это. И это как будто говорит мне, что делать. Как будто компьютер подсказывает мне, какие действия мне следует предпринять. Как будто ты это делаешь. Зачем я это делаю? Какого черта? Мне пришлось следовать всем этим инструкциям. Это было безумие. Поэтому я думаю, что последняя часть моего выступления будет посвящена вопросу о том, можем ли мы создавать что-то только для агентов? Я не хочу делать эту работу. Могут ли агенты сделать это? Спасибо. Хорошо. Так что, грубо говоря, я думаю, что появилась

33:48 новая категория потребителей и манипуляторов цифровой информации. Раньше это могли сделать только люди с графическими интерфейсами или компьютеры с API. И теперь у нас есть совершенно новая вещь, и агенты - это компьютеры, но они похожи на людей, верно? Они - люди-духи. В Интернете есть люди-духи, и им нужно взаимодействовать с нашей программной инфраструктурой. Например, мы можем создать для них что-то новое. Например, у вас может быть robots.txt на вашем домене, и вы можете инструктировать или советовать, я полагаю, веб-сканерам, как вести себя на вашем сайте. Точно так же у вас может быть текстовый файл lm.txt, который представляет собой простую разметку, сообщающую LLM, о чем этот домен, и это очень удобно для чтения LLM. Если бы вместо этого пришлось получить HTML-код вашей веб-страницы и попытаться его проанализировать, это было бы очень

34:33 сложно и чревато ошибками, и все бы испортилось, и работать бы не стало. Поэтому мы можем напрямую обратиться к магистру права. Это того стоит. В настоящее время для людей написано огромное количество документации. Таким образом, вы увидите такие вещи, как списки, жирный шрифт и изображения, а это недоступно напрямую для LLM. Поэтому я вижу, что некоторые сервисы сейчас переводят большую часть своих документов специально для LLM. Так, например, Versell и Stripe являются первопроходцами в этом вопросе, но я уже видел еще несколько, и они предлагают свою документацию в формате Markdown. Markdown очень прост для понимания в LMS. Это здорово. Хм, может быть, один простой пример из моего опыта. Возможно, кто-то из вас знает три синих и один коричневый. Он снимает прекрасные анимационные видеоролики на YouTube.

35:19 [Аплодисменты] Да, я люблю эту библиотеку. Итак, он написал «Манон», а я захотел создать свой собственный, и, к сожалению, существует обширная документация по использованию «Манон», поэтому я не захотел ее читать. Поэтому я скопировал все это в LLM, описал, что я хочу, и все заработало сразу, как будто LLM просто перекодировал мне анимацию, как раз то, что я хотел, и я подумал: «Ух ты, это потрясающе!» Так что если мы сможем сделать документы понятными для LLM, это откроет огромное количество возможностей их использования, и я думаю, что это замечательно и должно происходить чаще. Еще я хотел бы отметить, что, к сожалению, вам придется не просто взять документы и отобразить их в формате Markdown. Это самая простая часть. На самом деле нам придется изменить документы, потому что всякий раз, когда в документах говорится, что нужно нажать «Нажать

36:04 эту кнопку», это плохо. На данный момент обладатель степени LLM не сможет выполнить это действие изначально. Так, например, Verscell заменяет каждое появление click эквивалентной командой curl, которую ваш агент LM может выполнить от вашего имени. Хм, и поэтому я думаю, что это очень интересно. И , конечно же, есть модель контекстного протокола от Enthropic. И это еще один способ — протокол прямого общения с агентами как с новыми потребителями и манипуляторами цифровой информации. Поэтому я очень оптимистично настроен в отношении этих идей. Еще мне очень нравится множество небольших инструментов, которые помогают обрабатывать данные в очень удобных для LLM форматах. Например, когда я захожу в репозиторий GitHub, например, в свой репозиторий nanoGPT, я не могу передать его LLM и задать по нему вопросы, потому что, как вы знаете, это человеческий интерфейс на GitHub. Итак, когда вы просто меняете URL-адрес с GitHub, чтобы получить

36:50 ingest, то это фактически объединяет все файлы в один большой текст и создает структуру каталогов и т. д. И это готово для копирования и вставки в ваш любимый LLM, и вы можете делать что угодно. Возможно, еще более ярким примером этого является глубокая вики, где речь идет не только о сыром содержании этих файлов. э-э, это из Devon, но также, как и Devon, они в основном анализируют репозиторий GitHub, и Devon в основном создает целые страницы документации только для вашего репозитория, и вы можете себе представить, что это еще более полезно для копирования и вставки в вашу LLM. Поэтому мне нравятся все эти маленькие инструменты, которые, по сути, позволяют просто изменить URL-адрес, и это делает что-то доступным для LLM. Так что это все хорошо и замечательно, и я думаю, что этого должно быть гораздо больше . Еще одно замечание, которое я хотел бы сделать, заключается в том, что вполне возможно, что в будущем LLM смогут — это

37:38 даже не будущее, это сегодня — они смогут ходить и нажимать на кнопки и так далее, но я все равно думаю, что очень стоит пойти навстречу LLM и LLM и облегчить им доступ ко всей этой информации, потому что это все еще довольно дорого, я бы сказал, в использовании и, кхм, намного сложнее, и поэтому я действительно думаю, что у большого количества программного обеспечения будет длинный хвост, в котором не будут адаптироваться приложения, потому что это не похоже на репозитории для живых проигрывателей или цифровую инфраструктуру, а нам понадобятся эти инструменты. Но я думаю, что для всех остальных это будет очень полезно, если мы встретимся где-то посередине. Так что я настроен оптимистично по отношению к обоим вариантам, если это имеет смысл. Итак, подводя итог, можно сказать, что сейчас самое время заняться этой отраслью. Нам нужно переписать кучу кода. Тонны кода будут написаны профессионалами и

38:23 программистами. Эти степени магистра права — это своего рода утилиты, своего рода фабрики, но в особенности они похожи на операционные системы. Но еще так рано. Это как операционные системы 1960-х годов, и я думаю, что многие аналогии пересекаются. И эти системы управления обучением — это своего рода подверженные ошибкам человеческие духи, с которыми нам нужно научиться работать . И чтобы сделать это правильно, нам необходимо адаптировать нашу инфраструктуру под эти требования. Итак, когда вы создаете эти приложения LLM, я описываю некоторые способы эффективной работы с этими LLM и некоторые инструменты, которые делают это возможным, и как вы можете очень-очень быстро вращать этот цикл и, по сути, создавать продукты частичного туннелирования, а затем, эм, да, также нужно написать много кода для агентов более напрямую. Но в любом случае, возвращаясь к аналогии с костюмом Железного человека, я

39:09 думаю, что в течение следующего десятилетия мы увидим, как мы переместим ползунок слева направо. И я очень интересный. Будет очень интересно посмотреть, как это будет выглядеть. И я с нетерпением жду возможности построить его вместе со всеми вами. Спасибо.