Привет, друзья! Andrej Karpathy – бывший сотрудник OpenAI и бывший директор Tesla по ИИ, основатель стартапов и энтузиаст нейросетей, лекцию которого мы не так давно выкладывали записал для нас новое видео – "How I use LLMs"!

😏 Но поскольку мы следим за каждым подписчиком (новым подписчикам приготовиться!), то знаем, что вы все равно не успеваете смотреть длинные видосы, даже полезные.

🔣 Специально для тех, у кого нет времени, но есть стремление стать экспертом в нейросетях, пересказываем самые интересные фрагменты c тайм-кодами!

16:23*️⃣Управление контекстным окном в диалогах. В разговорах с моделями важно начинать новый чат по новой теме, поскольку это сбрасывает контекстное окно токенов, сохраняя рабочую память модели. Перегрузка этой памяти нерелевантными токенами может отвлечь модель, снизить ее точность и немного увеличить стоимость генерации последующих токенов. Следовательно, к токенам следует относиться как к ценному ресурсу, который не следует тратить впустую.

34:39*️⃣Интеграция поиска в Интернете. Различные языковые модели теперь способны выполнять поиск в Интернете для предоставления своевременной информации, повышая удобство работы пользователей за счет минимизации запросов, выполняемых вручную. В то время как такие модели, как ChatGPT и Perplexity, эффективно интегрировали инструменты поиска, в других, таких как Claude и Gemini 2.0 Pro, отсутствуют возможности поиска в режиме реального времени.

51:27*️⃣Загрузка документов и взаимодействие с ними. Последние версии LLMs, такие как Claude 3.7, позволяют пользователям загружать документы и участвовать в интерактивном чтении, что значительно облегчает понимание. Используя эту функциональность, можно загружать PDF-файлы, и просить ИИ-эксперта обобщить информацию и ответить на вопросы.

59:00*️⃣Интеграция интерпретатора Python. Интеграция интерпретатора Python в языковые модели значительно расширяет их функциональность, позволяя им писать программы вместо простого предоставления ответов.

01:09:07*️⃣Пользовательские приложения. Облачные сервисы позволяют создавать пользовательские приложения, такие как приложения для флэш-карт, посредством простого взаимодействия с языковыми моделями. Пользователи могут создавать карточки и практиковаться на основе извлеченной информации, а также создавать визуальные диаграммы из текстов.

01:23:16*️⃣Мобильные голосовые запросы. Большая часть взаимодействия с мобильными устройствами связана с использованием голосовых команд, поскольку набор текста уже кажется «громоздким делом».

01:24:39*️⃣Сторонние приложения для транскрипции. Для транскрипции голоса можно использовать сторонние приложения, такие как Super Whisper и Whisper Flow, поскольку многие LLMs не умеют автоматически преобразовывать звук в текст.

01:29:05*️⃣Расширенный голосовой режим. Расширенный голосовой режим, также известный как True Audio, позволяет языковой модели обрабатывать аудио и реагировать на него без какого-либо ввода текста, создавая новое взаимодействие. Пользователи могут взаимодействовать с моделью с помощью различных голосовых персонажей и сценариев.

01:58:38*️⃣Пользовательские GPT для конкретных задач. Пользовательские GPTS предлагают мощный инструмент для изучения языка, эффективно извлекая словарный запас и предоставляя подробные переводы. Используя кратковременные подсказки, пользователи могут сэкономить время и повысить точность при выполнении таких задач, как перевод, помогая учащимся распознавать лингвистические нюансы лучше, чем традиционные инструменты.

В общем, изучайте LLMs, тестируйте самые мощные идеи и будет вам счастье! А мы обеспечим поток свежих инсайтов!

🙂 Artificial Intelion