Внедрение Gen AI в крупных корпорациях идет быстрее других модных технологий прошлого типа облачных вычислений.
Есть очень классный отчет от AZ16 про внедрение Gen-AI в enteprise-е. Он емкий и классный, советую почитать.
Там есть понятные тренды - быстрый рост трат на LLMы, все пробуют не только OpenAI и хотят/планируют быть мультимодельными.
Более интересные вещи которые меня зацепили:
1. Бюджетирование на gen-AI приходит от бизнес линий и часто релокация бюджета от другого ИТ бюджета. Т.е. это не деньги на пилоты и эксперименты, часто это боевое внедрение.
2. ROI от внедрений в основном нормально считать пока не научились. Но верят что оно положительное.
3. Клауд очень сильно влияет на то какую модель корпорат будет использовать. Половина опрошенных использует модели через клауд (т.е. Azure, AWS etc), меньшая часть использует API напрямую от производителей (OpenAI).
4. OpenAI - это must, но все тестируют активно и других провайдеров.
5. Самый интересный вывод - будущее за open source. 80% корпоратов используют в основном OS или планируют увеличить долю OS в ближайшем будущем. Это означает конец эпохи "ни одного ИТ директора не уволили за IBM". OS все чаше дефолтный сценарий для корпоратов.
6. Главная причина для OS - это контроль, а не цена, как часто бывало на первых этапах развития OS.
7. Все начинают с RAG, большинство уходит и в fine-tuning. Но свои модели с нуля почти никто не делает; год назад были предсказания, что все будут делать свои модели типа BloombergGPT. Все же это в основном выкинутые деньги даже для крупных компаний.
#genAI #предпринимательство
Есть очень классный отчет от AZ16 про внедрение Gen-AI в enteprise-е. Он емкий и классный, советую почитать.
Там есть понятные тренды - быстрый рост трат на LLMы, все пробуют не только OpenAI и хотят/планируют быть мультимодельными.
Более интересные вещи которые меня зацепили:
1. Бюджетирование на gen-AI приходит от бизнес линий и часто релокация бюджета от другого ИТ бюджета. Т.е. это не деньги на пилоты и эксперименты, часто это боевое внедрение.
2. ROI от внедрений в основном нормально считать пока не научились. Но верят что оно положительное.
3. Клауд очень сильно влияет на то какую модель корпорат будет использовать. Половина опрошенных использует модели через клауд (т.е. Azure, AWS etc), меньшая часть использует API напрямую от производителей (OpenAI).
4. OpenAI - это must, но все тестируют активно и других провайдеров.
5. Самый интересный вывод - будущее за open source. 80% корпоратов используют в основном OS или планируют увеличить долю OS в ближайшем будущем. Это означает конец эпохи "ни одного ИТ директора не уволили за IBM". OS все чаше дефолтный сценарий для корпоратов.
6. Главная причина для OS - это контроль, а не цена, как часто бывало на первых этапах развития OS.
7. Все начинают с RAG, большинство уходит и в fine-tuning. Но свои модели с нуля почти никто не делает; год назад были предсказания, что все будут делать свои модели типа BloombergGPT. Все же это в основном выкинутые деньги даже для крупных компаний.
#genAI #предпринимательство
🔥5👍2
Насколько же контекст влияет на наше поведение. Прожил немного на берегу моря с хорошей погодой и инфраструктурой для бега и вот получилось 18 дней пробежек за месяц. И это несмотря на пост:)
#личное
#личное
🔥8
Я думаю, 2024 г. будет первым годом массового внедрения gen-AI.
Технология нативно прошьет все массовые продукты, и формат 2023 г. с copy-paste между вкладкой chatgpt и твоей задачей будет уходить в прошлое.
Вот и письмо сейчас я быстренько чекнул через gmail. В 2023 г. я бы копировал и вставил в chatgpt для перепроверки/улучшения драфта письма, а сейчас смысла нет сравнивать качество рекомендации гугла и gpt.
Кейс простой (а таких большинство), главное удобство и скорость.
#genAI
Технология нативно прошьет все массовые продукты, и формат 2023 г. с copy-paste между вкладкой chatgpt и твоей задачей будет уходить в прошлое.
Вот и письмо сейчас я быстренько чекнул через gmail. В 2023 г. я бы копировал и вставил в chatgpt для перепроверки/улучшения драфта письма, а сейчас смысла нет сравнивать качество рекомендации гугла и gpt.
Кейс простой (а таких большинство), главное удобство и скорость.
#genAI
Кстати в продолжение удобство Vs качество, хочется опрос провести, который как по мне очень показателен:
Google meet vs Zoom [понятно что есть и другие альтернативы]
Я вижу, что за пару лет после ковидного бума 2020-2021гг. и зенита zoom, дефолтным становится google meet. Хоть и zoom функциональнее, но удобство на стороне гугла, т.к. видеоконференция - это придаток календаря по своей сути.
#венчур #genAI
Google meet vs Zoom [понятно что есть и другие альтернативы]
Я вижу, что за пару лет после ковидного бума 2020-2021гг. и зенита zoom, дефолтным становится google meet. Хоть и zoom функциональнее, но удобство на стороне гугла, т.к. видеоконференция - это придаток календаря по своей сути.
#венчур #genAI
Каким сервисом видеоконференции пользуетесь чаще всего?
Anonymous Poll
43%
Zoom
46%
Google meet
9%
Прочие (Яндекс, Microsoft итд)
2%
Мессенджеры (telegram, whatsApp итд)
1%
Не пользуюсь сервисами видео конференции
Публичные мультипликаторы в тревеле.
Разброс от 1 до 7х к выручке в зависимости от субсектора.
В наиболее крупном и интересном с тз traveltech - глобальные маркетплейсы отелей и транспорта (global OTAs) в среднем 4х. У Airbnb почти 10х.
Очень интересно было посмотреть какой мультипликатор у маркетплейсов чем заняться: Viator, GYG, Klook. Но они все не публичные пока (viator дочка TripAdvisor), поэтому точных цифр нет. Думаю их IPOs не за горами, тогда и видно будет.
Без вывода, просто наглядная картинка.
#тревел
Разброс от 1 до 7х к выручке в зависимости от субсектора.
В наиболее крупном и интересном с тз traveltech - глобальные маркетплейсы отелей и транспорта (global OTAs) в среднем 4х. У Airbnb почти 10х.
Очень интересно было посмотреть какой мультипликатор у маркетплейсов чем заняться: Viator, GYG, Klook. Но они все не публичные пока (viator дочка TripAdvisor), поэтому точных цифр нет. Думаю их IPOs не за горами, тогда и видно будет.
Без вывода, просто наглядная картинка.
#тревел
👍2
Главный слайд технооптимистов.
Очень по душе графики говорящие сами за себя.
Снижение цен/дефляция цен на технологии приводит к увеличению продуктивности.
Чтобы заработать американским компаниям $1М в 1990г. требовалось 7 человек, сейчас меньше 2. (Хотя часть разницы конечно объясняется инфляциией)
#макро #продуктивность
Очень по душе графики говорящие сами за себя.
Снижение цен/дефляция цен на технологии приводит к увеличению продуктивности.
Чтобы заработать американским компаниям $1М в 1990г. требовалось 7 человек, сейчас меньше 2. (Хотя часть разницы конечно объясняется инфляциией)
#макро #продуктивность
👍3
Многие посмеивались над тем что askPDF и похожие сервисы проигрывают foundational models (как кстати по-русски это правильно?) в лице OpenAI & Co.
Но по итогу сами они вероятно проиграют в b2c тем, у кого бизнес модель уже есть в большинстве кейсов.
Вот adobe дает ответы по документу со ссылками, в очень удобном UI/UX. И самое главное - бесплатно.
#стартапы #genAI
Но по итогу сами они вероятно проиграют в b2c тем, у кого бизнес модель уже есть в большинстве кейсов.
Вот adobe дает ответы по документу со ссылками, в очень удобном UI/UX. И самое главное - бесплатно.
#стартапы #genAI
🔥4
Поиск меняется, и в масс маркете. Русский Perplexity - Яндекс Нейро.
Яндекс выпустил Нейро (тут архитектора на хабре). Сервис поиска ответов на основе языковой модели (т.е. в отличие от классического поиска, который дает ссылки где ответ есть).
На самом деле это очень большая новость, удивлен что об этом так мало говорят.
Среди важных нюансов:
1. работает в яндекс.браузере или через мобильное приложение.
2. работает только в РФ (впн нужен)
3. требуется авторизация.
Это все некоторые барьеры, которые яндекс поставил, чтобы не сразу под корню все менять. Но в остальном продукт вполне себе находиться в удобных и праймовых UI/UX местах расположен. Траффик это будет отбирать.
"Проблема Колдунщика", т.е. антагонизма источников контента и поиска/яндекса станет намного актуальнее.
Яндекс рассказывает, что сайты получат дополнительный траффик и могут управлять тем что робот яндекса собирает/забирает с сайтов. Но очевидно, что тезис про траффик в целом по рынку неправдив и исторически сложившийся бартер сайтов и поисковых сервисов "контент на траффик" не будет работать больше.
По сути, Нейро первый пример, где лидер рынка поиска (да, локального но тем не менее) решился на переход в концепцию ответов на основе LLMs.
Очень яркий пример дилемы инноватора, который google пока проходит защищая свой core бизнес (клики по ссылкам) и не внедряя инновацию, а Яндекс похоже решился на disruption. Яндекс конечно заметно более диверсифицированная по продуктам компания чем гугл, ему легче решиться.
#стартапы #genAI
Яндекс выпустил Нейро (тут архитектора на хабре). Сервис поиска ответов на основе языковой модели (т.е. в отличие от классического поиска, который дает ссылки где ответ есть).
На самом деле это очень большая новость, удивлен что об этом так мало говорят.
Среди важных нюансов:
1. работает в яндекс.браузере или через мобильное приложение.
2. работает только в РФ (впн нужен)
3. требуется авторизация.
Это все некоторые барьеры, которые яндекс поставил, чтобы не сразу под корню все менять. Но в остальном продукт вполне себе находиться в удобных и праймовых UI/UX местах расположен. Траффик это будет отбирать.
"Проблема Колдунщика", т.е. антагонизма источников контента и поиска/яндекса станет намного актуальнее.
Яндекс рассказывает, что сайты получат дополнительный траффик и могут управлять тем что робот яндекса собирает/забирает с сайтов. Но очевидно, что тезис про траффик в целом по рынку неправдив и исторически сложившийся бартер сайтов и поисковых сервисов "контент на траффик" не будет работать больше.
По сути, Нейро первый пример, где лидер рынка поиска (да, локального но тем не менее) решился на переход в концепцию ответов на основе LLMs.
Очень яркий пример дилемы инноватора, который google пока проходит защищая свой core бизнес (клики по ссылкам) и не внедряя инновацию, а Яндекс похоже решился на disruption. Яндекс конечно заметно более диверсифицированная по продуктам компания чем гугл, ему легче решиться.
#стартапы #genAI
👍7🌚1
Теперь о самом Perplexity. И снова о поиске.
Perplexity официально стал единорогом и продолжает активно расти. Ребята действительно молодцы.
Самое важное из этой истории, на мой взгляд:
1. Существует огромный спрос на поиск совершенно нового уровня. Люди ищут не просто страницы или что-то для просмотра, они ищут ответы. Именно в этом и заключается ценность. Языковые модели предоставляют их.
2. Людям нужны ответы, которым они могут доверять — такие, которые не требуют повторной проверки, четко показывающие, как и откуда они получены. Языковые модели пока не удовлетворяют этим требованиям и не разрешают эту клиентскую проблему. Вот где Perplexity и Neuro вступают в игру, используя LLM только как "мозги" (механизмы рассуждения), а не как источники знаний.
3. В моем представлении Perplexity, как отдельный бизнес, не выживет. В поисковой сфере давно установилась рекламная модель за клики по ссылкам, требующая огромного масштаба. С трафиком в 60 миллионов, Perplexity выглядит неплохо, но в реальности это крошечная доля по сравнению с Google (85 млрд) и Bing (1.4 млрд). К тому же, в отличие от Google и Bing, суть продукта подразумевает уход от оплаты за клик с сайтов, и ARPU у Perplexity должно быть значительно ниже. Приложил базовое сравнение в прикрепленной таблице.
4. Но Perplexity отлично демонстрирует спрос на качественный поиск нового уровня. Для компаний, чья бизнес-модель позволяет зарабатывать, сокращая клиентский путь до ответа или транзакции (включая, еком, и traveltech как часть екома), поиск в конце концов будет децентрализован.
(Зачем гуглить как отличаются модели велисипедов в гугле, если сразу можно на озоне?). Это станет значительным изменением для всей бизнес-модели интернет-индустрии.
#genAI #стартапы
Perplexity официально стал единорогом и продолжает активно расти. Ребята действительно молодцы.
Самое важное из этой истории, на мой взгляд:
1. Существует огромный спрос на поиск совершенно нового уровня. Люди ищут не просто страницы или что-то для просмотра, они ищут ответы. Именно в этом и заключается ценность. Языковые модели предоставляют их.
2. Людям нужны ответы, которым они могут доверять — такие, которые не требуют повторной проверки, четко показывающие, как и откуда они получены. Языковые модели пока не удовлетворяют этим требованиям и не разрешают эту клиентскую проблему. Вот где Perplexity и Neuro вступают в игру, используя LLM только как "мозги" (механизмы рассуждения), а не как источники знаний.
3. В моем представлении Perplexity, как отдельный бизнес, не выживет. В поисковой сфере давно установилась рекламная модель за клики по ссылкам, требующая огромного масштаба. С трафиком в 60 миллионов, Perplexity выглядит неплохо, но в реальности это крошечная доля по сравнению с Google (85 млрд) и Bing (1.4 млрд). К тому же, в отличие от Google и Bing, суть продукта подразумевает уход от оплаты за клик с сайтов, и ARPU у Perplexity должно быть значительно ниже. Приложил базовое сравнение в прикрепленной таблице.
4. Но Perplexity отлично демонстрирует спрос на качественный поиск нового уровня. Для компаний, чья бизнес-модель позволяет зарабатывать, сокращая клиентский путь до ответа или транзакции (включая, еком, и traveltech как часть екома), поиск в конце концов будет децентрализован.
(Зачем гуглить как отличаются модели велисипедов в гугле, если сразу можно на озоне?). Это станет значительным изменением для всей бизнес-модели интернет-индустрии.
#genAI #стартапы
🦄7👍3
Средний стартап в YCombinator делает $24k в год перед приемом в YC. Или скорее попадает туда без выручки
Слушал подкаст YC, они раскрыли впервые статистику по набору (в котором было ~250 проектов). Есть очень интересные цифры, обычно в сравнении с цифрами 4 года назад:
• выручка (ARR) набора $6M перед приемом в YC. Средний ARR перед приемом в YC ARR $24k. Если убрать проекты без выручки (п.3), то $120k
• рост 3х до $20M ARR за 3 месяца
• 80% проектов без выручки до набора (4 года назад было 62%)
• 30% пивотов внутри программы, которая длиться 3 месяца. (было 10%)
• AI проекты превалируют: 70% набора про применение AI (было 8%)
• 99% имеют технического кофаундера (было 88%)
• неамериканские проекты 25% (было 45%)
• средний возраст фаундеров 26 лет (было 30)
#стартапы
Слушал подкаст YC, они раскрыли впервые статистику по набору (в котором было ~250 проектов). Есть очень интересные цифры, обычно в сравнении с цифрами 4 года назад:
• выручка (ARR) набора $6M перед приемом в YC. Средний ARR перед приемом в YC ARR $24k. Если убрать проекты без выручки (п.3), то $120k
• рост 3х до $20M ARR за 3 месяца
• 80% проектов без выручки до набора (4 года назад было 62%)
• 30% пивотов внутри программы, которая длиться 3 месяца. (было 10%)
• AI проекты превалируют: 70% набора про применение AI (было 8%)
• 99% имеют технического кофаундера (было 88%)
• неамериканские проекты 25% (было 45%)
• средний возраст фаундеров 26 лет (было 30)
#стартапы
👍11❤2
В продолжение темы поиска. Слияние LLMs и поисковиков в b2c неизбежно
OpenAI планирует запустить свой поисковик. Очень понятный и логичный шаг.
LLM-ы без встроенного поиска перестанут нести достаточную ценность для конечного пользователя (b2c). Условно, поигрались, похайпили с галлюцинациями и хватит.
Люди хотят ответов которым можно доверять, LLM-ы не умеют в это. Вероятно, в текущей архитектуре модели и не сумеют это влоб. Видимо логика perplexity/нейро будет превалировать, а для этого нужен поисковый движок.
Можно использовать API гугло поиска за $5/1000 запросов, но это не подходит на по-настоящему большом скейле, т.к. очень дорого, и не подходит если гугл - твой конкурент.
Вот и OpenAI и пилит свой поисковик. Остальные (anthropic etc) либо сконцентрируются на api/b2b, либо им тоже придеться прикручивать поисковик.
#genAI
OpenAI планирует запустить свой поисковик. Очень понятный и логичный шаг.
LLM-ы без встроенного поиска перестанут нести достаточную ценность для конечного пользователя (b2c). Условно, поигрались, похайпили с галлюцинациями и хватит.
Люди хотят ответов которым можно доверять, LLM-ы не умеют в это. Вероятно, в текущей архитектуре модели и не сумеют это влоб. Видимо логика perplexity/нейро будет превалировать, а для этого нужен поисковый движок.
Можно использовать API гугло поиска за $5/1000 запросов, но это не подходит на по-настоящему большом скейле, т.к. очень дорого, и не подходит если гугл - твой конкурент.
Вот и OpenAI и пилит свой поисковик. Остальные (anthropic etc) либо сконцентрируются на api/b2b, либо им тоже придеться прикручивать поисковик.
#genAI
👍7