7213Ejaaz

фондовый рынок рушится из-за какой-то глупой новости: китайская компания создала прототип машины $300M ASML — это так тупо.
миру понадобятся бесконечные объёмы памяти, литографии, чипов и энергии. 13 клиентов (тринадцать) составляют 40% выручки SK hynix в следующем году (и они уже платят авансом!)
каждый агент, opus, fable и codex, который запускается, требует намного больше памяти для kv cache, DRAM в ваших GPU, мощности от электросети и дата-центров, чтобы обслуживать инференс.
меньше 5% людей в мире действительно используют возможности ИИ.
как ни проецируй будущее, ему всё равно пот

opus 5 — это взломанная игровая модель. если перемотать на 5 лет назад, эти игры наверняка стали бы вирусными хитами на мобильных устройствах или игровых консолях.
но самое крутое в том, что игры генерируются в реальном времени, так что можно получать непрерывные уровни, которые адаптируются под игрока.
серьёзно, безумие, насколько быстро эти модели становятся лучше (я думал, что grok придёт сюда первым).
можете представить, что сделает opus /fable 6?

Meta разрабатывает конкурента OpenRouter (буквально сразу после новости о том, что OpenRouter могут приобрести), но есть ещё одна причина, почему Meta это делает:
> больше не будет $100Ms потерь на инференсе. платформа будет эффективно маршрутизировать AI-запросы на несколько разных моделей, снижая расходы и давая более качественные ответы.
> совершенно новый источник дохода: Meta намерена выпустить это публично, чтобы каждый мог экономить деньги
> мощный новый способ обучать их модели: используемое внутри компании, Meta создаст крайне ценный датасет о том, как и когда применять модели для ра

вот и всё — Microsoft будет использовать Kimi K3, чтобы приводить в действие их флагманского ИИ-ассистента Copilot, экономя до 60% за каждый токен или $600M на каждый $1B , потраченный на расходы на инференс.
если Microsoft решит развернуть модель у себя, один раз Кimi откроет её исходный код 27-го числа, то эти затраты снизятся ещё сильнее.
любите или ненавидьте эти китайские модели, open source действительно выравнивает поле в большом масштабе.
согласно информации

Google $GOOG испытывает трудности с продажей своих TPU: 75% чипов, которые используют неоклоуды, — это чипы Nvidia, но есть веские основания для того, что Google сможет победить в течение следующего года: стоимость.
Meta, Uber, Microsoft и многие другие за последние несколько месяцев сократили агрессивные расходы на ИИ, перейдя на более дешёвые модели — это позволило им сэкономить $10-100Ms.
Но самая большая статья расходов при использовании ИИ-моделей связана с базовой инфраструктурой, которая обслуживает их для клиентов: TPU — это более дешёвая (и более эффективная) альтернатива.
Моё предпо

tesla только что стала последней компанией, сократившей расходы на ИИ, установив лимит на токены в $200 в неделю для сотрудников и побуждая их использовать модели grok + cursor — признак грядущих времен
> Илон подталкивает сотрудников использовать внутренние версии композитора моделей grok + cursor
> они запустили несколько частных агентов, обученных на данных tesla, чтобы повысить производительность
> сотрудники по-прежнему имеют доступ к claude и gpt через свою внутреннюю "bottleneck platform"
> за этим следуют uber, microsoft и meta, которые также агрессивно сократили расходы
отметим, что И