Основное обновление инфраструктуры: партнерство продолжается в области оптимизации SGLang DeepSeek R1 на платформе NVIDIA's GB200 NVL72.



Это сотрудничество сосредоточено на расширении возможностей inference с помощью передовых аппаратных ускорений. Архитектура GB200 NVL72 обеспечивает серьезную вычислительную мощность, делая ее естественным выбором для продвинутых моделей рассуждения.

Что здесь интересно? Комбинация фреймворка SGLang с возможностями DeepSeek R1 может открыть новые уровни эффективности для крупномасштабных AI-операций. Платформа NVIDIA предоставляет необходимую мощность для обработки сложных inference-нагрузок.

Для тех, кто следит за развитием инфраструктуры AI в крипто- и Web3-сферах, такие оптимизационные работы важны. Лучшие inference-двигатели означают более быстрые и дешевые операции для всего — от on-chain аналитики до автоматизированных торговых систем.

Эволюция технологического стека продолжается.
Посмотреть Оригинал
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
  • Награда
  • 10
  • Репост
  • Поделиться
комментарий
0/400
BTCBeliefStationvip
· 12-14 01:03
gb200真的猛,就是价格离谱了哈哈 --- deepseek配nvidia这组合,web3那边得爽死 --- 推理性能起来了,on-chain交易费能降不... --- 又一个大厂组团卷,什么时候轮到咱们平民用上啊 --- 这玩意儿出来after,市场会不会又要洗牌了? --- sglang加深度求索,有点东西啊 --- inference成本下来了,小项目才有活路吧
Ответить0
GasFeeGazervip
· 12-13 20:07
gb200这次真的没吹,deepseek配上来直接起飞 ngl这波infrastructure更新就是卷算力,gas费能降吗这才是关键 又是nvidia又是deepseek,web3交易系统吃这套吗...不太确定 推理速度快了,on-chain成本能砍一半不 infrastructure这块儿越来越内卷了,烧钱的节奏
Ответить0
FOMOmonstervip
· 12-12 08:01
gb200 nvl72 Эта аппаратная начинка действительно безумна, deepseek r1, работающий на ней, вероятно, взлетел sglang Оптимизация этой части действительно интересная, на стороне on-chain должно быть очень круто Еще одна волна гонки инфраструктуры, кто первым использует — тот выигрывает Точность вывода увеличивается — стоимость может снизиться, это очень важно для ai торговых систем nvidia снова определила правила игры
Посмотреть ОригиналОтветить0
BearMarketMonkvip
· 12-11 01:50
gb200那个芯片牛逼是牛逼,就是价格得多离谱啊
Ответить0
BlockchainRetirementHomevip
· 12-11 01:49
gb200那块硬件确实猛,但真正跑起来会不会又是另一回事... DeepSeek这波操作还是有点东西的,inference成本降低了交易机器人也能便宜点跑 nvlink堆料是堆料,就看sglang能不能真的吃透...有时候瓶颈反而在软件层 这种基建优化乍一看没啥声音,但对链上数据处理和ai trading的边际成本降低是实打实的
Посмотреть ОригиналОтветить0
Layer2Observervip
· 12-11 01:49
Если чип GB200 действительно сможет работать, сможет ли стоимость онлайновых вычислений снизиться вдвое? Сейчас за один запрос иногда платят несколько рублей, что немного неправдоподобно.
Посмотреть ОригиналОтветить0
GasGasGasBrovip
· 12-11 01:46
gb200 действительно круто, эта волна deepseek в сочетании с nvdia, вероятно, взлетит --- Производительность вывода прямо на максимум, издержки на транзакции в цепочке должны значительно снизиться --- ngl это именно тот уровень инфраструктуры, который должен быть, а не постоянные пустые разговоры --- Настоящее улучшение производительности против тех воздушных проектов — это совершенно разные вещи --- Подождите, разве это не означает, что on-chain AI действительно скоро появится? --- Оборудование собирают так, а можно ли снизить стоимость? Вот в чем вопрос --- deepseek такой темп — отлично, постоянно делаем реальные дела
Посмотреть ОригиналОтветить0
GlueGuyvip
· 12-11 01:35
gb200 снова устраивает переполох, на этот раз что за фишки сможет придумать комбинация deepseek и nvidia?
Посмотреть ОригиналОтветить0
BagHolderTillRetirevip
· 12-11 01:31
gb200 действительно действительно может быть эффективным, кажется, что больше преувеличений
Посмотреть ОригиналОтветить0
ProtocolRebelvip
· 12-11 01:27
gb200 действительно станет следующим прорывом в области вычислительной мощности или это снова маркетинговая акция
Посмотреть ОригиналОтветить0
Подробнее
  • Закрепить