5️⃣ Principais ideias aqui:

Quando se executa inferência em escala, o desempenho não se resume apenas a lançar melhor hardware para o problema.

O que é que realmente faz a diferença? Decisões arquitetónicas inteligentes. A sessão explicou como escolhas específicas de design podem alterar drasticamente tanto o débito como a latência — por vezes mais do que uma atualização dos seus chips alguma vez poderia.

É um jogo de sistemas, não uma corrida de hardware.