- AiDrop
- Posts
- 🤖 A IA com 100 milhões de tokens de contexto
🤖 A IA com 100 milhões de tokens de contexto
+ os casos de uso da xAI, Hugging Face, Tesla, e mais...
Hey, Droppers!
Na coluna ‘Ferrou’ de hoje: o ator Forrest Gump Tom Hanks, avisou seus 9.5 milhões de seguidores sobre os vários anúncios feitos com IA usando falsamente seu nome, imagem e voz, promovendo curas e medicamentos milagrosos e alertou para que não caiam em golpes e nem percam seu dindin.
No drop de hoje, repetindo a palavra IA 68x:
LTM-2: a IA com 100 milhões de tokens de contexto
Llama: a IA open-source mais usada do mundo
Cursor: a dev tool do momento
Os Casos de Uso: xAI, HuggingFace, Alibaba, Tesla, Gemini, e 1xTech
Me explique como se eu fosse uma criança: Janela de contexto
Seu trabalho não será substituído por uma Inteligência Artificial, mas por alguém utilizando Inteligência Artificial. Quer ficar por dentro da década de avanços que rolam no universo de IA todas as semanas? Assina o AiDrop e te contamos tudo, sem tecniquês, todas as quintas-feiras no seu inbox.
A IA com 100 milhões de tokens de contexto
ltm-2-mini, magic, contexto, inferência
Existem duas formas de se treinar um modelo de IA: treinamento e no contexto durante a inferência. Até hoje, os treinamentos dominaram, já que contextos eram relativamente curtos. Mas a Magic acaba de mudar essa realidade com o lançamento do LTM-2-Mini:
Um modelo capaz de processar 100 milhões de tokens de contexto – equivalente a cerca de 10 milhões de linhas de código ou 750 livros - ultrapassando o melhor modelo atual (Gemini 1.5 Pro) em 50x.
O algoritmo inovador (lógica multi-hops) processa longas sequências de dados 1.000x mais eficientemente do que os atuais modelos de IA.
A startup tem apenas 23 funcionários, captou U$465 milhões com Eric Schmidt (ex-google), Atlassian (Trello, Jira), Sequoia Capital (VC que investe na Apple, Nvidia, etc), entre vários outros.
Utilizam +8.000 Nvidia H100 para treinar o modelo de memória de longo prazo, focado no desenvolvimento de software.
Em paralelo ao anuncio revolucionário para os desenvolvedores de software, a Magic fechou uma parceria com o Google Cloud para construir supercomputadores usando os novos modelos avançados de GPUs da Nvidia (GB200 NVL72).
🤖 Casos de Uso
xAI: finalizou o super-cluster de 100k H100 e iniciou o treinamento do Grok 3 - prometendo que o tamanho dobrará nos próximos meses.
Alibaba: lançou o LLM Qwen 2 VL 72B superando o GPT-4o-0513 e sua versão 7B o GPT-4o-mini nos benchmarks.
1Xtech: mostrou ao mundo seu robô humanoide extremamente articulado em uma apresentação de 18 minutos.
Gemini 1.5 Flash 8B: o novo menor modelo da Google supera Claude 3 Haiku, Mixtral 8x22B e GPT 3.5 Turbo no Livebench.ai.
HuggingFace: anunciou um modelo speech-to-speech, similar ao modo voz do GPT-4o, mas open-source.
Carros da Tesla receberam um update e agora podem ser invocados pelos seus donos no melhor estilo Cyberpunk 2077.
Pesquisadores desenvolveram uma ferramenta que modela com precisão os estados metabólicos celulares para criar modelos cinéticos.
 | Trending: A chinesa Hailuo AI lançou o novo modelo de texto-para-vídeo chamado Minimax. |
Como está o otimismo do marketing com IA?
Oferecimento HubSpot
Apesar do otimismo, a decepção de ter conteúdos nitidamente escritos por um robô com informações erradas, dados inventados, e sem personalidade no fim... o que era para te poupar esforço, acaba dobrando.
"Mas Drop, isso tem solução?" Se você está fazendo essa pergunta, é porque ainda não conhece o Content Hub da HubSpot.
A plataforma, que já faz parte da estratégia de negócios de boa parte das empresas do Brasil e do mundo, agora tem inteligência artificial integrada em cada etapa do processo, alinhando o tom de voz da marca e a necessidade de personalização da comunicação com cada tipo de lead.
Tem dúvidas? Teste gratuitamente e nos conta o que achou ➡
A IA open-source mais usada do mundo
llama, meta, open-source, facebook, zuck
A Meta não foi a primeira competidora a entrar na pista da IA - estava ocupada construindo o metaverso. Mas, se depender de Zuck, o Llama sairá como a primeira colocada da corrida e tudo indica que já está na pole-position:
Chegou há 350 milhões de downloads no @HuggingFace.
Foi baixado 20 milhões de vezes no último mês.
Crescimento de +10x em comparação com o mesmo período do ano passado.
O uso de tokens nos maiores provedores cloud mais que dobrou desde maio.
O uso mensal (volume de token) cresceu 10x vezes de janeiro a julho.
Além da AWS e Azure, agora tem parceria com Databricks, Dell, Google Cloud, Groq, Nvidia, IBM watsonx, ScaleAI, Snowflake…
Clientes notáveis usando o Llama: Accenture, Doordash, Goldman Sachs, Infosys, KPMG, Shopify, Spotify, Zoom e outros…
Diferente da concorrência (OpenAI possui 200mi acessos semanais), a Meta optou pelo caminho de código-aberto (open-source). A aposta está se pagando com a Llama sendo coroada como a IA open-source mais utilizada do mundo.
P.S: A Meta AI, ainda não disponível no Brasil, já teve 400mi usuários mensais registrados, tendo atingido um pico de 40mi em apenas um dia.
Me explique como se eu fosse uma criança: Janela de contexto
 | Context-window ou Janela de contexto Imagine que a janela de contexto é como a memória de curto prazo da IA. Quando você conversa com a IA, ela só consegue lembrar de uma quantidade limitada de informações ao mesmo tempo, como se tivesse uma janela para visualizar o que foi dito. Essa janela ajuda a IA a entender melhor a conversa, mas se a conversa for muito longa, ela pode esquecer o que está no começo. No caso dos 100 milhões de tokens de contexto da LTM-2, significa que a IA se lembra de todo o conteúdo equivalente a 750 livros, sem se esquecer de uma vírgula. |
Cursor: a dev tool do momento
cursor, tool, dev, easy coding, assistant
Se você estava em uma caverna nas últimas semanas e não ficou sabendo do hype do momento, nós te contamos: Cursor, o app que permite qualquer pessoa, de qualquer idade, com qualquer nível de experiência (inclusive nenhum) programar.
A ferramenta foi criada pelo Anysphere, um laboratório de pesquisa que captou U$68mi (OpenAI, Thrive Capital, Andreesseen Horowitz e Patrick Collison) para reimaginar o papel do desenvolvedor do futuro com sistemas que integram humanos e máquinas.
Aqui estão 8 exemplos alucinantes do que você pode fazer com o Cursor:
Similar ao Github Copilot, a ferramenta auxilia desenvolvedores a integrarem IA no seu dia-a-dia, além de suportar os modelos de IA mais avançados (Claude 3.5 Sonnet, GPT-4o e Gemini 1.5) nativamente e permite previsão da próxima ação, edições de linguagem natural e bate-papo com sua base de código.
O Cursor tem versão gratuita e está disponível no BR. Check it out →
Conta pra gente se criar algo legal?
Ps: se até o Andrej Karpathy, depois de testar o Cursor, disse que não consegue mais se imaginar codando sem uso de assistentes de IA, quem somos nós pra discordar.
cAIxa da Semana
*todas as ferramentas possuem trial ou versão gratuita.
Indique o AiDrop e libere a cAIxa inteira!
Você tem 0 indicações, faltam 2 para ganhar cAIxa de ferramentas
MEME
O que achou da edição de hoje? |
Faça Login ou Inscrever-se para participar de pesquisas. |
Conheça outros DROPS
TechDrop : Notícias inteligentes - sem ser chatas - de tecnologia e negócios, todas as segundas, quartas e sextas, às 6h direto no seu inbox.
MoneyDrop : o dinheiro fala, a gente traduz e desenha todas as terças e quinta, às 9h.
Anuncie nos DROPS
Nossas newsletters são lidas por milhares de profissionais de tecnologia, investidores, gestores e líderes de negócios.
Falar com a equipe do DROPS →
Antes de ir embora.. tá curtindo o conteúdo e quer continuar recebendo? então arrasta esse e-mail para sua lista prioritária.
Reply