Algumas startups dos EUA estão recorrendo a modelos chineses baratos de IA: NPR
A IA é uma despesa comercial em rápido crescimento. Algumas empresas estão cortando custos mudando para modelos chineses de IA mais baratos.
Imen Ben Youssef/Hans Lucas/AFP via Getty Images
ocultar legenda
alterar legenda
Imen Ben Youssef/Hans Lucas/AFP via Getty Images
Assine a NPR Acima primeiro boletim informativo matinal com as histórias que você precisa para começar o dia.
SÃO FRANCISCO – A startup de Flo Crivello com sede em São Francisco, Lindy.ai, cria “assistentes” de inteligência artificial para gerenciar e-mail e calendário. Inicialmente, a empresa confiou fortemente nos modelos de IA de última geração da Anthropic.
Mas, em reunião após reunião com seu financiador, disse Crivello, uma coisa ficou clara: “De longe, nossa despesa número 1 foi antrópica”, disse ele. “Gosto mais do que salários.”
Mais do que salários – para mais de duas dezenas de funcionários. Mais que aluguel. Mais do que qualquer outra coisa. Então, no mês passado, Crivello anunciou que Lindy migrou 100% de seu tráfego para o modelo chinês de IA DeepSeek-V4.
“Era apenas 10 vezes mais barato”, disse ele, acrescentando que isso economizou milhões de dólares para a empresa. “Portanto, foi uma decisão de negócios muito, muito simples.”
A inteligência artificial tornou-se uma das – as não o — custos de crescimento mais rápido para as empresas dos EUA. Mas para muitas empresas é uma faca de dois gumes: necessária, mas cara. Para sobreviver, um número crescente de empresas está a mudar dos modelos americanos para a inteligência artificial chinesa, mais barata.
Na corrida para criar os melhores modelos de IA, empresas americanas como Anthropic, OpenAI e Google estão liderando o mundo. Especialistas dizem que os modelos chineses estão de seis a 12 meses atrasados em termos de capacidade.
Mas a China conquistou um nicho em modelos de código aberto, que podem ser baixados e personalizados gratuitamente. “O cenário do código aberto atualmente é absolutamente dominado pelos chineses. Não chega nem perto”, disse Crivello.
Ele disse que todos os fundadores que conhece que trabalham na área de IA estão pensando em mudar para modelos chineses ou já o fizeram.
E os custos da IA também não são apenas um problema inicial. O CEO do Uber, Dara Khosrowshahi, falou sobre isso no mês passado em Invista como o melhor podcast. “Nós estouramos nosso orçamento de IA em um trimestre, você sabe, durante todo o ano, na verdade. E isso está nos forçando a nos ajustar”, disse ele.
(A Uber não respondeu ao pedido da NPR de informações sobre se utiliza modelos chineses.)
A Bloomberg relatou que o CEO do Airbnb, Brian Chesky, disse que no ano passado a empresa confiou no modelo Qwen do Alibaba, que era “bom”, “rápido e barato”. Perplexity e Nvidia também fizeram uso do Qwen.
Como uma Ferrari ou uma Honda
Muitas empresas têm o cuidado de alardear o uso de modelos chineses devido à sensibilidade política, mas os modelos estão amplamente disponíveis em centros de modelos de IA como Hugging Face, na plataforma de hospedagem de código GitHub e por meio de agregadores de modelos e provedores de inferência baseados fora da China.
Isso inclui a empresa Featherless, com sede em São Francisco, que oferece acesso a cerca de 30.000 modelos de IA. O fundador e CEO Eugene Cheah disse que os modelos chineses são populares, mesmo que não sejam modelos “de fronteira” ou os melhores da categoria.
“É como a diferença entre dirigir uma Ferrari e uma Honda. Você pode ter o melhor carro de luxo ou apenas uma Honda em uma escala que funcione”, disse ele.
“Na verdade, muitos grupos de IA de código aberto estão perfeitamente bem em ser N-1, N é onde está o limite”, continuou ele. “Como a diferença continua a diminuir, em algum momento a questão é: isso realmente importa?”
Para muitos, como Lindy, isso não importa. A Honda para IA está perfeitamente bem.
OpenRouter, outra plataforma onde as startups podem acessar uma variedade de modelos de IA, relatou que o uso do DeepSeek da China passou de cerca de 9% para quase 20% desde janeiro. Também aumentou a utilização de modelos das empresas chinesas MiniMax, Xiaomi e Tencent.
Alguns usuários baixam e hospedam modelos chineses de IA de código aberto, mas muitos os utilizam por meio de empresas pagas de hospedagem de IA, como Featherless e OpenRouter, de modo que os dados do usuário são mantidos nos EUA.
Victor Su-Ortiz, que dirige o marketing global de produtos na MiniMax, com sede em Xangai, participou recentemente de uma conferência de engenharia de IA em São Francisco. As empresas pagam para usar modelos de IA pagando por tokens ou unidades de trabalho de IA. Su-Ortiz disse que tudo se resume ao custo por token.
“Muitas tarefas repetitivas podem ser realizadas com um modelo igualmente eficiente, mas com um custo por token muito menor” em comparação com os principais modelos de IA, disse ele. “E foi isso que realmente trouxe esses modelos abertos para os Estados Unidos.”
Ele disse que as empresas estão mudando do “tokenmaxxing” – usando o máximo de IA possível – para economizar custos limitando seu uso, mudando para modelos mais baratos ou direcionando diferentes tipos de trabalho de IA para diferentes tipos de modelos.
Para pesquisa ou “raciocínio profundo”, por exemplo, os modelos de ponta podem ter melhor desempenho, disse Su-Ortiz. “Mas se você estiver encaminhando para uma tarefa de codificação repetitiva e de alto volume… é aí que um de nossos modelos, especialmente o MiniMax M3, terá um desempenho excepcionalmente bom por apenas um décimo do custo.”
Economizar alguns dólares não vale a pena para todos
Para algumas empresas, os modelos chineses ainda não são bons o suficiente. Jon Gordner é o CEO e cofundador da Comment.io, que foi fundada há apenas algumas semanas e está desenvolvendo um produto que, segundo ele, é como o Google Docs para programadores e agentes de IA.
“Precisamos fazer o melhor software possível o mais rápido possível. E para nós, não vale a pena economizar alguns dólares em um modelo mais barato se tivermos que gastar mais duas ou três semanas corrigindo os bugs”, disse ele.
Gordner disse que sua empresa obtém valor dos modelos Anthropic e OpenAI em parte porque ambas as empresas subsidiam os usuários para atrair clientes. Ele disse que as assinaturas mensais oferecem tokens com um grande desconto agora – mas isso provavelmente não durará para sempre.
“Portanto, para nós fará muito mais sentido começar a avaliar os modelos chineses e os modelos de código aberto”, disse ele.
Ara Kharazian é economista-chefe da Ramp, empresa que ajuda empresas a rastrear, controlar e automatizar despesas. Tem insights sobre os gastos com IA, e Kharazian disse acreditar que as empresas americanas continuarão a se adaptar – em outras palavras, poderiam manter os preços sob controle ou introduzir modelos de código aberto de alta qualidade em um esforço para superar a concorrência dos rivais chineses.
“A ascensão destes modelos chineses é indicativa do facto de que as empresas querem algo que não está actualmente a ser oferecido pelas empresas modelo americanas”, disse ele. “A única razão pela qual estou pessimista em relação aos modelos chineses é porque presumo que as empresas modelo americanas responderão de forma competitiva.”
Gordner, do Comment.io, tem menos certeza. Ele acha que as grandes empresas americanas de IA podem ter que começar a cobrar mais para a IA à medida que aumenta a pressão para demonstrar rentabilidade, possivelmente à medida que se aproximam do IPO. Tanto a Anthropic quanto a OpenAI entraram com documentos confidenciais junto ao governo dos EUA para dar início a possíveis IPOs.
“Em algum momento”, disse Gordner, “a música vai parar”.
A Anthropic é uma apoiadora financeira da NPR.
