A maioria dos executivos imagina os custos da IA como GPUs e racks de aceleradores, mas esquece de mencionar os custos de armazenamento de dados.

Como a inferência cresce, o rastro de dados também aumenta

A inferência, o processo contínuo de modelos respondendo prompts, é diferente da fase de treinamento. Enquanto a inferência não tem fim, cada solicitação de inferência deixa algo para trás.

No caso de vídeos gerados por IA, um clipe de 8 segundos pode deixar mais de 500MB de dados no backend, incluindo logs, contexto cacheado, renderizações imediatas, cópias de segurança e registros de segurança. Isso representa um aumento de 130 vezes em comparação com o arquivo de saída visto pelo usuário.

Segundo projeções da McKinsey, a demanda por inferência de IA deve crescer a uma taxa anual composta de 35% até 2030, superando a taxa de crescimento de 22% para a fase de treinamento. Isso significa que a demanda por armazenamento de dados centrado em centros de dados será significativa.

Uma pesquisa recente da IDC, patrocinada pela Western Digital, mostrou que 95% dos entrevistados relataram um aumento na quantidade de dados devido à IA gerativa nos últimos 12 meses, com cerca de 61% relatando crescimento de 25% ou mais.