Como a Read AI reduziu as emissões de software em até 40%

Logo após a Casa Branca lançar seu Plano de Ação de IA, nós da Read AI estamos focados em continuar nos apoiando em nosso quatro princípios climáticos que nos ajudam a priorizar a eficiência e reduzir as emissões de carbono em nosso roteiro. Somos encorajados pelo fato de nosso progresso ter sido notável e de que, à medida que nossa plataforma cresce, nossa influência também cresce.

Nosso plano e abordagem são relativamente simples e fáceis de seguir: usamos a tomada de decisões baseada em dados, priorizamos a eficiência intencional e a inovação proativa e capacitamos nossos clientes para que possamos dar o exemplo e continuar operando da forma mais sustentável possível.

Na semana passada, apresentamos nossas descobertas na Semana do Clima do Noroeste do Pacífico, fornecendo instruções sobre as formas de calcular e medir as emissões para empresas de software de qualquer tamanho. Para ajudar a ilustrar nossos princípios, analisamos nossos marcos mais recentes, que mostram o impacto que tivemos em pouco tempo e, esperamos, sirvam como inspiração futura para as equipes internas e para o público. Acreditamos que agora recai diretamente sobre todos nós a responsabilidade de reduzir nossas emissões de forma eficiente e eficaz à medida que liberamos a IA para as massas.

Priorizando a medição primeiro

No final de 2024, nosso migração para instâncias baseadas em AWS Graviton ajudaram a melhorar nossa produtividade e desempenho, ao mesmo tempo em que reduzimos nossos custos em cerca de 20%. Aceitamos o desafio de quantificar a mudança nas emissões de carbono para essa migração e descobrimos que as ferramentas padrão do setor existentes para medir as emissões de carbono de software e hardware poderiam resolver o problema.

Para nós, a resposta foi a da Green Software Foundation Especificação de intensidade de carbono do software (CIÊNCIA). Usamos o SCI para medir as pontuações de nossas instâncias anteriores e compará-las com nossas novas instâncias do Graviton. O SCI contabiliza a energia total consumida pelo software, a intensidade de carbono da energia consumida e o carbono incorporado do hardware em que ele é executado para calcular uma taxa de emissões para o software.

Superando obstáculos de cálculo

Alguns dos dados necessários para esse cálculo não são facilmente acessíveis ou compartilhados publicamente (por exemplo, potência de CPU dos processadores Graviton, vida útil de um servidor em uma nuvem pública), então precisávamos estimar uma parte dos números. Como estamos comparando instâncias, podemos nos concentrar em ser precisos, o que significa que os valores calculados são precisos uns em relação aos outros, em vez de serem precisos, o que significa que os valores calculados são precisos em relação aos valores reais. Isso nos permite tratar partes da equação SCI, como intensidade de energia, como constantes, já que as implantamos na mesma região de nuvem pública.

Em nossos cálculos, as únicas duas variáveis que tivemos que estimar foram a potência da CPU do processador Graviton e a análise do ciclo de vida (carbono incorporado) da instância Graviton. Através Avaliação comparativa de terceiros conseguimos estimar que a potência da CPU do Graviton é 33% menor em comparação com nossos tipos de instância anteriores. Para dados de análise do ciclo de vida, estimamos que o Graviton seja aproximadamente equivalente a outros processadores baseados em ARM dentro do mesmo grupo de computação e calculamos a média desses coeficientes incorporados do Pegada de carbono na nuvem repositório.

Realizando nosso primeiro conjunto de metas No final, calculamos uma redução de 20% nas emissões de carbono ao mudar nossos tipos de instância otimizados para computação para instâncias baseadas em Graviton. Desde que esse estudo de caso foi publicado originalmente, identificamos oportunidades semelhantes de custo e desempenho para nossos tipos de instâncias otimizadas para memória e começamos a migrá-las para o Graviton. Cerca de 60% de nossas cargas de trabalho gerais são feitas em instâncias otimizadas para computação, mas cerca de 10% de nossas cargas de trabalho gerais são feitas em tipos de instâncias com memória otimizada. Usando as mesmas etapas acima, comparamos as emissões em nossas instâncias existentes com otimização de memória com as novas instâncias Graviton com otimização de memória e calculamos uma redução de 40% nas emissões de carbono.

Conduzindo para obter eficiências adicionais Medir nosso consumo de energia e nossas emissões de carbono atende ao nosso primeiro princípio climático, mas isso é apenas o começo. Nosso segundo princípio climático é otimizar nosso software e hardware para eficiência energética e minimizar as emissões de carbono. Para conseguir isso, temos 3 áreas nas quais focar:

• Usando menos hardware: os exemplos incluem aumentar a utilização de nosso hardware, desligar o hardware não utilizado, dimensionar corretamente nossas instâncias e armazenar e reter menos dados.
• Usando menos energia: Os exemplos incluem o uso de máquinas de baixo consumo de energia, como Graviton, aumento do desempenho e aumento da eficiência do nosso software.
• Usando energia de forma mais inteligente: Os exemplos incluem fazer um trabalho menos intenso quando a rede elétrica está suja e fazer mais quando está mais ecológica. Isso também é conhecido como sensível ao carbono sistema. Fornecedores de terceiros, como Watttime.org e Mapas de eletricidade pode fornecer dados de rede de energia ao vivo e previstos para apoiar esse tipo de sistema.

Em conclusão

A Read AI acredita que é nossa responsabilidade operar de forma sustentável e contribuir com o esforço global contra as mudanças climáticas. A IA é uma das tecnologias que mais consomem energia no mundo e estamos comprometidos em medir e limitar o impacto ambiental de nossa organização sempre que possível.

Continuaremos inserindo esses princípios em nosso trabalho e compartilhando nossos sucessos (e fracassos!) ao longo do caminho, desafiamos outras empresas, especialmente aquelas que usam IA, a estabelecer e compartilhar seus próprios princípios climáticos e o trabalho que estão fazendo para reduzir o consumo de energia e as emissões de carbono. Coletivamente, podemos reduzir os requisitos gerais de energia da IA e as emissões de carbono que elas produzem.