Wie Read AI die Softwareemissionen um bis zu 40 % reduzierte

Angelehnt an den Veröffentlichungsplan des Weißen Hauses für KI-Aktivitäten sind wir bei Read AI bestrebt, unsere vier Klimaprinzipien weiter zu verfolgen, um Effizienz zu priorisieren und die Kohlenstoffemissionen auf unserer Roadmap zu reduzieren. Wir sind ermutigt, dass unser Fortschritt bemerkenswert war und dass mit der Skalierung unserer Plattform auch unser Einfluss wachsen kann.

Unser Plan und Ansatz ist relativ unkompliziert und einfach zu befolgen: Wir treffen datenbasierte Entscheidungen, priorisieren absichtliche Effizienz und proaktive Innovation und befähigen unsere Kunden, damit wir als Beispiel vorangehen und weiterhin so nachhaltig wie möglich arbeiten können.

Letzte Woche haben wir unsere Ergebnisse auf der Klimawoche im pazifischen Nordwesten präsentiert und Anleitungen zur Berechnung und Messung von Emissionen für Softwareunternehmen jeder Größe gegeben. Um unsere Prinzipien zu veranschaulichen, haben wir unsere jüngsten Meilensteine überprüft, die den Einfluss zeigen, den wir in kurzer Zeit erreicht haben, und hoffentlich als zukünftige Inspiration für interne Teams und das Publikum dienen. Wir sind der Meinung, dass es jetzt in unserer Verantwortung liegt, effizient und effektiv unsere Emissionen zu senken, wenn wir KI für die Massen freischalten.
‍

Zuerst die Messung priorisieren

Ende 2024 hat unsere Migration zu AWS-Graviton-basierten Instanzen geholfen, unseren Durchsatz und unsere Leistung zu verbessern und unsere Kosten um etwa 20 % zu senken. Wir haben die Herausforderung angenommen, die Änderung der Kohlenstoffemissionen für diese Migration zu quantifizieren, und festgestellt, dass bestehende Industriestandard-Tools zur Messung von Kohlenstoffemissionen aus Software und Hardware das Problem lösen konnten.

Für uns war die Antwort die Software Carbon Intensity Specification (SCI) der Green Software Foundation. Wir verwenden die SCI, um die Werte unserer vorherigen Instanzen zu messen und sie mit unseren neuen Graviton-Instanzen zu vergleichen. Die SCI berücksichtigt den gesamten Energieverbrauch der Software, die Kohlenstoffintensität der verbrauchten Energie und den eingebetteten Kohlenstoff der Hardware, auf der sie läuft, um eine Emissionsrate für Software zu berechnen.
‍

Berechnungsprobleme überwinden

Einige der für diese Berechnung erforderlichen Daten sind nicht leicht zugänglich oder öffentlich geteilt (z. B. CPU-Leistung von Graviton-Prozessoren, Lebensdauer eines Servers in einer Public Cloud), daher mussten wir einen Teil der Zahlen schätzen. Da wir Instanzen vergleichen, können wir uns darauf konzentrieren, präzise zu sein, was bedeutet, dass berechnete Werte im Verhältnis zueinander genau sind, anstatt auf absolute Genauigkeit zu achten, was bedeutet, dass berechnete Werte relativ zu den tatsächlichen Werten genau sind. Dies ermöglicht es uns, Teile der SCI-Gleichung, wie die Energieintensität, als Konstanten zu behandeln, da wir sie in derselben Public-Cloud-Region bereitstellen.

In unseren Berechnungen mussten wir nur zwei Variablen schätzen: die CPU-Leistung des Graviton-Prozessors und die Lebenszyklusanalyse (eingebetteter Kohlenstoff) der Graviton-Instanz. Durch Benchmarking von Drittanbietern konnten wir die CPU-Leistung von Graviton auf 33 % niedriger im Vergleich zu unseren vorherigen Instanztypen schätzen. Für die Daten der Lebenszyklusanalyse schätzten wir Graviton als annähernd gleichwertig mit anderen ARM-basierten Prozessoren innerhalb derselben Compute-Gruppe ein und mittelten diese eingebetteten Koeffizienten aus dem Cloud Carbon Footprint-Repository.

Unsere ersten Ziele erreichen

Am Ende berechneten wir eine Reduktion der Kohlenstoffemissionen um 20 % durch den Wechsel unserer Compute-optimierten Instanztypen zu Graviton-basierten Instanzen. Seit diese Fallstudie ursprünglich veröffentlicht wurde, haben wir ähnliche Kosten- und Leistungsverbesserungen für unsere speicheroptimierten Instanztypen erkannt und begonnen, diese auf Graviton umzustellen. Etwa 60 % unserer gesamten Workloads laufen auf Compute-optimierten Instanzen, aber etwa 10 % unserer gesamten Workloads laufen auf speicheroptimierten Instanztypen. Mit den gleichen Schritten wie oben verglichen wir die Emissionen unserer bestehenden speicheroptimierten Instanzen mit den neuen speicheroptimierten Graviton-Instanzen und berechneten eine Reduktion der Kohlenstoffemissionen um 40 %.
‍

Streben nach weiteren Effizienzsteigerungen

Das Messen unseres Energieverbrauchs und unserer Kohlenstoffemissionen erfüllt unser erstes Klimaprinzip, aber das ist erst der Anfang. Unser zweites Klimaprinzip besteht darin, unsere Software und Hardware für Energieeffizienz zu optimieren und Kohlenstoffemissionen zu minimieren. Um dies zu erreichen, haben wir drei Schwerpunkte:

• Weniger Hardware verwenden: Beispiele hierfür sind die Erhöhung der Nutzung unserer Hardware, das Abschalten ungenutzter Hardware, das Anpassen unserer Instanzen an die richtige Größe und das Speichern und Behalten von weniger Daten.
• Weniger Energie verwenden: Beispiele hierfür sind die Verwendung von Maschinen mit geringerer Energie wie Graviton, die Steigerung der Leistung und die Erhöhung der Effizienz unserer Software.
• Energie intelligenter nutzen: Beispiele hierfür sind weniger intensive Arbeiten, wenn das Energienetz stark belastet ist, und mehr, wenn es umweltfreundlicher ist. Dies wird auch als kohlenstoffbewusstes System bezeichnet. Drittanbieter wie WattTime.org und Electricity Maps können Live- und prognostizierte Energiedaten zur Unterstützung dieses Systemtyps bereitstellen.
  ‍

Abschließend

Read AI ist überzeugt, dass es unsere Verantwortung ist, nachhaltig zu arbeiten und zum globalen Bemühen gegen den Klimawandel beizutragen. KI ist eine der energieintensivsten Technologien der Welt, und wir sind bestrebt, die Umweltbilanz unserer Organisation wann immer möglich zu messen und zu begrenzen.

Wir werden diese Prinzipien weiterhin in unsere Arbeit einfließen lassen und unsere Erfolge (und Misserfolge!) auf dem Weg teilen, und wir fordern andere Unternehmen, insbesondere diejenigen, die KI nutzen, auf, ihre eigenen Klimaprinzipien zu etablieren und zu teilen sowie die Arbeit, die sie leisten, um ihren Energieverbrauch und ihre Kohlenstoffemissionen zu reduzieren. Gemeinsam können wir die gesamte Energieanforderung für KI und die von ihr verursachten Kohlenstoffemissionen reduzieren.

Geschrieben von: Bill Johnson, Director of Engineering, Read AI