Как Read AI сократило выбросы программного обеспечения до 40%

Вслед за выпуском Белым домом своего плана действий в области ИИ, мы в Read AI продолжаем стремиться к нашим четырём климатическим принципам, которые помогают нам уделять приоритетное внимание эффективности и снижению углеродных выбросов в нашей дорожной карте. Мы рады, что наш прогресс был заметным, и что по мере роста нашей платформы также увеличивается и наше влияние.

Наш план и подход относительно просты и легко усваиваемы: мы принимаем решения, основанные на данных, придаём приоритет целенаправленной эффективности и проактивным инновациям, и даём возможность нашим клиентам следовать нашему примеру и продолжать работу в максимально устойчивом режиме.

На прошлой неделе мы представили наши результаты на Неделе климата северо-запада Тихоокеанского региона, предоставив инструкцию по способам расчёта и измерения выбросов для компаний-разработчиков программного обеспечения любого размера. Чтобы проиллюстрировать наши принципы, мы изучили наши самые последние достижения, которые демонстрируют влияние, которое мы оказали за короткое время, и, надеемся, послужат будущим источником вдохновения для внутренних команд и присутствующих в аудитории. Мы считаем, что теперь коллективная ответственность лежит на всех нас, чтобы эффективно и действенно снизить наши выбросы, раскрывая ИИ для масс.
‍

Важность первоочередного измерения

В конце 2024 года наша миграция на инстансы на базе AWS Graviton помогла улучшить нашу пропускную способность и производительность при сокращении наших затрат примерно на 20%. Мы взяли на себя задачу количественной оценки изменения углеродных выбросов от этой миграции и выяснили, что существующие инструменты индустриального стандарта для измерения углеродных выбросов от программного и аппаратного обеспечения могут решить эту проблему.

Для нас ответом была спецификация Интенсивности Углерода Программного Обеспечения (SCI) фонда «Зелёное программное обеспечение». Мы используем SCI для измерения показателей наших предыдущих инстансов и сравнения их с нашими новыми инстансами Graviton. SCI учитывает общее потребление энергии программного обеспечения, углеродную интенсивность потребляемой энергии и внедрённый углерод аппаратного обеспечения, на котором оно работает, для вычисления уровня выбросов от программного обеспечения.
‍

Преодоление проблем с расчётом

Некоторые данные, необходимые для этого расчёта, не легко доступны или не делятся публично (например, мощность процессоров Graviton, срок службы сервера в публичном облаке), поэтому нам пришлось оценивать часть данных. Поскольку мы сравниваем инстансы, мы можем сосредоточиться на точности, то есть рассчитанные значения точны относительно друг друга, а не точны, когда рассчитанные значения соответствуют фактическим значениям. Это позволяет нам рассматривать части уравнения SCI, такие как энергоинтенсивность, как константы, поскольку мы развертываем их в одном и том же публичном облачном регионе.

В наших расчетах нам пришлось оценить только 2 переменные: мощность ЦП процессора Graviton и анализ жизненного цикла (внедрённый углерод) инстанса Graviton. Благодаря бенчмаркингу сторонних организаций мы смогли оценить мощность процессора Graviton как на 33% меньше по сравнению с нашими предыдущими типами инстансов. Для данных анализа жизненного цикла мы оценили Graviton как примерно эквивалентный другим процессорам на базе ARM в той же вычислительной группе и усреднили те внедренные коэффициенты из репозитория Cloud Carbon Footprint.

Реализуя наши первые цели

В итоге мы рассчитали сокращение углеродных выбросов на 20% при переходе наших типов инстансов, оптимизированных по вычислениям, на инстансы на базе Graviton. С момента первоначальной публикации этого кейса мы выявили схожие возможности снижения затрат и повышения производительности для наших типов инстансов, оптимизированных по памяти, и начали их миграцию на Graviton. Около 60% всех наших рабочих нагрузок выполняются на инстансах, оптимизированных по вычислениям, но около 10% всех наших рабочих нагрузок выполняются на типах инстансов, оптимизированных по памяти. С использованием тех же шагов, что и выше, мы сравнили выбросы наших существующих инстансов, оптимизированных по памяти, с новыми инстансами Graviton, которые также оптимизированы по памяти, и рассчитали снижение уровней углеродных выбросов на 40%.
‍

Достижение дополнительных эффективностей

Измерение нашего энергопотребления и суммарных углеродных выбросов соответствует нашему первому климатическому принципу, но это всего лишь начало. Наш второй климатический принцип заключается в оптимизации наших программного и аппаратного обеспечения для повышения энергетической эффективности и минимизации углеродных выбросов. Для этого мы сосредоточены на трех направлениях:

• Использование меньшего количества оборудования: Примеры включают увеличение использования нашего оборудования, отключение неиспользуемого оборудования, оптимизацию размеров инстансов и хранение и хранение меньшего количества данных.
• Использование меньшего количества энергии: Примеры включают использование машин с меньшим энергопотреблением, таких как Graviton, увеличение производительности и повышение эффективности нашего программного обеспечения.
• Более разумное использование энергии: Примеры включают выполнение менее интенсивной работы, когда энергосеть загрязнена, и выполнение большего объема работы, когда она чище. Это также называется социально-осведомленной системой. Третьи стороны, такие как WattTime.org и Electricity Maps, могут предоставить актуальные и прогнозируемые данные об энергоснабжении для поддержки такого рода системы.
  ‍

В заключение

Read AI считает своей обязанностью работать устойчиво и способствовать глобальным усилиям по борьбе с изменением климата. ИИ является одной из самых энергоемких технологий в мире, и мы стремимся измерять и ограничивать воздействие нашей организации на окружающую среду всякий раз, когда это возможно.

Мы продолжим внедрять эти принципы в нашу работу и делиться нашими успехами (и неудачами!) на пути, и мы побуждаем другие компании, особенно те, которые используют ИИ, разрабатывать и делиться своими собственными климатическими принципами и работой по снижению их энергопотребления и углеродных выбросов. Коллективно мы можем снизить общие требования к энергии для ИИ и углеродные выбросы, которые они производят.

Автор: Билл Джонсон, директор по инженерным технологиям, Read AI