신호 국경 간 AI 추론을 위한 요청 단위 탄소 회계 프레임워크

요약

이 논문은 AI 추론이 프롬프트와 생성 토큰이 국경을 넘어 원격 데이터센터를 오가는 특성 때문에 지역 평균값으로는 서빙 하드웨어·전력·네트워크 전달의 차이를 반영할 수 없다는 문제를 다룬다. 저자들은 서비스·서빙 사이트·경로·지역 비교 기준·불확도·데이터 출처를 공통 경계로 연계하는 요청 단위 탄소 회계 프레임워크 GPCA를 제시하며, 이는 서빙·경로 탄소를 추정하고 이용 가능한 문서화 수준에 따라 보고 수준을 선택한다. 공개 데이터 기반 구현은 데이터센터 인스턴스, 가속기, 모델 계열, 전력 믹스, 경로, 클라우드 지역 탄소집약도를 포괄한다. 6개 회계 기준선과 4개 에너지 예측 기준선과 비교한 결과 GPCA는 정렬된 가속기-에너지 경계에서 EcoLogits 대비 중간값 절대백분율오차를 56.3%, 중간값 절대오차를 15.5% 줄였고, 결정론적 정합성 테스트에서는 규칙 과대추정이 전혀 없었다. 구매자 사례 분석에서 청정전력 CN-West 시나리오는 요청당 0.0148 gCO2e로 현지 서비스(요청당 0.1220 gCO2e)보다 88% 낮게 나타났다.