신호 알고리즘 성별 예측은 부당하지만, 성별 대체추정은 유효한 측정이 될 수 있다

요약

AI 윤리 연구자들은 알고리즘으로 개인의 성별을 예측하는 행위 자체가 부당하다고 비판해 왔다. 반면 다른 연구자들은 이렇게 예측된 성별 라벨을 성별 격차 연구나 알고리즘 공정성 기법 개발에 실제로 활용하고 있다. 이 논문은 이 두 입장의 충돌을 풀기 위해 성별 예측이 잘못될 수 있는 방식을 두 가지로 구분한다. 하나는 개인 단위 개입으로서 부당한 경우이고, 다른 하나는 집단 단위 측정으로서 무효한 경우다. 저자들은 이 구분을 통해 연구자가 개인별 알고리즘 성별 지정을 지지하지 않으면서도, 집단 단위 공정성 분석을 위한 성별 대체추정은 사용할 수 있다고 주장한다. 이는 실제 배포 사례를 분석한 논문이 아니라 방법론과 윤리를 다룬 논문이다.