이슈 알고리즘 편향·사생활 위험과 AI에 대한 약한 민주적 통제

요약

보고서는 AI 응용에 학습 알고리즘이 점점 더 많이 쓰이며, 이것이 편견을 부추길 수 있다고 본다. 알고리즘 속 편견은 집단 전체에 똑같은 방식으로 작용하고, 과거의 편견을 굳히며, 속을 들여다보기 어렵다는 점에서 더 해롭다. 네덜란드인은 알고리즘에 대체로 긍정적 기대를 품지 않으며, 많은 이가 AI 적용이 차별을 낳을까 걱정한다. AI의 빠른 확산은 각종 사생활 위험을 동반하고, 사람들이 취약한 상황에서도 실험이 많이 이뤄져 데이터 오용과 예기치 않은 사고로 이어질 수 있다. 보고서는 AI 체계를 민주적으로 조정하고 통제하는 절차가 아직 제대로 갖춰지지 않았다고 본다. 얼굴·감정 인식 같은 새 기술은 시민의 사생활에 큰 위험이며 편견과 부당한 대우로 이어질 수 있다.