이슈 시나리오 — 자율 에이전트마다 거래 한도처럼 수치화된 위험 예산을 준다

요약

NTT데이터가 그린 자율의 미래 시나리오 가운데 하나는 사람이 정한 위험 예산 안에서 에이전트가 움직이는 모습이다. 이 시나리오에서 기업은 자율 에이전트마다 얼마만큼의 불확실성 아래에서 행동해도 되는지를 수치로 정해 준다. 보고서는 이 장치를 금융에서 위험 노출을 관리하는 한도에 빗댄다. 대규모 자율을 사람이 정한 범위 안에 묶어두는 그럴듯한 방법으로 제시되는 셈이다. 동시에 규제 당국이 자율성 한도를 의무화할지, 그리고 불확실성을 이런 제도를 돌릴 만큼 정확히 재고 감사할 수 있을지가 주요 불확실성으로 꼽힌다. 따라서 이 시나리오의 실현은 에이전트 기술만큼이나 측정 기법과 규제에 달려 있다.