AI가 물리 법칙을 무시할 때 벌어지는 일과 다층적 안전망의 필요성
나는 얼마 전 자율주행 시스템의 엣지 케이스(Edge Case) 시뮬레이션 데이터를 분석하다가 묘한 위기감을 느꼈다. AI 모델이 확률적으로는 매우 정답에 가까운 예측을 내놓았지만, 실제 물리 세계에서는 절대 일어날 수 없는 궤적을 그리며 가상의 벽을 뚫고 지나가는 현상을 목격했기 때문이다. 데이터상으로는 ‘정확도 99%’라는 숫자가 찍혀 있었지만, 그 1%의 물리적 오류가 실제 도로 위였다면 그것은 단순한 오차가 아니라 … 더 읽기