AI(Artificial Intelligence), 인공지능과 관련된 윤리를 지칭하는 것으로[1] 처음에는 주로 인공지능 시스템의 행동 윤리가 이슈였었으나 AI와 머신러닝이 현실화되면서 인공지능 시스템의 행동 윤리 중 상당한 부분은 이미 인공지능 설계 과정 전반에 의해 영향을 받는다는 주장이 통계로 뒷받침되기 시작하면서 인공지능 설계 과정의 윤리에 대해서도 주목을 받기 시작한다.[주 1]
이 중에서 여성혐오처럼 오랫동안 사회문화의 저변에 깔린 혐오와 편견은 설계 과정에서 거르기도 쉽지 않은데, 이러한 문제점은 이루다(AI 챗봇) 서비스나 아마존(기업)의 AI 채용 시스템에서도 볼 수 있다.[2][3]
부연 설명
- ↑ 인공지능 시스템이 컴퓨터 프로그램이라는 것 때문에 AI가 공정할 수 밖에 없다고 오해하지만, 대다수 AI 시스템이 판단의 기준을 배우는 데이타가 편견으로 가득한 인간의 판단을 기반으로 하기 때문에, 설계에 참여한 사람들보다 공정할 수 없다.