인공지능

인공지능(한문: 人工知能) 또는 AI(영어: artificial intelligence, AI)는 인간의 학습능력, 추론능력, 지각능력을 인공적으로 구현하려는 컴퓨터 과학의 세부분야 중 하나이다. 정보공학 분야에 있어 하나의 인프라 기술이기도 하다. 인간을 포함한 동물이 갖고 있는 지능 즉, natural intelligence와는 다른 개념이다.

지능을 갖고 있는 기능을 갖춘 컴퓨터 시스템이며, 인간의 지능을 기계 등에 인공적으로 시연(구현)한 것이다. 일반적으로 범용 컴퓨터에 적용한다고 가정한다. 이 용어는 또한 그와 같은 지능을 만들 수 있는 방법론이나 실현 가능성 등을 연구하는 과학 기술 분야를 지칭하기도 한다.

AI 산업 내 문제

성차별

연구자 성비

2018년 미국 언론 와이어드와 캐나다의 AI 연수고 엘레멘트 AI가 공동조사한 결과에 따르면 전세계적으로 여성 AI 연구자는 단 12%에 불과하다.

차별 재현 문제

기술개발자와 참여자, 데이터의 편향 등으로 인해 차별이 재현되는 문제가 심각하다.

• 아마존에서 개발한 인공지능 채용 프로그램이 여성이라는 단어를 감점 요소로 분류하여 2018년 10월 폐기되었다.
• 마이크로소프트의 챗봇인 테이는 홀로코스트를 정당화하는 발언을 한 것이 밝혀져 개시 16시간 만에 작동 중단되었다.

데이터 편향성 문제

• 백인 남성 얼굴인식 오류는 0.8%에 불과한 반면, 상대적으로 어두운 피부색의 여성 얼굴인식 오류는 34.7%까지 도달한 인공지능의 사례가 있다.

AI 성착취물 문제

인공지능 기술로 ‘예술 작품’을 만든다는 ㄱ앱을 보면 ‘예술 작품’이라며 게시한 이미지는 전부 특정 신체 부위를 도드라지게 부각한 여성들이다. 여성들은 대체로 속옷이나 비키니, 몸에 달라붙는 원피스 차림이다. 앱 소개 글을 보지 않았더라면 실존 인물의 사진으로 착각할 법하다. 앱 리뷰엔 “눈이 즐겁네요. 좀 더 야한 것도 부탁드려요”, “상반신도 좋지만 전체가 나오는 여러 포즈도 좋을 것 같아요”라는 요구가 잇따랐다. 16살 이상이면 내려받을 수 있는 이 앱은 출시 한달여 만에 구글 플레이스토어 사진 부문 인기 앱·게임 4위에 올랐다. 인공지능이 만들어낸 가상 인물은 실제 사람으로 착각할 정도로 사람과 비슷하다. 이 때문에 전문가들은 여성에 대한 왜곡된 가치관을 심어줄 가능성이 매우 높다고 지적한다. 김신아 한국성폭력상담소 성문화운동팀 활동가는 “남성의 욕망과 시선에 부합하도록 여성의 몸을 이미지화했다는 점에서 문제적”이라며 “수많은 성착취물이나 리얼돌이 여성에 대한 왜곡된 상을 재현하고 있는 것과 같은 해악을 끼칠 수 있다”고 말했다.

초상권 문제

Chat GPT가 문장을 학습한다면, 이미지 생성 인공지능은 이미지를 학습해 가상의 결과물을 생성한다. 문제는, 개발자가 인공지능에 어떤 이미지를 학습시켰는지는 결과물만 보고선 알 수 없다는 점이다. 명주 서울여대 교수(정보보호학과)는 “원하는 결과물이 구체적이라면 연예인 등 특정인의 이미지들을 학습시킬 수도 있다”며 “결과물은 성인의 얼굴을 하고 있더라도 학습 과정에서는 미성년자의 이미지도 포함돼 있을 수 있다”고 지적했다. 하지만 성착취적인 인공지능 이미지로 초상권 등을 침해당한 피해자가 나오더라도 이를 처벌할 법안은 미비하다. 누군가의 얼굴이나 신체 등을 이용해 허위 성착취물을 만들거나 배포하면 처벌하는 ‘딥페이크 처벌법’이 있지만, 인공지능 성착취물은 수많은 인물의 이미지를 학습한 가상의 결과물이기 때문에 책임을 묻기 어려울 수 있다.

저작권 문제

아티스트나 작가, 데이터 원작자의 허락을 받지 않고 얻은 데이터를 무단 사용해 문제가 되고 있다.

함께 보기

• 이루다 챗봇 여성혐오 논란 문서

출처

• “진짜같은 ‘AI 성착취물’ 퍼지는데…“알고리즘 핑계 땐 처벌 한계””. 2023년 3월 21일. 2023년 3월 24일에 확인함.