인공지능개론 레포트 - 인공지능 윤리 문제에 대해 논하시오.

I. 서론

휴대전화 사진 앱이 자동으로 사람 얼굴을 묶어 주는 기능을 처음 썼을 때는 편리함만 느꼈다. 몇 년치 사진을 순식간에 분류해 주니 내가 할 일이 줄었다. 그런데 친구 사진이 엉뚱한 사람 묶음에 들어간 것을 보고 생각이 달라졌다. 여행 사진 분류에서 생긴 오류는 웃고 넘길 수 있지만 같은 종류의 판단이 채용, 대출, 의료, 복지처럼 중요한 자리에서 쓰이면 결과가 무거워진다. 인공지능 윤리는 기계가 착한지 나쁜지를 묻는 문제가 아니다. 사람이 만든 데이터와 목표를 바탕으로 자동화된 판단이 사회에 들어올 때 누구의 권리를 지키고 누가 책임질지를 정하는 문제다.

II. 본론

1) 편리한 추천 뒤에 숨는 가치 판단

인공지능 시스템은 데이터를 바탕으로 규칙과 패턴을 학습한다. 데이터가 현실 사회의 불균형을 담고 있으면 모델도 그 흔적을 배울 수 있다. 과거 채용 데이터에서 특정 집단이 적었다면 그 패턴을 능력의 신호처럼 잘못 받아들일 가능성이 생긴다. 개발자가 차별을 명령하지 않았다고 해서 결과의 공정성이 자동으로 보장되지는 않는다. 편향 문제는 악의 있는 개발자 한 명보다 데이터 선택, 평가 기준, 서비스 목적이 함께 만드는 경우가 많다.

공정성은 모든 사람에게 같은 규칙을 적용하면 끝나는 문제도 아니다. 얼굴 인식 기술이 어떤 집단에서 오류가 더 많이 난다면 동일한 알고리즘을 적용했다는 사실만으로 공정하다고 말하기 어렵다. 인공지능 윤리에서는 결과가 누구에게 더 큰 피해를 주는지 살펴야 한다. 특히 장애인, 고령자, 소수 언어 사용자처럼 데이터가 충분하지 않은 집단은 시스템에서 제대로 대표되지 않을 수 있다. 기술 성능 평균이 높아도 특정 사람에게 위험이 집중되면 윤리 문제가 남는다.

프라이버시도 중심 쟁점이다. AI 성능을 높이려면 많은 데이터가 필요하다는 말이 자주 나오지만 많이 모을 수 있다는 사실이 많이 모아도 된다는 뜻은 아니다. 위치 기록, 얼굴, 음성, 검색 습관은 개인의 생활을 세밀하게 드러낼 수 있다. 목적에 필요한 범위보다 과도하게 수집하거나 본인이 예상하지 못한 용도로 재사용하면 신뢰가 깨진다. 익명화한 데이터도 다른 정보와 결합해 다시 개인을 추정할 가능성을 살펴야 한다.

생성형 AI에서는 허위 정보와 저작권 문제도 커졌다. 모델이 사실과 다른 문장을 그럴듯하게 만들 수 있고, 이용자는 자연스러운 문체 때문에 진위를 바로 알아차리지 못한다. 그림과 음악, 글을 생성할 때 학습 자료의 출처와 창작자의 권리를 어떻게 다룰지도 논쟁이 이어진다. 인공지능이 빠르게 결과를 만든다는 편익만 계산하면 그 결과를 만드는 데 사용된 데이터와 피해 가능성이 화면 밖으로 사라진다.

추천 알고리즘도 윤리 판단과 가까운 사례다. 동영상 플랫폼이 시청 시간을 늘리는 것을 목표로 삼으면 자극적인 콘텐츠를 계속 추천할 가능성이 생긴다. 목표 함수에 무엇을 넣는지가 사람의 행동 환경을 바꾼다. 개발자는 "사용자가 클릭했으니 원하는 것"이라고 말할 수 있지만 반복 노출이 선택 자체에 영향을 줄 수도 있다. AI 윤리는 알고리즘 성능뿐 아니라 어떤 목표를 최적화하는지 묻는다.