교육윤리 레포트 - 학생들이 ChatGPT와 같은 AI 도구를 활용하는 교육환경에서 나타날 수 있는 윤리적·교육적

I. 서론

수업이 끝난 뒤 과제 안내문을 읽다가 문장이 잘 이해되지 않아 AI 챗봇에 질문을 넣은 적이 있다. 설명은 빠르고 친절했지만, 이어서 보고서 문단까지 만들어 달라는 버튼을 누르려다 손이 멈췄다. 어디까지가 도움이고 어디서부터 내 과제를 대신하는 일인지 경계가 생각보다 흐렸다. 검색엔진도 자료를 찾아주고 맞춤법 검사기도 문장을 고쳐 주는데, 생성형 AI만 특별히 금지해야 하는 이유가 무엇인지도 바로 답하기 어려웠다. 반대로 AI가 만든 답을 거의 그대로 제출한 학생과 직접 자료를 읽고 쓴 학생에게 같은 점수를 주는 장면도 공정하다고 보기 힘들다. 교육환경에서 AI가 던지는 문제는 기계를 쓸지 말지의 선택보다 학습의 주체, 평가의 기준, 개인정보 보호, 편향된 정보의 책임을 어떻게 다시 정할지에 있다. 나는 전면 금지보다 사용 범위를 분명히 하고, 학생이 어떤 판단을 했는지 확인할 수 있는 수업 설계가 필요하다고 본다.

II. 본론

1) 과제의 주인이 흐려지는 순간과 평가의 문제

생성형 AI는 질문을 넣으면 자연스러운 문장을 바로 만들어 준다. 학생 입장에서는 모르는 개념을 쉬운 말로 설명받고, 글의 구조를 점검하고, 외국어 문장을 다듬는 데 큰 도움을 받을 수 있다. 문제는 결과물이 너무 매끄러워 사용자가 실제로 이해했는지 확인하기 어렵다는 데 있다. 수업에서 보고서를 내는 이유가 완성된 문서 한 장을 얻기 위해서라면 AI 사용은 큰 문제가 아닐 수 있다. 그러나 자료를 읽고 근거를 고르고, 서로 충돌하는 설명을 비교하고, 문장을 고치는 과정 자체가 학습이라면 AI가 그 과정을 대신할 때 과제의 교육 목적이 약해진다.

평가의 공정성도 흔들린다. 같은 과제에서 어떤 학생은 AI로 초안을 만들고 어떤 학생은 처음부터 끝까지 직접 쓰면 투입한 시간과 사고 과정이 크게 다르다. 교수자가 최종 문장만 보고 평가하면 누가 어느 정도의 도움을 받았는지 알기 어렵다. AI 탐지 프로그램으로 해결하자는 생각도 조심해야 한다. 사람이 쓴 글을 AI가 쓴 것으로 잘못 판정하거나 반대의 오류가 생길 수 있기 때문이다. 의심스러운 문체를 잡는 기술에 평가를 맡기면 학생은 내용보다 탐지기를 피하는 방법을 고민하게 된다. 교육윤리의 기준이 부정행위를 정확히 잡는 데만 쏠리면 수업이 감시 경쟁으로 바뀔 위험이 있다.

저작과 책임의 문제도 생긴다. AI가 만든 문장은 여러 자료를 학습한 통계적 패턴에서 생성되지만 사용자는 어떤 문장이 어떤 자료의 영향을 받았는지 알기 어렵다. 그 문장을 보고서에 넣으면 사실 오류나 출처 누락의 책임은 결국 제출한 학생에게 돌아온다. AI가 그럴듯한 논문 제목이나 존재하지 않는 통계를 만들어 내는 현상도 알려져 있다. 내가 과제 자료를 찾을 때 AI가 제시한 논문 제목을 검색했는데 실제로는 찾을 수 없었던 경험이 있었다. 그 뒤로 AI의 답은 출발점으로는 쓸 수 있어도 근거 자체로 쓰면 안 된다는 생각이 강해졌다. 말투가 확신에 차 있다는 이유로 사실까지 맞는 것은 아니다.