본문 음성으로 듣기

중지

멈춤

이어듣기

교사가 인공지능을 활용해 수업을 준비하는 풍경은 이제 낯설지 않습니다. 학생들의 수준에 맞춰 학습자료를 만들고, 시험문제를 출제하며, 학부모에게 보낼 안내문을 작성합니다. 특히 특수교육 현장에서는 학생의 개별적 특성을 반영한 교육계획을 수립하거나 행동중재 방안을 마련하는 데 AI가 유용한 도구로 주목받고 있습니다. 교사들의 업무 부담을 줄이고 교육의 질을 높일 수 있다는 기대도 큽니다.

그런데 여기서 한 가지 질문을 던져볼 필요가 있습니다. 교사가 AI에게 학생에 관한 정보를 입력하는 순간, 그 정보는 어디로 가는 것일까요?

지난 10월 12일 미국의 교육 전문 매체 Faculty Focus에 리처드 비올란티^{Richard J. Violanti} 박사가 기고한 글은 바로 이 문제를 다루고 있습니다. 제목은 「교사 양성 과정에서의 AI: 왜 학생 개인정보 보호가 최우선이어야 하는가」입니다. 그는 미국 대학의 교사 양성 과정에서 생성형 AI 활용 교육이 빠르게 확산하고 있지만, 정작 학생의 개인정보를 보호하는 문제는 충분히 다뤄지지 않고 있다고 지적합니다.

그가 제시한 사례들은 우리 교육현장에서도 얼마든지 일어날 수 있는 일들입니다. 한 예비교사가 글쓰기에 어려움을 겪는 학생의 작문을 챗봇에 입력하고 첨삭 방법을 묻습니다. 다른 교사는 학습장애가 있는 학생의 특성을 설명하면서 적절한 지도 방법을 요청합니다. 또 다른 교사는 학생의 문제행동을 상세히 기록한 뒤 학부모에게 보낼 상담 편지를 작성해 달라고 합니다. 학생들의 평가 결과를 입력하고 수준별 학습집단을 구성해 달라고 요청하는 경우도 있습니다.

이 모든 행동의 출발점은 선의입니다. 교사는 학생을 더 잘 가르치고 싶었을 뿐입니다. 그러나 그 과정에서 학생의 민감한 개인정보가 학교의 관리 범위를 벗어나 외부 AI 시스템으로 전달될 수 있습니다. 이름을 삭제했다고 문제가 해결되는 것도 아닙니다. 학년, 장애 특성, 가정환경, 행동 기록 등을 조합하면 특정 학생을 알아볼 수 있기 때문입니다. 특히 학생 수가 적은 학교나 특수교육 환경에서는 이러한 재식별 위험이 더욱 커집니다.

미국에는 학생의 교육기록을 보호하는 연방법인 FERPA(Family Educational Rights and Privacy Act)가 있습니다. 뉴욕주는 교육법 제2-d조를 통해 학생 개인정보의 보안과 관리에 관한 별도의 규정을 두고 있습니다. 비올란티 박사는 교사가 반드시 법률 전문가가 될 필요는 없지만, 적어도 어떤 정보를 AI에 입력해서는 안 되는지 판단할 능력은 갖춰야 한다고 강조합니다.

문제는 이러한 판단 능력이 AI 활용 능력과 반드시 비례하지 않는다는 사실입니다. 챗봇을 능숙하게 다루고 정교한 프롬프트를 작성할 줄 아는 교사라고 해서 개인정보 보호에도 능숙한 것은 아닙니다. 오히려 AI 활용에 익숙해질수록 민감한 정보를 입력하는 데 따르는 경계심이 무뎌질 수도 있습니다. 대화하듯 질문하고 답변을 받는 인터페이스는 우리가 상대하고 있는 것이 거대한 데이터 처리 시스템이라는 사실을 쉽게 잊게 만듭니다.

한국의 상황도 크게 다르지 않을 것입니다. 교육청과 학교에서는 교사들을 대상으로 다양한 AI 활용 연수를 진행하고 있습니다. 수업지도안 작성, 평가문항 생성, 학생별 맞춤형 학습자료 제작 등이 주요 교육 내용입니다. 그러나 학생의 개인정보를 어떻게 비식별화해야 하는지, 어떤 AI 서비스에 어떤 정보를 입력할 수 있는지, 입력된 정보가 어떻게 저장되고 처리되는지를 충분히 이해시키는 교육이 함께 이루어지고 있는지는 의문입니다.

특히 우려되는 영역은 특수교육입니다. 개별화교육계획(IEP)이나 행동중재계획(BIP)을 작성하려면 학생의 장애 특성, 인지능력, 행동 양상, 건강 상태, 가정환경 등 매우 민감한 정보가 필요합니다. AI는 이러한 정보를 바탕으로 교육적 제안을 만들어낼 수 있지만, 바로 그 유용성 때문에 개인정보 노출의 위험도 커집니다. 교사가 더 정교한 답변을 얻기 위해 학생의 상황을 구체적으로 설명할수록 위험은 증가할 수 있습니다.

물론 이것이 AI 활용을 중단해야 한다는 뜻은 아닙니다. 중요한 것은 AI를 사용하느냐 마느냐가 아니라, 어떤 조건에서 어떤 방식으로 사용하느냐입니다. 학생의 실제 기록 대신 가상의 사례를 사용하거나, 개인을 식별할 수 있는 정보를 제거하고, 교육기관이 승인한 보안 환경에서 필요한 정보만 처리하도록 하는 방법이 있습니다. 다만 단순히 이름을 지우는 것만으로 충분한 익명화가 이루어졌다고 생각해서는 안 됩니다.

비올란티 박사는 교사 양성 과정에서 AI 활용법을 가르치는 방식 자체가 달라져야 한다고 주장합니다. 좋은 프롬프트를 작성하는 기술뿐 아니라, AI에 정보를 입력하기 전에 잠시 멈춰 생각하는 습관을 길러야 한다는 것입니다. 이 자료에 학생을 식별할 수 있는 정보가 포함되어 있는가? 이 AI 서비스는 학교에서 사용하도록 승인받았는가? 학생이나 학부모가 자신의 정보가 이렇게 사용된다는 사실을 알게 된다면 어떻게 생각할 것인가? 이러한 질문들이 AI 활용 교육의 일부가 되어야 합니다.

여기서 우리가 주목해야 할 것은 개인정보 보호를 바라보는 관점입니다. 저자는 이를 단순한 법률 준수나 정보보안의 문제가 아니라 교사와 학생 사이의 신뢰에 관한 문제로 규정합니다. 학생들은 자신의 학습 능력과 어려움, 때로는 누구에게도 드러내고 싶지 않은 개인적 사정을 교사에게 이야기합니다. 학부모 역시 자녀의 민감한 정보를 교사에게 맡깁니다. 그것은 교사가 정보를 효율적으로 처리해 줄 것이라는 기대 때문만은 아닙니다. 그 정보를 신중하게 다루고 아이의 존엄성을 지켜줄 것이라는 믿음 때문입니다.

AI가 아무리 뛰어난 교육적 조언을 제공하더라도 이러한 신뢰를 대신할 수는 없습니다. 교사의 업무를 줄이는 편리함이 학생의 사생활을 침해할 권리까지 부여하는 것은 아닙니다. 교육적 효과가 크다는 이유만으로 모든 기술적 활용이 정당화되는 것도 아닙니다.

나는 이 문제가 앞으로 교사의 전문성을 판단하는 중요한 기준이 될 것이라고 생각합니다. 지금까지 AI 교육은 대체로 얼마나 능숙하게 도구를 활용할 수 있는가에 초점을 맞춰 왔습니다. 그러나 기술이 발전하고 활용 범위가 넓어질수록 더 중요한 능력은 도구의 사용 여부와 한계를 판단하는 능력이 될 것입니다. 무엇을 AI에 맡길 수 있고, 무엇은 교사가 직접 책임져야 하는지 구분하는 능력입니다.

교사에게 필요한 것은 AI를 능숙하게 사용하는 기술적 숙련도만이 아닙니다. 자신의 판단이 학생에게 어떤 영향을 미칠지 숙고하는 직업적 윤리와 책임감입니다. AI 활용 교육이 이러한 문제를 외면한 채 효율성과 생산성만 강조한다면, 우리는 교사들에게 새로운 도구를 가르치는 동시에 오래된 교육적 신뢰를 훼손하는 습관까지 가르치게 될지도 모릅니다.

비올란티 박사는 글의 마지막에서 교사들이 최신 AI 플랫폼의 완벽한 프롬프트 작성법을 잊어버린 뒤에도 반드시 기억해야 할 것이 있다고 강조합니다. 교사가 내리는 모든 기술적 결정은 학생의 신뢰와 존엄성, 그리고 안녕을 보호해야 한다는 원칙입니다.

어쩌면 AI 시대 교사에게 가장 중요한 질문은 ‘AI로 무엇을 할 수 있는가’가 아니라 ‘AI로 무엇을 해서는 안 되는가’일지도 모릅니다.