[성명] 국회는 위헌적인 AI 디지털 교과서 도입을 조속히 저지해야 한다.
[성명]
국회는 위헌적인 AI 디지털 교과서 도입을
조속히 저지해야 한다.
- 교육부장관은 2024. 11. 29. ‘AI 디지털 교과서 검정심사 결과 및 도입 로드맵 조정안’을 발표하며 AI 디지털 교과서 도입을 유예한다고 발표했다. 교육부장관이 발표한 유예는 일부과목에 대한 것으로, AI 디지털 교과서가 내년 3월부터 학교현장에 교과서로서 도입되는 것은 변함없다. 일부과목이라도 도입이되면, AI 디지털교과서의 도입은 확정되는 것과 다름없는 것이다.
- AI 디지털 교과서는 맞춤형 교육이라는 명분을 내세우고 있지만, 실상 다양한 문제점을 내포하고 있다. 첫째, 방대한 양의 개인정보와 학습데이터를 수집하는 문제이다. AI 디지털 교과서는 방대한 양의 학생 학습데이터와 민감한 개인정보를 시스템을 제공 및 관리하는 민간 에듀테크 업체와 발행사 등에 제공하도록 설계되었다. 이 경우 학생과 학부모 및 교사들의 개인정보가 민간 업체에게 집적되고, 해당 개인정보가 처리되는 과정에서 개인정보 유출 및 오남용의 위험성이 상존하게 된다.
- 둘째, 민간업체가 수집하는 개인정보를 어떻게 보호·관리할지에 대한 계획이 불명확하다. 교육부는 위와 같은 정보 수집에 대한 명확한 정보를 교사·학생·학부모에게 설명하지 않으면서, 그에 걸맞는 계획도 마련하지 않았다. 교육부는 AI 디지털교과서 도입을 졸속으로 추진하면서 정보 수집 및 정보 집적의 위험성에 대한 규범적·제도적 기반을 마련하지 않은 채 오히려 “교육개혁”이라는명분을 내세우며 민간기업의 이해를 대변하고 있다. 셋째, ‘동의’제도를 무력화 시킬 가능성이 존재한다. 교사·학생의 동의를 받아 정보를 수집하는 형식을 취할 수 있으나, AI디지털교과서가 표준 학습도구가 될 경우, 교사와 학생 개인은 현실적으로 AI디지털교과서를 사용하고 싶지 않다거나 개인정보를 제공하지 않겠다는 내용의 선택을 할 수 없다. 즉, 개인정보 수집의 기존 전제조건인 ‘동의’를 얻더라도 실제 ‘동의를 거부할 수 있는 환경’이 보장되지 않으므로 결과적으로 동의가 강제되어 헌법상 개인정보자기결정권을 행사할 수 없는 결론에 이르게 된다.
- 마지막으로 AI를 통한 교육은 학생들에게 기계적이고 편향적인 학습을 강제할 가능성이 충분히 존재하고, AI를 통해 학생에 대한 평가 및 관리할 경우, 광범위한 프라이버시 침해를 야기할 가능성도 점점 높아질 것이다. 결과적으로 AI디지털교과서는 개인정보 수집과 보호의 관점에서 예상되는 위험을 대비하지 못하는 체계이고, ‘동의’제도의 본질을 퇴색시키며 교사와 학생의 프라이버시권 등을 현저히 침해할 수 있다.
- AI디지털교과서는 스웨덴, 미국, 핀란드 등 다양한 국가에서 실험적으로 도입되었지만, 읽기 능력에 부정적인 영향을 미치는 것으로 확인되어 사용을 중단하는 상황이다. 또한, 일부 공개된 AI디지털교과서가 결국 사교육에서 주로 쓰이는 정답과 오답을 체크하는 일차원적 자료에 불과하다는 교사들의 평가도 존재한다. 이처럼 교육 현장에서 AI디지털교과서를 활용하면서 얻을 수 있는 긍정적인 영향이 증명되지 않았고, 효용성도 확인하기 어려운 상황이므로 시민사회단체, 교육단체, 교사, 학부모들의 우려가 크다. 이 과정에서 헌법과 국제인권기준이 기본적 인권으로서 보장하고 있는 ‘교육’의 의미를 확인하기 어렵다. 그럼에도 불구하고 AI디지털교과서를 도입하겠다는 현 교육부장관의 입장에서 학생들을 비롯한 시민들에 대한 존중은 찾아보기 어렵다.
- 교육부는 AI디지털교과서의 도입이 교육격차를 해소할 것이라고 주장한다. 그러나 오히려 AI디지털교과서는 학습 성과와 입시만을 중요시하는 경쟁적 교육을 더욱 심화할 우려가 크다. 또한 AI는 그 자체로 학습된 데이터의 편향성 문제로 인해 여성이나 소수자에 대한 편견과 같은 인간의 의식적, 무의식적 편견이 AI에 쉽게 침투할 수 있다는 문제점을 가지고 있다. 더욱이 2022년 교육과정은 ‘성평등’ 및 ‘성소수자’ 용어를 삭제하고, 특정 이데올로기를 강조하는 등 논란을 빚었다. AI디지털교과서가 이처럼 편향적인 2022년 교육과정 을 토대로 만들어졌다는 점도 중요한 비판지점이다. 정답을 찾는 능력을 최우선적으로 고려하는 정부 주도의 획일적·편향적·차별적·경쟁적 교육시스템을 더욱 심화시킬 우려가 크다.
- 헌법은 제31조 제6항에서 “학교교육 및 평생교육을 포함한 교육제도와 그 운영, 교육재정 및 교원의 지위에 관한 기본적인 사항은 법률로 정한다.”라고 규정하며 교육에 관한 본질적 사항을 법률로서 규정하라는 ‘교육제도 법정주의’를 요청하고 있다. 현재 「초·중등교육법」이 아닌 「교과용도서에 관한 규정」에 근거하여 추진중인 AI디지털교과서는 위 헌법의 요청에 반하는 것이 명백하다. 교육제도 법정주의에 반하는 것을 차치하더라도, AI디지털교과서는 앞서 살펴본 기본권 침해와 다양한 부작용 가능성을 고려했을 때, 그 도입이 헌법과 법률에 부합하다고 보기 어렵다.
- 국회는 더 이상 정부의 위헌적인 AI디지털교과서 추진을 좌시해서는 안 된다. AI디지털교과서를 교과서로서 학교 현장에 도입되는 것은 헌법이 추구하는 교육의 본질을 훼손하는 것뿐만 아니라 학생의 기본권을 침해하는 행위로서 시급히 중단되어야 한다. AI디지털교과서가 교과서가 아님을 확인하는 「초·중등교육법」 개정안이 2024. 12. 17. 국회 법제사법위원회를 통과하여 본회의를 앞두고 있다. 모임은 국회가 본회의에서 위 개정안을 반드시 처리하여 AI디지털교과서의 졸속 도입을 저지할 것을 촉구한다.
2024년 12월 18일
민주사회를 위한 변호사모임
M20241218_[민변 성명] 국회는 위헌적인 AI 디지털 교과서 도입을 조속히 저지해야 한다.