Cambridge, 어학 교육에서의 윤리적 AI 를 위한 6대 원칙 제시
Cambridge University Press & Assessment 가 영어 교육에서 인공지능의 윤리적 시행을 안내하기 위한 6대 원칙을 수립했습니다. 이 프레임워크는 어학 학습과 시험에서의 AI 역할에 대해 커지는 대중의 우려를 다룹니다.
프레임워크 개발을 이끈 대중의 우려
YouGov 여론조사에 따르면, 영국 응답자의 39% 가 부정행위 위험 증가와 어학 능력 평가의 정확성 저하를 주된 우려로 꼽으며, 영어 능력 시험에서의 AI 에 대한 상당한 불안을 드러냈습니다.
6대 원칙
본 기관은 다음을 강조하는 사람 중심 접근을 제시했습니다:
-
Meeting Human Standards — AI 시스템은 어학 능력을 정확히 평가해야 하며, 경험 많은 사람 채점자가 설정한 성능 기준과 부합해야 하고, 견고한 근거로 뒷받침되어야 합니다.
-
Fairness as Foundation — 시스템은 포용적이고 다양한 데이터셋으로 학습되어야 하며, 편향을 제거하기 위한 지속적 모니터링이 필요합니다.
-
Privacy and Consent — 데이터 수집·저장·사용에 대한 명확한 소통과 함께 강력한 암호화 및 보안 프로토콜이 요구됩니다.
-
Transparency and Explainability — 학습자는 AI 가 자신의 결과에 언제, 어떻게 영향을 미치는지를 이해해야 하며, 평가 프레임워크가 명확히 설명되어야 합니다.
-
Human Involvement — AI 는 사람의 언어 습득 경험을 보완할 뿐 대체할 수 없으며, 사람의 감독은 품질 관리의 필수 요소로 유지되어야 합니다.
-
Sustainability Considerations — AI 개발과 운영에 따른 환경 비용은 상당한 에너지 소요를 고려할 때 윤리적으로 다뤄질 필요가 있습니다.
리더십의 시각
Director of Thought Leadership 인 Dr Nick Saville 는 "윤리적 프레임워크가 없으면, 신뢰성과 사람들의 신뢰를 잃을 위험이 있다" 고 강조했습니다. Global Managing Director for English 인 Francesca Woodward 는 "무결성을 갖춘 혁신을 옹호" 해야 하는 업계의 책임을 강조했습니다.
투명성과 근거 마련 촉구
본 보고서는 시험 제공자들에게 AI 평가의 신뢰성을 입증하는 포괄적인 근거를 수집하고, 시험 절차에서의 AI 역할에 대한 투명성을 강화할 것을 촉구합니다. 또한 AI 개발·운영에 수반되는 상당한 에너지 소비를 인정하며, AI 시스템의 환경 영향도 다룹니다.