ChatGPT가 처음 등장하였을 당시 교육계의 많은 사람들은 학생들의 비판적 사고를 위한 교육의 핵심인  글쓰기 과제에 오용 할 수 있다는 우려를 심각하게 표명 하였다. 학생들이 에세이 등 글쓰기 과제 작성에 AI에 의존할 경우, 글쓰기와 분석 능력의 계발에 미칠 영향에 대한 우려를 하였다. 이 같은 걱정은 대학교수들 사이에서 널리 퍼졌다. 많은 교수들은 AI 챗봇을 클릭하는 것만으로 아이디어를 응집력 있는 글로 구조화하는 비평적 사유의 근간이 되는 능력 개발을 위한 교육이 빗 나갈 것을 매우 우려하였다.

그러나 카네기멜론대학교의 두 영문학과 교수인 Suguru Ishizaki와 David Kaufer는 다른 접근 방식을 취하였다. 이들은 AI를 학생 교육을 위한 위험 요소로 보는 대신 학생들의 글쓰기를 지원하는 도구 사용의 기회로 생각하는 발상의 전환을 하였다. 이들은 오용 가능성을 인식하면서도 학생들이 글쓰기와 관련된 일반적인 어려움을 극복하기 위하여 AI가 어떻게 도움을 줄 수 있는지에 초점을 맞추었다. 이를 위하여 이들은 ‘제한적 생성 AI’라는 개념의 도구를 개발하였다. 이 접근은 AI를 이용하여 생성한 콘텐츠에 일정한 제한을 두어 설정하여 글쓰기 과정을 대체하는 것이 아니라 보조하는 도구로 만드는 것이다. 이를 위하여  개발된 ‘myScribe’은 카네기 멜론의 10개 강좌에서 시범 운영되고 있다. 이 도구는 학생들이 글쓰기 형식과 문장 구성에 대한 인지적 부담을 줄이면서 더 많은 아이디어를 글로 표현할 수 있도록 도울 수 있도록 만들어졌다.

1. AI 도구와 함께 글쓰기

글쓰기를 배우기 시작한 초보자는 아이디어 생성, 생각 정리, 문법적으로 정확하고 문체에 맞는 문장 작성 등 여러 가지 작업을 동시에 배우고 수행해야 하는 어려움을 겪는다. 이와 같은 요구는 아직 익숙하지 않은 초보자들에게는 매우 부담스러울 수 있다는 것이다. 이들은 글쓰기 학습의 주요 병목 부분이 ‘문장 생성’ 부분으로 파악하였다. 즉, 생각을 일관성 있는 문장으로 변환하는 것은 인지적으로 쉽지 않은 작업이며 종종 글쓰기 과정 전체를 어렵게 할 수 있다는 것이다. 이에 따라 이들은 학생의 거친 생각, 키워드, 또는 단편적인 생각을 완전한 문장이나 단락으로 변환하는 기능을 myScribe에 장착하였다. 학생들은 생각을 정리하고 논리를 구성하는 등 글쓰기의 보다 개념적인 측면에 집중하게 하며, AI는 이러한 아이디어를 문장으로 전환하는 데 도움을 주는 형태로 개발하였다. 

2. 제한적 생성 AI의 사용

‘myScribe’의 핵심은 ‘제한적 생성 AI의 사용’이라는 개념이다. 방대한 데이터 세트에서 학습하여 콘텐츠를 생성하는 접근에서 벗어나, myScribe는 학생의 노트에만 한정되도록 하였다. 이와 같은 방식으로 AI가 생성한 문장과 단락이 학생의 생각과 직접적으로 연결되게 하여, ‘AI 환각’을 최소하 하도록 하고 있다. 이 접근 방식의 주요 장점은 초보 학생들의 인지 부하를 덜게 한다는 것이다. 글쓰기 초보의 경우 글쓰기에서 요구하는 문장 구조와 문법에 대해 걱정을 적게하고, 대신 아이디어를 발전시키고 다듬는 데 집중할 수 있도록 한다. 그들이 보는 글쓰기 초보자는 종종 자신의 주장을 완전히 전개하기 전에 너무 일찍 문장을 다듬는 데 몰두하는 경우가 많다는 견해를 가지고 있다. 이렇게 조기에 문장을 다듬기 시작하면, 생각의 변화에 따른 논리 구조가 뀔 경우, 문장을 다시 쓰거나 버려야 할 수도 있기 때문에 노력 낭비로 이어질 수 있다는 것이다.

   숙련된 작가의 경우, 초기 글쓰기 시간의 대부분을 문장 수준의 세부 사항보다는 전체 텍스트 계획과 구성에 할애 하는 것이 일반적이다. 이와 같은 글쓰기 작업을 수행할 수 있도록 myScribe는 AI가 문장 생성 작업을 처리하게 할 수 있도록 하여, 글쓰기 초보자가 빠르게 글쓰기 구조작성에 집중할 수 있도록 한다. 이 같은 방식은 숙련된 작가는 글쓰기 초기 단계에서 주로 큰 조직 작업에 집중하고 문장 작성은 나중에 맡긴다는 1980년대의 기존 연구에 기초하고 있다.

3. AI 환각 방지

‘myScribe’을 개발함에 있어 가장 중요한 과제는 AI가 학생의 입력 내용을 넘어서는 콘텐츠를 생성하는 것을 방지하는 것이었다. 초기 시험에서 일부 아이디어를 ChatGPT에 입력하면 도구가 때때로 새로운 개념이나 정보를 소개하는 것을 발견하였다. AI가 잘못되거나 관련 없는 콘텐츠를 생성하는 이러한 ‘환각’ 현상의 문제를 완화하기 위해 이들은 AI가 따라야 할 세부적 지침의 프롬프트를 만들었다. 이 프롬프트는 AI가 학생이 제공한 정보를 벗어나지 않도록 설계되었다. AI의 출력물을 학생의 요구사항에만 국한시켜 의도하지 않은 정보가 출력되지 않도록 구성하였다. 이들은 ‘환각 현상’을 완전히 제거하는 것이 불가능할 수도 있으나, 수정 과정에서 학생 스스로 부정확한 부분을 검토하고 수정할 수 있도록 AI를 충분히 제한하는 것이 목표로 개발하였다.

4. 글쓰기 교육에 대한 비전

‘myScribe’ 개발에는 이들 두 사람의 글쓰기 교육에 관한 비전이 반영되어 있다. 이들은 myScribe와 같은 도구의 사용은 글쓰기 과정을 민주화하여 글쓰기 배우기에 어려움을 겪는 학생들이 더 쉽게 학습할 수 있는 기회를 갖게 될 것이라고 믿고 있다. 이들의 궁극적인 목표는 학생들이 문장 구성에 얽매이지 않고 글쓰기의 창의적이고 지적인 측면에 집중할 수 있는 글쓰기 기술을 개발하는 것이다.

   그러나 글쓰기 교육에서 AI를 사용하는 것은 학계에서 여전히 논쟁의 여지가 있는 문제로 남아 있다. 일부 교육자들은 메모를 산문으로 전환하는 과정이 글쓰기의 중요한 부분이며 이를 건너뛰어서는 안 된다고 주장하고 있다. AI가 강력한 도구이기는 하지만 최종 결과물은 작가의 독창적인 아이디어와 의도를 반영할 수 있도록 상당한 노력의 결과물이라는 생각이다. 이와 같은 생각에는 AI의 사용은 ‘1,000명의 인턴’을 사용하는 것과 비유할 수 있으며, 실제로는 압도 될 수 있다는 것이다. 이들은 생각을 글로 옮기는 과정이야 말로 글쓰기의 지적 작업 중 많은 부분이라는 것이다. 이 과정을 자동화 할 경우 학생들이 글쓰기 개발의 필수적인 측면을 놓칠 수 있다는 우려를 하고 있다. 

5. 결론

이 같은 우려에도 불구하고 이 두 교수는 교육에 책임감 있는 AI를 사용하겠다는 비전을 지속적으로 추구하고 있다. 그들은 AI는 앞으로도 계속 사용될 것이며, 글쓰기가 길러주는 창의적이고 비판적인 사고 능력을 훼손하지 않으면서도 글쓰기 과정에 AI를 통합하는 방법을 찾는 것을 핵심 과제로 삼고 있다. 절제된 생성 AI 사용으로, 학생들이 글쓰기 능력을 개발하는 데 도움을 주는 동시에 아이디어에 대한 통제력을 유지하고 AI가 인간의 사고를 대체하는 것이 아니라 도구로서의 역할을 하도록 하는 것을 목표로 하고 있다.