우리 때는 모르는 사람이 주는 음식을 함부로 먹지 말라고 배웠습니다. AI 시대에는 AI가 주는 답을 일단 의심하라고 가르쳐야 할까요?

Google 검색에도 AI가 들어오기 시작했습니다.

학생이 질문을 검색하면 여러 웹사이트를 직접 비교하기 전에, AI가 정리한 하나의 답을 먼저 보여줍니다. 문제는 그 답이 자연스럽고 자신 있게 쓰여 있어도 항상 정확한 것은 아니라는 점입니다.

기존 검색에서는 적어도 사용자가 출처를 선택했습니다.

하지만 AI 검색에서는 AI가 여러 정보를 대신 선택하고 요약합니다. 학생은 어떤 정보가 빠졌는지, 잘못 해석됐는지, 믿을 만한 출처에서 나온 것인지 알기 어렵습니다.

그렇다고 학생들에게 AI를 사용하지 말라고만 할 수도 없습니다.

AI는 이미 검색, 과제, 번역, 글쓰기, 코딩 등 일상적인 학습 도구가 되고 있기 때문입니다. 결국 필요한 것은 사용 금지보다 의심하는 방법을 가르치는 것일지도 모릅니다.

예를 들면 이런 습관입니다.

• AI의 첫 답을 정답으로 확정하지 않기

• 중요한 내용은 원문과 다른 출처에서 다시 확인하기

• 답변에 근거와 출처를 요구하기

• 모르는 내용일수록 AI의 자신감과 정확성을 구분하기

• 과제의 완성된 답보다 풀이 과정과 힌트를 요청하기

우리 때의 안전교육이
“모르는 사람이 주는 것을 함부로 먹지 마라”였다면,

AI 시대의 안전교육은
“AI가 주는 답을 확인하지 않고 바로 믿지 마라”가 될 수도 있겠습니다.

다만 모든 AI 답변을 무조건 의심하게 만드는 것도 바람직한 교육일까요?

AI를 경계하도록 가르치는 것과 AI를 제대로 활용하도록 가르치는 것 사이에서, 학교와 개발자는 어떤 기준을 만들어야 할까요?

여러분은 어떻게 생각하시나요?

1. 학생들에게 AI의 답은 일단 의심하라고 가르쳐야 할까요?

2. 학교는 AI 사용을 제한해야 할까요, 검증 방법을 가르쳐야 할까요?

3. AI 검색에는 출처와 불확실성을 지금보다 더 명확하게 표시해야 할까요?

4. 잘못된 답을 믿었을 때의 책임은 사용자, 학교, 개발사 중 누구에게 가장 클까요?

출처: Mashable, “Is Google Search AI Mode Safe for Students?”