지난 10월 31일 제2회 청소년 AI윤리 ON 캠프가 진행됐다.

AI에게 잘못된 정보를 담은 질문을 하면 어떤 답변이 돌아올까? 같은 질문을 해도 AI마다 다른 답변이 나올까? 청소년들이 직접 생성형 AI를 활용하며 기술의 가능성과 한계를 살펴보고, 안전하고 책임 있게 사용하는 방법을 배우는 시간을 가졌다.

SK텔레콤은 지난 10월 31일 서울 서초구 대한건축사협회에서 ‘제2회 청소년 AI윤리 ON 캠프’를 공동주관했다. 한국지능정보사회진흥원(NIA), NC문화재단, 교보교육재단 등이 함께한 이번 행사에는 전국 중학생 60여 명이 참가했다. 생성형 AI 활용부터 AI윤리 교육, 콘텐츠 제작과 발표까지 다양한 활동이 진행된 현장을 살펴봤다.

지난해에 이어 열린 청소년 AI윤리 캠프… 올해는 무엇이 달라졌나

‘청소년 AI윤리 ON 캠프’는 청소년들이 AI 기술을 이해하고, 올바른 활용 방법과 윤리적 판단 능력을 기를 수 있도록 마련된 체험형 교육 프로그램이다.

지난해 진행된 청소년 AI 윤리 ON 캠프 모습.

지난해 11월 세종대학교에서 열린 SKT 참여 캠프에는 중학생 78명이 참가했다. 당시 학생들은 AI·디지털윤리 교육과 토론, SKT의 AI 서비스 에이닷 활용 실습, AI윤리 카드뉴스 제작 및 발표 등 다양한 프로그램을 경험했다.

올해는 생성형 AI에 더해 피지컬 AI 강의를 편성하는 등 교육 범위를 넓혔다. SKT는 생성형 AI 강의와 에이닷 실습을, NC문화재단은 AI윤리 교육을, 교보교육재단은 콘텐츠 제작 프로그램을 담당했다. 기술에 대한 이해부터 윤리적 판단, 결과물 제작과 발표까지 연결해 학생들이 배운 내용을 직접 활용할 수 있도록 구성했다.

질문 하나에 달라지는 AI의 답변… 에이닷으로 배우는 생성형 AI 활용법

올해 행사에는 전국의 청소년 60여 명이 참여했다.

참가 학생들은 이번 캠프가 진행되는 과정에 따라 스탬프를 모을 수 있다.

첫 번째 프로그램으로 AI윤리와 관련된 빙고 게임을 하며 아이스브레이킹을 하는 모습.

참가 학생들은 빙고 게임을 하며 첫 만남의 서먹함을 풀고 있다.

올해 행사는 AI윤리 빙고를 활용한 아이스브레이킹으로 시작됐다. 학생들은 AI 활용 경험과 관련된 질문으로 구성된 빙고 활동을 통해 처음 만난 친구들과 이야기를 나누며 친밀감을 쌓았다.

SKT 에이닷사업개발팀 조욱래 팀장의 강의 모습.

강의에서 실제 영상과 구별하기 어려운 AI 제작 영상 사례가 소개되고 있다.

조욱래 팀장은 학생들에게 다양한 AI 에이전트들의 특징과 강점들을 설명했다.

에이닷을 활용한 검색 실습 시간에 학생들이 에이닷을 사용하고 있다.

이어 SKT 에이닷사업개발팀 조욱래 팀장이 ‘이거 진짜야, 가짜야?’를 주제로 강의와 실습을 진행했다. 조 팀장은 AI로 제작된 가짜 영상과 음성을 활용한 보이스피싱, AI 챗봇에 대한 과도한 의존 등 일상에서 마주할 수 있는 위험을 소개했다. 또한 이에 대응하기 위한 SKT의 ‘에이닷 전화 안심케어’를 소개하며 통화 전·중·후 단계별 보호 기능과 AI 기술을 안전하게 활용하는 방법을 설명했다.

생성형 AI를 효과적으로 활용하는 방법도 다뤘다. 조 팀장은 에이닷 검색을 비롯한 다양한 AI 서비스의 특징을 소개하고, 목적에 따라 적절한 도구를 선택하는 방법을 설명했다. AI가 제공하는 정보를 무조건 신뢰하기보다 스스로 검증하고 판단하는 과정의 중요성도 강조했다.

이어진 에이닷 검색 실습에서는 학생들이 다양한 프롬프트를 입력하며 질문 방식에 따른 답변의 차이를 확인했다. 포괄적인 질문과 구체적인 질문을 비교하고, ‘세종대왕이 스마트폰으로 한글을 만들었다’는 잘못된 전제를 담은 질문에 AI가 어떻게 반응하는지 살펴봤다. 보이스피싱 의심 문자를 분석하는 활동도 진행하며 AI의 판단을 직접 검토하는 방법을 익혔다.

학생들은 같은 질문에도 서로 다른 답변이 나올 수 있다는 점과 질문을 구체적으로 작성할수록 답변의 내용이 달라지는 점을 흥미롭게 받아들였다. 또한 AI를 안전하게 활용하기 위해 개인정보를 보호하고, 답변의 사실관계를 확인하는 습관이 필요하다는 점을 인상 깊은 내용으로 꼽았다.

■ 미니 인터뷰 | SK텔레콤 에이닷사업개발팀 조욱래 팀장

Q. 이번 생성형 AI 강의에서 학생들에게 가장 강조하고 싶었던 내용은 무엇인가요?
생성형 AI를 어떻게 활용해야 더 좋은 결과를 얻을 수 있는지, 또 어떤 방식으로 사용하는 것이 적절한지 알려주고자 했습니다. 특히 AI를 활용할 때는 저작권을 고려하고, 다른 사람에게 피해를 주거나 AI를 지나치게 신뢰해 발생할 수 있는 문제에 대해서도 생각해 봐야 합니다. AI를 올바른 방법으로 활용하면서 원하는 성과를 얻는 것이 중요하다고 생각합니다.

 

Q. 이번 캠프를 통해 학생들이 AI를 대하는 태도가 어떻게 달라지길 바라시나요?
AI라고 해서 무작정 거부감을 갖거나, 반대로 AI를 지나치게 신뢰하고 의존하지 않았으면 좋겠습니다. 스스로 생각하고 판단하는 힘을 기르면서 AI와 함께 성장할 수 있는 계기가 되길 바랍니다.

피지컬 AI부터 윤리 토론까지… 책임 있는 AI 활용법을 고민하다

과학 커뮤니케이터 ‘엑소쌤’이 피지컬 AI 강의를 진행하고 있다.

AI환각(할루시네이션) 문제의 정답을 맞추는 참가 학생들의 모습.

오후에는 과학 커뮤니케이터 ‘엑소쌤(이선호)’의 피지컬 AI 강의가 진행됐다. 학생들은 현실 세계에서 활용되는 AI 기술과 관련 사례를 살펴보며 AI의 원리와 발전 가능성에 대해 알아봤다. AI가 데이터를 학습하고 결과를 만들어내는 과정에 대한 설명과 함께, 다양한 경험과 지식이 새로운 발견으로 이어질 수 있다는 이야기도 접했다.

이어 NC문화재단이 퀴즈쇼 형식의 AI윤리 교육을 진행했다. 학생들은 조별로 정답을 함께 고민하며 AI 환각(할루시네이션) 등 기술 활용 과정에서 발생할 수 있는 문제를 살펴봤다. AI가 제공하는 정보를 올바르게 판단하고 책임 있게 활용하는 방법에 대해 생각해 보는 시간이었다.

학생들이 AI윤리와 관련된 주제의 콘텐츠 제작을 하고 있다.

각 조에는 대학생 서포터들이 참여하며 학생들의 콘텐츠 제작을 도왔다.

제작한 콘텐츠를 조별 발표 중인 학생들의 모습.

발표 모습을 촬영 중인 참가 학생 학부모들의 모습.

이후 교보교육재단이 진행한 조별 콘텐츠 제작 프로그램에서는 10개 조의 학생들이 AI윤리와 관련된 주제를 선정하고 친구들과 의견을 나누며 콘텐츠를 제작했다. 각 조에는 대학생 서포터들이 참여해 활동을 도왔다. 학생들은 개인정보 보호, AI 활용에 따른 책임 등 일상에서 접할 수 있는 윤리적 문제를 각자의 시각에서 살펴보고, 이를 다른 친구들에게 전달할 수 있는 형태로 정리했다.

완성한 결과물은 조별 발표를 통해 공유했다. 학생들은 자신들이 선택한 주제와 전달하고 싶은 메시지를 소개하고, 다른 조의 발표를 통해 AI 기술을 바라보는 다양한 관점을 접했다. AI 기술의 편리함뿐 아니라 이를 활용하는 사람의 판단과 책임이 중요하다는 점을 함께 고민하는 시간이었다.

■ 미니 인터뷰 | 대신중학교 1학년 이도윤 학생

Q. 친구들과 만든 콘텐츠는 어떤 주제인가요? 그 주제를 선택한 이유도 궁금합니다.
‘게임회사가 유저들에게 개인정보를 제공받고 아이템을 제공하는 것은 공정한가’에 대한 고민을 카드뉴스로 만들었습니다. 게임을 하다 보면 개인정보를 입력하라고 할 때가 있잖아요. 그걸 아무 생각 없이 넘겨줬다가 사생활 침해를 당할 수도 있다는 내용이에요. 저처럼 게임 좋아하는 친구들한테 개인정보가 얼마나 중요한지 꼭 알려주고 싶어서 이 주제로 정했어요.

 

Q. 콘텐츠를 만들면서 친구들과 가장 많이 고민한 부분은 무엇인가요?
카드뉴스에서 ‘개인정보 보호가 왜 중요한지’를 친구들 눈높이에 맞게 쉬운 표현으로 전달하는 부분을 제일 많이 고민했어요. 그냥 “개인정보 지켜라”라고 말하는 것보다 실제 어떤 문제가 발생할 수 있는지 보여주는 게 훨씬 이해하기 쉽거든요. 그래서 이해하기 쉬운 만화 형식을 사용했어요.

 

Q. 오늘 활동 후 AI를 바라보는 생각이 달라진 부분이 있나요?
AI가 알려준 답을 그냥 100% 믿기보다는, 제가 한 번 더 따져보고 판단해야겠다는 생각이 확실해졌어요. AI가 아무리 편해도 결국 그걸 어떻게 쓰고 조절할지 결정하는 건 사람의 몫이라는 걸 깨달았거든요.

■ 미니 인터뷰 | 동도중학교 3학년 남경연 학생

Q. 생성형 AI 수업에서는 어떤 활동을 했으며, 가장 인상 깊었던 점은 무엇이었나요?
AI에게 다양한 프롬프트를 입력하고, 포괄적인 질문과 구체적인 질문을 했을 때 답변이 어떻게 달라지는지 비교해 봤어요. 특히 ‘세종대왕이 스마트폰으로 한글을 만든 사실에 대해 알려줘’라는 잘못된 정보를 담은 질문을 입력했을 때가 기억에 남아요. 어떤 답변은 비유적인 의미로 해석하려고 했고, 어떤 답변은 사실이 아니라고 지적했어요. 같은 질문을 입력해도 친구들마다 전혀 다른 답변이 나오는 점이 신기했어요.

 

Q. AI를 안전하게 사용하기 위해 어떤 점을 주의해야 한다고 배웠나요?
이름이나 주소, 연락처 등 민감한 개인정보를 입력하지 않고, AI의 답변이 맞는지 비판적으로 확인하는 습관이 필요하다는 점을 배웠어요. 이전에는 개인정보 보호가 중요하다는 사실만 알고 있었는데, 이번 수업을 통해 구체적으로 무엇을 주의해야 하는지 알게 됐어요. AI가 잘못된 정보를 제공하더라도 이를 활용한 결과에 대한 책임은 사용자에게 있다는 이야기도 기억에 남아요.

 

Q. AI윤리 토론에서 가장 기억에 남았던 주제는 무엇이었나요?
AI를 활용한 작품을 대회에 출품할 때 AI 사용 사실을 밝혀야 하는지를 두고 친구들과 토론했어요. 저는 AI가 작품의 완성도와 수상 결과에 영향을 줄 수 있기 때문에 밝혀야 한다고 생각했어요. 반면 대회 규정에 관련 내용이 없다면 참가자의 자유라는 의견도 있었어요. 서로 다른 생각을 들으면서 AI 기술이 발전할수록 윤리적인 문제도 함께 고민해야 한다는 점을 느꼈어요.

이번 캠프는 청소년들이 AI 기술을 직접 체험하고, 친구들과 협력해 자신의 생각을 표현하며 책임 있는 활용 방법을 고민하는 자리였다. 특히 AI가 만든 정보를 어디까지 믿어야 하는지, AI를 활용한 결과물에 어떤 책임을 져야 하는지 등 명확한 정답이 없는 문제에 대해서도 다양한 의견을 나눴다.

생성형 AI를 직접 사용하고 그 과정에서 발생할 수 있는 문제를 고민한 학생들의 경험은 앞으로 AI를 더욱 현명하게 활용하는 밑거름이 될 것이다. AI 기술에 대한 이해와 스스로 판단하는 힘을 함께 키워가는 청소년들이 만들어 갈 미래가 기대된다.