4일 서울 중구 그랜드센트럴에서 성평등가족부와 한국청소년정책연구원이 주최한 청소년 디지털안전 포럼에서는 청소년의 소셜네트워크서비스(SNS) 이용과 생성형 인공지능(AI)·챗봇 확산에 따른 위험을 어떻게 다룰지에 대한 논의가 이어졌다. 발표자들은 청소년 보호를 개인과 가정에만 맡길 수 없다고 봤고, SNS 사업자가 중독적 설계와 유해환경에 대한 책임을 져야 한다는 점을 강조했다. 동시에 연령제한과 위험평가, 안전설계, 유해경고 표시 등 여러 수단을 함께 검토해야 한다는 제언도 나왔다. 이날 포럼에서는 해외 규제 사례와 국내 이용 현황, 청소년 AI 이용 실태도 함께 제시됐다.
SNS 비용은 누가 치르나
성욱제 정보통신정책연구원 선임연구위원은 포럼에서 “SNS 이익은 플랫폼이 얻지만, 비용은 사회가 치르고 있다”고 말했다. 그는 청소년이 SNS에 중독되고 유해환경에 노출되면서 발생하는 정신건강 피해 등 위험에 대한 책임을 개인과 가정에만 지울 것이 아니라 사회 전체가 분담해야 한다고 주장했다. 성 선임연구위원은 청소년이 SNS를 이용하며 겪는 문제를 플랫폼 사업자의 안전설계와 연결해 봐야 한다고 했고, 연령제한의 필요성도 함께 언급했다.
그는 또 플랫폼이 청소년에게 미치는 위험을 가장 잘 파악할 수 있는 주체라고 짚으면서, 새로운 기능을 출시할 때마다 청소년에 대한 위험성을 평가하고 유해환경을 개선해야 한다고 말했다. 강박적 이용을 부추기는 설계도 규제 대상이 될 수 있다고 했다. 이날 포럼에서는 멈춤 없는 자동 재생, 무한 스크롤, 연속 접속 보상 등이 언급됐고, 유럽연합(EU)이 이런 기능을 금지하고 있다는 설명도 나왔다. 성 선임연구위원은 플랫폼이 위험을 사전에 평가하고 개선조치를 반복해 가야 한다고 말했다.
| 구분 | 수치 |
|---|---|
| 호주 10~15세 청소년 조사 계정 보유율 | 52.4% |
| 호주 10~15세 청소년 조사 계정 보유율 | 42.1% |
| 호주 연령 제한 대상 플랫폼 이용률 | 85.9% |
| 호주 연령 제한 대상 플랫폼 이용률 | 81.5% |
연령제한, 서두르지 말아야 한다는 주장
성 선임연구위원은 연령제한이 필요하더라도 서둘러서는 안 된다고 밝혔다. 프랑스에서 위험과 대상을 가리지 않은 연령제한을 도입했다가 위헌결정을 받았다는 점을 언급하면서, 제도 설계가 세밀해야 한다고 말했다. 그는 발달단계별로 적절한 설계를 SNS에 반영하도록 요구하는 영국 정보위원회(ICO)의 사례도 소개했다. 연령제한을 넘더라도 위험기능은 제한할 필요가 있다는 취지의 설명도 덧붙였다.
해외 사례로는 지난해 12월 세계 최초로 16세 미만 SNS 이용을 차단한 호주가 제시됐다. 성 선임연구위원은 호주의 경우 가상사설망(VPN) 우회, 연령 추정 오작동, 규제 밖 플랫폼 이동, 프라이버시 논란 등 한계를 알고 있지만 “해보고 고치기 위해 시작한 실험”이라고 설명했다. 참고 기사에 따르면 호주는 세계 최초로 16세 미만 청소년의 SNS 계정 보유를 제한하는 제도를 시행했고, 시행 초기 약 470만개 계정이 비활성화·삭제·제한됐다. 올해 3월까지 약 31만개 계정이 추가로 제한됐다.
성 연구위원이 제시한 호주 10~15세 청소년 803명 대상 조사에서는 계정 보유율이 시행 전 52.4%에서 시행 3개월 후 42.1%로 10.3%포인트 낮아졌고, 연령 제한 대상 플랫폼 이용률은 같은 기간 85.9%에서 81.5%로 4.4%포인트 줄었다. 규제 대상이 아닌 메신저를 매일 이용한다는 응답은 40.5%에서 52.3%로 11.8%포인트 늘었다.
무한 스크롤과 자동재생에 대한 규제 논의
성욱제 연구위원은 SNS의 부작용이 국가와 학교, 가정에서 감당되고 있다고 설명했다. 이용자의 시간과 주의력을 끌어 수익원으로 만드는 구조를 지적하면서, 수익을 내는 사람이 비용을 치러야 하는데 그러지 못하고 있다고 말했다. 그는 플랫폼이 중독을 유발하는 기능을 스스로 점검하고 개선해야 한다고 강조했고, 정부의 감시만으로는 한계가 있다고 봤다. 이용자의 중독을 유발하는 조건과 관련 데이터를 플랫폼이 독점하고 있다는 이유였다.
참고 기사에 따르면 미국에서는 플랫폼의 중독적 설계와 사업자 책임을 규제하는 입법이 추진되고 있다. 뉴욕주의 어린이를 위한 안전법(SAFE For Kids Act)은 내년 1월부터 시행되며, 부모의 동의 없이 18세 미만 이용자에게 중독성 피드를 제공하지 못하게 규정한다. 자정부터 오전 6시까지 SNS 알림을 제한하는 내용도 담겼다. 유럽연합과 영국 역시 플랫폼 사업자가 청소년에게 발생할 수 있는 위험을 사전에 평가하고 이를 줄이기 위한 안전조치를 마련하도록 하는 방향으로 규제를 강화하고 있다.
성 연구위원은 국내에서도 플랫폼 사업자의 위험평가와 개선조치를 제도화해야 한다고 제언했다. 무한 스크롤과 자동재생, 추천 알고리즘 등 청소년의 과도한 이용을 유도할 수 있는 기능을 규제하고, 플랫폼 사업자가 위험을 사전에 평가·관리하도록 하는 방안이 필요하다고 설명했다. 그는 위험평가를 할 때 어떤 위험을 평가해야 하는지 규정하고 수준도 세밀하게 판정해야 하며, 조치 이행 기록과 보고, 검토를 거듭해야 한다고 말했다.
AI 챗봇까지 넓어진 청소년 보호 과제
이날 포럼에서는 청소년 사이에서 늘어나고 있는 생성형 AI와 AI 캐릭터 챗봇 문제도 논의됐다. 김봉섭 한국지능정보사회진흥원 연구위원은 지난해 기준 생성형 AI를 이용하는 10대 비율이 67.6%였다고 밝혔다. 올해 2월 기준 대표적인 캐릭터 기반 AI 서비스인 제타와 크랙의 10대 이하 이용자 비율은 각각 58.3%, 47.9%에 이르렀다고 설명했다. 그는 연령을 확인하는 것만으로는 위험성에 대한 인식이 부족할 수 있다며, 청소년의 안전한 AI 이용을 위해 연령 확인제도와 유해·위험 경고 표시제를 결합할 필요가 있다고 말했다.
김 연구위원은 생성형 AI와 챗봇이 학습과 정보 검색, 상담 등에 활용될 수 있지만, 부정확하거나 편향된 정보 제공, AI에 대한 정서적 의존, 스스로 사고하고 판단하는 능력의 약화 같은 새로운 위험도 나타날 수 있다고 지적했다. 다만 생성형 AI나 챗봇은 SNS와 달리 대중에 노출되지 않는 일기장과 같은 서비스여서 유해매체로 지정하거나 콘텐츠를 삭제·차단하기 어렵고, 위험성이 있다는 이유만으로 규제할 경우 과잉 검열이라는 비판을 받을 수 있다는 지적도 나왔다. 성평등부 관계자는 “편의점에서 파는 칼이 위험하니 청소년 유해물건으로 지정해달라고 하면 상식적으로 납득이 안 되듯이 생성형 AI나 챗봇도 유해매체로 못 쓰게 하자고 하면 받아들일 분이 많지 않을 것”이라고 말했다.
윤금낭 디지털산업정책연구소 연구위원은 발달 단계나 서비스 위험 수준에 따라 연령제한이 필요한 경우도 있지만 그것만으로 충분한지는 별도로 검토할 필요가 있다고 말했다. 상윤모 연세대 언론홍보영상학부 교수도 플랫폼의 중독적 기능에 대한 규제는 필요하지만 SNS의 순기능도 함께 고려해야 한다고 밝혔다. 그는 보호주의적 규제와 이용자 역량 강화 정책을 균형 있게 병행할 필요가 있다고 말했다.
정부와 전문가들이 본 다음 단계
이날 포럼은 청소년 디지털 안전을 둘러싼 정책 논의가 연령제한 하나에 머물지 않고 플랫폼 책임과 기술 설계, AI 대응으로 넓어지고 있음을 보여줬다. 성평등가족부와 한국청소년정책연구원은 청소년의 SNS와 AI 이용을 둘러싼 문제를 함께 논의하는 자리를 마련했고, 참석자들은 위험기능을 줄이는 설계와 이용자 보호장치를 병행해야 한다는 의견을 냈다.
성평등부 관계자는 디지털 서비스가 청소년의 삶에 깊숙이 자리 잡은 만큼 새로운 위험에 대응할 정책 체계를 마련하는 것이 중요하다고 밝혔다. 이날 나온 제안들은 연령 확인, 유해경고 표시, 위험평가, 기능 제한, 안전설계 등으로 정리됐다. 논의는 청소년 보호와 디지털 활용 역량 강화의 균형을 어떻게 맞출지로 이어지고 있다.
· · · · · · · · · ·
관련기사
▶ ‘불륜 의혹’ 양홍원, 천호동 모텔 문구 삭제…홍대 클럽 목격에 SNS 가사 공유까지
▶ 김포 카페 흡연 영상 SNS 확산…미성년자 추정 남성 논란
▶ 나경원, 이재명 대통령 SNS 행보에 “국정포기이자 현실도피”
· · · · · · · · · ·
스페셜타임스는 AI 기술의 도움을 받아 더 빠르고 다양한 뉴스를 독자에게 전달하기 위해 노력하고 있습니다.
