추천 알고리즘 시대의 비판적 사고, 리터러시, 팩트체킹의 한계에 대한 비판적 고찰

Abstract

유튜브(YouTube) 등의 플랫폼은 정보 습득 및 학습의 중요한 도구로 부상하였으나, 동시에 허위 정보 확산, 사회적 양극화 심화, 가치관 왜곡 등 다양한 사회 문제를 야기하고 있다. 이러한 문제에 대응하기 위해 개인 사용자의 비판적 사고 능력 함양, 미디어 및 알고리즘 리터러시 교육 강화, 정보의 진위를 판별하는 팩트체킹(사실확인) 역량 배양이 강조되어 왔으나, 추천 알고리즘 시스템이 지닌 고유한 특성은 이러한 개인 수준 대응 전략의 실효성에 근본적인 의문을 제기한다. 이에 본 연구는 추천 알고리즘이 적용된 정보 환경에서 비판적 사고, 리터러시, 사실확인이라는 세 가지 핵심 대응 전략이 직면하는 근본적인 한계를 심층적으로 분석하고 비판적으로 고찰하였다. 분석 결과, 추천 알고리즘은 사용자 개인이 알고리즘을 비판적 사고의 대상으로 설정하는 것을 어렵게 만드는 구조적인 특징이 있으며, 개인 역량 강화에 초점을 맞춘 리터러시 교육은 알고리즘이 작동하는 정보 환경 자체의 문제를 간과하는 경향이 있고, 정보의 초개인화 및 급속한 정보 환경은 사실확인의 실행과 효과를 본질적으로 제약함을 확인하였다. 결론적으로, 비판적 사고, 리터러시, 사실확인과 같은 개인 수준의 대응 전략은 그 자체로 중요하지만, 추천 알고리즘 환경의 구조적 제약으로 인해 충분한 해결책이 될 수 없으며, 문제의 근본적 해결을 위해서는 알고리즘 투명성 확보, 플랫폼 책임성 강화, 공적 규제 및 거버넌스 구축 등 구조적이고 시스템적인 접근이 필수적으로 병행되어야 함을 논증하였다. 본 연구의 결과는 향후 AI 디지털교과서와 같이 알고리즘 기반 교육 시스템을 설계하고 도입할 때 발생 가능한 문제들을 예측하고, 개인 역량 함양을 넘어선 보다 실효성 있는 교육 정책 방향과 후속 연구 과제를 모색하는 데 중요한 기초 자료를 제공할 것으로 기대된다.

Platforms such as YouTube have emerged as crucial tools for information acquisition and learning, but they simultaneously generate various social problems, including the spread of misinformation, deepening social polarization, and the distortion of values. To address these issues, enhancing individual users' critical thinking skills, strengthening media and algorithm literacy education, and cultivating fact-checking capabilities have traditionally been emphasized. However, the inherent characteristics of recommendation algorithm systems raise fundamental questions about the effectiveness of these individual-level response strategies. Accordingly, this study deeply analyzed and critically examined the fundamental limitations faced by three key response strategies — critical thinking, literacy, and fact-checking — in the information environment dominated by recommendation algorithms. The analysis revealed that recommendation algorithms make it structurally difficult for individuals to set algorithms as objects of critical thinking. Furthermore, literacy education focused on enhancing individual capabilities tends to overlook the problems of the structural environment in which algorithms operate, and the environment of hyper-personalized and rapidly distributed information was found to inherently constrain the execution and effectiveness of fact-checking. In conclusion, while individual-level response strategies like critical thinking, literacy, and fact-checking are important in themselves, they cannot be sufficient solutions due to the structural constraints of the recommendation algorithm environment. This study argues that for fundamental problem- solving, structural and systemic approaches — such as ensuring algorithm transparency, strengthening platform accountability, and establishing public regulation and governance — must necessarily be pursued concurrently. The findings of this research are expected to predict potential problems when designing and implementing algorithm-based educational systems like AI Digital Textbooks in the future, and provide important foundational data for seeking more effective educational policy directions and future research tasks that go beyond cultivating individual capabilities.