Bảo vệ trẻ em trong kỷ nguyên AI: Từ kiểm soát rủi ro đến trao quyền làm chủ công nghệ

Trao đổi với Phóng viên (PV) Tạp chí Khoa học và Công nghệ Việt Nam, bà Nguyễn Phương Linh, Viện trưởng Viện Nghiên cứu Quản lý Phát triển bền vững (MSD), cho rằng, bảo vệ trẻ em cần đi cùng với trang bị năng lực số, để các em sử dụng công nghệ an toàn, có trách nhiệm và chủ động.

Nhận diện rủi ro mới đối với trẻ em trong kỷ nguyên AI

PV: Không gian mạng đang trở thành một phần không thể thiếu trong học tập, giao tiếp và vui chơi của trẻ em. Từ thực tiễn nghiên cứu của MSD, bà đánh giá thế nào về những cơ hội và rủi ro lớn nhất mà trẻ em Việt Nam đang phải đối mặt trên môi trường số hiện nay?

Bà Nguyễn Phương Linh: Theo tôi, điều quan trọng nhất là chúng ta cần thay đổi cách nhìn về tuổi thơ trong kỷ nguyên số. Không gian số không còn đơn thuần là nơi trẻ em truy cập, mà đã trở thành một phần của tuổi thơ và quá trình các em lớn lên. Tuổi thơ của thế hệ hôm nay diễn ra đồng thời ở hai không gian: ngoài đời thực và trên môi trường số. Vì vậy, khi nói đến bảo vệ trẻ em, chúng ta cũng cần mở rộng khái niệm bảo vệ sang cả không gian số.

Đây cũng là nơi trẻ em có rất nhiều cơ hội để học tập, sáng tạo, kết nối và phát triển. AI và các công nghệ số đang mở ra khả năng tiếp cận tri thức chưa từng có, giúp việc học trở nên cá nhân hóa hơn. Một học sinh ở vùng cao có thể tiếp cận các bài giảng chất lượng; một trẻ em khuyết tật có thể có thêm những công cụ hỗ trợ học tập phù hợp.

Tuy nhiên, chính vì trẻ em tham gia môi trường số từ rất sớm nên các rủi ro cũng xuất hiện sớm hơn và trở nên phức tạp hơn. Khảo sát “Tiếng nói trẻ em Việt Nam về An toàn số 2026” do MSD thực hiện đối với 2.246 học sinh, từ 11-15 tuổi, cho thấy 82,7% trẻ đã có tài khoản mạng xã hội, 65,5% sở hữu điện thoại thông minh và gần 30% bắt đầu sử dụng Internet trước 9 tuổi. Đáng chú ý, 70,8% trẻ em cho rằng thiếu kiến thức và kỹ năng tự bảo vệ là nguyên nhân lớn nhất dẫn đến các rủi ro trên môi trường mạng.

Theo tôi, đây là thông điệp đáng suy ngẫm. Thách thức lớn nhất không phải là trẻ em sử dụng công nghệ quá sớm, mà là chúng ta chưa chuẩn bị đầy đủ cho các em năng lực để sống an toàn và có trách nhiệm trong môi trường số.

Bởi vậy, cùng với việc hoàn thiện chính sách và phát triển các giải pháp công nghệ, chúng ta cần đầu tư nhiều hơn cho giáo dục công dân số và AI, để trẻ em không chỉ được bảo vệ mà còn có thể chủ động khai thác công nghệ vì sự phát triển của chính mình và cộng đồng.

PV: Sự phát triển nhanh chóng của AI, đặc biệt là AI tạo sinh và deepfake, đang tạo ra những nguy cơ mới nào đối với trẻ em? Việt Nam cần đặc biệt lưu ý những vấn đề gì?

Bà Nguyễn Phương Linh: AI không chỉ làm gia tăng các rủi ro trên môi trường số mà còn đang làm thay đổi bản chất của những rủi ro đó. Trước đây, trẻ em chủ yếu đối mặt với nội dung độc hại hoặc những người có ý đồ xấu trên Internet. Ngày nay, AI khiến việc tạo nội dung giả, giả mạo danh tính hay thao túng thông tin trở nên dễ dàng, nhanh chóng và tinh vi hơn rất nhiều.

Nếu trước đây một bức ảnh hay một đoạn video thường được xem là bằng chứng của sự thật, thì hiện nay AI có thể tạo ra hình ảnh, giọng nói hoặc video rất khó phân biệt thật - giả. Điều này làm gia tăng nguy cơ trẻ em bị bắt nạt trực tuyến, bôi nhọ danh dự, tống tiền bằng hình ảnh giả mạo hoặc bị lừa đảo thông qua các cuộc gọi, tin nhắn giả danh người thân, thầy cô hay bạn bè.

Tuy nhiên, điều tôi quan tâm không chỉ là công nghệ deepfake. AI đang dần trở thành một “người đồng hành” mới của nhiều trẻ em. Các em có thể tìm đến AI để học tập, giải trí, tâm sự hoặc xin lời khuyên. Nếu hệ thống AI không được thiết kế phù hợp với trẻ em, các em có thể tiếp cận thông tin sai lệch, những lời khuyên thiếu an toàn hoặc dần phụ thuộc vào AI thay vì xây dựng các mối quan hệ với gia đình, thầy cô và bạn bè.

Một rủi ro khác Việt Nam cần đặc biệt quan tâm là dữ liệu cá nhân của trẻ em. AI càng phát triển càng cần nhiều dữ liệu, trong khi trẻ em thường chưa nhận thức đầy đủ về giá trị của dữ liệu cá nhân cũng như những hệ quả lâu dài khi hình ảnh, giọng nói hoặc thông tin của mình bị thu thập, phân tích hay sử dụng để huấn luyện các mô hình AI mà không có cơ chế bảo vệ phù hợp.

Vì vậy, cách tiếp cận trong giai đoạn tới không nên chỉ tập trung vào kiểm soát AI, mà cần hướng tới AI vì trẻ em (AI for Children) và AI vì lợi ích xã hội (AI for Good). Điều đó có nghĩa là ngay từ khâu thiết kế, các hệ thống AI cần được phát triển theo nguyên tắc an toàn (Safety by Design), phù hợp với độ tuổi (Age-Appropriate Design) và lấy quyền, lợi ích tốt nhất của trẻ em làm trung tâm. Công nghệ chỉ thực sự tạo ra giá trị khi giúp trẻ em phát triển an toàn, sáng tạo và hạnh phúc hơn, chứ không làm gia tăng những tổn thương mới.

AI hỗ trợ phát hiện sớm và phòng ngừa rủi ro

PV: Ở chiều ngược lại, AI và các công nghệ phân tích dữ liệu có thể được ứng dụng như thế nào để phát hiện sớm, cảnh báo và ngăn chặn các hành vi xâm hại trẻ em trên không gian mạng?

Bà Nguyễn Phương Linh: AI hoàn toàn có thể trở thành một phần của giải pháp bảo vệ trẻ em. Nếu chỉ coi AI là công cụ phát hiện nội dung độc hại, chúng ta mới khai thác một phần rất nhỏ giá trị của công nghệ.

Điểm đáng chú ý của AI không chỉ nằm ở khả năng phát hiện mà còn ở khả năng phân tích xu hướng, dự báo rủi ro và hỗ trợ ra quyết định. Ví dụ, thay vì chờ một vụ bắt nạt trực tuyến xảy ra rồi mới xử lý, dữ liệu từ các nền tảng, trường học, đường dây nóng hoặc các khảo sát xã hội có thể được phân tích để nhận diện sớm những xu hướng đáng lo ngại, nhóm trẻ có nguy cơ cao hoặc những hình thức xâm hại đang gia tăng. Điều này giúp các cơ quan quản lý và các tổ chức bảo vệ trẻ em có thể chuyển từ cách tiếp cận phản ứng sang phòng ngừa.

AI cũng có thể hỗ trợ các nền tảng ưu tiên phát hiện những nội dung có nguy cơ cao; hỗ trợ giáo viên và phụ huynh nhận biết sớm các dấu hiệu bất thường trong hành vi trực tuyến của trẻ; đồng thời cung cấp các công cụ tư vấn ban đầu để trẻ biết tìm kiếm sự hỗ trợ khi cần.

Tuy nhiên, dữ liệu mới là nền tảng, AI chỉ là công cụ. Nếu dữ liệu không đầy đủ, không đại diện hoặc không được quản trị tốt thì AI cũng khó đưa ra những phân tích đáng tin cậy. Vì vậy, Việt Nam cần đầu tư nhiều hơn cho các hệ thống dữ liệu về trẻ em trên môi trường số, các nghiên cứu định kỳ và cơ chế chia sẻ dữ liệu giữa cơ quan quản lý, doanh nghiệp và tổ chức xã hội, trên cơ sở bảo vệ dữ liệu cá nhân và quyền riêng tư của trẻ em.

Tương lai của bảo vệ trẻ em trên môi trường số không chỉ là AI thông minh hơn, mà là một hệ thống ra quyết định thông minh hơn, trong đó công nghệ, dữ liệu và con người cùng hỗ trợ nhau để bảo vệ trẻ em hiệu quả hơn.

Từ bảo vệ đến trao quyền làm chủ công nghệ

PV: Bảo vệ trẻ em bằng công nghệ đặt ra bài toán cân bằng giữa an toàn, quyền riêng tư và quyền tự do của trẻ. Cần những nguyên tắc nào để công nghệ không trở thành sự giám sát hoặc kiểm soát quá mức?

Bà Nguyễn Phương Linh: Đây không chỉ là câu hỏi về công nghệ mà còn là câu hỏi về đạo đức và quản trị công nghệ. Mục tiêu của công nghệ không phải là giám sát trẻ em nhiều hơn, mà là giúp trẻ em an toàn hơn và phát triển tốt hơn. Theo tôi, có bốn nguyên tắc quan trọng.

Thứ nhất, lấy lợi ích tốt nhất của trẻ em làm trung tâm. Mỗi giải pháp công nghệ cần trả lời được một câu hỏi rất đơn giản: công nghệ này có thực sự mang lại lợi ích cho trẻ em hay không, hay chỉ giúp người lớn quản lý trẻ em thuận tiện hơn?

Thứ hai, bảo vệ quyền riêng tư ngay từ khâu thiết kế. Chỉ thu thập những dữ liệu thực sự cần thiết, minh bạch về mục đích sử dụng, có cơ chế bảo vệ dữ liệu cá nhân và không sử dụng dữ liệu của trẻ em vượt quá mục đích ban đầu. Dữ liệu của trẻ em cần được xem là nhóm dữ liệu cần được bảo vệ ở mức độ cao hơn. Lưu ý, cha mẹ cần biết con đang an toàn hay không, nhưng điều đó không đồng nghĩa với việc mọi cuộc trò chuyện riêng tư của trẻ đều cần bị theo dõi.

Thứ ba, AI nên hỗ trợ con người chứ không thay thế con người. AI có thể phát hiện các dấu hiệu bất thường hoặc cảnh báo sớm, nhưng những quyết định liên quan đến quyền và lợi ích của trẻ em vẫn cần có sự đánh giá của con người. Điều này giúp hạn chế những sai lệch hoặc thiên vị mà thuật toán có thể tạo ra.

Thứ tư, trẻ em cần được lắng nghe trong quá trình thiết kế công nghệ. Chúng ta thường thiết kế các giải pháp để bảo vệ trẻ em, nhưng chưa thực sự thiết kế cùng với trẻ em. Trong khi đó, chính các em mới là người hiểu rõ nhất mình gặp những khó khăn gì trên môi trường số và điều gì khiến các em cảm thấy an toàn.

Theo tôi, một công nghệ tốt không phải là công nghệ biết nhiều nhất về trẻ em, theo dõi trẻ em nhiều nhất, mà là công nghệ tôn trọng trẻ em nhiều nhất. Khi công nghệ được phát triển trên nền tảng quyền trẻ em, minh bạch và trách nhiệm giải trình, chúng ta sẽ vừa bảo vệ được trẻ em, vừa tạo dựng được niềm tin của các em đối với môi trường số.

PV: Năng lực số được xem là một trong những “lá chắn” quan trọng giúp trẻ tự bảo vệ mình. Giáo dục năng lực số cần đổi mới như thế nào trước sự phát triển của mạng xã hội, AI và các công nghệ mới?

Bà Nguyễn Phương Linh: Trước đây, chúng ta thường dạy trẻ cách sử dụng công nghệ. Hôm nay, chúng ta cần giúp trẻ biết sống cùng công nghệ, đặc biệt là AI. Đây là một thay đổi lớn trong tư duy giáo dục.

Nếu trước đây trọng tâm là hướng dẫn trẻ sử dụng Internet an toàn, không chia sẻ thông tin cá nhân hay nhận diện các nguy cơ trên mạng, thì ngày nay điều đó vẫn cần thiết nhưng đã không còn đủ. Trẻ em đang sử dụng AI để học tập, tìm kiếm thông tin, sáng tạo nội dung, thậm chí để trò chuyện và xin lời khuyên. Vì vậy, giáo dục năng lực số cần mở rộng thành giáo dục năng lực AI và công dân số.

Theo tôi, có ba nhóm năng lực cần được ưu tiên.

Thứ nhất là năng lực hiểu và sử dụng AI một cách có trách nhiệm. Trẻ em cần hiểu AI có thể hỗ trợ điều gì, có những giới hạn gì, tại sao AI có thể đưa ra thông tin sai và vì sao không nên phụ thuộc hoàn toàn vào AI trong học tập hay ra quyết định.

Thứ hai là tư duy phản biện và năng lực đánh giá thông tin. Trong thời đại AI tạo sinh, điều quan trọng không còn là tìm được thông tin, mà là biết kiểm chứng, so sánh nhiều nguồn và đặt câu hỏi trước khi tin hoặc chia sẻ một nội dung.

Thứ ba là giá trị và trách nhiệm của một công dân số. Trẻ em không chỉ cần biết bảo vệ mình mà còn cần biết tôn trọng người khác, bảo vệ dữ liệu cá nhân, ứng xử văn minh và sử dụng công nghệ để tạo ra những giá trị tích cực cho cộng đồng.

Trong kỷ nguyên AI, năng lực số không còn chỉ là một kỹ năng, mà là một năng lực nền tảng, giống như đọc, viết hay tính toán. Bởi công nghệ sẽ còn tiếp tục thay đổi, nhưng năng lực học hỏi, tư duy phản biện, đạo đức số và trách nhiệm công dân sẽ luôn là những năng lực giúp trẻ em thích ứng với mọi công nghệ trong tương lai.

Đây cũng là triết lý mà MSD theo đuổi thông qua mô hình Công dân số chuẩn (SNET). Chúng tôi cho rằng giáo dục số không nên chỉ dừng lại ở việc giúp trẻ tránh rủi ro, mà cần giúp các em phát triển đồng thời kiến thức, kỹ năng, giá trị và năng lực để trở thành những công dân số: Safe - biết bảo vệ bản thân và người khác; Netizen Smart - sử dụng môi trường số một cách thông minh, có tư duy phản biện và biết chọn lọc thông tin; Empowered - chủ động học tập, sáng tạo và lan tỏa những giá trị tích cực; Thoughtful & Together - tử tế, có trách nhiệm và biết đồng hành cùng cộng đồng.

Đồng thời, SNET cũng là lời nhắc rằng mỗi đứa trẻ cần có một mạng lưới đồng hành gồm gia đình, nhà trường, doanh nghiệp công nghệ và cộng đồng để cùng phát triển an toàn trong môi trường số. Đây cũng chính là "vaccine số" bền vững nhất mà chúng ta có thể trao cho trẻ em trong kỷ nguyên AI.

Mục tiêu cuối cùng của giáo dục không phải là giúp trẻ em tránh xa công nghệ, mà là đủ năng lực để làm chủ công nghệ, sử dụng AI một cách thông minh, có trách nhiệm và vì những điều tốt đẹp.

Xin trân trọng cảm ơn bà!

Ngọc Diệp (thực hiện)