Hơn một nửa tính năng an toàn cho trẻ em trên mạng xã hội không hoạt động như quảng cáo

Các nhà nghiên cứu tại Trung tâm Nghiên cứu An toàn Mạng (Cybersafety Research Center), một sáng kiến ​​​​chung của Đại học New York và Đại học Northeastern (Mỹ), đã thử nghiệm 86 tính năng an toàn cho thanh thiếu niên trên 4 nền tảng MXH là: TikTok, Instagram, Snap và YouTube và kiểm tra xem có hoạt động như mô tả hay không và liệu trẻ em có thể thực sự tìm thấy các tính năng này và sử dụng hay không.

Kết quả là chỉ có 35 tính năng đáp ứng thành công cả hai tiêu chí.

Trước các kết quả nghiên cứu này, hầu hết các công ty đã bác bỏ kết quả báo cáo nghiên cứu, lập luận rằng các tính năng an toàn của các công ty hoạt động như mục tiêu đề ra hoặc các thử nghiệm không mang tính đại diện cho việc trẻ em, thanh thiếu niên được bảo vệ trên các nền tảng này.

Công ty mẹ của YouTube và Instagram, Meta cũng đang gặp phải những rắc rối pháp lý liên quan đến việc cố tình gây nghiện và gây hại cho giới trẻ. Cả 4 công ty đều phải đối mặt với hàng ngàn vụ kiện với những cáo buộc tương tự, mà các công ty đã bác bỏ.

Báo cáo được công bố tuần qua nêu rõ: “Nếu bạn là phụ huynh, bạn nên biết rằng chúng tôi đã phát hiện ra những vấn đề mang tính hệ thống trong thiết kế và triển khai nhiều tính năng này. Đối với Trung tâm Nghiên cứu An toàn Mạng, những phát hiện này cho thấy tác hại của MXH đối với trẻ em “không phải là giả thuyết, và khi chúng xảy ra, hậu quả có thể không thể đảo ngược”.

Những phát hiện này đặt ra câu hỏi về tuyên bố của các công ty MXH rằng việc đầu tư mạnh vào các công cụ và tính năng mới đã làm cho nền tảng an toàn cho giới trẻ. Những phát hiện của nghiên cứu được công bố trong bối cảnh Mỹ tăng cường giám sát MXH, với việc các giám đốc điều hành từ một số công ty công nghệ hàng đầu dự kiến ​​sẽ được triệu tập để làm chứng trước Quốc hội một lần nữa vào mùa hè này.

Các thử nghiệm kiểm chứng

Các nhà nghiên cứu đã tạo ra hai bộ tài khoản để thực hiện đánh giá: những tài khoản có ngày sinh liên quan đến trẻ vị thành niên để kiểm tra các tính năng an toàn cho trẻ em và các tài khoản người lớn từ 25 tuổi trở lên để kiểm tra các hạn chế về tương tác với trẻ em.

Các nhà nghiên cứu đã khảo sát: Một người trẻ tuổi sử dụng nền tảng MXH một cách bình thường để đánh giá có được bảo vệ khỏi những độc hại, có cố gắng vượt qua các tính năng bảo vệ thành công hay không và một người trưởng thành để đánh giá có thể bỏ qua các tính năng bảo vệ và có gửi nhắn tin độc hại cho trẻ vị thành niên hay không.

Các tính năng được đánh giá là thất bại nếu: bị ẩn trong cài đặt và khó tìm thấy, bị lỗi vì không hoạt động để ngăn chặn tác hại như đã quảng cáo, hoặc cả hai.

Có một số tính năng đã được các nhà nghiên cứu dán nhãn là “bị thiếu” (missing) vì không thể kích hoạt các tính năng này.

Thử nghiệm cho thấy các bình luận của những người trẻ sử dụng tài khoản Instagram có chứa ngôn ngữ bắt nạt - như những từ chửi bới và “không ai thích bạn cả” - đã không có một kích hoạt nào thông báo nhắc nhở như nền tảng quảng cáo để người dùng suy nghĩ lại bình luận của họ.

Instagram cho biết lời nhắc “tạm dừng để suy nghĩ lại” (pause to rethink) không được thiết kế để xuất hiện nếu người dùng đăng bài và người dùng bình luận theo dõi nhau.

Trong khi đó, báo cáo nêu rõ: “Để có hiệu quả, các tính năng an toàn cần được bật mặc định hoặc dễ kích hoạt, đượcthanh thiếu niên sử dụng bình thường và phải chứng minh được khả năng bảo vệ chống lại các tác hại”.

Báo cáo không xem xét các tính năng kiểm soát của phụ huynh, chỉ đánh giá các công cụ áp dụng trực tiếp cho hoặc có thể được trẻ em và thanh thiếu niên kích hoạt. Các công ty quản trị nền tảng MXH cho biết tính năng kiểm soát của phụ huynh cũng góp phần đảm bảo an toàn và thanh thiếu niên khó có thể vượt qua các giới hạn thời gian và các tính năng khác.

Số lượng tính năng được đưa ra đánh giá có khác nhau tùy theo nền tảng MXH, trong đó, Instagram có nhiều nhất với 29 tính năng. Tỷ lệ lỗi của tính năng theo nền tảng gồm: Snapchat 73%, Instagram 66%, YouTube 55% và TikTok 50%.

Các tính năng

Cả bốn nền tảng MXH đều tuyên bố chặn trẻ em tìm kiếm nội dung nguy hiểm và hướng đến các hỗ trợ. Nhưng các nhà nghiên cứu phát hiện trên thực tế, các nền tảng MXH đã không triển khai việc này.

Theo báo cáo của các nhà nghiên cứu, sau khi một tài khoản thử nghiệm TikTok được một người chưa thành niên tìm kiếm nội dung về rối loạn ăn uống và tự gây hại, chức năng tìm kiếm của ứng dụng đã đề xuất các cụm từ như “cách giả vờ ăn thức ăn của bạn” và “da bị tổn thương do dao cạo”.

Trong khi đó, một tài khoản thử nghiệm của trẻ em bắt đầu gõ “rối loạn ăn uống” vào thanh tìm kiếm của Instagram, ứng dụng đã tự động đề xuất các cụm từ tìm kiếm thay thế với các lỗi chính tả cố ý có thể vượt qua các hạn chế về nội dung. Lỗi chính tả cũng có tác dụng vượt qua các hạn chế trên Snapchat.

Một phát ngôn viên của TikTok cho biết cài đặt tài khoản dành cho thanh thiếu niên của ứng dụng “đi kèm với hơn 50 tính năng và cài đặt an toàn được thiết lập sẵn và tự động được bật, với các lựa chọn bổ sung dành cho phụ huynh thông qua công cụ “Gia đình thông minh” (Family Pairing) dễ sử dụng của chúng tôi. Đánh giá nội bộ của công ty xác nhận các tính năng này đang hoạt động như kế hoạch và công ty mong muốn các nhà nghiên cứu hiểu rõ hơn về cách ứng dụng đang hoạt động”.

Các nhà nghiên cứu đánh giá các hạn chế về nội dung tìm kiếm của YouTube là một thành công. Nhưng họ cho rằng nỗ lực của YouTube trong việc chuyển hướng người dùng trẻ tuổi đến các nguồn tài nguyên đảm bảo, được hỗ trợ đã thất bại vì trẻ em, thanh thiếu niên có thể nhấp chuột ra khỏi màn hình hạn chế và tiếp tục xem nội dung mà chúng đã tìm kiếm.

“Chúng tôi đã dành hơn một thập kỷ để xây dựng các công cụ kiểm soát hàng đầu trong ngành dành cho phụ huynh, đó là lý do tại sao 84% phụ huynh đã sử dụng các công cụ tài khoản được giám sát của YouTube cho biết họ đồng ý các công cụ này mang lại cho họ sự tự tin rằng con cái họ đang truy cập vào một môi trường số an toàn hơn và được kiểm soát tốt hơn. Chúng tôi sẽ tiếp tục tăng cường các biện pháp bảo vệ này và đổi mới để bảo vệ các gia đình sử dụng YouTube”, một phát ngôn viên của YouTube cho biết trong một tuyên bố phản hồi về báo cáo.

Các nhà nghiên cứu cũng đặt câu hỏi về nỗ lực của Snapchat và Instagram trong việc chặn người lạ trưởng thành nhắn tin cho người dùng trẻ tuổi.

Trên Snapchat, các nhà nghiên cứu sử dụng tài khoản thử nghiệm của người lớn cho biết có thể tìm và nhắn tin cho tài khoản của trẻ em mà không có bất kỳ giới hạn nào. Tài khoản của trẻ em “đã nhận được yêu cầu kết bạn và sau khi chấp nhận, trẻ em có thể xem lịch sử tin nhắn mà người lớn đã gửi cho chúng mà không có bất kỳ cảnh báo nào”, báo cáo cho biết.

Trên Instagram, các nhà nghiên cứu phát hiện ứng dụng này đã ngăn chặn thành công việc người lớn mà trẻ em không theo dõi bắt đầu cuộc trò chuyện nhắn tin với trẻ em đó. Tuy nhiên, các nhà nghiên cứu tiết lộ tính năng bảo vệ này đã bị "xâm phạm" vì trẻ em có thể nhắn tin cho người lớn mà chúng không theo dõi và người lớn đó sau đó có thể trả lời - mà không có bất kỳ hạn chế hoặc cảnh báo nào.

Báo cáo chỉ ra một thông cáo báo chí năm 2021 trên Meta cho biết Instagram hạn chế người lớn bắt đầu tin nhắn riêng tư với thanh thiếu niên không theo dõi họ. "Người lớn có thể gửi tin nhắn cho trẻ em mà không bị hạn chế sau khi liên lạc đã được bắt đầu, ngay cả khi trẻ em không theo dõi lại họ”, báo cáo nêu rõ.

Meta thông tin với CNN cho biết việc một thiếu niên nhắn tin cho người lớn không theo dõi họ cho thấy thanh thiếu niên muốn kết nối và tính năng này đang hoạt động như dự định.

Các nhà nghiên cứu cho biết đã cảnh báo Instagram và Snapchat về những lo ngại liên quan đến việc trẻ em nhắn tin và các "lỗ hổng nghiêm trọng" khác trước khi công bố báo cáo.

Người phát ngôn của Snapchat thông tin với CNN rằng công ty “vô cùng quan tâm đến sự an toàn, quyền riêng tư và sức khỏe của tất cả người dùng Snapchat, và đội ngũ của chúng tôi đã làm việc trong nhiều năm để xây dựng các biện pháp bảo vệ, phát hành các hướng dẫn an toàn và hợp tác với các chuyên gia… chúng tôi liên tục đánh giá và tăng cường các biện pháp bảo vệ”.

Người phát ngôn của Snapchat cũng thông tin nhiều phát hiện trong báo cáo dựa trên “việc cố ý thực hiện các hành động để vượt qua các biện pháp bảo vệ không phản ánh trải nghiệm người dùng thông thường”.

Nhiều nền tảng MXH cũng giới hạn thời gian hoặc lời nhắc “nghỉ ngơi” (take a break) để ngăn trẻ em cuộn trang không ngừng. Nhưng trên Instagram, YouTube và TikTok, thay vì lời nhắc người dùng nghỉ ngơi lại có lựa chọn “hoãn” lời nhắc và quay lại bản tin. Meta và YouTube cho biết tính năng này hoạt động như kế hoạch thực hiện và cho biết thêm giới hạn thời gian được thiết lập thông qua kiểm soát của phụ huynh không thể bị bỏ qua.

“Báo cáo này về cơ bản là sai sót và thể hiện sự hiểu sai cơ bản về cách thức hoạt động của các công cụ của chúng tôi. Các tác giả đưa ra những tuyên bố mơ hồ rằng các tính năng của chúng tôi bị lỗi, nhưng trong phần lớn các trường hợp, họ hoặc xuyên tạc các tính năng đó hoặc không cung cấp bất kỳ ví dụ hay bằng chứng nào. Thực tế là với tài khoản dành cho thanh thiếu niên, các bạn trẻ đang xem ít nội dung nhạy cảm hơn, ít bị liên lạc không mong muốn hơn và dành ít thời gian hơn trên Instagram vào ban đêm”, người phát ngôn của Meta cho biết trong một tuyên bố.

Meta lập luận một số phát hiện trong báo cáo về các tính năng “thiếu sót” có thể đơn giản là do các nhà nghiên cứu không gặp phải các vấn đề kích hoạt các công cụ này. Ví dụ, các nhà nghiên cứu cho biết không thấy bất kỳ màn hình cảnh báo “nội dung nhạy cảm” nào trên các bài đăng có khả năng gây rắc rối; Meta cho biết có thể không có nội dung nhạy cảm nào xuất hiện trên nguồn cấp dữ liệu của họ.

Một số tính năng đã thành công. Ví dụ, nếu người dùng dưới 13 tuổi cố gắng đăng ký tài khoản TikTok, sẽ tự động được chuyển đến trải nghiệm “TikTok dành cho người dùng nhỏ tuổi” chỉ cho phép xem và loại bỏ các tính năng tiềm ẩn nguy hiểm của ứng dụng, chẳng hạn như tìm kiếm và nhắn tin. Điều đó có nghĩa là trẻ em không có cơ hội đăng ký lại bằng ngày sinh giả, lớn tuổi hơn trên thiết bị đó.

Và các tài khoản của trẻ vị thành niên tự động mặc định ở chế độ riêng tư trên Instagram, điều mà các nhà nghiên cứu cho rằng, “có thể khuyến khích người dùng duy trì tài khoản riêng tư mà không cần người dùng đưa ra quyết định có hiểu biết”.

Những thành công đó chứng minh việc thiết kế các tính năng an toàn hiệu quả cho thanh thiếu niên là hoàn toàn khả thi, các nhà nghiên cứu cho biết. Các công ty nên làm cho các nền tảng trực tuyến an toàn hơn bằng cách cố gắng giảm thiểu rủi ro tổng thể, “thay vì lọc bỏ trải nghiệm nguy hiểm”./.

QA