Niềm tin vào AI và những hệ lụy của thiên kiến tự động hóa

Khi AI càng chính xác, con người càng dễ mất cảnh giác

Trong những năm gần đây, AI tạo sinh đã nhanh chóng trở thành công cụ hỗ trợ phổ biến trong giáo dục, y tế, pháp lý, truyền thông và nhiều lĩnh vực khác. Từ việc soạn thảo văn bản, tổng hợp thông tin đến hỗ trợ ra quyết định, AI đang từng bước thay đổi cách con người làm việc.

Tuy nhiên, bên cạnh những lợi ích rõ rệt về năng suất và khả năng tiếp cận tri thức, các nhà nghiên cứu ngày càng quan tâm tới một hiện tượng tâm lý được gọi là “thiên kiến tự động hóa” (automation bias) - xu hướng con người tin tưởng các đề xuất từ hệ thống tự động nhiều hơn mức cần thiết, thậm chí ngay cả khi xuất hiện những dấu hiệu cho thấy các đề xuất đó có thể sai.

Theo TS. Trần Nhật Quang, giảng viên Trường Đại học (ĐH) RMIT Việt Nam, đây là một trong những rủi ro đáng lưu ý khi AI ngày càng hiện diện trong các quyết định quan trọng của con người.

Thiên kiến tự động hóa không phải là hiện tượng mới. Trước đây, nó từng được ghi nhận trong các hệ thống lái tự động, điều khiển hàng không hay các phần mềm hỗ trợ chuyên môn. Tuy nhiên, sự phổ biến của AI tạo sinh đang khiến vấn đề này trở nên đáng chú ý hơn.

Một nghiên cứu được công bố trên Tạp chí npj Digital Medicine năm 2025 cho thấy, một số bác sỹ đã phê duyệt các nội dung tư vấn do AI soạn thảo mà không phát hiện những sai sót quan trọng trong nội dung. Điều đáng chú ý là sai sót không đến từ năng lực chuyên môn của các bác sĩ mà xuất phát từ việc họ đã tin tưởng quá mức vào các đề xuất của hệ thống AI.

Những trường hợp tương tự cũng xuất hiện trong nhiều lĩnh vực khác. Năm 2025, một luật sư tại Hoa Kỳ bị xử phạt sau khi nộp văn bản pháp lý có chứa các án lệ không tồn tại do AI tạo ra. Trong lĩnh vực giáo dục, một trường ĐH tại Australia từng phải dừng sử dụng công cụ phát hiện nội dung do AI tạo ra sau khi hệ thống đưa ra nhiều kết luận thiếu chính xác đối với sinh viên.

Nghịch lý nằm ở chỗ khi một hệ thống hoạt động tốt trong thời gian dài, con người thường giảm dần mức độ giám sát. Thay vì đóng vai trò kiểm tra và phản biện, người dùng có thể vô thức chuyển sang vị trí chỉ xác nhận các đề xuất mà AI đưa ra.

Nói cách khác, khi AI trở nên tin cậy hơn, khả năng tư duy phản biện của con người có nguy cơ bị suy giảm do ít được sử dụng.

Từ “trợ lý thông minh” đến bài toán trách nhiệm

Không chỉ ảnh hưởng tới chất lượng quyết định, thiên kiến tự động hóa còn đặt ra những câu hỏi mới về trách nhiệm trong kỷ nguyên AI.

Trong một nghiên cứu năm 2019, nhà nhân học Madeleine Clare Elish đã đưa ra khái niệm “vùng hấp thụ trách nhiệm” (moral crumple zone). Khái niệm này mô tả tình huống con người trở thành đối tượng phải chịu trách nhiệm khi hệ thống tự động gặp sự cố, dù khả năng can thiệp thực tế của họ có thể đã bị suy giảm do phụ thuộc vào công nghệ.

Ví dụ thường được nhắc tới là vụ tai nạn liên quan đến xe tự lái thử nghiệm của Uber tại bang Arizona (Hoa Kỳ) năm 2018 khiến một người đi bộ thiệt mạng. Cuộc điều tra cho thấy, cả hệ thống tự lái và người giám sát an toàn đều có những sai sót. Tuy nhiên, trách nhiệm pháp lý cuối cùng lại tập trung phần lớn vào con người.

Khi AI ngày càng được sử dụng trong những lĩnh vực có rủi ro cao như y tế, tài chính, giao thông hay quốc phòng, vấn đề này có thể trở nên phức tạp hơn. Nếu người vận hành quá tin tưởng vào hệ thống, khả năng phát hiện lỗi sẽ giảm đi, nhưng họ vẫn có thể là người chịu trách nhiệm khi sự cố xảy ra.

Hướng tới việc sử dụng AI có trách nhiệm

Để hạn chế thiên kiến tự động hóa, các chuyên gia cho rằng cần kết hợp đồng thời các giải pháp về công nghệ, đào tạo và pháp lý.

Về mặt kỹ thuật, các hệ thống AI nên được thiết kế theo hướng khuyến khích người dùng duy trì tư duy phản biện thay vì chỉ tiếp nhận kết quả một cách thụ động. Một số mô hình được đề xuất yêu cầu người dùng tự đưa ra đánh giá hoặc phương án xử lý trước khi tham khảo gợi ý từ AI.

Về mặt con người, việc nâng cao hiểu biết về các hạn chế của AI được xem là yếu tố quan trọng. Bên cạnh khả năng hỗ trợ mạnh mẽ, AI vẫn có thể gặp các vấn đề như tạo thông tin sai lệch, lập luận thiếu chính xác hoặc đưa ra các kết luận quá tự tin so với dữ liệu thực tế.

Ở góc độ quản lý, nhiều quốc gia đã bắt đầu đưa yêu cầu giám sát của con người vào các quy định pháp lý liên quan đến AI. Đạo luật AI của Liên minh châu Âu (EU AI Act), các chính sách quản lý AI của Hoa Kỳ và Luật Trí tuệ nhân tạo của Việt Nam đều nhấn mạnh vai trò kiểm soát và khả năng can thiệp của con người đối với các hệ thống AI, đặc biệt trong những lĩnh vực có mức độ rủi ro cao.

Có thể thấy, AI đang trở thành công cụ hỗ trợ ngày càng quan trọng trong đời sống và công việc. Tuy nhiên, giá trị của công nghệ không nằm ở việc thay thế hoàn toàn con người mà ở khả năng hỗ trợ con người đưa ra những quyết định tốt hơn.

Trong bối cảnh đó, duy trì tư duy phản biện và thói quen kiểm chứng thông tin có thể là một trong những kỹ năng quan trọng nhất để sử dụng AI an toàn và hiệu quả trong tương lai./.

Xuân Bình