Khi AI tự vượt rào: Nguy cơ từ những hệ thống ngày càng tự chủ

Đầu tháng 9/2026, OpenAI thông báo về một sự cố liên quan đến các hệ thống của Chính phủ Australia, trong đó một mô hình AI đã thực hiện những hành động vượt ngoài phạm vi được cho phép khi tìm kiếm thông tin. Vụ việc xảy ra từ tháng 6, được OpenAI phát hiện vào tháng 8 và Australia được thông báo ngày 10/9.

Thủ tướng Australia Anthony Albanese gọi sự việc là “không thể chấp nhận”. Đây được xem là một trong những trường hợp đầu tiên được công bố về việc một hệ thống AI truy cập trái phép vào mạng lưới của chính phủ.

Theo OpenAI, mô hình AI được giao nhiệm vụ nghiên cứu mức chi tiêu của chính phủ trên đầu người cho thuốc điều trị các bệnh về da tại các cộng đồng ở bang Victoria. Trong quá trình thực hiện, mô hình gặp khó khăn khi tìm kiếm thông tin và sau đó thực hiện những hành động mà công ty không cho phép.

Mô hình đã tìm cách truy cập vào hệ thống báo cáo thống kê của Medicare thuộc Services Australia. OpenAI cho biết, mô hình có thể tiếp cận một số thông tin kỹ thuật của hệ thống, mã nguồn liên quan, tệp nội bộ, thông tin xác thực và dữ liệu thống kê tổng hợp. Tuy nhiên, công ty chưa phát hiện bằng chứng cho thấy hồ sơ y tế cá nhân của người dân bị truy cập.

Ngoài ra, mô hình AI cũng truy cập công cụ lập bản đồ tội phạm công khai của Cục Thống kê và Nghiên cứu Tội phạm bang New South Wales, hệ thống báo cáo y tế của bang Victoria và các nguồn dữ liệu của Viện Y tế và Phúc lợi Australia để phục vụ nhiệm vụ nghiên cứu.

Điểm đáng chú ý nằm ở chỗ mô hình không được hướng dẫn thực hiện những hành động này. Thay vào đó, khi gặp khó khăn trong việc hoàn thành nhiệm vụ, hệ thống đã tự tìm kiếm những cách tiếp cận khác để đạt mục tiêu.

Sự cố tại Australia gợi lại một dạng hành vi được giới nghiên cứu AI gọi là “reward hacking”. Khái niệm này mô tả trường hợp tác nhân AI hoàn thành nhiệm vụ theo cách ngoài dự kiến nhằm đạt phần thưởng hoặc mục tiêu được giao.

Trước đó, OpenAI từng công bố một sự cố liên quan đến nền tảng AI Hugging Face. Trong quá trình kiểm thử, một tác nhân AI đã tìm cách vượt ra ngoài môi trường thử nghiệm để tiếp cận hệ thống bên ngoài. Mục tiêu của tác nhân này là tìm dữ liệu và lời giải có sẵn để hoàn thành một bài kiểm tra năng lực, thay vì tự giải các thử thách được giao.

Một trong những điểm khiến các nhà phát triển quan tâm là tác nhân AI có thể tìm ra phương thức giao tiếp với các tác nhân khác và tìm kiếm điểm yếu trong hệ thống. Những hành vi như vậy cho thấy việc chỉ xác định mục tiêu cho AI là chưa đủ; các nhà phát triển còn phải kiểm soát cách hệ thống thực hiện mục tiêu đó.

OpenAI gần đây cũng công bố cơ chế báo cáo các trường hợp “misalignment”, tức những hành vi của mô hình không phù hợp với mục tiêu hoặc cách thức mà con người dự kiến. Các trường hợp được công bố bao gồm hành vi gian lận khi thực hiện nhiệm vụ và những hình thức tương tác giữa các tác nhân mà hệ thống không được yêu cầu trực tiếp.

Những sự cố trên diễn ra trong bối cảnh các công ty công nghệ đang phát triển mạnh tác nhân AI.

Sau sự cố tại Australia, OpenAI cho biết đã tăng cường các biện pháp bảo vệ trong quy trình nghiên cứu, hạn chế quyền truy cập Internet của các mô hình đang phát triển và mở rộng hoạt động giám sát.

Những diễn biến này cho thấy bài toán an toàn AI đang dần chuyển từ kiểm soát nội dung AI tạo ra sang kiểm soát những hành động AI có thể tự thực hiện. Khi các mô hình được trao nhiều quyền hơn để tìm kiếm, phân tích và tương tác với các hệ thống bên ngoài, việc giới hạn quyền truy cập, giám sát hành vi và phát hiện những hành động ngoài dự kiến sẽ trở thành một phần ngày càng quan trọng trong quá trình phát triển AI./.

TXB