Khi AI bước vào phòng khám, câu hỏi không còn là "AI có giúp ích không?"

AI đang hiện diện ở nhiều nơi: từ viết thư điện tử (email), tìm kiếm thông tin đến hỗ trợ chẩn đoán và ghi chép bệnh án. Trong y tế, các hệ thống AI ghi chép (AI medical scribe) được kỳ vọng sẽ giảm bớt gánh nặng hành chính, để bác sĩ dành nhiều thời gian hơn cho bệnh nhân.

Đó là lý do nhà báo Howard Armitage không hề phản đối khi được bác sĩ đề nghị sử dụng một AI mang tên Heidi trong buổi khám của mình. Nhưng trải nghiệm sau đó khiến ông nhận ra vấn đề không nằm ở bản thân công nghệ.

Trong bài bình luận đăng trên Tạp chí New Atlas, Armitage kể rằng khi ông hỏi dữ liệu cuộc trò chuyện sẽ được xử lý ở đâu, ai vận hành hệ thống, dữ liệu được lưu trong bao lâu hay những đơn vị nào có thể tiếp cận thông tin đó, bác sĩ gần như không thể trả lời. Điều duy nhất ông nhận được là lời khẳng định: "Hệ thống không ghi âm".

Theo Armitage, cách giải thích ấy không đủ thuyết phục. Muốn tạo bản ghi cuộc khám, AI trước hết phải thu nhận âm thanh, chuyển thành dữ liệu số rồi mới có thể phân tích. Vấn đề vì thế không phải là AI có "nghe" cuộc trò chuyện hay không, mà là dữ liệu ấy được xử lý như thế nào và sau đó sẽ đi đâu.

Mọi chuyện càng trở nên đáng suy nghĩ hơn khi Armitage quyết định từ chối. Bác sĩ cho biết sẽ không tiến hành buổi khám nếu không sử dụng AI.

Đến thời điểm đó, theo ông, câu chuyện không còn là đồng ý hay không đồng ý với công nghệ, mà là liệu bệnh nhân có thực sự còn quyền lựa chọn.

Đây cũng là mối quan tâm mà tổ chức Digital Rights Watch tại Australia vừa nêu ra trong chiến dịch kêu gọi bảo vệ quyền của bệnh nhân trước AI. Theo tổ chức này, sự đồng ý chỉ có ý nghĩa khi người dùng được cung cấp đầy đủ thông tin và có thể từ chối mà không phải đánh đổi quyền được tiếp cận dịch vụ y tế.

Tom Sulston, Trưởng bộ phận Chính sách của Digital Rights Watch, cho biết hầu hết các hệ thống AI hiện nay sẽ xóa tệp âm thanh sau khi hoàn tất việc chuyển lời nói thành văn bản nhằm giảm rủi ro về quyền riêng tư. Tuy nhiên, điều đó lại đặt ra một nghịch lý khác: nếu không còn bản ghi gốc, làm thế nào để kiểm chứng khi AI nghe nhầm, bỏ sót hoặc tạo ra thông tin không chính xác trong hồ sơ bệnh án?

Nhà báo Howard Armitage nhận định, những câu hỏi này thực chất không chỉ dành cho lĩnh vực y tế.

AI đang dần trở thành một "hạ tầng vô hình" trong đời sống. Người dùng ngày càng quen với việc AI trả lời câu hỏi, viết tài liệu, tóm tắt cuộc họp hay hỗ trợ ra quyết định. Sự tiện lợi khiến nhiều người ít để ý hơn đến việc dữ liệu của mình đang được gửi đi đâu, được xử lý bởi ai và dựa trên những nguyên tắc nào.

Điều đáng nói là AI càng hoạt động mượt mà thì quá trình xử lý phía sau càng trở nên khó nhìn thấy. Khi công nghệ gần như "biến mất" khỏi trải nghiệm của người dùng, những câu hỏi về quyền riêng tư, quyền kiểm soát dữ liệu và quyền từ chối cũng dễ bị bỏ quên.

Armitage cho rằng, chúng ta đang bước vào giai đoạn mà AI không còn chỉ là một công cụ hỗ trợ, mà trở thành một phần trong những hoạt động thiết yếu của cuộc sống. Vì vậy, thay vì chỉ tranh luận AI có thông minh hay hữu ích đến đâu, cần quan tâm nhiều hơn đến tính minh bạch của các hệ thống này và quyền của người dùng khi AI tham gia vào những quyết định liên quan trực tiếp đến họ.

Có lẽ, như cách Howard Armitage gợi mở, câu hỏi quan trọng nhất trong kỷ nguyên AI không còn là "AI có thể giúp chúng ta làm gì?", mà là "AI của ai đang lắng nghe chúng ta, dữ liệu được xử lý ra sao và điều gì sẽ xảy ra nếu một ngày chúng ta quyết định nói "Không""./.