Quản lý ứng dụng AI trong y tế của một số quốc gia
Liên minh châu Âu
Ngày 13/03/2024, Nghị viện châu Âu thông qua Luật AI của Liên minh châu Âu (EU), sau đó được Hội đồng EU phê duyệt ngày 21/05/2024, chính thức có hiệu lực từ ngày 01/08/2024. Luật này không chỉ tạo ra một khung pháp lý đồng bộ cho việc phát triển và sử dụng AI trong toàn bộ EU, mà còn đặt ra các quy định cụ thể nhằm bảo đảm AI được triển khai một cách an toàn và đáng tin cậy, nâng cao sự bảo vệ quyền lợi của cá nhân.
Luật đã quy định rõ yêu cầu đối với hệ thống AI liên quan đến quản lý rủi ro, quản trị dữ liệu, giám sát con người, tính minh bạch, độ chính xác, tính bền vững và an ninh mạng, các nghĩa vụ của nhà cung cấp đối với người sử dụng các hệ thống AI. Trong lĩnh vực y tế, các hệ thống AI có rủi ro cao bao gồm những hệ thống sử dụng nhận dạng sinh trắc học, phân loại bệnh nhân dựa trên tiền sử bệnh, phần mềm quản lý dịch vụ chăm sóc sức khỏe cộng đồng và hồ sơ sức khỏe điện tử. Yêu cầu chính đối với các hệ thống AI rủi ro cao này là quản lý dữ liệu và quản lý rủi ro. Đối với các hệ thống AI có rủi ro thấp như chatbot có thể tương tác với con người trong dịch vụ chăm sóc sức khỏe, cần có bộ quy tắc tự nguyện để bảo đảm dịch vụ an toàn và đáng tin cậy.
Hoa Kỳ
Hiệp hội Y khoa Hoa Kỳ (AMA) đã ban hành 7 nguyên tắc về việc sử dụng AI trong chăm sóc sức khỏe nhằm bảo đảm rằng công nghệ này được áp dụng một cách hiệu quả và có trách nhiệm. Các nguyên tắc đó bao gồm:
Cải thiện sức khỏe: AI nên được phát triển và sử dụng với mục tiêu chính là cải thiện sức khỏe của bệnh nhân và nâng cao chất lượng chăm sóc y tế.
Sự minh bạch: Các hệ thống AI phải cung cấp thông tin rõ ràng và minh bạch về cách chúng hoạt động, cách dữ liệu được sử dụng và cách đưa ra quyết định.
Trách nhiệm: Cần xác định rõ trách nhiệm của các bên liên quan trong việc phát triển, triển khai và sử dụng các công nghệ AI, bảo đảm rằng người dùng có thể chịu trách nhiệm cho quyết định dựa trên thông tin do AI cung cấp.
Bảo vệ quyền riêng tư: AI phải được thiết kế để bảo vệ quyền riêng tư của bệnh nhân và bảo đảm an toàn thông tin cá nhân, đồng thời tuân thủ các quy định về bảo mật dữ liệu.
Ngăn chặn thiên lệch: Các hệ thống AI cần được phát triển để tránh thiên lệch và bảo đảm rằng chúng phục vụ cho tất cả bệnh nhân mà không phân biệt chủng tộc, giới tính hoặc bất kỳ yếu tố nào khác.
Khả năng tiếp cận: Các công nghệ AI nên được thiết kế để dễ dàng tiếp cận cho tất cả bệnh nhân và chuyên gia y tế, không để ai bị loại trừ.
Giáo dục và đào tạo: Cần có chương trình giáo dục và đào tạo cho bác sĩ và nhân viên y tế để họ hiểu và có thể sử dụng AI một cách hiệu quả trong công việc của mình.
Những nguyên tắc này nhằm hướng dẫn việc phát triển và ứng dụng AI trong y tế một cách đạo đức, công bằng và có trách nhiệm, tạo ra một khuôn khổ quản trị thống nhất để thúc đẩy AI trong ngành. Các nguyên tắc nhấn mạnh tầm quan trọng của các chính sách toàn diện nhằm giảm thiểu những rủi ro tiềm ẩn liên quan đến công nghệ AI đối với bệnh nhân và bác sĩ. Các khía cạnh chính trong các nguyên tắc của AMA bao gồm ủng hộ quản trị toàn diện để quản lý rủi ro trong AI chăm sóc sức khỏe và thúc đẩy tính minh bạch với các yêu cầu pháp lý trong thiết kế, phát triển và triển khai AI. Ngoài ra, các nguyên tắc này kêu gọi thiết kế AI lấy quyền riêng tư làm trọng tâm, xử lý an toàn dữ liệu cá nhân, công bố rõ ràng về thời điểm AI tác động đến việc chăm sóc bệnh nhân và xây dựng các chính sách để giải quyết các tác động tiêu cực tiềm ẩn trước khi triển khai AI. Hơn nữa, AMA thúc giục xác định sớm và giảm thiểu sự thiên vị trong các thuật toán AI, ủng hộ việc hạn chế trách nhiệm pháp lý của bác sĩ khi sử dụng các công nghệ hỗ trợ AI trong khi tuân thủ các khuôn khổ pháp lý về trách nhiệm pháp lý y tế hiện hành.
Trung Quốc
Cục Quản lý Sản phẩm Y tế Quốc gia (NMPA) của Trung Quốc, cơ quan chịu trách nhiệm giám sát các sản phẩm y tế, đã công bố “Hướng dẫn kỹ thuật về phần mềm hỗ trợ AI” vào tháng 6/2019. Hướng dẫn này nhấn mạnh các đặc điểm của công nghệ học sâu (deep learning), kiểm soát chất lượng dữ liệu phần mềm, tạo ra thuật toán hợp lệ và các phương pháp đánh giá rủi ro lâm sàng.
Ngày 08/07/2021, NMPA tiếp tục công bố “Hướng dẫn về phân loại và định nghĩa Phần mềm dựa trên AI như một thiết bị y tế”. Tài liệu này cung cấp thông tin về cách phân loại, thuật ngữ của thiết bị y tế AI, độ an toàn và hiệu quả của các thuật toán AI, cũng như khả năng hỗ trợ trong việc ra quyết định như chẩn đoán lâm sàng và lập kế hoạch điều trị cho bệnh nhân.
Ngày 07/03/2022, Trung tâm Đánh giá Thiết bị Y tế thuộc NMPA đã công bố “Hướng dẫn đăng ký và đánh giá thiết bị y tế dựa trên AI”. Hướng dẫn này đưa ra các tiêu chuẩn về quản lý chất lượng phần mềm và an ninh mạng cho thiết bị y tế, xem xét toàn bộ vòng đời của sản phẩm.
Những hướng dẫn này cho thấy, NMPA không chỉ bắt đầu chuẩn hóa việc quản lý các thiết bị y tế sử dụng AI ở cấp quốc gia, mà còn đang nỗ lực hài hòa với các tiêu chuẩn quốc tế, tập trung vào các yếu tố rủi ro và quản lý toàn bộ vòng đời sản phẩm.
Singapore
Chiến lược AI của Singapore tập trung vào xác định các lĩnh vực ưu tiên và nguồn lực ở cấp quốc gia; thiết lập cách thức hợp tác giữa các bên liên quan để tận dụng hiệu quả AI; quản lý rủi ro và những thay đổi phát sinh khi AI trở nên phổ biến hơn.
Ngày 25/05/2022, Cơ quan Phát triển Truyền thông và Thông tin Singapore (IMDA) đã ban hành "AI Verify" - bộ công cụ và khung thử nghiệm quản lý AI đầu tiên trên thế giới. Bộ công cụ này giúp các công ty ở Singapore thực hiện việc sử dụng AI có trách nhiệm, minh bạch và có thể xác minh được. Khung thử nghiệm này dựa trên 11 nguyên tắc đạo đức AI được quốc tế công nhận, phù hợp với các khuôn khổ AI của Liên minh châu Âu (EU), Tổ chức Hợp tác và Phát triển Kinh tế (OECD) và mô hình quản trị AI của Singapore. Các nguyên tắc bao gồm: minh bạch, khả năng giải thích, tính lặp lại/tái sản xuất, an toàn, bảo mật, tính vững chắc, công bằng, quản trị dữ liệu, trách nhiệm, sự giám sát của con người, phát triển toàn diện và lợi ích xã hội, môi trường.
Một số khuyến nghị cho Việt Nam
Ứng dụng AI trong việc khám, chữa bệnh đang là xu thế chung của toàn thế giới và Việt Nam cũng không ngoại lệ. Việt Nam đang từng bước áp dụng AI vào hệ thống y tế, mặc dù vẫn còn nhiều khó khăn và thách thức về cơ sở hạ tầng và nhân lực. Một số bệnh viện lớn và trung tâm nghiên cứu đã tiên phong trong việc sử dụng AI để nâng cao chất lượng chăm sóc sức khỏe và cải thiện quy trình quản lý bệnh nhân. Các bệnh viện lớn như Bạch Mai, Chợ Rẫy, Trung ương Huế, K… đã sử dụng các hệ thống AI trong việc phân tích hình ảnh y khoa và hỗ trợ chẩn đoán. Các hệ thống này giúp bác sĩ phát hiện sớm dấu hiệu của các bệnh ung thư, tim mạch, thần kinh thông qua phân tích dữ liệu từ hình ảnh X-quang, CT scan và MRI. Ngoài ra, trong điều trị, nhiều bệnh viện như K, Ung bướu TP Hồ Chí Minh, đã triển khai sử dụng phần mềm IBM Watson for Oncology để giúp chẩn đoán, điều trị cho các bệnh nhân ung thư và đạt được những kết quả tốt.
Áp dụng robot phẫu thuật cho bệnh nhân ung thư đường tiêu hóa tại Bệnh viện K (Hà Nội). Nguồn: Bệnh viện K.
Ứng dụng AI trong chẩn đoán hình ảnh tại Bệnh viện Đại học Y Hà Nội. Nguồn: Bệnh viện Đại học Y Hà Nội.
Tuy nhiên, còn rất nhiều khó khăn, trở ngại trong việc phát triển AI trong y tế tại Việt Nam. Những khó khăn đến từ nhiều phía: người bệnh, bệnh viện, bác sỹ, nhà cung cấp công nghệ và cơ quan quản lý. Dưới đây là một số khuyến nghị chính sách cụ thể thúc đẩy phát triển và quản lý AI trong y tế tại Việt Nam.
Thứ nhất, xây dựng khung pháp lý về AI trong y tế: Để bảo đảm sự an toàn và hiệu quả khi sử dụng AI trong y tế, Việt Nam cần thiết lập một khung pháp lý rõ ràng. Cần tham khảo các hướng dẫn, nguyên tắc trong lĩnh vực này của Tổ chức Y tế Thế giới (WHO), cũng như kinh nghiệm của EU, Hoa Kỳ, Trung Quốc, Singapore… Khung pháp lý nên bao gồm các quy định về quản lý rủi ro, giám sát con người, tính minh bạch, quản trị dữ liệu và an ninh mạng. Những hệ thống AI có mức độ rủi ro cao cần được kiểm định kỹ lưỡng trước khi triển khai. Khung pháp lý cũng cần thiết lập các tiêu chuẩn an toàn, đánh giá rủi ro và kiểm định chất lượng đối với các ứng dụng AI trong y tế. Đặc biệt, cần quy định trách nhiệm pháp lý của các nhà cung cấp dịch vụ AI và cơ sở y tế trong trường hợp xảy ra sự cố hoặc sai sót trong quá trình sử dụng.
Thứ hai, thiết lập hướng dẫn đạo đức và nguyên tắc quản lý: AI trong y tế cần tuân thủ các nguyên tắc đạo đức quan trọng. Dựa trên kinh nghiệm quốc tế, như các nguyên tắc của Tổ chức Y tế Thế giới (WHO), Tổ chức Hợp tác và Phát triển Kinh tế (OECD), EU và một số nước, Bộ Y tế cần ban hành các hướng dẫn đạo đức về AI trong y tế, quy định rõ trách nhiệm của các bên liên quan, bao gồm nhà phát triển công nghệ, bệnh viện và nhân viên y tế, nhằm bảo đảm AI được phát triển để phục vụ lợi ích của con người. Các nhà phát triển AI cần bảo đảm rằng hệ thống của họ không chứa đựng thiên vị, phân biệt đối xử và phải được thiết kế với sự tôn trọng quyền riêng tư của bệnh nhân. Cần có những biện pháp đánh giá độc lập về mức độ an toàn và hiệu quả của AI trước và sau khi triển khai, đồng thời công bố thông tin minh bạch về việc thu thập, xử lý và sử dụng dữ liệu. Bên cạnh đó, cần xây dựng cơ chế xử lý khiếu nại, giải quyết tranh chấp để bảo vệ quyền lợi của người bệnh khi gặp phải những vấn đề liên quan đến AI trong quá trình chăm sóc sức khỏe.
Thứ ba, phát triển hạ tầng dữ liệu y tế và công nghệ: Việt Nam cần đầu tư mạnh vào phát triển hạ tầng dữ liệu y tế đồng bộ và hiện đại. Để AI hoạt động hiệu quả, cần thiết lập các cơ sở dữ liệu y tế quốc gia với thông tin được chuẩn hóa, có thể dễ dàng truy cập và chia sẻ giữa các cơ sở y tế. Chính phủ nên xây dựng một kho dữ liệu y tế quốc gia, với các biện pháp bảo mật cao, cho phép lưu trữ và khai thác dữ liệu để huấn luyện các mô hình AI. Tuy nhiên, quá trình thu thập dữ liệu cần tuân thủ nghiêm ngặt quy định về quyền riêng tư, bảo mật thông tin cá nhân của người bệnh. Ngoài ra, các bệnh viện cần được trang bị cơ sở hạ tầng công nghệ thông tin hiện đại, bao gồm phần mềm quản lý dữ liệu, hệ thống lưu trữ đám mây, thiết bị y tế tích hợp AI, nhằm hỗ trợ cho việc thu thập, xử lý và sử dụng dữ liệu trong quá trình chẩn đoán và điều trị.
Thứ tư, nâng cao nhận thức và đào tạo nhân lực về AI trong y tế: Kinh nghiệm quốc tế cho thấy, một trong những rào cản lớn là sự thiếu kiến thức và sự tin tưởng của cả người bệnh và nhân viên y tế đối với AI. Do đó, cần có các chương trình giáo dục, truyền thông nhằm nâng cao nhận thức cộng đồng về lợi ích và rủi ro khi sử dụng AI trong y tế. Chính phủ, các tổ chức y tế và các trường đại học cần hợp tác để đưa nội dung về AI vào chương trình đào tạo của các chuyên ngành y tế, nhằm trang bị cho sinh viên và nhân viên y tế kiến thức và kỹ năng cần thiết. Các khóa đào tạo ngắn hạn cũng cần được tổ chức cho đội ngũ y bác sĩ, giúp họ hiểu rõ cách sử dụng AI trong chẩn đoán và điều trị, cũng như các nguyên tắc đạo đức cần tuân thủ. Việc đào tạo và phát triển nguồn nhân lực chất lượng cao về AI trong y tế sẽ giúp thúc đẩy quá trình triển khai công nghệ này một cách hiệu quả và an toàn.
Thứ năm, khuyến khích nghiên cứu phát triển và hợp tác quốc tế: Để thúc đẩy đổi mới sáng tạo AI trong y tế, cần khuyến khích sự hợp tác giữa các cơ quan chính phủ, bệnh viện, viện nghiên cứu và các doanh nghiệp công nghệ. Chính phủ nên tạo điều kiện và cung cấp các chính sách ưu đãi, hỗ trợ tài chính cho các dự án nghiên cứu và triển khai AI trong y tế. Đào tạo nguồn nhân lực cũng cần được chú trọng. Việc hợp tác quốc tế không chỉ giúp phát triển các giải pháp AI tiên tiến mà còn tạo điều kiện để hệ thống y tế tiếp cận các công nghệ mới nhất. Đặc biệt, việc hỗ trợ và khuyến khích các startup công nghệ y tế sẽ giúp tạo ra các giải pháp sáng tạo, phù hợp với bối cảnh và nhu cầu thực tế của Việt Nam.
Thứ sáu, thiết lập hệ thống giám sát, đánh giá và quản lý rủi ro: Chính phủ cần thiết lập một hệ thống giám sát chặt chẽ đối với việc triển khai và vận hành các hệ thống AI trong y tế, bao gồm các cơ chế kiểm tra định kỳ, đánh giá tác động và báo cáo sự cố. Việc này giúp bảo đảm rằng, các hệ thống AI hoạt động ổn định, an toàn và tuân thủ các tiêu chuẩn đã được quy định. Hệ thống giám sát cũng cần cho phép phản hồi nhanh chóng khi xảy ra sự cố, bảo đảm mọi sai sót được phát hiện và xử lý kịp thời. Ngoài ra, cần thiết lập quy trình đánh giá chi phí - hiệu quả để việc đầu tư vào AI mang lại lợi ích kinh tế cho hệ thống y tế.
Thứ bảy, bảo vệ quyền lợi của người bệnh và người dùng: Chính phủ cần ban hành các quy định cụ thể để bảo vệ quyền lợi của người bệnh khi sử dụng các dịch vụ AI trong y tế. Điều này bao gồm quyền được cung cấp đầy đủ thông tin về cách thức hoạt động của AI, cách thu thập và sử dụng dữ liệu, cũng như quyền từ chối sử dụng dịch vụ AI nếu không mong muốn.
*
* *
Việc triển khai AI không chỉ cần sự đầu tư về công nghệ mà còn đòi hỏi một hệ thống chính sách, quản lý và đào tạo đồng bộ. Bằng cách kết hợp giữa khung pháp lý rõ ràng, sự hợp tác giữa các bên liên quan, sự quan tâm đặc biệt đến quyền lợi của người bệnh, Việt Nam có thể khai thác tối đa tiềm năng của AI để cải thiện chất lượng chăm sóc sức khỏe và nâng cao hiệu quả hoạt động của hệ thống y tế.
Tài liệu tham khảo
[1] European Commission (2024), AI Act Enters Into Force, https://commission.europa.eu/news/ai-act-enters-force-2024-08-01_en, truy cập ngày 23/03/2025.
[2] American Medical Association (2023), AMA Issues New Principles For AI Development, Deployment & Use, https://www.ama-assn.org/press-center/press-releases/ama-issues-new-principles-ai-development-deployment-use, truy cập ngày 23/03/2025