 |
| Tọa đàm về thực hành trí tuệ nhân tạo có trách nhiệm trong lĩnh vực y tế. |
Nhận diện rủi ro khi AI tham gia chẩn đoán, điều trị
Tại Tọa đàm về thực hành trí tuệ nhân tạo có trách nhiệm trong lĩnh vực y tế do Trường Đại học Luật, Đại học Quốc gia Hà Nội tổ chức ngày 11/11, các chuyên gia nhận định AI đang từng bước trở thành công cụ hỗ trợ quan trọng trong hoạt động khám, chữa bệnh. Công nghệ này được ứng dụng trong chẩn đoán hình ảnh, dự báo nguy cơ mắc bệnh, cá nhân hóa phác đồ điều trị và quản lý dữ liệu y tế. Tuy nhiên, quá trình triển khai cũng phát sinh nhiều vấn đề liên quan đến độ tin cậy và an toàn.
Theo PGS.TS. Nguyễn Thị Quế Anh, Trường Đại học Luật, Đại học Quốc gia Hà Nội, AI đã được ứng dụng tại nhiều bệnh viện lớn như Bạch Mai, Chợ Rẫy và Bệnh viện K. Sự tham gia của công nghệ khiến mô hình tương tác giữa bác sĩ và người bệnh trở nên phức tạp hơn, đặc biệt khi AI tham gia hỗ trợ các quyết định lâm sàng.
“Một trong những thách thức lớn là xác định trách nhiệm khi hệ thống AI đưa ra khuyến nghị sai lệch, dẫn đến hậu quả đối với người bệnh. Trong trường hợp xảy ra sự cố nghiêm trọng, ranh giới trách nhiệm giữa nhà phát triển thuật toán, cơ sở y tế và bác sĩ điều trị có thể trở nên thiếu rõ ràng, gây khó khăn cho việc xử lý”, PGS.TS. Nguyễn Thị Quế Anh nêu rõ.
 |
| PGS.TS. Nguyễn Thị Quế Anh, Trường Đại học Luật, Đại học Quốc gia Hà Nội. |
Ở góc độ công nghệ, PGS.TS. Lê Thanh Hà, Trường Đại học Công nghệ, Đại học Quốc gia Hà Nội cảnh báo nguy cơ xuất phát từ đặc tính khó giải thích của một số hệ thống AI. Hiện tượng thường được gọi là “hộp đen” khiến bác sĩ khó xác định cơ sở hình thành các dự đoán hoặc khuyến nghị do thuật toán đưa ra trong quá trình điều trị.
Bên cạnh khả năng giải thích, chất lượng dữ liệu cũng quyết định độ tin cậy của hệ thống. “Dữ liệu y tế liên tục thay đổi theo thời gian, trong khi các mô hình AI có thể suy giảm hiệu quả nếu thiếu cơ chế cập nhật và đánh giá thường xuyên. Điều này tiềm ẩn nguy cơ tạo ra kết quả thiếu chính xác, ảnh hưởng trực tiếp đến quyết định chuyên môn”, PGS.TS. Lê Thanh Hà nhấn mạnh.
Đáng lo ngại, dữ liệu huấn luyện thiếu tính đại diện có thể khiến AI đưa ra những khuyến nghị chưa phù hợp với đặc điểm của từng nhóm người bệnh. Nếu hệ thống chủ yếu được xây dựng trên dữ liệu của một cộng đồng nhất định, khả năng áp dụng sang nhóm dân cư khác có thể bị hạn chế, đặc biệt đối với những bệnh lý hiếm gặp.
Dẫn chứng thực tiễn, TS. Khương Anh Tuấn, Phó Viện trưởng Viện Chiến lược và Chính sách Y tế, Bộ Y tế cho biết, Việt Nam từng tiếp nhận phần mềm AI của Australia phục vụ điều trị ung thư vú nhưng phải xây dựng lại dữ liệu do khác biệt về đặc điểm sinh học giữa hai cộng đồng. Trường hợp này cho thấy yêu cầu đánh giá tính phù hợp trước khi triển khai công nghệ.
Theo TS. Khương Anh Tuấn, việc sử dụng các phần mềm AI tại cơ sở y tế đang phát triển nhanh, trong khi công tác phân loại rủi ro và phân loại thiết bị còn những khoảng trống. Thực trạng này đặt ra yêu cầu cấp thiết về xây dựng tiêu chí đánh giá, kiểm định và giám sát, bảo đảm công nghệ được sử dụng phù hợp với mức độ ảnh hưởng đến sức khỏe người bệnh.
Hoàn thiện khung quản trị, bảo đảm trách nhiệm và đạo đức y khoa
Cùng với những thách thức kỹ thuật, việc xác định trách nhiệm pháp lý khi ứng dụng AI trong khám, chữa bệnh được các chuyên gia đặc biệt quan tâm. PGS.TS.BS. Nguyễn Viết Nhung, nguyên Giám đốc Bệnh viện Phổi Trung ương nhấn mạnh, theo Luật Khám bệnh, chữa bệnh, bác sĩ vẫn là người chịu trách nhiệm đối với hoạt động khám và điều trị cho bệnh nhân.
Theo ông Nhung, AI cần được xác định là công cụ hỗ trợ chuyên môn, còn bác sĩ phải có khả năng giải thích căn cứ đưa ra quyết định điều trị. Việc ứng dụng công nghệ đòi hỏi đội ngũ y tế nâng cao năng lực sử dụng, đánh giá thông tin và nhận diện sai sót, tránh phụ thuộc quá mức vào các kết quả do hệ thống tự động cung cấp.
Để hạn chế rủi ro, các chuyên gia đề xuất xây dựng cơ chế phân tầng mức độ nguy hiểm đối với từng ứng dụng AI trong y tế. Những hệ thống có khả năng tác động trực tiếp đến chẩn đoán, điều trị cần được kiểm định chặt chẽ, đánh giá định kỳ và giám sát trong suốt quá trình sử dụng, thay cho việc chủ yếu dựa vào khuyến nghị của nhà cung cấp.
PGS. Nguyễn Thị Quế Anh đề xuất nghiên cứu mô hình phân cấp đạo đức y sinh trong kỷ nguyên số, đồng thời thiết lập cơ chế đồng trách nhiệm giữa các chủ thể tham gia phát triển, cung cấp và sử dụng AI. Cơ chế này hướng tới khắc phục khoảng trống pháp lý, hạn chế tình trạng đùn đẩy trách nhiệm khi xảy ra sự cố liên quan đến thuật toán.
Ở góc độ thiết kế, PGS. Lê Thanh Hà nhấn mạnh yêu cầu tích hợp các nguyên tắc đạo đức ngay trong quá trình phát triển thuật toán y khoa. Hệ thống cần có khả năng giám sát, phát hiện tín hiệu bất thường, đánh giá độ chính xác và kiểm soát rủi ro xuyên suốt vòng đời công nghệ, bảo đảm phù hợp với yêu cầu chuyên môn và quy định pháp luật.
Vấn đề bảo vệ dữ liệu cá nhân cũng được đặt ra khi AI ngày càng được ứng dụng sâu trong lĩnh vực y tế. TS. Nguyễn Thị Phương Châm, Trường Đại học Luật, Đại học Quốc gia Hà Nội lưu ý yêu cầu bảo vệ dữ liệu sức khỏe nhạy cảm của người bệnh, ngăn ngừa nguy cơ lộ lọt thông tin hoặc sử dụng dữ liệu sai mục đích trong quá trình vận hành hệ thống.
Trong khi đó, PGS.TS. Nguyễn Thị Bích Thảo nhấn mạnh việc thực thi nguyên tắc minh bạch và trách nhiệm giải trình theo Khung đạo đức AI quốc gia. Các cơ sở y tế, đơn vị phát triển công nghệ cần xác định rõ trách nhiệm trong quản lý dữ liệu, kiểm soát thuật toán và xử lý sự cố, tạo cơ sở bảo vệ quyền lợi chính đáng của người bệnh.
