Một công ty bảo hiểm sức khỏe nổi tiếng của Pháp đã thực hiện thử nghiệm lớn nhất từ trước đến nay đối với trí tuệ nhân tạo (AI) y tế, khi đưa chatbot vào ứng dụng Alan và nhận được phản hồi đầy hài lòng từ hàng trăm người dùng. Tuy nhiên, thử nghiệm thực địa này cũng đã để lộ một số sai lệch nghiêm trọng trong hướng dẫn y tế, đặc biệt là khi một số trao đổi chứa đựng “những thông tin có thể gây hại”.
Người dùng của ứng dụng chăm sóc sức khỏe Alan đã trải nghiệm việc các câu hỏi y tế của họ được trả lời bởi một AI chatbot. Mặc dù nhiều người bày tỏ sự hài lòng, việc phát hiện ra các thiếu sót tiềm tàng trong thông tin cung cấp bởi AI lại gợi ra một số cân nhắc thiết yếu về tính chính xác và độ an toàn của công nghệ này trong lĩnh vực y tế.
Từ trước đến nay, các công ty công nghệ đã mạnh dạn hứa hẹn rằng AI có thể giúp giảm bớt áp lực cho các bác sĩ bằng cách cung cấp những lời khuyên y tế chính xác. Song, nhiều nhà phê bình vẫn nghi ngờ về độ chính xác và các rủi ro tiềm tàng của AI, trong khi công nghệ này chưa thực sự đạt được thành công rộng rãi trên thị trường. Babylon Health, một trong những công ty AI chăm sóc sức khỏe nổi bật nhất, đã phải tuyên bố phá sản vào năm ngoái, điều này càng làm gia tăng những lo ngại về tính khả thi và bền vững của AI trong chăm sóc sức khỏe.
Thử nghiệm của Alan đặt ra câu hỏi thiết yếu: liệu AI có thể vượt qua những ràng buộc cân bằng giữa việc cung cấp thông tin nhanh chóng và đảm bảo tính chính xác trong môi trường y tế nhạy cảm? Trong bối cảnh dư luận hiện có, mặc dù AI đã chứng tỏ tiềm năng mang lại những tiện ích lớn cho ngành y tế, song những thách thức về độ tin cậy và đạo đức vẫn đòi hỏi sự giám sát khắt khe và các biện pháp điều chỉnh hợp lý. Các công ty công nghệ và chuyên gia y tế cần phối hợp chặt chẽ hơn để phát triển các giải pháp an toàn và đáng tin cậy, đồng thời nuôi dưỡng lòng tin của người dùng vào năng lực của AI trong chăm sóc sức khỏe.
