https://www.bbc.com/news/articles/cwylp3nxp5yo
Vụ kiện được đưa ra Tòa án Tối cao San Francisco, trong đó nguyên đơn khiếu cáo rằng ChatGPT đã lặp đi lặp lại việc bảo đảm với anh rằng các triệu chứng tắc mạch phổi ngày càng nặng của mình là “không nghiêm trọng – nên ở nhà, thư giãn”. Ngày hôm sau, OpenAI công bố Health in ChatGPT, kêu gọi người dùng tại Mỹ kết nối dữ liệu Apple Health, hồ sơ y tế và các ứng dụng như MyFitnessPal để nhận được phản hồi sức khỏe cá nhân hoá hơn. Thời điểm ra mắt, nếu nhìn theo lương tâm thì thật không may. Nếu không, thì nó giống như một người pha chế lùi lại đưa cho bạn ly thứ năm trong khi nhắc nhở bạn uống có chừng mực.
Tính năng Health in ChatGPT thực sự làm gì
The feature connects real medical data to a general‑purpose chatbot across free and paid tiers.
- Kết nối Apple Health, hồ sơ y tế từ cổng thông tin của các nhà cung cấp, MyFitnessPal và Function
- Đọc kết quả xét nghiệm, tóm tắt lần khám, dữ liệu giấc ngủ và dữ liệu hoạt động
- Khi tính năng được bật, có thể tham chiếu dữ liệu sức khỏe đã kết nối trong bất kỳ cuộc trò chuyện nào của ChatGPT — không chỉ trong tab Health
- Khi ra mắt, tính năng này không có ở khu vực Kinh tế châu Âu (EEA), Thụy Sĩ và Vương quốc Anh, phản ánh rào cản pháp lý xung quanh dữ liệu y tế
- Dữ liệu sức khỏe không được dùng để huấn luyện các mô hình nền tảng theo mặc định
Công nhận công sức của những người đã chỉ ra khoảng trống về kiến thức y tế. Bạn rời phòng khám tay cầm một tờ in đầy các viết tắt và các mức tham chiếu mà có thể so sánh được với tiếng Sumer cổ đại. ChatGPT Health được giới thiệu như một “phiên dịch viên” — chuyển các kết quả xét nghiệm thành ngôn ngữ dễ hiểu, so sánh kết quả mới với các mẫu máu trước, giúp bạn chuẩn bị câu hỏi trước cuộc hẹn. Khoảng cách giữa những gì bác sĩ nói và những gì bạn thực sự hiểu là một lĩnh vực hợp lý cho công cụ như thế này.
Đơn kiện nằm ngay bên cạnh lời hứa đó như một nhãn cảnh báo mà không ai đọc. Nguyên đơn cáo buộc ChatGPT đã trấn an anh rằng các triệu chứng không nghiêm trọng và khuyên không nên tìm kiếm chăm sóc khẩn cấp. OpenAI nói với New York Times rằng các điều khoản dịch vụ đã nêu rõ ChatGPT không dành cho việc chẩn đoán y khoa, và các mô hình của họ đã được cải thiện kể từ sự cố.
“ChatGPT không phải là bác sĩ và không bao giờ được dùng thay cho chăm sóc y tế, chẩn đoán hay điều trị,” một phát ngôn viên của OpenAI cho biết.
Vấn đề thực sự không phải là tuyên bố từ chối trách nhiệm
When a chatbot has your blood panel and sleep data, fine print cannot override product design.
Đây là mâu thuẫn mà bất kỳ tuyên bố từ chối trách nhiệm nào cũng không thể giải quyết. Khi một chatbot tham chiếu kết quả xét nghiệm thực tế, xu hướng ngủ, lịch sử khám bệnh của bạn — và trả lời một cách tự tin, rõ ràng — phần lớn người dùng không coi đó chỉ là “hỗ trợ thông tin”. Các nghiên cứu đã chỉ ra các mô hình ngôn ngữ lớn (LLM) không đạt được chẩn đoán sớm trong hơn 80 % các trường hợp trong một số thử nghiệm. Thêm nhiều dữ liệu cá nhân cũng không khắc phục được mô hình vốn “ảo ảnh” với sự chắc chắn.
Theo nguồn tin, dữ liệu nội bộ của OpenAI cho thấy hơn 70 % các cuộc trò chuyện về sức khỏe đã diễn ra bên ngoài không gian Health chuyên dụng — người dùng đã đối xử với ChatGPT như một bác sĩ từ lâu trước khi tính năng này xuất hiện.
Càng cá nhân hoá Health in ChatGPT, càng khó để người dùng xem các kết quả của nó chỉ là gợi ý thông thường. Đó không phải là vấn đề về điều khoản dịch vụ. Đó là mâu thuẫn trong thiết kế sản phẩm mà chưa có ai — không phải OpenAI, không phải Apple, không phải cơ quan quản lý — tìm ra giải pháp.
ChatGPT, Health AI, Legal
