Cảnh báo ChatGPT bản miễn phí có thể cung cấp thông tin thiếu chính xác

Ứng dụng ChatGPT mang lại nhiều tiện ích cho người dùng song trong một nghiên cứu công bố ngày 5/12, các nhà khoa học cảnh báo phiên bản ChatGPT miễn phí có thể đưa ra câu trả lời không chính xác hoặc không đầy đủ, hoặc không trả lời, đối với các câu hỏi liên quan đến dược phẩm. Điều này có thể gây nguy hại đối với bệnh nhân sử dụng chatbot trí tuệ nhân tạo này để tham khảo thông tin về thuốc.

Biểu tượng của OpenAI và ChatGPT.

Nghiên cứu trên do nhóm dược sĩ thuộc Đại học Long Island (Mỹ) thực hiện từ tháng 1/2022 đến tháng 4/2023 đối với ChatGPT phiên bản miễn phí của công ty OpenAI. Theo đó, Phó Giáo sư chuyên ngành dược Sara Grossman cùng nhóm nghiên cứu đã đưa ra 45 câu hỏi thực tế liên quan đến dịch vụ thông tin thuốc của trường Dược thuộc Đại học Long Island. Một số dược sĩ trong nhóm đã nghiên cứu và trả lời 45 câu hỏi. Một số dược sĩ khác sẽ kiểm tra lại mỗi câu hỏi và trả lời. Những câu trả lời này được dùng làm tiêu chí để đối chiếu với các phản hồi của ChatGPT. Sau đó, nhóm nghiên cứu đã loại bỏ 6 câu hỏi vì thiếu tài liệu giải đáp, để lại 39 câu hỏi cho ChatGPT trả lời.

Kết quả cho thấy chỉ 10 trong số 39 phản hồi của ChatGPT được đánh giá là thỏa đáng căn cứ những tiêu chí các dược sĩ đặt ra. Đối với các câu hỏi còn lại, ChatGPT không trả lời trực tiếp 11 câu, trả lời không chính xác đối với 10 câu và trả lời sai hoặc không đầy đủ đối với 12 câu.

Trước kết quả này, trưởng nhóm nghiên cứu Sara Grossman nhận định rằng các chuyên gia chăm sóc sức khỏe và bệnh nhân nên thận trọng khi sử dụng ChatGPT tìm hiểu thông tin liên quan đến thuốc và bất kỳ ai sử dụng ChatGPT để tham khảo thông tin về thuốc cũng nên xác minh lại bằng các nguồn đáng tin cậy khác.

Đối với mỗi câu hỏi, các nhà nghiên cứu yêu cầu ChatGPT cung cấp tài liệu tham khảo để có thể xác minh thông tin. Chỉ có 8 câu trả lời có các tài liệu tham khảo và tất cả các tài liệu này đều không còn tồn tại. Đáng chú ý, các nhà nghiên cứu hỏi ChatGPT liệu có sự tương tác giữa thuốc Paxlovid điều trị COVID-19 của hãng Pfizer và thuốc cao huyết áp verapamil hay không và ChatGPT trả lời không có tương tác nào được ghi nhận khi uống 2 loại thuốc này cùng lúc. Tuy nhiên, Phó Giáo sư Grossman cho biết trên thực tế, 2 thuốc này có thể tương tác với nhau và việc sử dụng kết hợp Paxlovid và verapamil có thể khiến huyết áp người bệnh hạ xuống rất thấp. Bà nhấn mạnh nếu không biết về sự tương tác này, bệnh nhân có thể gặp phải tác dụng phụ không mong muốn, trong khi thực tế có thể phòng ngừa được.

Trong nghiên cứu, bà Grossman lưu ý rằng các nhà quản lý dược phẩm Mỹ đã cấp phép lưu hành thuốc Paxlovid lần đầu tiên vào tháng 12/2021, ít tháng sau khi ứng dụng ChatGPT phiên bản miễn phí bị giới hạn sử dụng các tập dữ liệu. Như vậy, nhiều người dùng Paxlovid có thể không biết dữ liệu mà mình tiếp cận là lỗi thời và thông tin ChatGPT cung cấp là không chính xác. Bà Grossman cho rằng có thể ChatGPT phiên bản tính phí sẽ cho kết quả tốt hơn.

Theo bà Grossman, nghiên cứu chỉ đưa ra đánh giá nhanh về hiệu suất của chatbot này từ đầu năm nay và có thể phiên bản miễn phí của ChatGPT hiện đã được cải thiện, theo đó cho kết quả tốt hơn.

Có thể bạn quan tâm

Tin cùng chuyên mục

Hội nghị trực tuyến chuyên đề “Bình dân học vụ số – Quốc hội số"

Hội nghị trực tuyến chuyên đề “Bình dân học vụ số – Quốc hội số"

Chiều nay, 13/9, tại Nhà Quốc hội, Tổng Bí thư Tô Lâm, Trưởng Ban Chỉ đạo Trung ương về phát triển khoa học, công nghệ, đổi mới sáng tạo và chuyển đổi số dự và chỉ đạo Hội nghị chuyên đề “Bình dân học vụ số – Quốc hội số: Khung kiến thức, kỹ năng số cho Quốc hội hiện đại”.

Hội nghị chuyên đề “Bình dân học vụ số - Quốc hội số” diễn ra vào ngày 13/9

Hội nghị chuyên đề “Bình dân học vụ số - Quốc hội số” diễn ra vào ngày 13/9

Thực hiện Nghị quyết số 57 của Bộ Chính trị về đột phá phát triển khoa học, công nghệ, đổi mới sáng tạo và chuyển đổi số quốc gia, Đảng ủy Quốc hội ngày 13/9 tổ chức Hội nghị chuyên đề “Bình dân học vụ số - Quốc hội số” nhằm nâng cao năng lực số, xây dựng nền tảng tri thức số cho một Quốc hội hiện đại.

Bộ Y tế đề xuất hợp nhất các số tổng đài 113, 114, 115

Bộ Y tế đề xuất hợp nhất các số tổng đài 113, 114, 115

Ngày 11/9, thông tin từ Cục Quản lý Khám, chữa bệnh - Bộ Y tế cho biết, dự thảo Đề án phát triển hệ thống cấp cứu ngoại viện giai đoạn 2025 - 2030 đang được Bộ Y tế gửi xin ý kiến các đơn vị liên quan. Đây là bước đi quan trọng nhằm tạo hành lang pháp lý và cơ chế chính sách đồng bộ để hoàn thiện mạng lưới cấp cứu ngoại viện trong những năm tới.

Lào Cai: Gần 2.000 cán bộ tham dự Hội nghị toàn quốc tập huấn ứng dụng trí tuệ nhân tạo

Lào Cai: Gần 2.000 cán bộ tham dự Hội nghị toàn quốc tập huấn ứng dụng trí tuệ nhân tạo

Sáng 09/9, Văn phòng Trung ương Đảng - Cơ quan Thường trực Ban Chỉ đạo Trung ương về phát triển khoa học, công nghệ, đổi mới sáng tạo và chuyển đổi số tổ chức Hội nghị toàn quốc tập huấn ứng dụng trí tuệ nhân tạo (AI) cho cán bộ các cấp ủy và cơ quan đảng (đợt 1). Hội nghị được kết nối trực tuyến tới gần 4.000 điểm cầu ở Trung ương, cấp tỉnh và cấp xã trong cả nước.

Tia plasma lạnh tiêu diệt tế bào ung thư ẩn sâu

Tia plasma lạnh tiêu diệt tế bào ung thư ẩn sâu

Các nhà khoa học Đức chứng minh tia plasma lạnh có thể xuyên sâu vào khối u và tấn công tế bào ung thư, đồng thời phát hiện các phân tử có thời gian sống rất ngắn trong plasma mới là tác nhân then chốt - trái với giả định lâu nay về vai trò của hydro peroxit.

Nhiều lợi ích tài chính từ Đề án 06

Nhiều lợi ích tài chính từ Đề án 06

Việc triển khai Đề án 06 về Phát triển ứng dụng dữ liệu về dân cư, định danh và xác thực điện tử phục vụ chuyển đổi số quốc gia giai đoạn 2022-2025, tầm nhìn đến năm 2030 của Chính phủ đang hỗ trợ các hoạt động tài chính ngày một rõ nét và mang lại hiệu quả cao.

fb yt zl tw