Ung thư và AI – ChatGPT có thể tin cậy được không? Ảnh: @AFP.
Nghiên cứu mới cho thấy, ChatGPT đã cung cấp thông tin sai lệch, khi được yêu cầu thiết kế kế hoạch điều trị ung thư. Chatbot AI này đã trộn lẫn thông tin đúng và không chính xác với nhau, khiến việc giải mã vấn đề trở nên khó khăn hơn.
ChatGPT có thể đang gây bão trên toàn thế giới, nhưng một nghiên cứu mới cho thấy, có một lĩnh vực quan trọng mà nó khó có thể được sử dụng sớm.
Các nhà nghiên cứu tại Bệnh viện Brigham and Women của Trường Harvard Medical ở Boston, Massachusetts phát hiện ra rằng, các kế hoạch điều trị ung thư do công cụ ChatGPT của OpenAI tạo ra có rất nhiều sai sót nghiêm trọng.
Theo nghiên cứu được công bố trên tạp chí JAMA Oncology, khi được yêu cầu lập kế hoạch điều trị cho nhiều trường hợp ung thư, 1/3 câu trả lời của mô hình ngôn ngữ lớn này đưa ra chứa thông tin không chính xác.
Ở đây, các nhà nghiên cứu đã sử dụng 104 gợi ý truy vấn đầu vào liên quan đến ung thư phổi, tuyến tiền liệt và vú. Để đo lường chất lượng lời khuyên của ChatGPT đưa ra, họ đã so sánh câu trả lời của ChatGPT với các hướng dẫn điều trị ung thư từ Mạng lưới Ung thư Toàn diện Quốc gia Mỹ (National Comprehensive Cancer Network- viết tắt là NCCN).
Kết quả cho thấy, ChatGPT đã đưa nhiều khuyến nghị điều trị không phù hợp với NCCN với tỷ lệ đáng kinh ngạc là 34,3%. Nghiên cứu cũng lưu ý rằng, ChatGPT có xu hướng trộn lẫn thông tin đúng và không chính xác với nhau, điều này gây khó khăn cho việc xác định đâu là trọng tâm chính xác của vấn đề.
Đồng tác giả, Danielle Bitterman, bác sĩ ung thư bức xạ và giảng viên tại Harvard Medical nói với tờ Insider rằng, các tác giả của nghiên cứu bị bất ngờ bởi mức độ thông tin không chính xác được trộn lẫn với thông tin chính xác, do công cụ này tạo ra, khiến việc phát hiện sai sót trở nên đặc biệt khó khăn, ngay cả đối với các chuyên gia cấp cao trong ngành”.
Danielle Bitterman nói: “Các mô hình ngôn ngữ lớn được đào tạo để đưa ra những câu trả lời nghe có vẻ rất thuyết phục, nhưng chúng không được thiết kế để cung cấp lời khuyên y tế chính xác. Tỷ lệ mắc lỗi và tính không ổn định của phản hồi là những vấn đề an toàn quan trọng cần được giải quyết trong lĩnh vực lâm sàng”.
Danielle Bitterman chia sẻ thêm về câu chuyện: “Nhờ ChatGPT, bệnh nhân nên cảm thấy được trao quyền để tự tìm hiểu thêm về tình trạng bệnh lý của mình, nhưng họ phải luôn thảo luận với bác sĩ lâm sàng và không nên tham khảo các tài nguyên trên Internet một cách chủ quan. Bởi phản hồi của ChatGPT có thể nghe rất giống con người, và có thể khá thuyết phục. Nhưng khi nói đến việc ra quyết định lâm sàng, có rất nhiều điều phức tạp tùy theo tình huống riêng của mỗi bệnh nhân. Một câu trả lời đúng có thể mang nhiều sắc thái, và không nhất thiết phải là thứ cứng ngắc mà ChatGPT hoặc một mô hình ngôn ngữ lớn nào khác có thể cung cấp”.
Cuối cùng, Bitterman khẳng định: “Các nhà phát triển phải có trách nhiệm phân phối các công nghệ không gây hại, và bệnh nhân cũng như bác sĩ lâm sàng cần nhận thức được những hạn chế của những công nghệ này. Chắc chắn, công nghệ AI có thể vượt qua kỳ thi cấp giấy phép y tế. Nhưng rõ ràng là nó chưa thể thay thế được các chuyên gia y tế, bất chấp những gì mà một số người ủng hộ đang nói. Hãy đảm bảo rằng bệnh nhân biết điều đó, trước khi họ tìm đến bác sĩ ChatGPT trong thời điểm khủng hoảng.
ChatGPT đã trở thành hiện tượng lớn sau khi ra mắt vào cuối tháng 11/2022, đạt 100 triệu người dùng hoạt động hai tháng sau khi ra mắt. Chatbot AI đã làm dấy lên làn sóng đầu tư vào các công ty AI, đồng thời nó cũng làm dấy lên tranh luận gay gắt về tác động lâu dài của trí tuệ nhân tạo. Nghiên cứu của Goldman Sachs cho thấy, nó có thể ảnh hưởng đến 300 triệu việc làm trên toàn cầu trong tương lai.
Bất chấp thành công của ChatGPT, các mô hình AI tổng quát vẫn dễ bị ảo giác thông tin, nghĩa là nhìn vào trông có vẻ thuyết phục, nhưng bản chất nội dung lại chứa nhiều thông tin sai lệch, không chính xác. Nổi tiếng là câu chuyện từ đối thủ ChatGPT của Google, Bard, đã xóa sạch 120 tỷ USD giá trị cổ phiếu của công ty, khi đưa ra câu trả lời không chính xác cho câu hỏi về kính viễn vọng không gian James Webb.
Những nỗ lực tích hợp AI vào chăm sóc sức khỏe, chủ yếu để hợp lý hóa các nhiệm vụ hành chính, đã được tiến hành. Đầu tháng 8/2023, một nghiên cứu lớn cho thấy, việc sử dụng AI để sàng lọc ung thư vú là an toàn, và cho thấy nó có thể giảm gần một nửa khối lượng công việc của các bác sĩ X quang.
Một nhà khoa học máy tính tại Harvard gần đây đã phát hiện ra rằng, GPT-4, phiên bản mới nhất của mô hình, có thể vượt qua kỳ thi cấp giấy phép y tế của Hoa Kỳ một cách xuất sắc, và cho rằng nó có khả năng phán đoán lâm sàng tốt hơn một số bác sĩ.
Phía OpenAI đã thừa nhận rằng ChatGPT có thể không đáng tin cậy. Điều khoản sử dụng của công ty cảnh báo rằng, các mẫu máy học thuật toán của họ không được thiết kế để cung cấp thông tin y tế, và không nên được sử dụng để cung cấp dịch vụ chẩn đoán, hoặc điều trị cho các tình trạng bệnh lý nghiêm trọng.
Vì thế, các vấn đề về độ chính xác từ các mô hình AI tổng quát như ChatGPT chưa ngả ngủ sẽ khiến nó khó mà được áp dụng sử dụng sớm trong ngành y tế điều trị, nghiên cứu y học lâm sàng.
Theo Businessinsider/Harvard/Futurism
Tổng Công ty Công nghiệp Công nghệ cao Viettel (Viettel High Tech), thuộc Tập đoàn Viettel) công bố tham dự Triển lãm Công nghiệp Quốc phòng Quốc tế (MSPO) tại Kielce, Ba Lan, được tổ chức từ ngày 5-8/9/2023 với loạt sản phẩm đạt chuẩn quốc tế.
Làn sóng robot bồi bàn giá rẻ của Trung Quốc đã gây lo lắng ở Hàn Quốc, khi Seoul phải vật lộn với dân số giảm, và sự cạnh tranh ngày càng gay gắt từ các công ty công nghệ Trung Quốc.
Viettel Commerce sẽ trở thành nhà phân phối chính thức các sản phẩm điện thoại thông minh, máy tính bảng và thiết bị kết nối đa tính năng của TCL tại Việt Nam.
Hôm nay 1/9, OPPO chính thức mở bán dòng điện thoại cao cấp nhất của Reno10 Series là Reno10 Pro+ 5G tại hệ thống Thế Giới Di Động trên toàn quốc.
Sẵn sàng các kế hoạch đảm bảo hạ tầng mạng lưới dịp lễ Quốc khánh 2/9, Viettel triển khai nhiều nhóm tác vụ, hệ thống các cửa hàng làm việc xuyên lễ cũng như các chương trình khuyến mãi…
Sự thay đổi công nghệ đang nhanh chóng thay đổi bối cảnh hiện tại, và quan điểm của chúng ta về tương lai.
Các nhà phân tích cho biết, tương lai của máy tính cá nhân hơi khó xác định, một phần là do sự phát triển đột ngột của trí tuệ nhân tạo (AI) hiện nay.
Chỉ một ngày sau khi Apple công bố tổ chức sự kiện ra mắt iPhone 15 vào ngày 12/9, đến lượt Google cũng xác nhận thời điểm diễn ra sự kiện ra mắt Pixel 8.
Apple đang thử nghiệm việc sử dụng máy in 3D để sản xuất khung thép dùng cho một số đồng hồ thông minh Apple Watch sắp ra mắt của hãng. Cách tiếp cận mới của công ty công nghệ Mỹ có thể giúp chuỗi cung ứng của họ hiệu quả hơn, đồng thời cắt giảm thời gian chế tạo thiết bị, giảm tác động đến môi trường do sử dụng ít vật liệu hơn.
Emirates SkyCargo chính thức ra mắt trên CargoMART, một nền tảng giao dịch trực tuyến của CargoAi, giúp nâng tầm trải nghiệm khách hàng trực tuyến và tối ưu hóa quy trình tạo đơn hàng dựa trên các thông tin được cập nhật theo thời gian thực.