Những nội dung do AI viết sẽ được công cụ tìm kiếm Internet cảnh báo cho người dùng biết

Theo một báo cáo dự đoán từ công ty phân tích CCS Insight hôm 10/10, công nghệ trí tuệ nhân tạo (AI) sáng tạo sẽ có nguy cơ gặp “cơn mưa rào” vào năm 2024, khi chi phí liên quan đến công nghệ này tăng lên đột ngột, kèm theo đó là một số yếu tố phức tạp khác cũng tác động vào.

AI sáng tạo sẽ gặp “cơn mưa rào lạnh giá” vào năm 2024, khi thực tế về chi phí, rủi ro và độ phức tạp thay thế cho sự cường điệu thổi phồng vào năm 2023

Công nghệ AI sáng tạo là một loại Trí tuệ nhân tạo có thể tạo ra nhiều loại dữ liệu, chẳng hạn như hình ảnh, video, âm thanh, văn bản và mô hình 3D. Nó thực hiện điều này bằng cách học các mẫu từ dữ liệu hiện có, sau đó sử dụng kiến ​​thức này để tạo ra các kết quả đầu ra mới và độc đáo. Nó có khả năng tạo ra nội dung phức tạp và có độ chân thực cao, bắt chước khả năng sáng tạo của con người, khiến nó trở thành công cụ có giá trị cho nhiều ngành như trò chơi, giải trí và thiết kế sản phẩm.

Sự cường điệu thổi phồng xung quanh công nghệ AI sáng tạo đã tiếp tục kéo dài sang năm 2023, sau sự bùng nổ ban đầu về mối quan tâm đối với ChatGPT, khi nó được phát hành vào tháng 11/2022. Và với các sản phẩm cũng như tính năng mới và thú vị tương tự được ra mắt hầu như hàng tháng, có thể hiểu được tại sao sự cường điệu AI sáng tạo vẫn tiếp tục được duy trì.

Tuy nhiên, một báo cáo mới của CCS Insight (một công ty nghiên cứu công nghệ toàn cầu) đã gợi ý rằng, công nghệ AI sáng tạo sẽ phải đối mặt với loạt thử thách thực tế vào năm 2024.

Công ty phân tích CCS Insight dự đoán rằng, công nghệ AI sáng tạo sắp được kiểm tra thực tế vào năm tới. Công ty này cũng chỉ ra sự cường điệu đang giảm dần xung quanh công nghệ này, trong khi đó chi phí cần thiết để vận hành nó ngày càng tăng, và các yêu cầu quản lý công nghệ này cũng ngày càng tăng và trở nên phức tạp. Tất cả là những dấu hiệu nghiêm trọng cho thấy, công nghệ AI sáng tạo sẽ phải đối mặt với các thách thức lớn trong thời gian tới.

Trong báo cáo tổng hợp các dự đoán hàng đầu hàng năm về tương lai của ngành công nghệ vào năm 2024 và hơn thế nữa, CCS Insight đã đưa ra một số dự đoán về những gì đang chờ đợi phía trước đối với công nghệ AI sáng tạo, vốn là một loại hình công nghệ đã khuấy động thị trường công nghệ thời gian qua, với vô số tiêu đề xung quanh cả lời hứa hẹn tiềm năng, lẫn cạm bẫy thực sự từ nó.

Dự báo chính mà CCS Insight đưa ra cho năm 2024 là công nghệ AI sáng tạo sẽ gặp “cơn mưa rào vào năm 2024”, vì các thực trạng thực tế về chi phí, rủi ro và độ phức tạp liên quan sẽ chiếm lĩnh, và thay thế sự cường điệu hiện đang có xung quanh công nghệ này.

Ben Wood, nhà phân tích trưởng tại CCS Insight, nói với đài CNBC rằng: “Chúng tôi là những người ủng hộ lớn cho AI sáng tạo, chúng tôi nghĩ rằng nó sẽ có tác động lớn đến nền kinh tế, đến xã hội nói chung, chúng tôi nghĩ nó rất tốt cho năng suất. Nhưng chúng tôi cho rằng, công nghệ AI sáng tạo vào năm 2023 đã bị thổi phồng cường điệu hóa quá mức. Vì thế, sẽ có rất nhiều trở ngại cần phải vượt qua để đưa nó bền vững ra thị trường”.

Các mô hình AI sáng tạo như ChatGPT của OpenAI, Google Bard, Claude của Anthropic và Synthesia dựa vào sức mạnh tính toán khổng lồ để chạy các mô hình toán học phức tạp, cho phép chúng tìm và đưa ra những phản hồi cần thiết để giải quyết lời nhắc truy vấn của người dùng, cũng như cho thấy khả năng ấn tượng trong việc tạo ra nội dung chân thực và hấp dẫn. Tuy nhiên, chúng cũng đòi hỏi lượng lớn sức mạnh tính toán và dữ liệu để huấn luyện và chạy.

Ngay cả OpenAI, công ty đã nhận được hàng tỷ đô la tài trợ của Microsoft, cũng phải vật lộn với chi phí vận hành và được cho là đang tìm cách sản xuất chip của riêng mình để đáp ứng nhu cầu khối lượng công việc.

Để đạt được, các công ty phải mua chip công suất cao để chạy các ứng dụng AI. Ngày càng có nhiều công ty, bao gồm Amazon, Google, Alibaba, Meta và OpenAI, đang thiết kế chip AI cụ thể của riêng họ để chạy các chương trình AI đó.

Wood nói với CNBC: “Chỉ riêng chi phí triển khai và duy trì công nghệ AI sáng tạo thôi đã là rất lớn. Thực tế, việc những công ty lớn này làm điều đó là rất tốt và khá bình thường. Nhưng đối với nhiều tổ chức, nhiều nhà phát triển AI khác, nó sẽ trở nên quá đắt đỏ”.

Quy định AI của Liên minh Châu Âu (EU) có thể gặp trở ngại

Các nhà phân tích của CCS Insight cũng dự đoán rằng, quy định về AI ở Liên minh Châu Âu (vốn là khu vực đi đầu xu hướng khi nói đến luật pháp kiểm soát công nghệ) sẽ gặp trở ngại.

Họ cho biết, EU vẫn sẽ là khối lục địa đầu tiên đưa ra quy định cụ thể về AI, nhưng quy định này có thể sẽ được sửa đổi và cập nhật lại nhiều lần, do tốc độ phát triển của AI quá nhanh, cũng như mức độ rủi ro khôn lường liên tục xuất hiện của nó.

Wood dự đoán: “EU đang trong quá trình điều chỉnh AI bằng Đạo luật AI. Tuy nhiên, tốc độ phát triển của AI khiến việc xây dựng một khung pháp lý mạnh mẽ và khả thi trở nên vô cùng khó khăn. Mặt khác, có sự khác biệt về quan điểm giữa Mỹ, EU và những người tham gia thị trường, trong đó Châu Âu áp dụng cách tiếp cận quy định chặt chẽ và có cấu trúc hơn nhiều. Vì thế, luật pháp kiểm soát AI vẫn chưa được hoàn thiện cho đến cuối năm 2024, khiến ngành công nghệ trước mắt tạm thời phải thực hiện những bước đầu tiên trong quá trình tự điều chỉnh công nghệ này”.

Công nghệ AI sáng tạo đã tạo ra tiếng vang lớn trong năm nay từ những người đam mê công nghệ, các nhà đầu tư mạo hiểm, cũng như tại các phòng họp, khi mọi người trở nên say mê với khả năng phản hồi theo cách giống con người để đáp ứng các lời nhắc truy vấn dựa trên văn bản.

Mặc dù nó cho thấy nhiều hứa hẹn trong việc chứng minh tiềm năng của AI, nhưng nó cũng khiến các quan chức chính phủ và công chúng ngày càng lo ngại rằng, nó đã trở nên quá tiên tiến và có nguy cơ khiến nhiều người mất việc làm. Vì thế, một số chính phủ đang kêu gọi AI phải được quản lý.

Tại Liên minh Châu Âu, công việc đang được tiến hành để thông qua Đạo luật AI, một quy định mang tính bước ngoặt nhằm đưa ra cách tiếp cận dựa trên rủi ro đối với AI, đồng thời một số công nghệ nhất định như nhận dạng khuôn mặt trực tiếp sẽ bị cấm hoàn toàn.

Trong trường hợp các công cụ AI sáng tạo dựa trên mô hình ngôn ngữ lớn, như ChatGPT của OpenAI, các nhà phát triển các mô hình đó phải gửi chúng để đánh giá độc lập trước khi phát hành ra công chúng rộng rãi hơn. Điều này đã gây ra tranh cãi trong cộng đồng AI, vốn coi kế hoạch quy định này là rất hạn chế và làm mất tự do.

Các công ty đứng sau một số mô hình AI nền tảng lớn đã công khai nói rằng, họ hoan nghênh các quy định và công nghệ này phải được mở để giám sát chặt chẽ và có rào chắn. Nhưng cách tiếp cận của họ về cách điều chỉnh AI lại rất khác nhau, và chưa đi vào hồi thống nhất đồng bộ.

Giám đốc điều hành OpenAI, Sam Altman vào tháng 6 đã kêu gọi thành lập một cơ quan độc lập để giải quyết sự phức tạp của AI và cấp phép cho công nghệ này. Mặt khác, Google cho biết trong các bình luận gửi tới Cơ quan Thông tin và Viễn thông Quốc gia Mỹ rằng, họ muốn cách tiếp cận nhiều tầng, nhiều bên liên quan đối với quản trị AI.

Là một phần trong dự đoán về con đường gập ghềnh của AI thế hệ mới vào năm 2024, CCS Insight lưu ý rằng, nhiều công ty sẽ làm chậm quá trình tiếp thu công nghệ này để đánh giá chính xác các rủi ro, và đánh giá xem liệu chúng có thực sự mang lại lợi ích lớn hơn so với các rủi ro hay không.

Điều này được phản ánh trong một dự đoán khác của báo cáo, đặt ra kỳ vọng rằng nhiều tổ chức lớn hơn sẽ thành lập ủy ban giám sát AI vào năm 2024 để giúp định hình AI có đạo đức, giảm sai lệch thuật toán và đáp ứng các nghĩa vụ pháp lý.

Các công ty dự kiến ​​​​sẽ chỉ định một nhóm đa dạng các chuyên gia và học giả trong ngành, để giải quyết các rủi ro tiềm ẩn. Các ủy ban thực sự đa dạng có thể hoạt động để ngăn chặn các hệ thống AI tham gia vào các hoạt động phân biệt đối xử, và đặc biệt là giảm thiểu chủ nghĩa phân biệt chủng tộc và các thành kiến ​​​​có hại khác.

Ủy ban giám sát AI cũng sẽ trở nên phổ biến trong các tổ chức lớn vào năm 2024. Các công ty thành lập ủy ban giám sát đa dạng bao gồm các chuyên gia đạo đức AI, cố vấn pháp lý, nhà khoa học dữ liệu và đại diện để xem xét các ứng dụng AI trong doanh nghiệp, đặt ra hướng dẫn, tiến hành kiểm toán và giải quyết các mối quan ngại về đạo đức và pháp lý.

Cảnh báo nội dung AI

Theo CCS Insight, một số công cụ tìm kiếm internet tương lai sẽ sớm phải thêm các chức năng cảnh báo nội dung, để cảnh báo người dùng rằng, tài liệu họ đang xem từ một nhà xuất bản web nhất định do chính AI tạo ra chứ không phải do con người tạo ra.

Bởi thực tế, hiện nay đang có một loạt tin tức do AI tạo ra đang được xuất bản hàng ngày, thường chứa đầy những sai sót thực tế và thông tin sai lệch. Theo NewsGuard (một hệ thống xếp hạng chất lượng các trang tin tức và thông tin), có 49 trang web tin tức có nội dung hoàn toàn được tạo ra bởi phần mềm AI tự động. Nội dung do AI tạo ra đang trở nên phổ biến và dễ truy cập hơn, nhưng nó cũng đặt ra những thách thức trong việc xác minh tính xác thực và chất lượng của nó.

Nội dung do AI tạo ra có thể được sử dụng cho nhiều mục đích khác nhau, chẳng hạn như giải trí, giáo dục, tiếp thị hoặc thông tin sai lệch. Tuy nhiên, một số nội dung do AI tạo ra có thể chứa sai sót, hoặc thành kiến ​​thực tế có thể gây nhầm lẫn hoặc gây hại cho người dùng ở một số phương diện.

Các nhà phân tích cho rằng, điều này sẽ tương tự như cách các nền tảng truyền thông xã hội thêm nhãn thông tin cảnh báo vào các bài đăng liên quan đến Covid-19 để chống lại thông tin sai lệch về virus. Họ cho rằng đây sẽ là bước đi cần thiết để đảm bảo sự tin cậy, và minh bạch trong bối cảnh thông tin trực tuyến đang đứng trước nhiều vấn nạn phức tạp.

Theo CNBC