Nền tảng AI phát hiện nội dung có tính thù địch, bạo lực, tình dục và tự hại bản thân

Tính năng Azure AI Content Safety trên nền tảng Azure AI vừa được Microsoft ra mắt hôm nay. Đây là nền tảng sử dụng các mô hình ngôn ngữ và hình ảnh nâng cao để phát hiện nội dung có tính chất thù địch, bạo lực, tình dục và tự làm hại bản thân. Khi các mô hình phát hiện nội dung có tiềm năng gây hại, chúng sẽ đánh dấu nội dung đó bằng điểm ước tính mức độ nghiêm trọng.

Như đã biết, vào đầu năm nay, Sở Giáo dục Nam Úc đã quyết định đưa trí tuệ nhân tạo (AI) vào chương trình học. Tuy nhiên, trước khi triển khai, câu hỏi lớn được đặt ra xoay quanh việc sử dụng AI một cách có trách nhiệm. Khi đó, ông Simon Chapman, Giám đốc Kiến trúc Kỹ thuật số của Sở Giáo dục Nam Úc cho biết, mối quan tâm chính của họ là làm sao để bảo vệ học sinh khỏi những nội dung có hại hoặc không phù hợp, có thể xuất hiện trong kết quả tìm kiếm quy mô lớn và chưa được lọc trên Internet. Những gì mà phiên bản đại trà của AI tạo sinh có thể cung cấp vẫn còn rất hạn chế đối với ngành giáo dục. Không có quy định hay giới hạn nào trong việc sử dụng của học sinh.

Theo thông tin từ Microsoft, mặc dù ban đầu được giới thiệu như một phần của Dịch vụ Azure OpenAI, Azure AI Content Safety hiện là một hệ thống độc lập. Điều đó có nghĩa khách hàng có thể sử dụng công cụ này cho nội dung được tạo ra bởi AI từ các mô hình nguồn mở và mô hình của các công ty khác, cũng như cho nội dung được tạo ra bởi người dùng, như một phần trong hệ thống nội dung của họ.

Ông Eric Boyd, Phó Chủ tịch Phụ trách AI Platform của Microsoft khẳng định, khi AI tạo sinh trở thành một công cụ phổ biến, Microsoft đặt mục tiêu trang bị cho các doanh nghiệp những công cụ cần thiết để triển khai một cách an toàn hơn. “Hiện tại, chúng ta đang ở một thời điểm khá thú vị, khi các công ty nhận thấy rõ sức mạnh đáng kinh ngạc của AI tạo sinh. Chúng tôi phát hành Azure AI Content Safety dưới dạng một sản phẩm độc lập để có thể phục vụ nhiều đối tượng khách hàng với nhiều nhu cầu kinh doanh đa dạng hơn”.

Đây chỉ là một ví dụ Microsoft áp dụng các nguyên tắc xây dựng AI một cách có trách nhiệm vào thực tế. Công ty hiện có gần 350 nhân viên làm việc trong mảng này. Trong những năm qua, Microsoft đã ủng hộ việc quản lý AI có trách nhiệm và hỗ trợ Nhà Trắng Hoa Kỳ trong các cam kết tự nguyện về AI, thúc đẩy các giới hạn trong nghiên cứu AI có trách nhiệm để thu thập thông tin cho quá trình phát triển sản phẩm; ban hành Tiêu chuẩn AI có trách nhiệm để thiết kế, xây dựng và kiểm tra hệ thống AI; và đưa các công cụ như Bảng điều khiển AI có trách nhiệm của Azure Machine Learning đến tay khách hàng.

Trong nội bộ, Microsoft đã sử dụng Azure AI Content Safety để bảo vệ người dùng các sản phẩm tích hợp AI của Microsoft. Công nghệ này rất quan trọng để phát triển tính năng trò chuyện trong các sản phẩm như Bing, GitHub Copilot, Microsoft 365 Copilot và Azure Machine Learning. Đặc biệt trong một thế giới đầy ắp thông tin, các vấn đề liên quan đến AI có trách nhiệm đang diễn ra ở khắp các doanh nghiệp và ngành công nghiệp. Bởi vậy, khả năng tùy chỉnh các chính sách để phù hợp với môi trường và trường hợp sử dụng cụ thể của từng khách hàng chính là lợi thế của Azure AI Content Safety. Chẳng hạn, một nền tảng tập trung vào trò chơi có thể đặt ra các tiêu chuẩn khác nhau cho các khía cạnh như ngôn ngữ bạo lực so với nền tảng giáo dục được sử dụng trong lớp học.

Mặt khác, với công cụ kiểm duyệt hình ảnh của Azure AI Content Safety, Microsoft cho phép khách hàng có thể dễ dàng kiểm duyệt hình ảnh để đảm bảo rằng chúng đáp ứng các tiêu chuẩn nội dung họ đề ra. Ví dụ, công ty năng lượng Shell đã phát triển một nền tảng AI tạo sinh có tên Shell E. Nền tảng này cho phép các nhóm tạo và triển khai các ứng dụng dựa trên mã nguồn mở và các mô hình ngôn ngữ lớn khác, cho phép nhân viên của Shell đặt câu hỏi và truy xuất thông tin để hỗ trợ quá trình làm việc của họ. Nó có thể được ứng dụng trong tất cả các hoạt động của Shell, từ việc soạn thảo, tóm tắt và dịch nội dung đến việc tạo và kiểm thử mã, và quản lý kiến thức trên tất cả các lĩnh vực kỹ thuật. Các bộ phận cũng đang khám phá các trường hợp sử dụng phức tạp hơn như việc tạo các phân tử.

Tuy nhiên, khi AI tạo sinh ngày càng phát triển, các rủi ro tiềm ẩn đối với không gian trực tuyến cũng sẽ gia tăng. Theo bà Sarah Bird, Giám đốc Sản phẩm của Nhóm Đối tác tại Microsof, để đối phó với những rủi ro đó, Microsoft sẽ liên tục cải tiến công nghệ thông qua kết hợp nghiên cứu và phản hồi từ khách hàng. Điển hình như việc phát triển các mô hình đa phương thức vẫn được tiến hành liên tục để nâng cao khả năng phát hiện những nội dung phản cảm có sự kết hợp giữa hình ảnh và văn bản, chẳng hạn như meme. Những tổ hợp hình ảnh và văn bản này thường bị bỏ sót khi được kiểm duyệt bằng tính năng rà soát hình ảnh hoặc văn bản riêng lẻ.

Với kinh nghiệm kiểm duyệt nội dung trong nhiều thập kỷ, sở hữu nhiều công cụ giúp bảo vệ người dùng trên nhiều nền tảng, từ diễn đàn Xbox cho đến công cụ tìm kiếm Bing, Microsoft đã phát triển Azure AI Content Safety dựa trên những kinh nghiệm này. Bên cạnh đó, còn có Azure Content Moderator, một dịch vụ cho phép khách hàng khai thác khả năng phát hiện nội dung, kết hợp cùng khả năng của các mô hình ngôn ngữ và hình ảnh mới.

Bằng cách tiếp cận toàn diện trên, Microsoft kỳ vọng có thể mở rộng việc ứng dụng AI rộng rãi với sự tin tưởng của người tiêu dùng.