Sa thải loạt nhân sự nhóm an toàn AI sẽ tạo lỗ hổng lớn với các biến động khó lường

Việc cắt giảm nhóm tin cậy, an toàn và đạo đức AI là dấu hiệu cho thấy các công ty sẵn sàng đi xa để thích nghi với các biến động kinh tế, nhưng họ chưa dự phòng cho mùa bầu cử Hoa Kỳ năm 2024 rất có thể xảy ra thực trạng hỗn loạn trực tuyến.

Cuộc sa thải lớn nhất chưa từng có trong lịch sử

Đến cuối năm 2022, các kỹ sư trong nhóm chống lại thông tin sai lệch của Meta đã sẵn sàng ra mắt một công cụ kiểm tra tính xác thực quan trọng đã mất nửa năm để xây dựng. Nhưng cam kết của CEO Meta, Mark Zuckerberg về việc biến năm 2023 thành “một năm hiệu quả” đã đánh dấu sự kết thúc của nỗ lực đầy tham vọng này, theo ba người quen thuộc với vấn đề này tiết lộ nhưng yêu cầu giấu tên do các thỏa thuận bảo mật.

Trải qua nhiều đợt sa thải, Meta đã công bố kế hoạch cắt giảm khoảng 21.000 việc làm, một đợt cắt giảm quy mô hàng loạt có ảnh hưởng lớn đến niềm tin và công việc đảm bảo tính an toàn của công ty. Các nguồn tin cho biết, cả công cụ kiểm tra tính xác thực, ban đầu được các giám đốc điều hành mua và vẫn đang trong giai đoạn thử nghiệm vào đầu năm nay, đã bị giải thể hoàn toàn.

Trong khi đó, người phát ngôn của Meta đã không trả lời các câu hỏi liên quan đến việc cắt giảm việc làm trong các lĩnh vực cụ thể, và chỉ cho biết trong một tuyên bố gửi qua email rằng: “Chúng tôi vẫn tập trung vào việc thúc đẩy các nỗ lực liêm chính hàng đầu trong ngành, và tiếp tục đầu tư vào các nhóm và công nghệ để bảo vệ cộng đồng của chúng tôi”.

Trong toàn ngành công nghệ, các công ty thắt lưng buộc bụng và sa thải nhiều nhân viên để giải quyết áp lực kinh tế vĩ mô làm chậm tốc độ tăng trưởng doanh thu. Nhưng thực tế thì việc cắt giảm diễn ra vào thời điểm vấn nạn bắt nạt trực tuyến gia tăng, có liên quan đến tỷ lệ tự làm hại bản thân ở thanh thiếu niên cao hơn, và khi sự lan truyền thông tin sai lệch và nội dung bạo lực xung đột với việc sử dụng trí tuệ nhân tạo (AI) bùng nổ khó kiểm soát.

Trong các cuộc họp báo cáo thu nhập gần đây nhất của các công ty công nghệ, các giám đốc điều hành công nghệ đã nhấn mạnh cam kết của họ là làm nhiều hơn, tăng năng suất hơn với ít nhân sự hơn.

Meta, Alphabet, Amazon và Microsoft đều đã cắt giảm hàng nghìn việc làm sau khi tăng nhân sự nhanh chóng trước và trong đại dịch Covid-19. Giám đốc điều hành Microsoft, Satya Nadella mới đây cho biết công ty của ông sẽ tạm dừng tăng lương cho nhân viên toàn thời gian.

Việc cắt giảm các nhóm được giao nhiệm vụ về sự tin cậy, an toàn và đạo đức AI cho nền tảng là dấu hiệu cho thấy các công ty sẵn sàng đi bao xa để đáp ứng thích nghi với các biến động kinh tế, nhưng họ có thể chưa dự phòng cho mùa bầu cử Hoa Kỳ năm 2024 rất có thể xảy ra thực trạng hỗn loạn trực tuyến.

Đạo đức, sự tin cậy và an toàn của AI là các bộ phận khác nhau trong các công ty công nghệ, nhưng được liên kết với các mục tiêu liên quan đến việc hạn chế tác hại trong đời thực có thể bắt nguồn từ việc sử dụng các sản phẩm và dịch vụ của công ty họ.

Hiện tại, các công ty công nghệ dường như coi cả sự tin cậy, an toàn và đạo đức AI là trung tâm chi phí. Theo báo cáo, Twitter đã giải tán nhóm đạo đức AI của mình vào tháng 11/2022 và sa thải 15% bộ phận an toàn và tin cậy.

Còn vào tháng 2/2023, Google đã cắt giảm khoảng 1/3 đơn vị nhằm bảo vệ các nền tảng công ty khỏi thông tin sai lệch, cực đoan, độc hại. Meta được cho là đã kết thúc hợp đồng của khoảng 200 người điều hành nội dung vào đầu tháng 1/2023.

Họ cũng sa thải ít nhất 16 thành viên của nhóm phúc lợi Instagram, và hơn 100 vị trí liên quan đến lòng tin, tính chính trực và trách nhiệm của nền tảng, theo tài liệu nộp cho Bộ Lao động Mỹ.

Vào tháng 3, Amazon đã thu hẹp đội ngũ chịu trách nhiệm đạo đức AI của mình và Microsoft đã sa thải toàn bộ nhóm đạo đức và xã hội của mình lần thứ hai trong hai đợt sa thải được cho là đã đưa nhóm từ 30 thành viên xuống còn 0 người.

Tại đơn vị phát trực tuyến trò chơi của Amazon, Twitch, các nhân viên đã biết về số phận của họ vào tháng 3 từ một bài đăng nội bộ không đúng lúc của Giám đốc điều hành Amazon Andy Jassy.

Thông báo của Jassy rằng 9.000 việc làm sẽ bị cắt giảm trên toàn công ty bao gồm 400 nhân viên tại Twitch. Trong số đó, có khoảng 50 người là thành viên của nhóm chịu trách nhiệm theo dõi hành vi lạm dụng, bất hợp pháp hoặc có hại, theo những người quen thuộc với vấn đề nói với điều kiện giấu tên vì các chi tiết là riêng tư.

Khó lấy lại lòng tin người tiêu dùng

Một thành viên hiện tại của nhóm chịu trách nhiệm theo dõi hành vi lạm dụng, bất hợp pháp hoặc có hại của Twitch cho biết, các nhân viên còn lại trong đơn vị đang cảm thấy đau đớn và lo lắng về khả năng xảy ra đợt sa thải thứ hai.

Người này cho biết việc cắt giảm đã và đang gây ra một tác động lớn đến kiến ​​​​thức, cấu trúc vận hành gầy công dựng xây trước giờ của tổ chức.

Chuyên gia Narayan của Smart News cho biết với việc thiếu đầu tư vào nhóm/ bộ phận an toàn tại các nền tảng chính, các công ty sẽ mất khả năng mở rộng quy mô để mà bắt kịp đối phó với các hoạt động độc hại gia tăng. Ông nói: “Khi nội dung có vấn đề độc hại lan rộng hơn, nó sẽ có sự xói mòn lòng tin”. “Về lâu dài, thật khó để lấy lại lòng tin của người tiêu dùng”, Narayan nói thêm.

Mặt khác, sự gia tăng nhanh chóng về mức độ phổ biến của chatbot AI chỉ làm phức tạp thêm vấn đề. Các loại mô hình AI được tạo bởi OpenAI, công ty đứng sau ChatGPT và các công ty khác giúp việc tạo tài khoản giả có nội dung độc hại dễ dàng hơn.

Các nhà nghiên cứu từ Viện AI Allen, Đại học Princeton và Georgia Tech đã chạy thử nghiệm giả lập độc hại thông qua giao diện lập trình ứng dụng (API) của ChatGPT và nhận thấy mức độ độc hại tăng gấp sáu lần, tùy thuộc vào dạng chức năng, mục đích nào được sử dụng.

Các cơ quan quản lý đang hết sức chú ý đến ảnh hưởng ngày càng tăng của AI, và đồng thời quan sát việc thu hẹp quy mô của các nhóm dành riêng cho đạo đức, sự tin cậy và an toàn AI của các công ty công nghệ. Michael Atleson, một luật sư tại bộ phận thực hành quảng cáo của Ủy ban Thương mại Liên bang Mỹ (FTC), đã chỉ ra nghịch lý trong một bài đăng trên blog.

“Với nhiều lo ngại về việc sử dụng các công cụ AI mới, có lẽ đây không phải là thời điểm tốt nhất để các công ty loại bỏ hoặc sa thải những nhân viên tận tâm với đạo đức và trách nhiệm đối với AI và kỹ thuật”, Atleson viết.

Theo CNBC