MediaTek sử dụng nền tảng Llama 2 nâng cao AI tạo sinh ngay trên thiết bị

MediaTek vừa thông báo hãng đang làm việc cùng với Llama 2 của Meta, một mô hình Ngôn ngữ Lớn mã nguồn mở (LLM) thế hệ tiếp theo của công ty.

Sử dụng LLM của Meta cũng như các APU mới nhất của MediaTek và Nền tảng AI NeuroPilot, MediaTek đặt mục tiêu xây dựng một hệ sinh thái điện toán biên hoàn chỉnh được thiết kế để thúc đẩy việc phát triển ứng dụng AI trên điện thoại thông minh, IoT, các loại phương tiện, nhà thông minh và các thiết bị điện toán biên khác.

Hiện tại, hầu hết quy trình xử lý AI tạo sinh (Generative AI) được thực hiện thông qua điện toán đám mây; tuy nhiên, việc sử dụng các mô hình Llama 2 của MediaTek sẽ cho phép các ứng dụng AI tạo sinh chạy trực tiếp trên thiết bị. Việc làm này mang lại một số lợi ích cho các nhà phát triển và người dùng, bao gồm hiệu suất mượt mà, nâng cao quyền riêng tư, bảo mật và đáng tin cậy hơn, độ trễ thấp hơn, tăng khả năng làm việc trong các khu vực có ít hoặc không có kết nối, và chi phí vận hành thấp hơn.

Để thực sự tận dụng công nghệ AI tạo sinh trên thiết bị điện toán biên, các nhà sản xuất thiết bị điện toán biên sẽ cần áp dụng bộ xử lý AI cao cấp, tiêu thụ ít năng lượng và kết nối nhanh hơn, đáng tin cậy hơn để nâng cao khả năng tính toán. Mỗi con chip di động 5G do MediaTek cung cấp hiện nay đều được trang bị các APU được thiết kế để thực hiện nhiều tính năng AI tạo sinh đa dạng, chẳng hạn như Giảm nhiễu bằng AI, Tăng cường Độ phân giải bằng AI, AI MEMC và nhiều tính năng khác.

Ngoài ra, vi xử lý flagship thế hệ tiếp theo của MediaTek, dự kiến sẽ được giới thiệu vào cuối năm nay, sẽ có một ngăn xếp phần mềm được tối ưu hóa để chạy Llama 2, cùng với một APU nâng cấp với khả năng tăng tốc cốt lõi Transformer, giảm thiểu diện tích truy cập và sử dụng băng thông DRAM, tăng cường hơn nữa hiệu suất LLM và AIGC. Những tiến bộ này tạo điều kiện thuận lợi để nhanh chóng xây dựng các trường hợp sử dụng cho AI tạo sinh trên thiết bị.

MediaTek kỳ vọng các ứng dụng AI dựa trên Llama 2 sẽ có sẵn trên các smartphone trang bị SoC flagship thế hệ tiếp theo, dự kiến sẽ được tung ra thị trường vào cuối năm nay.

Có thể bạn quan tâm
VNPT Smart Tourism – Cẩm nang du lịch số

Nếu như cách đây vài năm, việc lên kế hoạch cho mỗi chuyến đi hầu hết đều theo cách thủ công, người dân tự lên mạng, tìm kiếm các thông tin về điểm đến, tham khảo các đánh giá, trải nghiệm theo kiểu hên xui thì hiện nay, cùng với sự phát triển công nghệ số hóa, việc này đã trở nên dễ dàng và thuận tiện hơn.

Gastech 2023, nghị sự chiến lược về năng lượng, tài chính, và công nghệ

Gastech công bố chương trình nghị sự chiến lược và các diễn giả tham dự năm 2023. Chương trình có sự tham dự của những nhân sự cấp cao đến từ các doanh nghiệp như Baker Hughes, ExxonMobil, GAIL, Shell, SKK Migas, JERA, Petronas and PetroChina International, cùng những nhà lãnh đạo quốc tế của các doanh nghiệp thuộc lĩnh vực năng lượng, tài chính, và công nghệ.

Công nghệ nhận dạng khuôn mặt không chỉ dừng ở tag ảnh trên mạng xã hội

Công nghệ nhận dạng khuôn mặt đã thoát khỏi lĩnh vực khoa học viễn tưởng, và ngày càng phổ cập, ngoài việc giúp mở khóa điện thoại và gắn thẻ ảnh trên mạng xã hội, công nghệ này còn tỏ ra hữu ích trong các ứng dụng thực tế khác.

Công nghệ giúp người dân chủ động giảm thiểu thiệt hại do thiên tai

Theo dự báo, từ tháng 8 đến hết năm 2023, thiên tai nước ta vẫn còn diễn ra khốc liệt với bão, áp thấp nhiệt đới, sạt lở đất, lũ quét… Trước diễn biến phức tạp, tính chất nguy hiểm, thiệt hại khó lường của thiên tai, sự chủ động phòng ngừa, ứng phó của người dân là yếu tố quan trọng hàng đầu.

Triển lãm Xanh của VinFast, công nghệ hấp dẫn, mẫu xe VF3 xuất hiện

Từ ngày 18 – 20/8/2023 tại TPHCM, Triển lãm Xanh do VinFast tổ chức đã có chuỗi hoạt động mới lạ, giúp người dùng trải nghiệm Giải pháp và công nghệ di chuyển thông minh cũng như có các trải nghiệm với các mẫu xe mới nhất của VinFast như VF3, VF5, VF8 và VF9 Plus.

Samsung Innovation Campus 2022-2023 kết thúc, kiến thức công nghệ lan tỏa đến 12 tỉnh thành

Hơn 3.200 học sinh, sinh viên và giáo viên tại 33 trường học trên 12 tỉnh thành đã được tiếp cận kiến thức công nghệ mới nhất trong khuôn khổ dự án Samsung Innovation Campus 2022-2023.

3D Smart Solutions xưởng in 3D lớn nhất Việt Nam và giấc mơ in 3D đi vào đời sống

Công xưởng 3D lớn nhất Việt Nam là 3D Smart Solutions đã chính thức đưa vào hoạt động tại Q.9, TPHCM. Đây là nơi tập trung nhiều công nghệ 3D mới nhất cũng nhưcó nhiều hướng đi để mở ra thị trường, phổ cập công nghệ mê hoặc nhưng còn quá tầm này.

VNG và SCTV hợp tác liên kết dịch vụ số

Công ty Cổ phần VNG (VNG) và Công ty TNHH Truyền hình cáp SCTV (SCTV) vừa chính thức ký kết hợp tác chiến lược về công nghệ thông tin và viễn thông, nhằm đem đến dịch vụ số chất lượng hơn cho người dùng.

Sách nói Fonos có hơn 5 triệu lượt nghe trên ứng dụng trong nửa đầu năm 2023

Sách nói có bản quyền và Âm thanh số đang trong giai đoạn phát triển mạnh mẽ, thanh công của ứng dụng Fonos cho thấy điều ấy.

AWS công bố loạt đổi mới về AI tạo sinh, chương trình đào tạo và tài trợ cho các start-up

Tại Hội nghị thượng đỉnh AWS Summit New York 2023, Amazon đã công bố loạt đổi mới quan trọng trong lĩnh vực AI tạo sinh (generative AI). Hãng cũng thông báo chương trình hỗ trợ Compute for Climate Fellowship dành cho các start-up về công nghệ khí hậu ứng dụng AI.