AI Chỉ Là Hư Vô Nếu Không Có Mã Nguồn Mở

Lập Trình
AI Chỉ Là Hư Vô Nếu Không Có Mã Nguồn Mở

Trong những năm gần đây, trí tuệ nhân tạo (AI) đã chứng kiến sự phát triển vượt bậc, mở ra nhiều cơ hội mới trong nhiều lĩnh vực khác nhau. Bài viết này sẽ đi sâu vào phong trào mã nguồn mở và các mô hình ngôn ngữ lớn (LLMs) riêng tư, lý do vì sao cần có LLMs trên thiết bị, và các khung công nghệ hỗ trợ cho LLMs trên thiết bị.

Phong Trào AI

Trí tuệ nhân tạo đã trải qua một cuộc cách mạng lớn vào năm 2023, bắt đầu với sự ra mắt của ChatGPT của OpenAI vào cuối năm 2022. Các công ty công nghệ lớn như Google, Amazon và Alibaba đã tham gia vào cuộc đua này với các sản phẩm của riêng họ như Google Gemini, Amazon Titan và Alibaba Qwen. Hiện nay, nhiều mô hình AI được cung cấp là mã nguồn đóng, điều này có nghĩa là chúng ta không biết rõ những gì đằng sau các công nghệ này.

Phần Mềm Mã Nguồn Mở

Tìm hiểu chi tiết về mã nguồn mở tại bài viết: Open Source là gì? Mã nguồn mở là gì?

Mã Nguồn Mở và Phát Triển Cộng Đồng

  • Cộng Đồng Đóng Góp: Phần mềm mã nguồn mở được xây dựng và cải thiện bởi một cộng đồng toàn cầu, khuyến khích sự đổi mới và hợp tác.
  • Miễn Phí và Linh Hoạt: Phần mềm mã nguồn mở thường miễn phí để sử dụng và chỉnh sửa, cung cấp sự linh hoạt để đáp ứng các nhu cầu đa dạng.
  • Minh Bạch và An Toàn: Sự sẵn có của mã nguồn đảm bảo tính minh bạch, cho phép cộng đồng dẫn dắt an ninh và sự tin tưởng.

AI Mã Nguồn Mở

AI mã nguồn mở tận dụng kiến thức chuyên môn của cộng đồng toàn cầu, nâng cao sự đổi mới và đa dạng trong phát triển AI. Nó cung cấp các công cụ và mô hình AI dễ dàng truy cập, cho phép dễ dàng thích nghi với các nhu cầu và dự án khác nhau. Sự sẵn có của các thuật toán AI mở rộng minh bạch, quan trọng để xác định các thiên kiến và xây dựng sự tin cậy trong các hệ thống AI.

Các Tổ Chức Lớn Trong Lĩnh Vực AI Mã Nguồn Mở

Trí tuệ nhân tạo mã nguồn mở (Open-Source AI) đang được phát triển và hỗ trợ bởi nhiều tổ chức lớn trên toàn thế giới. Dưới đây là một số tổ chức tiêu biểu đã và đang đóng góp đáng kể vào phong trào AI mã nguồn mở:

1. Meta

Dự Án: LLaMA/LLaMA 2

Meta đã phát triển các mô hình ngôn ngữ lớn như LLaMA và LLaMA 2, nhằm cải thiện khả năng xử lý ngôn ngữ tự nhiên và tạo ra các ứng dụng AI tiên tiến. Các mô hình này được cộng đồng đánh giá cao và sử dụng rộng rãi trong nghiên cứu cũng như phát triển các ứng dụng thực tiễn.

Các Tổ Chức Lớn Trong Lĩnh Vực AI Mã Nguồn MởCác Tổ Chức Lớn Trong Lĩnh Vực AI Mã Nguồn Mở

2. Mistral

Dự Án: Mistral-7B/Mixtral 7Bx8

Mistral là một tổ chức nổi tiếng với các mô hình AI mạnh mẽ như Mistral-7B và Mixtral 7Bx8. Các mô hình này cung cấp khả năng xử lý thông tin nhanh chóng và hiệu quả, hỗ trợ các nhà phát triển tạo ra các giải pháp AI sáng tạo và ứng dụng rộng rãi trong nhiều lĩnh vực.

3. StabilityAI

Dự Án: Stable Diffusion/StableLM/Stable Video

StabilityAI đã phát triển một loạt các mô hình AI như Stable Diffusion, StableLM và Stable Video. Những mô hình này tập trung vào việc tạo ra nội dung mới và cải thiện khả năng tương tác của AI với dữ liệu hình ảnh và video, giúp nâng cao trải nghiệm người dùng và tạo ra các ứng dụng giải trí và sáng tạo.

4. Microsoft

Dự Án: Phi/Orca/WizardLM

Microsoft là một trong những gã khổng lồ công nghệ tiên phong trong việc phát triển và hỗ trợ AI mã nguồn mở. Các mô hình như Phi, Orca và WizardLM của Microsoft không chỉ cải thiện khả năng học máy và học sâu mà còn cung cấp các công cụ mạnh mẽ cho các nhà phát triển và doanh nghiệp để xây dựng các giải pháp AI tùy chỉnh.

Tại Sao Nên Dùng AI Mã Nguồn Mở?

Các tổ chức lớn trong lĩnh vực AI mã nguồn mở mang lại nhiều lợi ích đáng kể, bao gồm:

  • Dân Chủ Hóa AI: Tạo điều kiện cho mọi người trên thế giới có thể tiếp cận và sử dụng công nghệ AI, không chỉ dành riêng cho các tổ chức lớn.
  • Thúc Đẩy Sự Đổi Mới: Khuyến khích sự sáng tạo và phát triển không ngừng trong cộng đồng toàn cầu.
  • Đảm Bảo Tiêu Chuẩn Đạo Đức: Đảm bảo các tiêu chuẩn về đạo đức và minh bạch trong việc phát triển và sử dụng AI.
  • Cải Thiện Độ Tin Cậy và An Toàn: Nâng cao độ tin cậy và an toàn của các hệ thống AI, giúp các doanh nghiệp và người dùng cuối yên tâm sử dụng.

LLMs Riêng Tư

Các mô hình ngôn ngữ lớn (LLMs) riêng tư cũng đóng vai trò quan trọng trong việc bảo vệ dữ liệu và tối ưu hóa hiệu suất:

  • Bảo Mật Dữ Liệu: Các LLMs công khai có thể không đảm bảo sự riêng tư hoàn toàn của dữ liệu, tiềm ẩn nguy cơ lộ thông tin nhạy cảm của doanh nghiệp. LLMs riêng tư đảm bảo kiểm soát và bảo vệ hoàn toàn dữ liệu sở hữu.
  • Tùy Biến: Các LLMs công khai cung cấp ít tùy chọn tùy biến, gây khó khăn trong việc đáp ứng các nhu cầu cụ thể của doanh nghiệp. LLMs riêng tư có thể được điều chỉnh theo ngôn ngữ đặc thù của ngành, quy trình nội bộ và các yêu cầu độc đáo.
  • Tối Ưu Hiệu Suất: Các LLMs công khai có thể gặp vấn đề về hiệu suất do nhu cầu cao. LLMs riêng tư có thể được tối ưu hóa cho các tác vụ và khối lượng công việc cụ thể, đảm bảo hiệu suất ổn định và đáng tin cậy cho các hoạt động kinh doanh quan trọng.

Khung Công Nghệ Cho LLMs Trên Thiết Bị

MLC-LLM

MLC-LLM hỗ trợ lượng tử hóa và chuyển đổi mô hình để chạy trên thiết bị người dùng cuối (bao gồm iOS và Android). Hỗ trợ Q4 và Q8 lượng tử hóa được hỗ trợ bởi OmniQuant. OmniQuant tuyên bố có phương pháp lượng tử hóa tốt nhất mà không làm giảm độ chính xác khi suy diễn các LLMs đã lượng tử hóa. Tuy nhiên, việc triển khai loại mô hình mới có thể gặp khó khăn và ít hỗ trợ từ cộng đồng, không hỗ trợ Neural Engine.

GGUF

GGUF là định dạng chính thức được hỗ trợ bởi Llama.cpp. Llama.cpp có thể tận dụng GPU từ các thiết bị như Apple Metal, CUDA hoặc OpenCL để tăng tốc suy diễn của LLM. Tuy nhiên, không hỗ trợ Neural Engine.

MLX

MLX là khung tensor chính thức cho các thiết bị Apple Silicon. MLX hỗ trợ API cho C, C++, Swift và Python. Hỗ trợ phân bổ động bộ nhớ cho các mô hình trên CPU và GPU (Bộ nhớ Hợp nhất). Tuy nhiên, không hỗ trợ Neural Engine (có thể thay đổi sớm).

VinaLlama2

VinaLlama2 là mô hình ngôn ngữ lớn (LLM) tốt nhất bằng tiếng Việt, hợp tác với Alibaba Qwen và dựa trên Qwen2. VinaLlama2 có sẵn ở 4 phiên bản:

  • Nano: 500M
  • SONIC: 1.5B
  • Standard: 7B
  • Pro: 72B

Kết Luận

AI mã nguồn mở và các LLMs riêng tư đang mang lại nhiều lợi ích vượt trội về bảo mật, tùy biến và hiệu suất. Việc sử dụng các khung công nghệ tiên tiến như MLC-LLM, GGUF và MLX giúp tối ưu hóa việc triển khai AI trên thiết bị người dùng cuối, đồng thời các dự án như VinaLlama2 đang thúc đẩy sự phát triển AI tại Việt Nam.

Mã nguồn mở không chỉ giúp dân chủ hóa AI mà còn thúc đẩy sự đổi mới và đảm bảo các tiêu chuẩn đạo đức trong phát triển công nghệ. LLMs riêng tư cung cấp giải pháp bảo mật và tối ưu hóa hiệu suất cho doanh nghiệp, đáp ứng các nhu cầu cụ thể và đảm bảo sự ổn định trong các hoạt động kinh doanh quan trọng.

Bài viết được tổng hợp và điều chỉnh bằng AI. Nội dung từ buổi thuyết trình của anh Quân Nguyễn, Product Owner – ZaloAI tại Vietnam Mobile Summit 2024.

Bài viết liên quan

Thị trường EdTech Vietnam- Nhiều tiềm năng nhưng còn bị bỏ ngỏ tại Việt Nam

Thị trường EdTech Vietnam- Nhiều tiềm năng nhưng còn bị bỏ ngỏ tại Việt Nam

Lĩnh vực EdTech (ứng dụng công nghệ vào các sản phẩm giáo dục) trên toàn cầu hiện nay đã tương đối phong phú với nhiều tên tuổi lớn phân phối đều trên các hạng mục như Broad Online Learning Platforms (nền tảng cung cấp khóa học online đại chúng – tiêu biểu như Coursera, Udemy, KhanAcademy,…) Learning Management Systems (hệ thống quản lý lớp học – tiêu biểu như Schoology, Edmodo, ClassDojo,…) Next-Gen Study Tools (công cụ hỗ trợ học tập – tiểu biểu như Kahoot!, Lumosity, Curriculet,…) Tech Learning (đào tạo công nghệ – tiêu biểu như Udacity, Codecademy, PluralSight,…), Enterprise Learning (đào tạo trong doanh nghiệp – tiêu biểu như Edcast, ExecOnline, Grovo,..),… Hiện nay thị trường EdTech tại Việt Nam đã đón nhận khoảng đầu tư khoảng 55 triệu đô cho lĩnh vực này nhiều đơn vị nước ngoài đang quan tâm mạnh đến thị trường này ngày càng nhiều hơn. Là một trong những xu hướng phát triển tốt, và có doanh nghiệp đã hoạt động khá lâu trong ngành nêu tại infographic như Topica, nhưng EdTech vẫn chỉ đang trong giai đoạn sơ khai tại Việt Nam. Tại Việt Nam, hệ sinh thái EdTech trong nước vẫn còn rất non trẻ và thiếu vắng nhiều tên tuổi trong các hạng mục như Enterprise Learning (mới chỉ có MANA), School Administration (hệ thống quản lý trường học) hay Search (tìm kiếm, so sánh trường và khóa học),… Với chỉ dưới 5% số dân công sở có sử dụng một trong các dịch vụ giáo dục online, EdTech cho thấy vẫn còn một thị trường rộng lớn đang chờ được khai phá. *** Vừa qua Station D đã công bố Báo cáo Vietnam IT Landscape 2019 đem đến cái nhìn toàn cảnh về các ứng dụng công...

By stationd
Bộ cài đặt Laravel Installer đã hỗ trợ tích hợp Jetstream

Bộ cài đặt Laravel Installer đã hỗ trợ tích hợp Jetstream

Bài viết được sự cho phép của tác giả Chung Nguyễn Hôm nay, nhóm Laravel đã phát hành một phiên bản chính mới của “ laravel/installer ” bao gồm hỗ trợ khởi động nhanh các dự án Jetstream. Với phiên bản mới này khi bạn chạy laravel new project-name , bạn sẽ nhận được các tùy chọn Jetstream. Ví dụ: API Authentication trong Laravel-Vue SPA sử dụng Jwt-auth Cách sử dụng Laravel với Socket.IO laravel new foo --jet --dev Sau đó, nó sẽ hỏi bạn thích stack Jetstream nào hơn: Which Jetstream stack do you prefer? [0] Livewire [1] inertia > livewire Will your application use teams? (yes/no) [no]: ... Nếu bạn đã cài bộ Laravel Installer, để nâng cấp lên phiên bản mới bạn chạy lệnh: composer global update Một số trường hợp cập nhật bị thất bại, bạn hãy thử, gỡ đi và cài đặt lại nha composer global remove laravel/installer composer global require laravel/installer Bài viết gốc được đăng tải tại chungnguyen.xyz Có thể bạn quan tâm: Cài đặt Laravel Làm thế nào để chạy Sql Server Installation Center sau khi đã cài đặt xong Sql Server? Quản lý các Laravel route gọn hơn và dễ dàng hơn Xem thêm Tuyển dụng lập trình Laravel hấp dẫn trên Station D

By stationd
Principle thiết kế của các sản phẩm nổi tiếng

Principle thiết kế của các sản phẩm nổi tiếng

Tác giả: Lưu Bình An Phù hợp cho các bạn thiết kế nào ko muốn làm code dạo, design dạo nữa, bạn muốn cái gì đó cao hơn ở tầng khái niệm Nếu lập trình chúng ta có các nguyên tắc chung khi viết code như KISS , DRY , thì trong thiết kế cũng có những nguyên tắc chính khi làm việc. Những nguyên tắc này sẽ là kim chỉ nam, nếu có tranh cãi giữa các member trong team, thì cứ đè nguyên tắc này ra mà giải quyết (nghe hơi có mùi cứng nhắc, mình thì thích tùy cơ ứng biến hơn) Tìm các vị trí tuyển dụng designer lương cao cho bạn Nguyên tắc thiết kế của GOV.UK Đây là danh sách của trang GOV.UK Bắt đầu với thứ user cần Làm ít hơn Thiết kế với dữ liệu Làm mọi thứ thật dễ dàng Lặp. Rồi lặp lại lần nữa Dành cho tất cả mọi người Hiểu ngữ cảnh hiện tại Làm dịch vụ digital, không phải làm website Nhất quán, nhưng không hòa tan (phải có chất riêng với thằng khác) Cởi mở, mọi thứ tốt hơn Bao trừu tượng luôn các bạn, trang Gov.uk này cũng có câu tổng quát rất hay Thiết kế tốt là thiết kế có thể sử dụng. Phục vụ cho nhiều đối tượng sử dụng, dễ đọc nhất nhất có thể. Nếu phải từ bỏ đẹp tinh tế – thì cứ bỏ luôn . Chúng ta tạo sản phẩm cho nhu cầu sử dụng, không phải cho người hâm mộ . Chúng ta thiết kế để cả nước sử dụng, không phải những người đã từng sử dụng web. Những người cần dịch vụ của chúng ta nhất là những người đang cảm thấy khó sử dụng dịch...

By stationd
Applicant Tracking System là gì? ATS hoạt động ra sao

Applicant Tracking System là gì? ATS hoạt động ra sao

Công nghệ phát triển hướng đến giải quyết và cải tiến cho mỗi quy trình, hoạt động của doanh nghiệp cũng như đời sống. Đối với lĩnh vực tuyển dụng, sự xuất hiện của phần mềm ATS (Applicant Tracking System) mang đến nhiều thay đổi đáng kể, cả đối với nhà tuyển dụng và ứng viên. Vậy phần mềm ATS là gì? Chúng được sử dụng ra sao? Những thắc mắc về phần mềm ATS trong tuyển dụng sẽ được Station D giải đáp tại bài viết dưới đây. Hệ thống sàng lọc ứng viên ATS (Applicant Tracking System) Applicant Tracking System là gì? Applicant Tracking System (ATS) hay còn gọi là Hệ thống quản lý hồ sơ ứng viên là phần mềm quản lý quy trình tuyển dụng từ đầu đến cuối một cách tự động hóa. ATS được thiết kế để giúp nhà tuyển dụng tiết kiệm thời gian và chi phí trong việc thu thập, sắp xếp và sàng lọc hồ sơ các ứng viên. Các tính năng nổi bật của Applicant Tracking System Các tính năng nổi bật của Applicant Tracking System Applicant Tracking System (ATS) là một công cụ quan trọng giúp các công ty quản lý quy trình tuyển dụng hiệu quả hơn. Cùng chúng tôi điểm qua các tính năng nổi bật của ATS: Sàng lọc và quản lý hồ sơ ứng viên Khả năng tìm kiếm và sàng lọc ứng viên là một trong các tính năng nổi bật nhất của ATS. Với việc sử dụng từ khóa và tiêu chí cụ thể, hệ thống có thể nhanh chóng tìm kiếm và sàng lọc các hồ sơ phù hợp, tự động loại bỏ những ứng viên không đạt yêu cầu. Điều này giúp nhà tuyển dụng tập trung vào những ứng viên...

By stationd
Hiểu về trình duyệt – How browsers work

Hiểu về trình duyệt – How browsers work

Bài viết được sự cho phép của vntesters.com Khi nhìn từ bên ngoài, trình duyệt web giống như một ứng dụng hiển thị những thông tin và tài nguyên từ server lên màn hình người sử dụng, nhưng để làm được công việc hiển thị đó đòi hỏi trình duyệt phải xử lý rất nhiều thông tin và nhiều tầng phía bên dưới. Việc chúng ta (Developers, Testers) tìm hiểu càng sâu tầng bên dưới để nắm được nguyên tắc hoạt động và xử lý của trình duyệt sẽ rất hữu ích trong công việc viết code, sử dụng các tài nguyên cũng như kiểm thử ứng dụng của mình. Cách để npm packages chạy trong browser Câu hỏi phỏng vấn mẹo về React: Component hay element được render trong browser? Khi hiểu được cách thức hoạt động của trình duyệt chúng ta có thể trả lời được rất nhiều câu hỏi như: Tại sao cùng một trang web lại hiển thị khác nhau trên hai trình duyệt? Tại sao chức năng này đang chạy tốt trên trình duyệt Firefox nhưng qua trình duyệt khác lại bị lỗi? Làm sao để trang web hiển thị nội dung nhanh và tối ưu hơn một chút?… Hy vọng sau bài này sẽ giúp các bạn có một cái nhìn rõ hơn cũng như giúp ích được trong công việc hiện tại. 1. Cấu trúc của một trình duyệt Trước tiên chúng ta đi qua cấu trúc, thành phần chung và cơ bản nhất của một trình duyệt web hiện đại, nó sẽ gồm các thành phần (tầng) như sau: Thành phần nằm phía trên là những thành phần gần với tương tác của người dùng, càng phía dưới thì càng sâu và nặng về xử lý dữ liệu hơn tương tác. Nhiệm...

By stationd
Tối ưu tỉ lệ chuyển đổi với Google Optimize và Google Analytics

Tối ưu tỉ lệ chuyển đổi với Google Optimize và Google Analytics

Tối ưu tỷ lệ chuyển đổi là một trong những yếu tố quan trọng mà một Growth Marketer không thể bỏ qua. Google Analytics là công cụ hữu hiệu và phổ biến nhất giúp chúng ta theo dõi, đo lường và tối ưu tỷ lệ chuyển đổi. Số liệu từ Google Analytics giúp chúng ta nhìn ra điểm cần thay đổi để tăng tỷ lệ chuyển đổi. Theo dõi chuyển đổi là quá trình thiết yếu nhưng cũng rất “khó nhằn”. Ngày nay, mọi người đang sử dụng điện thoại di động nhiều hơn và thường xuyên hơn khi mua hàng trực tuyến. Việc tối ưu hóa website phiên bản di động rất quan trọng. Traffic đến từ mobile khá lớn và làm ảnh hưởng nhiều tới tỷ lệ chuyển đổi. Để xem website của bạn có hoạt động tốt trên mobile hay không như thế nào? Làm gì khi tỷ lệ chuyển đổi giảm? Website phiên bản di động của bạn có nội dung hấp dẫn không? Không có những nút điều hướng hành động? Trang bị lỗi …, những điều này có thể ảnh hưởng tới tỉ lệ chuyển đổi Google Analytics, hiểu được điều này, bạn sẽ có cơ sở để khắc phục và hoàn thiện website của mình. Hãy cùng đến với chủ đề “DÙNG GOOGLE ANALYTICS TỐI ƯU TỈ LỆ CHUYỂN ĐỔI TRÊN MOBILE” với sự chia sẻ của diễn giả Nguyễn Minh Đức, CEO IM GROUP tại Vietnam Mobile Day 2018 nhé

By stationd