PyTorch Vietnam

Ai cũng có một thời thiếu nhi ...

Hôm nay, mình có đọc được một bài viết rất hay trên Linkedin về tư duy ứng dụng AI trong công việc của tác giả Tony Rhem
CEO AJ Rhem & Associates. Xin chia sẻ lại với mọi người.

Có tư duy "ưu tiên AI" (AI First Mindset) là một phương pháp chiến lược và vận hành trong đó trí tuệ nhân tạo (AI) là trọng tâm chính hoặc điểm khởi đầu trong việc phát triển và thực hiện các quy trình, sản phẩm, dịch vụ hoặc chiến lược. Tư duy AI đại diện cho một cách tiếp cận chiến lược, toàn diện và đạo đức để tận dụng các công nghệ AI. Đó là về việc tích hợp AI sâu vào cơ cấu hoạt động, văn hóa và chiến lược của một tổ chức, đảm bảo rằng các ứng dụng AI có hiệu quả, có trách nhiệm và phù hợp với các mục tiêu kinh doanh và các chuẩn mực xã hội. Tư duy ưu tiên AI là về việc lồng ghép AI (bao gồm từng trụ cột AI, KM, Dữ liệu và Đạo đức) vào cơ cấu hoạt động và văn hóa của một tổ chức, liên tục tìm cách áp dụng AI để cải tiến, đổi mới và lợi thế cạnh tranh, đồng thời lưu tâm đến các tác động xã hội.
Phương pháp tiếp cận tư duy ưu tiên AI của tôi bao gồm việc triển khai bốn (4) trụ cột: Trí tuệ nhân tạo, Quản lý tri thức, Kiến trúc dữ liệu/thông tin và Đạo đức và Quản trị. Mỗi trụ cột này tương tác và hỗ trợ các khía cạnh khác nhau trong các trụ cột khác, với AI là trụ cột chính.
Hãy cùng đi sâu hơn vào các trụ cột của Tư duy AI:
Trụ cột Trí tuệ nhân tạo (AI):
Với tư duy AI, AI là nền tảng trong hoạch định chiến lược, biểu thị sự chuyển đổi từ các phương pháp truyền thống sang các chiến lược dựa trên phân tích dự đoán tiên tiến hơn. Sự tích hợp này đảm bảo rằng việc ra quyết định không chỉ mang tính trực giác mà còn được hỗ trợ bởi những hiểu biết dựa trên dữ liệu, mang lại lợi thế cạnh tranh.
Việc chủ động đưa AI vào từ giai đoạn ý tưởng phát triển sản phẩm hoặc dịch vụ đảm bảo sự tích hợp liền mạch. Cách tiếp cận này tập trung vào việc tạo ra các giải pháp thông minh vốn có thay vì trang bị thêm AI vào các dịch vụ hiện có.
Vai trò của AI trong việc nâng cao trải nghiệm người dùng, tăng hiệu quả hoặc giới thiệu các đề xuất giá trị mới là một cân nhắc chính. Cách tiếp cận lấy người dùng làm trung tâm này đảm bảo rằng các ứng dụng AI có liên quan và mang lại giá trị hữu hình cho người dùng cuối.
Phạm vi của AI được mở rộng ra ngoài phát triển sản phẩm để bao trùm các lĩnh vực hoạt động khác nhau như chuỗi cung ứng, dịch vụ khách hàng và nhân sự. Việc áp dụng toàn diện này phản ánh sự hiểu biết về tiềm năng của AI trong việc chuyển đổi toàn bộ quy trình kinh doanh.
Trụ cột Quản lý tri thức:
Sự hiệp lực giữa Quản lý tri thức (KM) và Trí tuệ nhân tạo (AI) ngày càng trở nên quan trọng khi các tổ chức tìm cách tận dụng kiến thức tập thể của mình và nâng cao quy trình ra quyết định. KM xử lý cả kiến thức rõ ràng và ngầm, và AI cung cấp các công cụ mạnh mẽ để xử lý, phân tích và sử dụng kiến thức này.
Trong bối cảnh AI không ngừng phát triển, văn hóa quản lý tri thức thúc đẩy việc học liên tục là rất quan trọng. Điều này áp dụng cho cả cơ sở tri thức của tổ chức và các hệ thống AI, chúng phải thích ứng và cải thiện liên tục.
Quản lý tri thức hỗ trợ AI thông qua việc nhận biết khoảng cách kỹ năng, xác định năng lực AI cốt lõi và điều chỉnh kiến thức AI phù hợp để lấp đầy những khoảng trống này.
Nhận thức được nhu cầu về các chuyên gia AI lành nghề, các công ty đang đầu tư vào việc thu hút và phát triển nhân tài. Điều này bao gồm các chương trình đào tạo cho nhân viên hiện tại và những nỗ lực nhằm thu hút và giữ chân những nhân tài AI hàng đầu. Khoản đầu tư như vậy biểu thị sự hiểu biết về kiến thức chuyên môn cần thiết để phát triển và quản lý các hệ thống AI một cách hiệu quả.
Trụ cột Kiến trúc dữ liệu/thông tin:
Nhận ra dữ liệu là huyết mạch của các hệ thống AI, có sự nhấn mạnh mạnh mẽ vào các phương pháp kiến trúc dữ liệu và thông tin hiệu quả. Điều này bao gồm việc thu thập, quản lý, lưu trữ và phân tích dữ liệu tỉ mỉ, tạo thành xương sống của các thuật toán AI hiệu quả.
Ưu tiên chất lượng dữ liệu, quyền riêng tư và xử lý có đạo đức là rất quan trọng. Điều này không chỉ đảm bảo tuân thủ các quy định mà còn xây dựng niềm tin với các bên liên quan.
Phân tích dữ liệu nâng cao và khám phá tri thức, đặc biệt là thông qua các kỹ thuật học máy và khai thác dữ liệu, có thể phân tích lượng lớn dữ liệu để khám phá các mô hình và hiểu biết mà con người có thể bỏ qua. Khả năng này là vô giá trong AI, vì nó có thể chuyển đổi lượng lớn kiến thức rõ ràng, như tài liệu và cơ sở dữ liệu, thành thông tin chi tiết có thể hành động.
Trụ cột Đạo đức & Quản trị:
Có sự hiểu biết sâu sắc về các tác động đạo đức của AI, đặc biệt liên quan đến quyền riêng tư, thiên kiến và minh bạch. Xây dựng chiến lược để giải quyết những vấn đề này là một ưu tiên.
Triển khai các khuôn khổ quản trị AI giúp đảm bảo việc sử dụng AI có trách nhiệm và đạo đức, đồng thời điều chỉnh các hoạt động AI với các giá trị và quy định xã hội rộng lớn hơn.
Đạo đức và Quản trị AI là một lĩnh vực quan trọng tập trung vào việc phát triển và triển khai các hệ thống AI một cách có đạo đức, có trách nhiệm và có lợi. Các khía cạnh chính bao gồm giải quyết sự công bằng và thiên kiến để ngăn chặn sự phân biệt đối xử, đảm bảo tính minh bạch và khả năng giải thích của các quyết định AI phức tạp, bảo vệ quyền riêng tư thông qua quản trị dữ liệu mạnh mẽ và làm rõ trách nhiệm giải trình đối với các kết quả do AI điều khiển.
Tư duy AI nên phổ biến trong các tổ chức, doanh nghiệp, chính phủ, tổ chức học thuật và các cá nhân nhận ra sức mạnh biến đổi của AI và tận dụng nó để thúc đẩy sự đổi mới và hiệu quả. Sự hiệp lực giữa các trụ cột Tư duy AI mang đến cơ hội rộng lớn cho các tổ chức quản lý và sử dụng các thế mạnh tập thể của mình hiệu quả hơn. AI có thể nâng cao KM bằng cách cho phép phân tích dữ liệu tốt hơn thông qua kiến trúc dữ liệu và thông tin hiệu quả. Tuy nhiên, điều cần thiết là giải quyết các thách thức một cách có đạo đức và có trách nhiệm để tối đa hóa lợi ích của sự tích hợp này.

Tối nay sau khi chạy về mình có đọc được một bài chia sẻ của Giáo sư Ngô Ân Đạt ( Andrew Ng) chia sẻ về bối cảnh phát triển AI của hiện tại sau Open AI Spring Updates và Google IO. Mình xin trích dịch một đoạn hay nhất trong đó.

Trong vài ngày qua, Google đã công bố việc tăng gấp đôi cửa sổ ngữ cảnh đầu vào của Gemini Pro 1.5 từ 1 triệu lên 2 triệu token, và OpenAI đã phát hành GPT-4o, có khả năng tạo token nhanh hơn 2 lần và rẻ hơn 50% so với GPT-4 Turbo và chấp nhận và tạo token đa phương thức một cách tự nhiên. Tôi xem những phát triển này là bước tiến mới nhất trong xu hướng 18 tháng qua. Với những cải tiến mà chúng ta đã thấy, các phương pháp tốt nhất cho các nhà phát triển cũng đã thay đổi.

Kể từ khi ra mắt ChatGPT vào tháng 11 năm 2022, với các cột mốc quan trọng bao gồm việc phát hành GPT-4, Gemini 1.5 Pro, Claude 3 Opus và Llama 3-70B, nhiều nhà cung cấp mô hình đã cải thiện khả năng của họ theo hai cách quan trọng: (i) suy luận, cho phép LLM suy nghĩ thông qua các khái niệm phức tạp và làm theo các hướng dẫn phức tạp; và (ii) cửa sổ ngữ cảnh đầu vào dài hơn.

Khả năng suy luận của GPT-4 và các mô hình tiên tiến khác khiến chúng khá tốt trong việc diễn giải các lời nhắc phức tạp với các hướng dẫn chi tiết. Nhiều người đã quen với việc đưa ra một truy vấn nhanh, 1-2 câu cho LLM. Ngược lại, khi xây dựng các ứng dụng, tôi thấy các nhóm phức tạp thường xuyên viết các lời nhắc có thể dài 1 đến 2 trang (các nhóm của tôi gọi chúng là "mega-prompts") cung cấp các hướng dẫn phức tạp để chỉ định chi tiết cách chúng tôi muốn LLM thực hiện một nhiệm vụ. Tôi vẫn thấy các nhóm chưa đi đủ xa về mặt viết các hướng dẫn chi tiết. Để có một ví dụ về một lời nhắc có độ dài vừa phải, hãy xem lời nhắc hệ thống của Claude 3. Nó chi tiết và đưa ra hướng dẫn rõ ràng về cách Claude nên hoạt động.

Đây là một phong cách nhắc nhở rất khác so với phong cách mà chúng ta thường sử dụng với giao diện người dùng web của LLM, nơi chúng ta có thể đưa ra một truy vấn nhanh và nếu phản hồi không thỏa đáng, hãy làm rõ những gì chúng ta muốn thông qua các lượt trò chuyện lặp đi lặp lại với chatbot.

Hơn nữa, việc tăng chiều dài của các cửa sổ ngữ cảnh đầu vào đã bổ sung một kỹ thuật khác vào bộ công cụ của nhà phát triển. GPT-3 đã khởi động rất nhiều nghiên cứu về học tập trong ngữ cảnh few-shot. Ví dụ: nếu bạn đang sử dụng LLM để phân loại văn bản, bạn có thể cung cấp một số ít - chẳng hạn như 1 đến 5 ví dụ - về các đoạn văn bản và nhãn lớp của chúng, để nó có thể sử dụng các ví dụ đó để khái quát hóa cho các văn bản bổ sung. Tuy nhiên, với các cửa sổ ngữ cảnh đầu vào dài hơn - GPT-4o chấp nhận 128.000 mã thông báo đầu vào, Claude 3 Opus 200.000 mã thông báo và Gemini 1.5 Pro 1 triệu mã thông báo (2 triệu vừa được công bố trong bản xem trước giới hạn) - LLM không giới hạn trong một số ít ví dụ. Với học tập nhiều lần, các nhà phát triển có thể đưa ra hàng chục, thậm chí hàng trăm ví dụ trong lời nhắc và điều này hoạt động tốt hơn so với học tập few-shot.

Khi xây dựng các quy trình làm việc phức tạp, tôi thấy các nhà phát triển nhận được kết quả tốt với quy trình này:

Viết lời nhắc nhanh, đơn giản và xem nó hoạt động như thế nào.
Dựa trên nơi đầu ra thiếu sót, hãy cụ thể hóa lời nhắc một cách lặp đi lặp lại. Điều này thường dẫn đến một lời nhắc dài hơn, chi tiết hơn, thậm chí có thể là một siêu lời nhắc.
Nếu điều đó vẫn chưa đủ, hãy xem xét học few-shot hoặc many-shot (nếu có thể áp dụng) hoặc, ít thường xuyên hơn, tinh chỉnh.
Nếu điều đó vẫn không mang lại kết quả bạn cần, hãy chia nhỏ tác vụ thành các tác vụ phụ và áp dụng quy trình làm việc theo tác nhân.
Tôi hy vọng một quy trình như thế này sẽ giúp bạn xây dựng các ứng dụng dễ dàng hơn. Nếu bạn quan tâm đến việc tìm hiểu sâu hơn về các chiến lược nhắc nhở, tôi khuyên bạn nên đọc bài báo Medprompt, trong đó đưa ra một tập hợp các chiến lược nhắc nhở phức tạp có thể dẫn đến kết quả rất tốt.

Chúc bạn tiếp tục tìm hiểu thêm. Nếu bạn nào quan tâm tìm hiểu về học Prompt của ChatGPT và Gemini thì có thể liên hệ mình.

EvoTorch
EvoTorch is an open source evolutionary computation library developed at NNAISENSE, built on top of PyTorch.

GitHub: https://github.com/nnaisense/evotorch

Meta AI team vừa công bố PlayTorch, một ứng dụng và SDK mới, để tạo mẫu nhanh chóng và dễ dàng cho trải nghiệm do AI hỗ trợ. Dự án này trước đây là PyTorch Live.
Ứng dụng nổi bật:
Môi trường phát triển dựa trên web nhanh chóng được cung cấp bởi Expo
Chạy trên thiết bị của bạn ngay lập tức
Chia sẻ các bản trình diễn được tích hợp trong ứng dụng
Các điểm nổi bật của SDK v0.2.0:
Viết mọi thứ bằng JS
Truy cập trực tiếp vào tensors
Các mô hình mở rộng và các trường hợp sử dụng (YOLO v5, AnimeGAN, Seq2Seq, v.v.)
Tìm hiểu thêm 👇

Introducing the PlayTorch app: Rapidly Create Mobile AI Experiences by PlayTorch Team In December, we announced PyTorch Live, a toolkit for building AI-powered mobile prototypes in minutes. The initial release included a command-line interface to set up a development environment and an SDK for building AI-powered experiences in React Native. Today, we’re excited t...

Happy birthday PyTorch!

Today marks 5 years since PyTorch was released publicly!
We didn't expect to come this far, but here we are 🙂.

We are now at 2K Contributors, 90K Downstream Projects, 3.9M lines of "import torch" on GitHub. But more importantly, we're still receiving lots of love and having a great ride.

Here's to the future!

Deep Learning with PyTorch

Download a free copy of the full book and learn how to get started with AI / ML development using PyTorch: https://pytorch.org/deep-learning-with-pytorch

The Global PyTorch Summer Hackathon (http://pytorch2020.devpost.com) is back! This year, teams can compete in 3 categories:

1. Developer Tools
2. Web/Mobile applications
3. Responsible AI Development Tools

Deep learning with Pytorch - Free Six Weeks

Deep Learning with PyTorch - Free Six Week Course [Part 3] Deep Learning with PyTorch: Zero to GANs is a free certification course from Jovian.ml. It will be live-streamed here every Saturday for six weeks at 8:30 AM...

Facebook AI ra mắt MONAI - Open source dùng cho ứng dụng deeplearning trong lĩnh vực chăm sóc sức khỏe.

Thông tin chi tiết bạn có thể xem tại link dưới:

=======================================

MONAI framework is an open-source foundation for deep learning in healthcare imaging. Find out how it processes the meta-information rich and high-dimensional data volumes of medical images to facilitate user-friendly, reproducible, optimized data pre-processing pipelines.

https://medium.com/pytorch/monai-public-alpha-is-now-available-54b79f5532aa

MONAI public alpha is now available: Domain Optimized for deep learning in Healthcare Imaging MONAI is an open-source, PyTorch based, community backed framework for researchers capturing best practices for deep learning.

Optuna is a black-box optimizer. Learn how you can leverage it to create the objective function, define the hyperparamters, run trials, and perform pruning to optimize PyTorch hyperparameters. Read more:

Using Optuna to Optimize PyTorch Hyperparameters Automate the tuning of hyperparameters in PyTorch using Bayesian Optimisation in Optuna