Vertex AI là gì?

Vertex AI là nền tảng máy học (ML) cho phép bạn đào tạo và triển khai các mô hình ML và phát triển các ứng dụng AI, đồng thời tùy chỉnh các mô hình ngôn ngữ lớn (LLM) để sử dụng trong các ứng dụng hỗ trợ AI của bạn. Vertex AI kết hợp dữ liệu kỹ thuật, khoa học dữ liệu và quy trình công việc kỹ thuật ML, cho phép bạn tạo các nhóm cộng tác bằng cách sử dụng bộ công cụ chung và mở rộng quy mô ứng dụng trên nền tảng Google Cloud.

Vertex AI cung cấp một số tùy chọn cho việc đào tạo mô hình và triển khai:

• AutoML cho phép bạn huấn luyện dữ liệu dạng bảng, hình ảnh, văn bản hoặc video mà không cần viết mã hoặc chuẩn bị phân chia dữ liệu.
• Đào tạo tùy chỉnh mang đến cho bạn toàn quyền kiểm soát quá trình đào tạo quy trình, bao gồm cả việc sử dụng khung ML ưa thích của bạn, viết của riêng bạn mã đào tạo và chọn các tùy chọn điều chỉnh siêu tham số.
• Vườn mẫu cho phép bạn khám phá, thử nghiệm, tùy chỉnh và triển khai Vertex AI và các mô hình cũng như nội dung nguồn mở chọn lọc (OSS).
• AI sáng tạo cung cấp cho bạn quyền truy cập vào AI sáng tạo quy mô lớn của Google mô hình cho nhiều phương thức (văn bản, mã, hình ảnh, lời nói). Bạn có thể điều chỉnh LLM của Google để đáp ứng nhu cầu của bạn và sau đó triển khai chúng để sử dụng trong các ứng dụng hỗ trợ AI của bạn.

Sau khi bạn triển khai các mô hình của mình, hãy sử dụng các công cụ MLOps toàn diện của Vertex AI để tự động hóa và mở rộng quy mô dự án trong suốt vòng đời ML. Các công cụ MLOps này chạy trên cơ sở hạ tầng được quản lý hoàn toàn mà bạn có thể tùy chỉnh dựa trên hiệu suất và nhu cầu ngân sách của bạn.

Bạn có thể sử dụng Vertex AI SDK cho Python để chạy toàn bộ máy quy trình học tập trong Bàn làm việc AI của Vertex, một Jupyter môi trường phát triển dựa trên máy tính xách tay. Bạn có thể cộng tác với một nhóm để phát triển mô hình của bạn trong Colab Enterprise, một phiên bản Cộng tác được tích hợp với AI đỉnh. Các giao diện khả dụng khác bao gồm Google Cloud Console, công cụ dòng lệnh gcloud, ứng dụng khách thư viện và Terraform (hỗ trợ hạn chế).

Vertex AI và quy trình làm việc của máy học (ML)

Phần này cung cấp cái nhìn tổng quan về quy trình học máy và cách bạn có thể sử dụng Vertex AI để xây dựng và triển khai các mô hình của bạn.

1) Chuẩn bị dữ liệu: Sau khi trích xuất và làm sạch tập dữ liệu của bạn, hãy thực hiện phân tích dữ liệu khám phá (EDA) để hiểu lược đồ dữ liệu và các đặc điểm mà mô hình ML mong đợi. Áp dụng chuyển đổi dữ liệu và tính năng kỹ thuật cho mô hình, đồng thời chia dữ liệu thành phần đào tạo, xác thực và bộ kiểm tra.

• Khám phá và trực quan hóa dữ liệu bằng Bàn làm việc AI của Vertex sổ ghi chép. Vertex AI Workbench tích hợp với Cloud Storage và BigQuery để giúp bạn truy cập và xử lý dữ liệu của mình nhanh hơn.
• Đối với các tập dữ liệu lớn, hãy sử dụng Dataproc Serverless Spark từ Máy tính xách tay Vertex AI Workbench để chạy khối lượng công việc Spark mà không cần phải quản lý cụm Dataproc của riêng bạn.

2) Đào tạo mô hình: Chọn phương pháp đào tạo để đào tạo mô hình và điều chỉnh nó cho phù hợp hiệu suất.

• Để đào tạo mô hình mà không cần viết mã, hãy xem AutoML tổng quan. AutoML hỗ trợ dạng bảng, hình ảnh, văn bản và dữ liệu video.
• Để viết mã đào tạo của riêng bạn và đào tạo các mô hình tùy chỉnh bằng cách sử dụng tùy chọn ưa thích của bạn Khung ML, hãy xem Tổng quan về đào tạo tùy chỉnh.
• Tối ưu hóa siêu tham số cho các mô hình được đào tạo tùy chỉnh bằng cách sử dụng điều chỉnh tùy chỉnh việc làm.
• Vertex AI Vizier điều chỉnh siêu tham số cho bạn trong máy phức tạp mô hình học tập (ML).
• Sử dụng Thử nghiệm AI của Vertex để huấn luyện mô hình của bạn bằng cách sử dụng các kỹ thuật ML khác nhau và so sánh kết quả.
• Hãy đăng ký những người mẫu đã được đào tạo của bạn tại Đăng ký mô hình AI của Vertex để tạo phiên bản và chuyển giao cho sản xuất. Cơ quan đăng ký mô hình AI của Vertex tích hợp với tính năng xác thực và các tính năng triển khai như đánh giá mô hình và điểm cuối.

3) Đánh giá và lặp lại mô hình: Đánh giá mô hình đã đào tạo của bạn, đưa ra điều chỉnh dữ liệu của bạn dựa trên số liệu đánh giá và lặp lại trên người mẫu.

• Sử dụng các số liệu đánh giá mô hình, chẳng hạn như độ chính xác và khả năng thu hồi, để đánh giá và so sánh hiệu suất của các mô hình của bạn. Tạo đánh giá thông qua Cơ quan đăng ký mô hình AI của Vertex hoặc đưa các đánh giá vào Quy trình làm việc của Vertex AI Pipelines.

4) Phân phối mô hình: Triển khai mô hình của bạn vào sản xuất và nhận dự đoán.

• Triển khai mô hình được đào tạo tùy chỉnh của bạn bằng cách sử dụng được tạo sẵn hoặc các vùng chứa tùy chỉnh để đưa trực tuyến theo thời gian thực dự đoán (đôi khi được gọi là dự đoán HTTP).
• Nhận dự đoán hàng loạt không đồng bộ, không yêu cầu triển khai đến điểm cuối.
• Thời gian chạy TensorFlow được tối ưu hóa cho phép bạn phục vụ TensorFlow mô hình với chi phí thấp hơn và độ trễ thấp hơn so với các mô hình dựa trên nguồn mở Các thùng chứa Dịch vụ TensorFlow dựng sẵn.

Đối với các trường hợp phân phối trực tuyến có mô hình dạng bảng, hãy sử dụng Cửa hàng tính năng AI của Vertex để cung cấp các tính năng từ một kho lưu trữ trung tâm và theo dõi tình trạng tính năng.

• AI có thể giải thích được của Vertex giúp bạn hiểu cách mỗi tính năng đóng góp vào dự đoán mô hình (phân bổ tính năng) và tìm dữ liệu bị gắn nhãn sai từ tập dữ liệu huấn luyện (giải thích dựa trên ví dụ).
• Triển khai và nhận dự đoán trực tuyến cho các mô hình được đào tạo bằng BigQuery ML.

5) Giám sát mô hình: Giám sát hiệu suất của mô hình đã triển khai của bạn. Sử dụng dữ liệu dự đoán đến để huấn luyện lại mô hình của bạn nhằm cải thiện hiệu suất.

• Giám sát mô hình AI của Vertex giám sát các mô hình để sai lệch phục vụ đào tạo và sai lệch dự đoán, đồng thời gửi cho bạn thông báo khi dữ liệu dự đoán đến lệch quá xa so với đường cơ sở đào tạo.

Trung Hòa TH

(Nguồn Google Cloud)