AI sáng tạo trên Vertex AI (còn được gọi là genAI hoặc gen AI< a i=4>) cho phép bạn truy cập vào Các mô hình AI có tính tổng hợp lớn của Google để bạn có thể kiểm tra, điều chỉnh và triển khai chúng cho sử dụng trong các ứng dụng hỗ trợ AI của bạn. Trang này cung cấp cho bạn cái nhìn tổng quan về quy trình làm việc AI tổng quát trên Vertex AI, các tính năng và mô hình có sẵn, và hướng dẫn bạn đến các tài nguyên để bắt đầu.

Quy trình làm việc của genAI
Sơ đồ sau đây hiển thị tổng quan về quy trình làm việc của genAI.

Giới thiệu về AI sáng tạo trên Vertex AI

Prompt – Lời nhắc

nhắc nhở thiết kế. Mặc dù thiết kế kịp thời là một quá trình thử và sai, nhưng vẫn có các nguyên tắc và chiến lược thiết kế nhanh chóng mà bạn có thể sử dụng để thúc đẩy mẫu để xử lý theo cách mong muốn.

Mô hình hỗ trợ

genAI bao gồm các mô hinhg có thể truy cập được thông qua API:

API Gemini: Lý luận nâng cao, trò chuyện nhiều lượt, tạo mã và lời nhắc đa phương thức.
API PaLM: Tác vụ ngôn ngữ tự nhiên, văn bản nội dung nhúng và trò chuyện nhiều lượt.
API Codey: Tạo mã, hoàn thành mã và trò chuyện bằng mã.
API hình ảnh: Tạo hình ảnh, chỉnh sửa hình ảnh và chú thích trực quan.
MedLM: Trả lời và tóm tắt câu hỏi y khoa. (GA riêng)

Tùy chỉnh mô hình

Điều chỉnh mô hình giúp bạn giảm chi phí và độ trễ của các yêu cầu bằng cách cho phép bạn đơn giản hóa lời nhắc của bạn.

Đánh giá mô hình công cụ để giúp bạn đánh giá hiệu suất của mô hình đã điều chỉnh của mình. Sau đó mô hình đã điều chỉnh của bạn đã sẵn sàng để sản xuất, bạn có thể triển khai nó đến điểm cuối và giám sát hiệu suất như trong quy trình làm việc MLOps tiêu chuẩn.

Kiểm tra trích dẫn

Nếu một lượng đáng kể văn bản trong phản hồi đến từ một nguồn cụ thể, nguồn đó sẽ được thêm vào siêu dữ liệu trích dẫn trong phản hồi.

AI có trách nhiệm và an toàn

Vertex AI kiểm tra cả lời nhắc và phản hồi để biết cách thức phần lớn lời nhắc hoặc phản hồi thuộc về sự an toàn danh mục. Nếu vượt quá ngưỡng cho một hoặc nhiều danh mục, thì phản hồi bị chặn và Vertex AI trả về dự phòng phản hồi.

Các mô hình và API AI sáng tạo
Các mô hình AI tổng quát có sẵn trong Vertex AI, còn được gọi là nền tảng mô hình, được phân loại theo loại nội dung mà nó được thiết kế để tạo ra. Nội dung này bao gồm văn bản, trò chuyện, hình ảnh, mã, video, dữ liệu đa phương thức và nhúng. Mỗi mô hình được hiển thị thông qua điểm cuối cụ thể của nhà xuất bản vào dự án Google Cloud của bạn nên không cần triển khai mô hình nền tảng trừ khi bạn cần điều chỉnh nó cho một trường hợp sử dụng cụ thể.

Dịch vụ API của Gemini
API Vertex AI Gemini chứa điểm cuối của nhà xuất bản cho các mô hình Gemini do Google DeepMind phát triển.

Gemini Pro được thiết kế để xử lý các tác vụ ngôn ngữ tự nhiên, trò chuyện bằng văn bản và mã nhiều lượt cũng như mã thế hệ.
Gemini Pro Vision hỗ trợ đa phương thức lời nhắc. Bạn có thể đưa văn bản, hình ảnh và video vào yêu cầu nhắc nhở của mình và nhận phản hồi bằng văn bản hoặc mã.

Các dịch vụ API PaLM
API Vertex AI PaLM chứa các điểm cuối của nhà xuất bản cho Google Pathways Ngôn ngữ Model 2 (PaLM 2), là các mô hình ngôn ngữ lớn (LLM) tạo văn bản và mã theo lời nhắc của ngôn ngữ tự nhiên.

API PaLM cho văn bản được tinh chỉnh cho các tác vụ ngôn ngữ như như phân loại, tóm tắt và trích xuất thực thể.
API PaLM dành cho trò chuyện được tinh chỉnh cho trò chuyện nhiều lượt, nơi mô hình theo dõi các tin nhắn trước đó trong cuộc trò chuyện và sử dụng nó làm bối cảnh để tạo phản hồi mới.

Các dịch vụ AI sáng tạo khác
API Codey tạo mã. API Codey bao gồm ba mô hình tạo mã, đề xuất mã để hoàn thành mã, và cho phép các nhà phát triển trò chuyện để nhận trợ giúp về các câu hỏi liên quan đến mã. Để biết thêm thông tin, xem Tổng quan về mô hình mã.

API nhúng văn bản tạo ra các vectơ nhúng cho văn bản đầu vào. Bạn có thể sử dụng các phần nhúng cho các tác vụ như tìm kiếm ngữ nghĩa, đề xuất, phân loại và phát hiện ngoại lệ.

Nhúng đa phương thức tạo vectơ nhúng dựa trên hình ảnh và đầu vào văn bản. Những phần nhúng này sau này có thể được sử dụng cho các tác vụ tiếp theo khác như phân loại hình ảnh hoặc đề xuất nội dung. Để biết thêm thông tin, xem nhúng đa phương thức trang.

Imagen, mô hình nền tảng chuyển văn bản thành hình ảnh của chúng tôi, cho phép các tổ chức tạo và tùy chỉnh hình ảnh cấp studio trên quy mô lớn cho bất kỳ nhu cầu kinh doanh. Để biết thêm thông tin, xem Hình ảnh tổng quan về AI của Vertex.

MedLM là nhóm các mô hình nền tảng được tinh chỉnh cho ngành y tế. Để biết thêm thông tin, hãy xem tổng quan về các mô hình MedLM.

Studio AI của Vertex

Vertex AI Studio là một công cụ bảng điều khiển Google Cloud để tạo mẫu nhanh và thử nghiệm các mô hình AI tổng quát. Bạn có thể kiểm tra các lời nhắc mẫu, tự thiết kế lời nhắc và tùy chỉnh các mô hình nền tảng để xử lý các nhiệm vụ đáp ứng nhu cầu của ứng dụng. Trang này giới thiệu các nhiệm vụ khác nhau mà bạn có thể thực hiện trong Vertex AI Studio, bao gồm:

  • Kiểm tra các mô hình bằng cách sử dụng các mẫu nhắc nhở.
  • Thiết kế và lưu lời nhắc của riêng bạn.
  • Điều chỉnh một mô hình nền tảng.
  • Chuyển đổi giữa lời nói và văn bản.

Thư viện nhắc nhở, trong phần Ngôn ngữ của Vertex AI Studio, chứa nhiều lời nhắc mẫu được thiết kế trước để giúp minh họa mô hình khả năng. Lời nhắc mẫu được phân loại theo loại nhiệm vụ, chẳng hạn như tổng hợp, phân loại và trích xuất. Mỗi lời nhắc được cấu hình sẵn với một giá trị tham số và mô hình được chỉ định để bạn có thể mở lời nhắc mẫu và nhấp vào Gửi để lấy mô hình tạo phản hồi.

Thiết kế lời nhắc là quá trình tạo các lời nhắc theo cách thủ công nhằm gợi ra phản hồi mong muốn từ một mô hình ngôn ngữ. Bằng cách soạn thảo các lời nhắc một cách cẩn thận, bạn có thể thúc đẩy mô hình để tạo ra kết quả mong muốn. Thiết kế nhanh chóng có thể là một giải pháp hiệu quả cách thử nghiệm việc điều chỉnh mô hình ngôn ngữ cho một trường hợp sử dụng cụ thể.

Bạn có thể tạo và lưu lời nhắc của riêng mình trong Vertex AI Studio. Khi tạo một lời nhắc mới, bạn nhập văn bản lời nhắc, chỉ định mô hình sẽ sử dụng, định cấu hình các giá trị tham số và kiểm tra lời nhắc bằng cách tạo phản hồi. Bạn có thể lặp lại lời nhắc và cấu hình của nó cho đến khi bạn nhận được kết quả mong muốn kết quả. Khi bạn thiết kế xong lời nhắc, bạn có thể lưu nó vào Studio AI của Vertex.

Nếu bạn đang sử dụng mô hình văn bản trong Vertex AI Studio như text-bison, bạn nhận phản hồi bằng văn bản dựa trên thông tin đầu vào của bạn. Các tính năng của chúng tôi nhằm mục đích tạo ra nội dung gốc và không sao chép nội dung hiện có. Nếu như Vertex AI Studio trích dẫn chi tiết từ một trang web, nó trích dẫn trang đó trong đầu ra.

Bạn có thể thay đổi chất lượng phản hồi bằng cách điều chỉnh nhiệt độ (tính ngẫu nhiên đầu ra) và thử nghiệm các tham số phản hồi khác trong Studio AI của Vertex.

Các trích dẫn có sẵn trong Vertex AI Studio và có sẵn trong API. Để tìm hiểu thêm về AI có trách nhiệm và các trích dẫn, hãy xem Siêu dữ liệu trích dẫn.

Khám phá các mô hình AI tổng quát trong Model Garden
Model Garden là nền tảng giúp bạn khám phá, thử nghiệm, tùy chỉnh, và triển khai các mô hình và nội dung PMNM độc quyền của Google cũng như chọn lọc. Khám phá các mô hình AI và API tổng quát có sẵn trên Vertex AI, hãy truy cập Vườn mô hình trong bảng điều khiển Google Cloud.

Điều chỉnh mô hình nền tảng
Mặc dù thiết kế nhanh chóng là lựa chọn tuyệt vời để thử nghiệm nhanh nhưng nếu dữ liệu huấn luyện có sẵn, chất lượng cao hơn có thể đạt được bằng cách điều chỉnh chính mô hình. Điều chỉnh một mô hình cho phép bạn tùy chỉnh phản hồi của mô hình dựa trên các ví dụ về nhiệm vụ mà bạn muốn mô hình thực hiện.

Để tìm hiểu cách điều chỉnh mô hình nền móng, hãy xem thêm về Điều chỉnh các mô hình nền tảng.

Chuyển đổi giữa lời nói và văn bản
Trong công cụ giọng nói của Vertex AI Studio, bạn có thể lấy một đoạn văn bản và chuyển đổi nó thành tệp âm thanh giọng nói mà bạn có thể phát lại và tải xuống. Bạn có thể chọn từ một số giọng nói và điều chỉnh tốc độ nói.

Ngược lại, nếu bạn có tệp âm thanh lời nói, bạn cũng có thể tải nó lên Vertex AI Studio và chuyển nó thành văn bản.

Chứng nhận và kiểm soát an ninh
Vertex AI hỗ trợ CMEK, Kiểm soát dịch vụ VPC, Nơi lưu trữ dữ liệu và Truy cập minh bạch. Có một số hạn chế đối với các tính năng AI sáng tạo. Để biết thêm thông tin, hãy xem Kiểm soát bảo mật AI sáng tạo.

Trung Hòa TH

(Nguồn Google Cloud)