Parti: Mô Hình Sinh Ảnh Từ Văn Bản Tự Hồi Quy
- Đây là một mô hình sinh ảnh từ văn bản có khả năng tạo ra hình ảnh photorealistic chất lượng cao và hỗ trợ tổng hợp nội dung phong phú.
- Nó xem việc sinh ảnh từ văn bản như một bài toán mô hình hóa chuỗi đến chuỗi, tận dụng tiến bộ trong các mô hình ngôn ngữ lớn.
- Sử dụng bộ mã hóa hình ảnh mạnh mẽ ViT-VQGAN để mã hóa và tái tạo hình ảnh thành chất lượng cao.
- Đã quan sát được các kết quả như cải thiện chất lượng khi mở rộng bộ mã hóa-decoder, đạt điểm FID tốt trên MS-COCO và hiệu quả trên các tiêu chuẩn mới.
- Được triển khai trong Lingvo và mở rộng với GSPMD trên phần cứng TPU v4.
- So sánh giữa các quy mô của mô hình cho thấy cải thiện đáng kể về khả năng và chất lượng hình ảnh.
- Mô hình 20B xuất sắc với các prompt trừu tượng, yêu cầu kiến thức thế giới.
- Parti mở ra nhiều khả năng mới nhưng cũng cần nhận thức được tiềm ẩn về thiên lệch và hạn chế. Đây là sự hợp tác của nhiều nhóm nghiên cứu của Google và họ cảm ơn các cộng tác viên.