MớiCách chúng tôi bắt người bán gắn sai model, và hoàn tiền cho bạn nếu có.
UberLLM

Cách chọn và tích hợp API tạo ảnh

So sánh các tính năng của API tạo ảnh, các trường yêu cầu, kết quả không đồng bộ, kiểm tra mô hình, xử lý lỗi và thanh toán, với các bước để tích hợp vào sản xuất.

Hơn 15 tỷ hình ảnh đã được tạo ra bằng thuật toán chuyển văn bản thành hình ảnh vào tháng 8 năm 2023,, trung bình khoảng 34 triệu hình ảnh mỗi ngày kể từ khi DALL-E 2 ra mắt, theo một phân tích của Everypixel về thống kê hình ảnh AI. Phân tích tương tự cho rằng khoảng 12.6 tỷ trong số đó, xấp xỉ 80%, thuộc về các mô hình, dịch vụ và ứng dụng dựa trên Stable Diffusion.

Với khối lượng đó, việc tạo hình ảnh không còn là một bản demo sáng tạo mà trở thành cơ sở hạ tầng. Các câu hỏi quyết định liệu một sản phẩm có được xuất xưởng hay không không còn xoay quanh việc mô hình nào vẽ ra những bức tranh đẹp hơn, mà bắt đầu xoay quanh các hợp đồng yêu cầu, trạng thái công việc, hành vi hết thời gian chờ (timeout behavior) và liệu một lần tạo hình ảnh thất bại có vẫn xuất hiện trên hóa đơn của bạn hay không.

Đây là hướng dẫn dành cho nhà phát triển về lớp API tạo hình ảnh. Nó bao gồm cách các yêu cầu được định hình, cách các tác vụ di chuyển qua một vòng đời, cách kiểm tra một mô hình thay vì tin tưởng vào bảng xếp hạng, và nơi các chi phí ẩn giấu. Giá mỗi hình ảnh là con số dễ so sánh nhất nhưng lại ít hữu ích nhất khi đứng một mình.

Mục lục

Tổng quan về khả năng của API tạo ảnh

Khả năng Đầu vào Đầu ra Mô hình truy xuất
Tạo văn bản tin nhắn và tham số văn bản được truyền trực tuyến phản hồi truyền trực tuyến
Văn bản thành ảnh lời nhắc, kích thước, định danh mô hình một hoặc nhiều ảnh tác vụ, thăm dò hoặc webhook
Chỉnh sửa ảnh ảnh nguồn, hướng dẫn, mặt nạ tùy chọn (nếu được hỗ trợ) ảnh đã chỉnh sửa tác vụ, thăm dò hoặc webhook
Văn bản thành video lời nhắc, thời lượng, độ phân giải tệp video tác vụ, thăm dò hoặc webhook
Ảnh thành video ảnh nguồn, lời nhắc, thời lượng tệp video tác vụ, thăm dò hoặc webhook
Tạo nhạc lời nhắc, phong cách, thời lượng tệp âm thanh tác vụ, thăm dò hoặc webhook
Tổng hợp giọng nói văn bản, giọng nói tệp âm thanh âm thanh truyền trực tuyến hoặc tệp được trả về

Một endpoint và một key có thể bao quát nhiều họ mô hình cùng lúc, bởi vì định danh mô hình là thứ chọn họ và phiên bản. Sự tiện lợi đó cũng có mặt trái. Mỗi họ chấp nhận một bộ tham số khác nhau, nên một nội dung hợp lệ cho mô hình này có thể không thành công với mô hình khác, và kích thước, mặt nạ, hỗ trợ seed và giới hạn đa đầu ra đều khác nhau giữa chúng.

Một API tạo ảnh là một dịch vụ suy luận được lưu trữ với ba phần: một hợp đồng yêu cầu biến lời nhắc và cài đặt thành một cuộc gọi đã ký, một đối tượng kết quả mang ảnh cùng với siêu dữ liệu của nó, và một vòng đời công việc cho các tác vụ tồn tại lâu hơn một phản hồi HTTP đơn lẻ. Mỗi phần cần các quyết định thiết kế riêng, và mỗi phần thất bại theo một cách khác nhau.

Mô hình này còn mới hơn vẻ ngoài của nó. Việc phát hành công khai Stable Diffusion vào 22 tháng 8, 2022 đã thiết lập hình thức phục vụ mà hầu hết các nhà cung cấp vẫn sử dụng, như TechCrunch đã đưa tin khi ra mắt: một ứng dụng gửi lời nhắc và tham số, nhà cung cấp chạy tác vụ GPU, và một ảnh hoặc một tác vụ được trả về. Mô hình đó chạy trên phần cứng tiêu dùng cao cấp và tạo ra ảnh 512×512-pixel trong vài giây, được đào tạo trên LAION-5B, một tập dữ liệu gồm khoảng 5.85 tỷ cặp ảnh-văn bản với một tập con được lọc theo tiêu chí thẩm mỹ khoảng 600 triệu. Stability AI tuyên bố hơn 15,000 người thử nghiệm đã tạo ra khoảng 2 triệu ảnh mỗi ngày trong giai đoạn truy cập công khai sớm, đây là tín hiệu sớm rõ ràng nhất cho thấy truy cập được lưu trữ, chứ không phải phần mềm máy tính để bàn, là hình thức nhu cầu.

Các phần tiếp theo tuân theo thứ tự mà một tích hợp thực tế gặp phải các vấn đề này: trước tiên là các trường yêu cầu và đối tượng phản hồi, sau đó là các trạng thái tác vụ bất đồng bộ, kiểm tra lựa chọn mô hình, độ chính xác và nguồn gốc chỉnh sửa, độ trễ và thử lại, tích hợp từng bước, đơn vị thanh toán, và một cuộc gọi kiểm tra cuối cùng. Các nhóm tích hợp việc tạo ảnh vào một quy trình tự động thường muốn toàn bộ vòng lặp được minh họa một lần, và hướng dẫn này về một API ảnh cho quy trình làm việc tự động cho thấy toàn bộ chu trình từ kích hoạt đến tài sản được lưu trữ.

Các Mẫu Yêu Cầu và Trường Phản Hồi

Hầu hết các lần tích hợp đầu tiên đều gặp lỗi ở phần thân yêu cầu, và hiếm khi do prompt. Xây dựng các trường theo thứ tự chúng được gửi đi và việc gỡ lỗi sẽ nhanh hơn.

  • Mã định danh model. Hãy nghĩ đến nó đầu tiên, vì nó quyết định những trường còn lại nào là hợp lệ. Một negative prompt hoặc mask mà model này chấp nhận có thể bị model khác từ chối.
  • Prompt và negative prompt. Negative prompt là một trường được hỗ trợ trên một số dòng model và bị bỏ qua trên các dòng khác, vì vậy hãy xác minh thay vì giả định.
  • Kích thước hoặc tỉ lệ khung hình. Diễn đạt nó theo cách model mong đợi, bằng pixel hoặc tỉ lệ được đặt tên. Xác thực nó cục bộ trước khi inference, vì một cuộc gọi bị từ chối tốn một round trip trong khi một lần tạo thất bại muộn tốn một timeout và một vị trí trong hàng đợi.
  • Số lượng đầu ra. Nhiều đầu ra trên mỗi cuộc gọi có vẻ hiệu quả cho đến khi bạn nhận ra rằng việc tính phí thường tỉ lệ với số lượng, chứ không phải số cuộc gọi.
  • Định dạng đầu ra. PNG, JPEG hoặc WebP thay đổi công việc chuyển đổi downstream của bạn nhiều như số byte của bạn.
  • Seed. Bao gồm nó bất cứ khi nào khả năng tái tạo là quan trọng. Nếu không có nó, "chạy lại cái đó" có nghĩa là "lại tung xúc xắc".
  • Webhook URL. Các tác vụ dài hoàn thành sau khi yêu cầu của bạn đã trả về, và một callback rẻ hơn một vòng lặp polling chặt chẽ.
  • Idempotency key. Việc tạo ra rất tốn kém, vì vậy một lần tạo lại mà không có key sẽ trở thành một tác vụ được tính phí lần thứ hai và một hình ảnh trùng lặp.

Xác thực trước khi bạn chi tiêu. Kiểm tra tỉ lệ khung hình, mã định danh model và các trường bắt buộc trong mã của bạn trước. Một kiểm tra schema cục bộ sẽ bắt được loại lỗi mà nếu không sẽ xuất hiện dưới dạng 400 sau khi chờ đợi trong hàng đợi, và nó hoàn toàn ngăn chặn lưu lượng truy cập không đúng định dạng khỏi một metered endpoint.

Phía phản hồi là nơi các nhóm mất đi các tài sản mà họ đã trả tiền. Tài liệu tham khảo API hình ảnh của OpenAI cho thấy hình dạng mà hầu hết các nhà cung cấp đều hội tụ, một đối tượng hình ảnh với payload base64, một URL được lưu trữ và, nếu được hỗ trợ, một prompt đã sửa đổi. Chuẩn hóa bất cứ thứ gì nhà cung cấp trả về vào schema ổn định của riêng bạn, và giữ một khối metadata thô của nhà cung cấp cho các điều khiển mà schema của bạn chưa mô hình hóa.

Trường Nội dung Lưu ý sản xuất
URL tài sản liên kết đến tệp đã tạo có thời hạn ngắn và được kiểm soát truy cập, vì vậy hãy tải xuống trước khi hết hạn
b64_json byte hình ảnh được mã hóa base64 tốt cho các phản hồi đồng bộ nhỏ, tốn nhiều bộ nhớ cho các payload lớn
revised_prompt prompt đã được model diễn đạt lại hãy lưu trữ nó, vì nó giải thích các đầu ra mà bạn không mong đợi
Mã định danh model model và phiên bản đã tạo ra đầu ra cần thiết cho việc kiểm tra và tái tạo
Kích thước và định dạng chiều rộng, chiều cao và MIME type xác nhận so với tỉ lệ khung hình đã yêu cầu
Checksum hash kiểm tra tính toàn vẹn của tệp xác minh sau khi tải xuống và sau bất kỳ chuyển đổi định dạng nào

Hãy coi base64 là một chi tiết vận chuyển, không phải là một chiến lược lưu trữ. Một hình ảnh được mã hóa làm tăng payload lên khoảng một phần ba và nằm trong bộ nhớ trong khi ứng dụng của bạn phân tích cú pháp JSON. Đối với phương tiện sản xuất, hãy ghi các byte đã giải mã vào object storage và thay vào đó, cung cấp cho front end của bạn một URL truy xuất đã ký. Thêm MIME type và checksum vào bản ghi khi bạn ở đó, để một bản tải xuống bị hỏng được phát hiện bởi pipeline của bạn thay vì bởi người dùng.

Quy tắc tôi sẽ thực thi trong code review: mọi tài sản được lưu trữ đều mang mã định danh model, seed, prompt hiệu quả và dấu thời gian yêu cầu trong metadata của nó. Nếu không có bốn yếu tố đó, một yêu cầu hỗ trợ về "một hình ảnh kỳ lạ từ tháng trước" sẽ không có câu trả lời.

Thói quen đó sẽ có ích ngay lần đầu tiên một phiên bản model thay đổi và đầu ra bị lệch. Metadata được lưu trữ biến một khiếu nại mơ hồ thành một so sánh mà bạn có thể thực hiện.

Công việc bất đồng bộ, trạng thái tác vụ và truy xuất kết quả

Công việc xử lý hình ảnh và video không trả về trong một phiên hoàn thành trò chuyện. Hãy tạo một công việc, giữ lại mã định danh, sau đó theo dõi tiến trình của nó.

Sơ đồ luồng công việc minh họa quy trình công việc bất đồng bộ cho hệ thống API tạo hình ảnh.

Cuộc gọi tạo sẽ trả về một mã định danh tác vụ, và ứng dụng của bạn sẽ ghi nó vào cùng một bản ghi yêu cầu chứa lời nhắc (prompt) và mô hình. Từ đó, công việc sẽ báo cáo một trong năm trạng thái, và mỗi trạng thái yêu cầu mã của bạn thực hiện một điều khác nhau.

Trạng thái Ý nghĩa Ứng dụng thực hiện gì
queued đã chấp nhận và đang chờ dung lượng giữ ID tác vụ và thăm dò theo lịch trình
running đang tạo chờ, và áp dụng thời gian chờ (timeout) phù hợp với phương thức
succeeded đầu ra đã sẵn sàng tải xuống và lưu trữ tài sản ngay lập tức
failed quá trình tạo không hoàn tất đọc danh mục lỗi trước khi thử lại
expired đầu ra không còn có thể truy xuất tạo lại, và đừng coi đó là kết quả bị thiếu

Trạng thái expired (hết hạn) thường khiến các nhóm bối rối vì nó trông giống như một lỗi trong hệ thống của họ. Nhưng không phải vậy. Các nhà cung cấp giữ các tệp kết quả trong một khoảng thời gian giới hạn, và khoảng thời gian đó rất ngắn. Trên UberLLM, các liên kết hình ảnh tồn tại trong khoảng 15 phút, và các tệp kết quả video và âm nhạc được giữ trong khoảng 3 giờ sau khi công việc hoàn tất. Một vòng lặp thăm dò kiểm tra mỗi mười phút và hành động vào chu kỳ triển khai tiếp theo sẽ bỏ lỡ hoàn toàn các liên kết hình ảnh.

Việc truy xuất chạy trên hai cơ chế, và các hệ thống trưởng thành sử dụng cả hai. Thăm dò (polling) bao gồm các lần gửi mà webhook đã bỏ lỡ, và đó là lựa chọn duy nhất khi dịch vụ của bạn không thể hiển thị một endpoint công khai. Webhooks cắt giảm các yêu cầu lãng phí bằng cách cho bạn biết chính xác khi nào trạng thái thay đổi, điều này quan trọng khi một công việc mất một phút thay vì một giây. Sự đánh đổi giữa webhooks và polling nằm ở việc xử lý lỗi: webhooks thất bại khi bộ nhận của bạn ngừng hoạt động, và thăm dò thất bại tốn kém khi khoảng thời gian của bạn quá chặt chẽ.

Khoảng thời gian thăm dò nên tuân theo phương thức, không phải cơ sở mã. Một vòng lặp cố định duy nhất hoạt động cho một công việc hình ảnh 4 giây sẽ lãng phí hàng tá cuộc gọi cho một công việc video chạy trong một phút hoặc hơn.

Các phản hồi văn bản được truyền về từng token một, trong khi các công việc hình ảnh và video giao cho bạn một tác vụ mà bạn thăm dò hoặc một webhook báo cáo là đã sẵn sàng. Sự khác biệt đó mang tính kiến trúc, không phải hình thức: yêu cầu trả về ngay lập tức vẫn sở hữu công việc chưa hoàn thành, và ai đó phải ghi nhớ điều đó. Hãy ghi lại thời gian chuyển đổi trạng thái cũng như trạng thái cuối cùng, bởi vì khoảng cách giữa trạng thái queued và running là nơi các vấn đề về dung lượng xuất hiện trước khi chúng đến tay người dùng.

Tiêu chí lựa chọn mô hình và cách kiểm tra chúng

Các bảng xếp hạng công khai chấm điểm các mô hình dựa trên những lời nhắc mà không ai trong sản phẩm của bạn sẽ gửi. Chúng đo lường chất lượng mẫu trong các điều kiện bạn không kiểm soát, và chúng không nói gì về độ trễ đuôi, tính nhất quán của việc từ chối hoặc cách các đầu ra thay đổi giữa các bản dựng. Một bộ kiểm thử được xây dựng từ các danh mục hình ảnh của riêng bạn sẽ cho bạn biết nhiều hơn trong một buổi chiều so với những gì một bảng xếp hạng cho bạn biết trong một tháng, và nó vẫn còn giá trị sau bản phát hành mô hình tiếp theo.

Đánh giá phải là một hành vi có thể đo lường được, không phải là một quyết định theo cảm tính. Các chương trình đánh giá chính thức xử lý việc tạo hình ảnh giống như cách một bài kiểm tra tải xử lý thông lượng: các giao thức được xác định, đầu vào cố định và đầu ra được chấm điểm thay vì ấn tượng của người đánh giá. Một API sản xuất nên ghi lại các kích thước có thể tái tạo tương tự trên mỗi cuộc gọi: danh mục lời nhắc, mô hình và phiên bản, seed nếu có, độ phân giải, latency, chế độ lỗi và kết quả an toàn. Ghi lại latency cho mỗi yêu cầu để phần đuôi vẫn hiển thị, bởi vì một giá trị trung bình tốt có thể che giấu các tác vụ bị treo đủ lâu để đạt đến thời gian chờ của bạn.

Tiêu chí Cách đo lường Tín hiệu đạt
Tuân thủ lời nhắc đánh giá có điểm số của một bộ lời nhắc cố định cho mỗi danh mục các đối tượng, số lượng và màu sắc yêu cầu xuất hiện trong hầu hết các đầu ra
Chất lượng cảm nhận đánh giá mù song song bởi nhóm người đánh giá chọn đầu ra mà không biết mô hình nào đã tạo ra chúng
Kết xuất văn bản lời nhắc yêu cầu các từ hoặc nhãn chính xác các từ được viết đúng chính tả trong hầu hết các mẫu
Tính nhất quán của danh tính cùng một chủ thể qua nhiều thế hệ khuôn mặt, sản phẩm hoặc nhân vật vẫn có thể nhận ra
Hành vi từ chối lời nhắc nên bị từ chối việc từ chối nhất quán và thuộc các danh mục rõ ràng
Khả năng tái tạo lặp lại các cuộc gọi với cùng seed và phiên bản mô hình đầu ra vẫn gần giống nhau khi seed và phiên bản khớp

Chấm điểm từng hàng riêng biệt. Một con số tổng hợp sẽ che giấu một mô hình kết xuất nhãn sản phẩm hoàn hảo nhưng từ chối mọi lời nhắc có chứa trẻ em, hoặc một mô hình có chân dung đẹp nhưng văn bản đọc như một CAPTCHA. Lỗi gây hại luôn là lỗi cụ thể theo danh mục, và việc tính trung bình nó thành một điểm số duy nhất là cách nó lọt vào sản xuất mà không bị chú ý.

Định tuyến bổ sung một vấn đề quản trị mà kiểm thử mô hình sẽ không phát hiện được. Khi một thị trường hoặc lớp chuyển đổi dự phòng hoán đổi nhà cung cấp, nhà cung cấp thay thế phải có các đảm bảo kiểm duyệt tương đương, hoặc kết quả phải được đánh dấu rõ ràng là có các đặc tính đảm bảo khác nhau. Việc nới lỏng kiểm tra an toàn một cách âm thầm là hành vi chuyển đổi dự phòng tồi tệ nhất có thể: không có lỗi nào xảy ra, và đầu ra chỉ đơn giản là đến với sự xem xét yếu hơn đằng sau nó. Giữ các quyết định kiểm duyệt và phiên bản mô hình trong hồ sơ kiểm toán, và hiển thị các danh mục lỗi mà ứng dụng của bạn có thể phân nhánh dựa trên đó.

Kích thước mẫu hoạt động trong thực tế: vài chục lời nhắc cho mỗi danh mục cho lần chạy đầu tiên, với các lời nhắc và đầu ra chính xác được lưu vào một repo. Chạy lại toàn bộ bộ kiểm thử bất cứ khi nào chuỗi phiên bản mô hình thay đổi, chứ không phải bất cứ khi nào có người phàn nàn.

Điểm cuối cùng đó là điều mà các nhóm thường bỏ qua. Một định danh mô hình có thể trỏ đến một bản dựng mới mà không có bất kỳ thay đổi nào từ phía bạn, vì vậy bộ kiểm thử không phải là một tạo phẩm ra mắt, mà là một bộ kiểm thử hồi quy chạy trên mỗi chu kỳ phát hành. Khi kết quả được gửi đến các bên liên quan bên ngoài bộ phận kỹ thuật, một bản trình bày đơn giản về những gì một mô hình duy nhất thực hiện, được giải thích bởi ImagesArt AI, sẽ cung cấp một cơ sở chung cho cuộc trò chuyện đó trước khi cuộc tranh luận về điểm số bắt đầu.

Kiểm tra độ chính xác và nguồn gốc của chỉnh sửa trước khi ra mắt

Một chỉnh sửa trông đẹp mắt không phải là một chỉnh sửa thành công. Chỉnh sửa cần được chấm điểm hai lần, một lần cho việc liệu thay đổi yêu cầu có xảy ra hay không và một lần cho việc liệu mọi thứ khác có giữ nguyên vị trí của nó hay không, và việc chỉ dựa vào điểm số đầu tiên để xuất bản là cách bạn có được một bức ảnh sản phẩm mà người mẫu đã vẽ lại logo.

Nghiên cứu ủng hộ sự phân chia này. Bài báo HQ-Edit giới thiệu Alignment và Coherence là các chỉ số riêng biệt và báo cáo rằng việc tinh chỉnh đã cải thiện Alignment thêm 12.3 điểm và Coherence thêm 5.64 điểm trong một hệ thống được đánh giá. Hai con số di chuyển độc lập là toàn bộ lập luận: một đầu ra có thể tuân theo hướng dẫn nhưng vẫn phá hủy các phần bạn cần bảo toàn, hoặc bảo toàn mọi thứ nhưng bỏ qua hướng dẫn.

Bài kiểm tra chấp nhận tôi sẽ chạy trước khi ra mắt:

  1. Chọn 20 đến 30 ảnh nguồn bao gồm khuôn mặt, văn bản in, logo và nền phức tạp. Chỉ ảnh sản phẩm đã cắt sẽ vượt qua một mô hình bị lỗi khi gặp khuôn mặt.
  2. Viết một hướng dẫn cho mỗi ảnh và ghi lại thay đổi dự kiến trong cùng một hàng. Các hướng dẫn mơ hồ tạo ra tranh cãi về kết quả hơn là phát hiện.
  3. Che vùng đã chỉnh sửa và so sánh phần còn lại với nguồn. Các pixel bên ngoài vùng che là điểm bảo toàn của bạn, và một phép so sánh số sẽ giải quyết những gì mắt thường không thể.
  4. Chấm điểm alignment và preservation trong các cột riêng biệt, sau đó xem xét các trường hợp chúng không khớp. Đó là những lời nhắc cần được viết lại hoặc mô hình cần được thay thế.
  5. Đẩy mọi đầu ra qua quá trình thay đổi kích thước và chuyển đổi định dạng, sau đó xác nhận rằng hình mờ hoặc thông tin xác thực nội dung vẫn còn. Nguồn gốc bị mất trong quy trình CDN của bạn là nguồn gốc bạn chưa bao giờ có.
  6. Xác nhận chính sách nội dung của nhà cung cấp và bất kỳ nghĩa vụ tiết lộ nào áp dụng tại các thị trường bạn phân phối. Chính sách khác nhau tùy theo nhà cung cấp, và một yêu cầu được định tuyến có thể thuộc một chính sách khác.
  7. Ghi lại chuỗi giám sát từ tệp nguồn đến tài sản đã phân phối, bao gồm phiên bản mô hình nào đã xử lý nó.

Bước năm là bước mà các nhóm thường phát hiện muộn. Thông tin xác thực và hình mờ vô hình là bằng chứng về nguồn gốc, không phải bằng chứng rằng một sự kiện được mô tả là đúng. Độ tin cậy phụ thuộc vào các danh tính đáng tin cậy, vào quy trình ký, và vào việc liệu mọi bước tiếp theo có giữ lại siêu dữ liệu hay không, vì vậy việc thay đổi kích thước, cắt và mã hóa lại đều cần được kiểm tra. Một tín hiệu nguồn gốc cải thiện khả năng truy xuất, và nó không thể thiết lập tính xác thực thực tế hoặc xác nhận rằng các quyền đã được giải phóng.

Kết luận khó chịu cho bất kỳ ai xây dựng tính năng chỉnh sửa: siêu dữ liệu nguồn gốc trả lời "cái này đến từ đâu," và nó không bao giờ trả lời "tuyên bố này có chính xác không" hoặc "chúng ta có giấy phép không." Những câu hỏi đó vẫn thuộc về pháp lý và biên tập.

Nếu bề mặt chỉnh sửa là sản phẩm, hãy coi việc bảo toàn vùng là một rào cản cứng thay vì một điểm chất lượng. Một hướng dẫn API chỉnh sửa ảnh là một tài liệu hữu ích cho phía endpoint và tham số, và hướng dẫn AskYourQA về kiểm thử AI này giúp cấu trúc việc chấm điểm để alignment và preservation không gộp lại thành một ấn tượng duy nhất.

Độ trễ, Lỗi và Hành vi Thử lại trong Môi trường Sản xuất

Hầu hết các so sánh API hình ảnh đều xếp hạng giá mỗi hình ảnh và chất lượng mẫu, rồi dừng lại. Đuôi độ trễ, tỷ lệ lỗi và hành vi phục hồi là những con số quyết định liệu tính năng của bạn có cảm giác bị hỏng hay không, và chúng là những con số mà không ai công bố. Một tiêu chuẩn tạo hình ảnh tuyên bố thẳng thừng rằng độ trễ và thời gian hoạt động quan sát được dành cho một giai đoạn sau, trong khi một thử nghiệm độc lập cho thấy các nhà cung cấp thường không công bố số liệu độ trễ thực tế và phải tự đo thời gian phản hồi, tỷ lệ lỗi, khởi động nguội và thông lượng, như phân tích tạo hình ảnh của API Benchmarks] đã ghi lại.

Đo bách phân vị, không phải giá trị trung bình. Theo dõi riêng p50, p95 và p99 cho các cuộc gọi hình ảnh đồng bộ và không đồng bộ, sau đó thêm tỷ lệ hết thời gian chờ, hình phạt khởi động nguội, thời gian từ khi tạo đến kết quả có thể truy xuất, và tỷ lệ đầu ra thành công. Một giá trị trung bình duy nhất che giấu phần đuôi mà người dùng trải nghiệm, đó là hai giây mà hầu hết các yêu cầu được xử lý và bốn mươi giây mà một số ít không được.

Những bất ngờ về thời gian thường liên quan đến phương thức. Trong thử nghiệm của chúng tôi vào 29 tháng 10, 2026, một clip Kling 3.0 dài 5 giây mất khoảng 80 giây để tạo. Không có gì sai; video chỉ tốn vài phút trong khi hình ảnh tốn vài giây, và một thời gian chờ được sao chép từ đường dẫn hình ảnh sẽ hủy các công việc đang tiến triển bình thường.

Triệu chứng Nguyên nhân có thể Khắc phục
Các tác vụ vẫn chạy quá thời gian chờ nhà cung cấp chậm hoặc không khả dụng hủy, sau đó thử lại với cùng một khóa idempotency hoặc định tuyến lại nếu có thể
Hình ảnh trùng lặp sau khi hết thời gian chờ mạng cuộc gọi tạo được thử lại mà không có khóa idempotency gửi khóa idempotency với mỗi yêu cầu tạo
Phản hồi 429 trong các đợt tăng đột biến đã đạt giới hạn tốc độ lùi lại theo cấp số nhân với jitter và xếp hàng yêu cầu
Phản hồi 503 nhà cung cấp hoặc tuyến đường tạm thời không khả dụng thử lại sau với một giới hạn, và chỉ chuyển đổi dự phòng nếu các đảm bảo an toàn được giữ vững
Phản hồi 402 kiểm tra số dư hoặc thanh toán thất bại nạp tiền vào số dư, sau đó gửi lại cùng một yêu cầu
Phản hồi 404 không tìm thấy định danh mô hình hoặc tuyến đường kiểm tra định danh với danh mục hiện tại
Liên kết hình ảnh không còn tải được URL đã ký đã hết hạn tải xuống khi thành công và lưu trữ tệp trong bộ nhớ của riêng bạn

Chỉ thử lại những gì có thể thử lại được. Một 429 hoặc một 503 là tạm thời và xứng đáng được lùi lại theo cấp số nhân với jitter và một giới hạn cứng. Một 402 hoặc một 404 sẽ thất bại giống hệt nhau mãi mãi, vì vậy hãy sửa số dư hoặc định danh mô hình trước. API của chúng tôi từ chối các cuộc gọi với 402, 404, 429 và 503, và danh mục là tín hiệu, không chỉ riêng trạng thái HTTP.

Quan điểm trái chiều về chi phí: API hình ảnh rẻ nhất thường là đắt nhất trong môi trường sản xuất. Việc thử lại, các lần tạo thất bại và độ trễ đuôi không thể đoán trước đẩy công việc trở lại ứng dụng của bạn và đẩy người dùng ra khỏi kênh của bạn.

Độ tin cậy đã là một tiêu chí mua hàng, tại 37% tổ chức, đứng sau tối ưu hóa chi phí ở 58%, tính khả dụng của mô hình ở 49% và tốc độ ở 41%, theo cùng một phân tích tiêu chuẩn. Và sự đánh đổi của thị trường là có thật: định tuyến qua các nhà cung cấp giúp giảm sự cố ngừng hoạt động, nhưng nó cũng làm tăng sự khác biệt về thời gian xếp hàng, hiệu suất khu vực và độ trễ của bộ lọc an toàn. Mỗi yêu cầu được định tuyến lại nên được đo lường như một tuyến đường riêng, với các bách phân vị riêng, nếu không bảng điều khiển tổng hợp sẽ che giấu chính xác đường dẫn đang gặp lỗi.

Cách Tích Hợp API Hình Ảnh Từng Bước

Việc tích hợp vào môi trường sản phẩm là một danh sách ngắn các quyết định, và hầu hết chúng liên quan đến việc lưu trữ bản ghi hơn là các yêu cầu. Dưới đây là trình tự đã được kiểm chứng khi tiếp xúc với lưu lượng truy cập thực tế.

Sơ đồ năm bước minh họa quy trình làm việc để tích hợp API tạo hình ảnh vào một ứng dụng.

  1. Tạo một API key có phạm vi giới hạn và có thể thu hồi cho từng môi trường. Các API key riêng biệt có nghĩa là một thông tin xác thực bị rò rỉ trong môi trường staging có thể bị thu hồi mà không ảnh hưởng đến lưu lượng truy cập sản phẩm.
  2. Trỏ client hiện có của bạn đến base URL mới. base URL tương thích với OpenAI là base URL tương thích với OpenAI của UberLLM, và vì nền tảng này chấp nhận cả định dạng wire của OpenAI và Anthropic, các client hiện có sẽ hoạt động ngay khi base URL và thông tin xác thực thay đổi. Xác nhận các endpoint hình ảnh bạn phụ thuộc được hỗ trợ trước khi chuyển đổi.
  3. Sao chép model identifier dưới dạng chuỗi đầy đủ từ danh mục hiện tại. Việc chuyển đổi model sau đó chỉ thay đổi chính xác một giá trị, đó là một thay đổi một dòng (one-line diff) thay vì phải refactor. Các id gốc của nhà cung cấp hoạt động tương tự, chẳng hạn như fal-ai/kling-video/v3/standard/text-to-video.
  4. Xác thực kích thước và tỷ lệ khung hình cục bộ, đính kèm idempotency key, sau đó gửi lệnh gọi tạo (create call). Các kiểm tra đơn giản nên được thực hiện ở phía mạng của bạn.
  5. Lưu task identifier cùng với bản ghi yêu cầu, sau đó thăm dò (poll) hoặc đăng ký webhook. Nếu quá trình chết giữa lúc tạo và lưu, bạn đã trả tiền cho một đầu ra mà không ai có thể tìm thấy.
  6. Khi thành công, tải xuống tài sản (asset), xác minh checksum và lưu vào bộ nhớ của riêng bạn. Việc chờ đợi cho đến yêu cầu của người dùng tiếp theo để lấy tệp là cách các liên kết hết hạn biến thành các yêu cầu hỗ trợ (support tickets).
  7. Ghi lại model identifier, state, duration và error category cho mỗi job. Bốn trường đó trả lời hầu hết các câu hỏi trong môi trường sản phẩm mà không cần phiên gỡ lỗi.
  8. Kiểm tra các trường hợp lỗi trước khi ra mắt, bao gồm 429, một request timeout và một liên kết hết hạn. Mã thử lại chưa được kiểm tra thường làm tăng gấp đôi số lượng hình ảnh trùng lặp thay vì giảm nó.

Một hướng dẫn ngắn gọn có giá trị hơn danh sách các trường cho lần xây dựng đầu tiên, đặc biệt là xung quanh việc truy xuất:

Một tích hợp hoạt động sẽ trông như thế nào khi kết thúc quá trình này: mỗi job có một state, mỗi job thành công có một asset trong bucket của bạn, và mỗi asset có một phiên bản model được ghi lại bên cạnh nó. Đó là toàn bộ tiêu chuẩn. Đó cũng là sự khác biệt giữa một bản demo gây ấn tượng với ai đó vào tháng 3 và một tính năng mà bạn vẫn có thể gỡ lỗi vào tháng 11.

Đơn vị tính phí và Cách so sánh chi phí thực tế

Hai API có thể cùng nói "mỗi hình ảnh" nhưng vẫn tính phí bạn khác nhau, bởi vì đơn vị, sự phụ thuộc vào kích thước và chính sách xử lý lỗi đều thay đổi cách tính toán. Hãy so sánh đơn vị trước, sau đó tính chi phí cho mỗi đầu ra có thể sử dụng được.

Hình thức Đơn vị tính phí thông thường Những điều cần kiểm tra
Tạo văn bản token đầu vào và đầu ra đầu vào và đầu ra được tính phí riêng
Tạo hình ảnh mỗi hình ảnh hoặc mỗi megapixel mô hình và kích thước đầu ra thay đổi chi phí đơn vị
Chỉnh sửa hình ảnh mỗi lần chỉnh sửa hoặc mỗi hình ảnh đầu ra liệu hình ảnh nguồn có bị tính thêm phí không
Tạo video mỗi clip hoặc mỗi giây, tùy thuộc vào nhà cung cấp được tính phí theo giá cuối cùng khi quá trình tạo hoàn tất
Âm nhạc và giọng nói mỗi bản nhạc, mỗi phút hoặc mỗi ký tự đơn vị mà mỗi mô hình thực sự sử dụng
Công việc thất bại tính phí mỗi lần thử, hoặc không tính phí gì cả liệu các lần tạo thất bại có xuất hiện trên hóa đơn không

Giá tính theo megapixel sẽ phạt các đầu ra lớn theo cách mà giá tính theo mỗi hình ảnh không làm. Một mô hình có vẻ rẻ ở 1024×1024 có thể tốn kém gấp nhiều lần ở độ phân giải in, vì vậy hãy so sánh ở kích thước mà sản phẩm của bạn hiển thị thay vì kích thước trong ảnh chụp màn hình tiếp thị.

Video cần một dòng riêng trong dự báo. Một clip được tính phí theo giá cuối cùng khi quá trình tạo hoàn tất sẽ dễ dự đoán hơn là một clip được tính theo thời gian chạy, bởi vì bạn đang dự báo các đầu ra đã hoàn thành thay vì sự không chắc chắn về thời gian thực. Chỉnh sửa là hàng mục khó lường: hãy kiểm tra xem hình ảnh nguồn có bị tính phí như một đầu vào không, vì một quy trình chỉnh sửa gửi một nguồn 4 MB trong mỗi lần gọi có thể đẩy chi phí đơn vị vượt xa giá chỉnh sửa được quảng cáo.

Các lần tạo thất bại là hạng mục cuối cùng quyết định giữa hai nhà cung cấp. Lấy 1,000 công việc hình ảnh với tỷ lệ thất bại 5%. Nếu các công việc thất bại bị tính phí, bạn phải trả tiền cho 1,000 công việc để nhận được 950 hình ảnh có thể sử dụng, tức là khoảng 5% nhiều hơn cho mỗi hình ảnh có thể sử dụng so với mức giá niêm yết. Nếu các công việc thất bại không bị tính phí, bạn phải trả tiền cho 950. Cùng một giá tiêu đề, nhưng giá thực tế khác nhau.

Công thức tôi sẽ sử dụng để ước tính hàng tháng: khối lượng dự kiến × đơn giá × hệ số thử lại, cộng thêm một khoản dự phòng cho chỉnh sửa và video. Hệ số thử lại là con số phân biệt giữa một dự báo và một mong muốn.

Sau đó, hãy so sánh đơn giá với bài kiểm tra chấp nhận của riêng bạn thay vì thư viện mẫu của nhà cung cấp. Nếu bạn muốn hiểu logic cơ bản về cách tính giá token, hình ảnh và clip ở một nơi, bài phân tích này về các mô hình định giá AI giải thích cách mỗi đơn vị được đo lường.

Chạy Cuộc Gọi Thử Nghiệm Trước Khi Chọn Mô Hình Của Bạn

Một cuộc gọi thử nghiệm nên trả lời nhiều hơn là “Hình ảnh này trông có đẹp không?” Hãy kiểm tra xem mô hình có đạt tiêu chuẩn chất lượng của bạn không, cách nó xử lý các chỉnh sửa và cách phản hồi của nó hoạt động dưới tải trọng dự kiến. Một hình ảnh mẫu mạnh mẽ không thể cho bạn biết API sẽ hoạt động như thế nào trong môi trường sản xuất.

Chọn một ứng cử viên cho chuyển văn bản thành hình ảnh và một ứng cử viên hỗ trợ chỉnh sửa. Giữ bộ lời nhắc cố định giữa các ứng cử viên để bạn có thể so sánh các đầu ra trên cùng một tác vụ. Với UberLLM, bạn có thể chuyển đổi mô hình bằng cách thay đổi mã định danh mô hình trong khi vẫn giữ nguyên API key và endpoint.

Kiểm tra theo thứ tự: đầu tiên, chấm điểm đầu ra theo tiêu chí lựa chọn của bạn; tiếp theo, chạy thử nghiệm chấp nhận chỉnh sửa nếu tính năng của bạn chỉnh sửa hình ảnh; sau đó đo độ trễ p50 và p95 ở mức đồng thời dự kiến. Kết thúc bằng cách tính toán chi phí cho mỗi đầu ra có thể sử dụng được, bao gồm cả các lần thử lại. Một mô hình không đạt tiêu chuẩn chất lượng thì không cần kiểm tra tải.

Lưu lời nhắc, đầu ra và nhật ký yêu cầu vào kho lưu trữ của bạn. Khi bạn thay đổi mã định danh hoặc phiên bản mô hình, hãy chạy lại cùng một bộ và so sánh kết quả. Đối với các chỉnh sửa, hãy kiểm tra xem kết quả có giữ lại các chi tiết nguồn mà ứng dụng của bạn cần không; một hình ảnh trông có vẻ hợp lý vẫn có thể làm thay đổi danh tính hoặc các tính năng quan trọng khác.

Được hay không được: Chỉ quảng bá một mô hình nếu nó vượt qua các bài kiểm tra chất lượng, chỉnh sửa và tải ở khối lượng dự kiến. Triển khai đằng sau một feature flag và giữ một ứng cử viên thứ hai sẵn sàng cho việc dự phòng. Nếu nó thất bại, hãy kiểm tra ứng cử viên tiếp theo với cùng một bộ.

Giá cả là một phần của quyết định, nhưng nó không nên dẫn dắt quyết định đó. UberLLM liệt kê việc tạo hình ảnh Nano Banana 2 ở mức $0.015 mỗi hình ảnh, so với giá niêm yết là $0.10 mỗi hình ảnh. Để kiểm tra video, UberLLM khuyến nghị Kling 3.0 Standard làm điểm khởi đầu cho chuyển văn bản thành video hoặc chuyển hình ảnh thành video. Các yêu cầu hình ảnh và video trả về một tác vụ mà bạn có thể thăm dò hoặc theo dõi thông qua một webhook, vì vậy hãy bao gồm thời gian hoàn thành và truy xuất kết quả vào bài kiểm tra của bạn.

UberLLM cung cấp các mô hình văn bản, hình ảnh, video, âm nhạc và giọng nói thông qua các giao diện tương thích với OpenAI và Anthropic. Sử dụng playground của nó để so sánh các đầu ra hình ảnh, sau đó chạy cùng một lời nhắc thử nghiệm thông qua API client của ứng dụng của bạn. Đánh giá chất lượng, độ trung thực của chỉnh sửa, độ trễ và chi phí cho mỗi kết quả có thể sử dụng được cùng nhau trước khi chọn một mô hình.