Biến mức sử dụng AI nội bộ thành báo cáo dễ hiểu

Thách thức: khó hiểu chính hóa đơn AI của mình

Đội ngũ Horizon AI đồng thời phát triển ứng dụng AI cho nhiều dự án khách hàng, hằng ngày sử dụng hơn chục mô hình như GPT, Claude, Gemini và DeepSeek. Trước khi quản lý tập trung, chúng tôi gặp những vấn đề quen thuộc của doanh nghiệp triển khai AI:

• Khóa nằm rải rác trong biến môi trường của từng dự án; không ai nắm được tổng số khóa của công ty.
• Mỗi nhà cung cấp lập hóa đơn riêng nên chỉ đến cuối tháng mới biết tổng chi phí.
• Khi khách hàng hỏi chi phí AI của dự án trong tháng, chúng tôi phải ghép dữ liệu từ ba bảng điều khiển.

Giải pháp: một lớp quản trị cho toàn công ty

Chúng tôi chuyển mọi lệnh gọi mô hình sang nền tảng ATP Petrichor của mình và áp dụng cấu trúc Organization → Workspace → Project (tổ chức → không gian làm việc → dự án):

1. Mỗi dự án khách hàng có một Project với khóa và ngân sách riêng.
2. Quyền sử dụng mô hình được kiểm soát ở cấp dự án; hệ thống chỉ mở những mô hình được hợp đồng khách hàng cho phép.
3. Mọi yêu cầu đều ghi lại mô hình, số token, trạng thái và dự án liên quan, có thể tra cứu theo thời gian thực.

Quá trình chuyển đổi cũng là quy trình chúng tôi áp dụng cho khách hàng: kiểm kê, tập trung quản lý, đặt ngân sách và đưa lên bảng điều khiển. Toàn bộ hoàn thành trong hai tuần.

Kết quả: từ bất ngờ cuối tháng đến theo dõi hằng ngày

• Chi phí AI của từng dự án hiển thị theo thời gian thực, giúp tính được biên lợi nhuận.
• Khi khách hàng kiểm toán bảo mật, nhật ký cung cấp bằng chứng sẵn có, không phải dựng lại hồ sơ sau sự việc.
• Mô hình mới có thể sử dụng ngay khi được bổ sung; kỹ sư không còn phải tự xin khóa. Quản trị giúp mọi người làm việc tự tin hơn.

Đây cũng là cách chúng tôi kiểm chứng sản phẩm: mọi phương pháp đề xuất cho khách hàng đều được áp dụng trong nội bộ trước. Khóa phân tán, hóa đơn vượt kiểm soát, hồ sơ kiểm toán phải chuẩn bị gấp — chúng tôi đã trải qua và xử lý từng vấn đề đó.

Được xây dựng trên ATP Token

Dự án sử dụng ATP Token làm lớp quản trị và hợp nhất thanh toán: khóa theo cấu trúc Organization → Workspace → Project, danh sách mô hình được phép, phân bổ credit và nhật ký từng yêu cầu. Chất lượng mô hình vẫn do nhà cung cấp mô hình quyết định; ATP Token tập trung quyền truy cập, chi tiêu và bằng chứng kiểm toán.

• Sản phẩm: atptoken.ai
• Cách hoạt động: tài liệu
• Kiểm soát chi phí: hướng dẫn quản lý chi phí AI doanh nghiệp
• Vấn đề sau triển khai: vì sao hóa đơn AI tăng mạnh sau khi đưa vào vận hành