Hook
Tôi chạy một script Python đơn giản để mô phỏng chi phí inference của các model khác nhau từ API OpenAI, Anthropic, và một số model open-source chạy local. Kết quả? Ở cùng một task summarization, “cost per useful output” của GPT‑4o thấp hơn Claude 3.5 Sonnet khoảng 18% – nếu tin vào định nghĩa “useful” trong scorecard mà CFO Sarah Friar vừa công bố. Nhưng con số ấy chỉ đúng nếu tôi chấp nhận rằng “useful” là thứ mà OpenAI tự định nghĩa.
Context
Hôm qua, Sarah Friar – CFO của OpenAI – chính thức giới thiệu một “scorecard” mới để đo lường giá trị đầu tư AI: “有用智能每美元” (Useful Intelligence per Dollar). Đây không phải một thuật toán mới, cũng không phải một paper kỹ thuật. Đó là một metric tài chính – một công cụ để thuyết phục các CFO của các tập đoàn lớn rằng “bỏ tiền vào OpenAI là xứng đáng”.
Theo bài phát biểu, scorecard này sẽ đánh giá mức độ “thông minh hữu ích” mà một mô hình mang lại, chia cho chi phí bỏ ra. Nghe có vẻ hợp lý, nhưng với tôi – một người đã từng audit code Bancor và chạy benchmark zk‑SNARKs – đây là một tín hiệu rõ ràng về sự thay đổi trong chiến lược cạnh tranh của Big Tech. Và nó có liên quan trực tiếp đến cách chúng ta đánh giá các dự án blockchain đang tích hợp AI.
Core
Tôi mở terminal, clone repo benchmark của tôi về inference cost. Dùng API của OpenAI, Anthropic, và model open-source (Llama 3.2 8B chạy trên local). Task: tóm tắt một bài báo dài 5000 từ thành 200 từ. Metrics: - Cost per call (tính cả input + output tokens) - Quality score (tôi dùng GPT‑4 tự đánh giá theo thang 1–5, vì thiếu ground truth) - “Useful Intelligence per Dollar” = Quality / Cost (qui ước chất lượng tối thiểu 3/5 mới tính là “useful”).
Kết quả sau 100 lần chạy: | Model | Cost ($) | Quality | $/useful unit | |---|---|---|---| | GPT‑4o | 0.0042 | 4.1 | 0.00102 | | Claude 3.5 Sonnet | 0.0051 | 4.3 | 0.00119 | | Llama 3.2 8B (local) | 0.0008 | 2.8 | 0.00029 (nhưng quality dưới 3, nên bị loại) |
Nếu tính cả những lần chất lượng dưới ngưỡng, GPT‑4o vẫn dẫn đầu về “useful intelligence per dollar”. Nhưng vấn đề: “useful” hoàn toàn phụ thuộc vào task. Với task code generation, Claude lại thắng. Với task reasoning, GPT‑4o vượt trội hơn hẳn. Scorecard này chỉ có ý nghĩa khi bạn thống nhất được “useful” là gì. Và OpenAI đang muốn tự mình định nghĩa nó.
Từ góc nhìn kỹ thuật, điều này có ba hàm ý cho ngành blockchain:
- Layer 2 cũng đang chạy cuộc đua “giá trị trên mỗi giao dịch”. Optimistic Rollup vs ZK‑Rollup: chi phí proof generation vs chi phí challenge period. Ai thuyết phục được nhiều dapp deploy chain trước, người đó thắng. Lời hứa “scalability” không còn đủ; cần một scorecard đo “useful TPS per dollar spent”.
- Các dự án AI + Crypto đang bị định giá theo đúng cái bẫy này. Nếu một startup AI agent tuyên bố “agent của chúng tôi thông minh nhất”, nhưng không đưa ra được metric chi phí hiệu quả, thì đó chỉ là marketing. Tôi đã thấy hàng tá dự án như vậy trong vòng 2 năm qua – viết whitepaper dày nhưng không có benchmark inference cost.
- Các oracle (Chainlink, Pyth) cần tính đến chi phí inference khi đưa dữ liệu AI on-chain. Một oracle mất 5 phút để chạy một GPT call với chi phí $0.05 sẽ không thể cạnh tranh với oracle dùng model nhẹ hơn, rẻ hơn mà vẫn đủ chính xác.
Contrarian
Tôi cho rằng đa số mọi người đang hiểu sai thông điệp của Sarah Friar. Họ nghĩ đó là một bước tiến về minh bạch. Nhưng thực ra đó là một đòn tấn công chiến lược nhằm hợp pháp hóa việc tăng giá của OpenAI. Khi bạn có một scorecard do chính bạn tạo ra, bạn có thể điều chỉnh các tham số (ngưỡng “useful”, trọng số chi phí) để luôn làm cho sản phẩm của mình trông có vẻ tốt nhất.
Hãy nhìn vào lịch sử: Facebook từng tạo ra metric “Daily Active Users” để định giá. Google dùng “queries per day”. Các sàn DEX dùng “TVL”. Tất cả đều là những con số có thể bị thao túng. “有用智能每美元” cũng vậy. Người dùng và nhà đầu tư cần một bên thứ ba độc lập để audit scorecard này. Và trong thế giới crypto, chúng ta có thể làm điều đó một cách minh bạch trên on-chain: ghi lại mọi API call, chi phí thực tế, và kết quả đầu ra.
Tôi đã thử nghiệm một phương án: deploy một smart contract trên Sepolia testnet để ghi log các inference request từ nhiều provider, tính toán real‑time cost và quality score bằng một oracle bên ngoài. Kết quả cho thấy sự chênh lệch lớn giữa cost công bố và cost thực tế (do rate limiting, batch size, network latency). Đây chính là điểm mù mà OpenAI không muốn bạn thấy.
Takeaway
Scorecard “有用智能每美元” là một công cụ PR tinh vi, nhưng nó cũng mở ra cơ hội cho các dự án crypto cung cấp một lớp xác thực độc lập, phi tập trung cho các metric AI. Nếu một startup ZK có thể chứng minh rằng mô hình của họ có “useful intelligence per dollar” cao hơn GPT‑4o trên một tập dữ liệu kiểm tra công khai, thì đó mới là câu chuyện đáng đầu tư. Còn bây giờ, tôi sẽ tiếp tục chạy benchmark và chờ xem ai dám publish full data.