58.000 sinh viên. Một kỳ thi trực tuyến. Hai mươi phút.
Đó là tất cả những gì hệ thống AI giám sát thi từ xa của Đại học Tự trị Quốc gia Mexico (UNAM) cần để sụp đổ hoàn toàn. Cả nền tảng ngừng hoạt động, không ai có thể nộp bài, và ban lãnh đạo trường đưa ra quyết định chưa từng có trong lịch sử 470 năm của ngôi trường lớn nhất châu Mỹ Latinh: cho toàn bộ 58.000 sinh viên thi lại.
Các phương tiện truyền thông gọi đó là thảm họa AI. Các chuyên gia giáo dục gọi đó là hồi chuông cảnh tỉnh về giám sát tự động. Còn tôi, sau gần hai thập kỷ theo dõi cả thị trường tiền mã hóa lẫn các hệ thống xác thực phi tập trung, gọi đó là một thứ hoàn toàn khác: một minh chứng kinh điển cho sự mong manh của niềm tin được đặt vào những hệ thống tập trung.
Khi tôi dùng mật mã để mở khóa vụ ICO lừa đảo Confido năm 2017, tôi học được bài học đầu tiên: một hệ thống có thể trông cực kỳ an toàn từ bên ngoài, nhưng chỉ cần một điểm hỏng nhỏ trong luồng dữ liệu là toàn bộ số tiền của nhà đầu tư có thể bị rút sạch chỉ sau một đêm. Sự cố của UNAM không hề khác.
Bối cảnh: Khi niềm tin trở thành một mặt hàng xa xỉ
Trước khi đi sâu vào sự cố, hãy nói về thứ được gọi là AI giám sát thi – một ngành công nghiệp trị giá hàng tỷ đô la được thúc đẩy mạnh mẽ bởi đại dịch COVID-19. Khi hàng triệu sinh viên trên toàn thế giới bị buộc phải học và thi trực tuyến, các công ty như ProctorU, Honorlock, Respondus và Proctorio trở thành những người gác cổng của nền giáo dục hiện đại.
Về mặt kỹ thuật, AI giám sát không phải là một công nghệ đơn lẻ mà là một tổ hợp các thành phần được ghép lại với nhau: nhận diện khuôn mặt và kiểm tra độ sống (liveness detection) để xác minh danh tính, camera và mắt kính để theo dõi hướng nhìn và chuyển động đầu, micro để phát hiện âm thanh bất thường, ghi màn hình để kiểm tra xem người dùng có mở tab khác hay không, và khóa trình duyệt để ngăn chặn thao tác gian lận. Tất cả các luồng dữ liệu này được đưa vào một hệ thống trung tâm, nơi các thuật toán học máy phân loại người dùng thành bình thường hoặc đáng ngờ.
Ngành công nghiệp này có một điểm chung với phần lớn thị trường tiền mã hóa: sự tập trung. Mọi hoạt động, từ xác thực danh tính đến phát hiện gian lận, đều đi qua một máy chủ trung tâm hoặc một nền tảng đám mây do một công ty duy nhất kiểm soát. Bạn không thể tự kiểm tra xem hệ thống có hoạt động đúng không. Bạn không thể xác minh liệu dữ liệu sinh trắc học của mình có bị sao chép hay không. Bạn chỉ có thể tin.
Và đó chính xác là vấn đề.
Hãy so sánh với những gì xảy ra trong thị trường crypto. Khi các nhà đầu tư gửi tiền vào một sàn giao dịch tập trung như FTX, họ không kiểm soát được khóa riêng, họ không thấy được sổ lệnh, và họ không thể kiểm tra xem tài sản thực sự ở đâu. Họ chỉ tin. Và chúng ta biết kết thúc của câu chuyện đó như thế nào: 8 tỷ đô la của khách hàng bốc hơi, và một nhà sáng lập trẻ tuổi đang ngồi trong tù vì tội lừa đảo.
UNAM cũng vậy. Họ tin tưởng một nhà cung cấp AI giám sát. Họ không yêu cầu bằng chứng về khả năng mở rộng, không kiểm tra áp lực ở mức 58.000 người dùng, và không có kế hoạch dự phòng. Khi hệ thống sụp đổ, họ không có cách nào để xác định lỗi nằm ở đâu – trong thuật toán phát hiện gian lận, trong máy chủ, trong đường truyền mạng, hay trong hệ thống lưu trữ dữ liệu – bởi vì tất cả đều là một khối đen bí ẩn do nhà cung cấp kiểm soát.
Phân tích cốt lõi: Giải phẫu sự sụp đổ
Nhìn vào thông số kỹ thuật của sự cố, tôi ngay lập tức nhớ lại những lần tôi kiểm tra các giao thức Layer 2.
Vào năm 2022, khi tòa soạn của tôi mất 40% doanh thu quảng cáo trong đợt bear market, tôi dành toàn bộ thời gian để phân tích các giải pháp mở rộng như Arbitrum và Optimism. Tôi phát hiện một điều mà không nhiều người trên thị trường muốn nghe: sequencer của những Layer 2 này về cơ bản là một node tập trung do một công ty duy nhất vận hành. Khi chuỗi chính (mainnet) quá tải, người dùng không thể tự mình khôi phục trạng thái, vì họ không có quyền truy cập vào sequencer. Họ không thể kiểm soát thứ tự giao dịch và cũng không thể xác minh điều gì đang thực sự xảy ra. Họ trông chờ vào lòng tốt và năng lực của một đội ngũ vận hành mà họ sẽ không bao giờ gặp mặt.
58.000 sinh viên UNAM cũng ở trong tình cảnh này.
Số học của sự sụp đổ
Hãy làm một phép toán đơn giản về hạ tầng để hiểu vì sao 58.000 người dùng đồng thời có thể đánh sập một hệ thống AI giám sát được thiết kế cho vài nghìn người.
Giả sử mỗi sinh viên tham gia kỳ thi kéo dài 30 phút. Nếu hệ thống yêu cầu ghi hình toàn bộ quá trình ở độ phân giải 720p với tốc độ bit khoảng 1,5 Mbps, mỗi sinh viên sẽ tạo ra khoảng 337,5 megabyte dữ liệu video trong một phiên thi. Nhân với 58.000 sinh viên, tổng lượng dữ liệu cần được tải lên máy chủ trong vòng 30 phút là khoảng 19,5 terabyte. Nếu tất cả sinh viên bắt đầu thi cùng một thời điểm – điều mà bất kỳ ai từng vận hành hạ tầng đám mây đều biết là kịch bản tồi tệ nhất – hệ thống sẽ phải xử lý khoảng 10,9 gigabyte mỗi giây chỉ riêng phần upload video. Đây là chưa kể đến các luồng dữ liệu bổ sung như âm thanh, ghi màn hình, và các tín hiệu từ trình duyệt.
Một máy chủ thông thường có băng thông upload tổng hợp từ 1 đến 10 gigabit mỗi giây – tức là 125 megabyte đến 1,25 gigabyte mỗi giây. Để xử lý 10,9 gigabyte mỗi giây, hệ thống cần ít nhất 9 máy chủ băng thông gigabit chuyên dụng chỉ để tiếp nhận dữ liệu, chưa kể đến băng thông của từng người dùng ở nhà. Nhưng đây mới chỉ là phần upload. Nền tảng còn phải chuyển mã video (transcoding), phân tích từng khung hình bằng các mô hình AI, lưu trữ dữ liệu vào cơ sở dữ liệu, và trả lại kết quả cho giao diện người dùng. Mọi khâu trong chuỗi này đều có thể trở thành nút thắt cổ chai. Chỉ cần một trong số đó nghẽn lại, toàn bộ phiên thi sẽ đình trệ.
Khi tôi kiểm tra hợp đồng thông minh của một dự án Layer 2 mới hồi đầu năm nay, tôi tình cờ gặp một lỗi khá quen thuộc: trong hàm xử lý hoàn tiền, người phát triển gọi một vòng lặp để duyệt qua toàn bộ danh sách người dùng bị ảnh hưởng. Về mặt lý thuyết, vòng lặp này chạy tốt với 100 hoặc 1.000 người dùng – nhưng nếu có 58.000 người dùng, chi phí gas sẽ tăng lên tới mức khiến giao dịch không bao giờ được xác nhận. Đó không phải là một lỗi AI, cũng không phải một vấn đề thuật toán. Đó là một thiếu sót trong việc thiết kế kịch bản mở rộng quy mô.
Sự cố AI giám sát của UNAM gần như chắc chắn rơi vào cùng loại lỗi này. Với quy mô 58.000 người, các giả định thông thường về dung lượng máy chủ, băng thông mạng và thời gian phản hồi API đều bị phá vỡ. Nếu nhà cung cấp chỉ kiểm tra hệ thống với vài trăm hoặc vài nghìn người dùng – một con số phổ biến trong các phòng thí nghiệm – thì việc hệ thống ngừng hoạt động dưới áp lực của hàng chục nghìn người là điều gần như tất yếu về mặt toán học. Không cần đến AI để giải thích điều đó. Chỉ cần một chút kỹ năng tính toán.
Nghịch lý của sự thông minh
Điều khiến tôi thích thú nhất về làn sóng phẫn nộ sau sự cố là cách truyền thông miêu tả nó như một thất bại trí tuệ nhân tạo. Đây là một cách suy nghĩ cực kỳ sai lầm. Các hệ thống AI giám sát thi vốn được thiết kế không phải để trở thành một siêu trí tuệ mà là một dây chuyền xử lý tín hiệu bằng máy tính. Mỗi khâu trong số đó – từ bước nhận diện khuôn mặt đến phân tích hướng nhìn – đều có thể được thay thế bằng một thuật toán đơn giản hơn nhiều, nhưng vẫn có thể tạo ra kết quả tương tự. Vậy nên khi hệ thống sụp đổ, AI không thực sự là kẻ đáng trách; nó giống một nạn nhân của hạ tầng yếu kém hơn là một hung thủ.
Nhưng tại sao AI lại là kẻ bị đưa lên bục xét xử trong các bản tin? Bởi vì chúng ta đã gán cho nó sự kỳ vọng không tưởng, giống như chúng ta từng gán cho blockchain sự kỳ vọng về một world computer có thể thay thế mọi thứ. Và trong cả hai trường hợp, kỳ vọng không tưởng đều dẫn đến thất vọng không đáng có.
Hãy nhìn lại lịch sử của DeFi. Năm 2020, những người ủng hộ tin rằng các giao thức phi tập trung sẽ thay thế các ngân hàng, thay thế các sàn giao dịch, thay thế mọi trung gian tài chính. Khi tổng giá trị khóa (TVL) tăng vọt từ 1 tỷ lên hơn 10 tỷ USD chỉ trong vài tháng, họ tin rằng DeFi Summer sẽ kéo dài mãi. Rồi thị trường điều chỉnh, các giao thức bắt đầu lộ diện các lỗ hổng, và niềm tin sụp đổ. Nhưng điều đó không có nghĩa là công nghệ này là rác – nó có nghĩa là chúng ta đã đánh giá sai giai đoạn phát triển của công nghệ. Các giao thức DeFi cần thời gian để trưởng thành, và nhiều bài học chỉ có được sau các vụ hack.
AI giám sát thi cũng đang trong quá trình trưởng thành. Nhưng nó có một điểm yếu đặc biệt nguy hiểm: nó xử lý dữ liệu của con người trực tiếp và có tác động trực tiếp đến cuộc sống của họ. Nếu một giao thức DeFi bị hack, bạn mất tiền – nhưng ít nhất bạn có thể rút kinh nghiệm và xây dựng lại. Khi một hệ thống AI giám sát sai lầm và buộc tội một sinh viên gian lận trong khi cô ấy vô tội, mục tiêu của nó không chỉ là tiền bạc – mà là tương lai của một con người. Và khi nó sụp đổ như trường hợp của UNAM, nó không chỉ gây bất tiện – nó phá vỡ niềm tin vào toàn bộ quy trình giáo dục.
Khi các mảnh ghép thời gian thực chống lại bạn
Nếu tôi muốn tìm một sự tương đồng hoàn hảo nhất giữa AI giám sát và những vấn đề mà DeFi phải đối mặt, đó là vấn đề về thời gian thực của các nguồn cấp dữ liệu – hay còn gọi là oracle feed.
Trong DeFi, các giao thức như Compound hoặc Aave phụ thuộc rất nhiều vào giá tài sản được cung cấp bởi oracle – thường là Chainlink. Nếu giá bị trễ vài giây – thậm chí vài phút – so với sàn giao dịch thực tế, các nhà giao dịch thông minh có thể nhanh chóng khai thác chênh lệch giá để hút thanh khoản từ giao thức. Đây được gọi là oracle attack – một trong những loại tấn công nguy hiểm nhất trong DeFi. Vào tháng 8 năm 2020, một vụ oracle attack trên các giao thức như bZx và Harvest đã khiến hàng trăm triệu USD bốc hơi chỉ trong vài phút. Chainlink giải quyết vấn đề này bằng cách vận hành một mạng lưới các node phân tán – nhưng mỗi node vẫn do một thực thể tập trung kiểm soát, và kết quả cuối cùng vẫn được tổng hợp trên một hợp đồng thông minh duy nhất. Sự phi tập trung đó là một sự phi tập trung có điều kiện.
Hệ thống AI giám sát thi cũng có một vấn đề oracle của riêng nó: các luồng dữ liệu về hành vi của sinh viên phải được phân tích trong thời gian thực, và mỗi khung hình video phải được chuyển đến máy chủ để xử lý với độ trễ tối thiểu. Nếu hệ thống giám sát phát hiện một hành vi bất thường sau khi kỳ thi đã kết thúc, kết quả của một sinh viên vô tội có thể bị hủy bỏ mà không có cách nào để cô ấy kháng cáo. Nếu hệ thống quá chậm trong việc xử lý video, người dùng không thể tiếp tục bài thi và bị đánh rớt dù không hề gian lận.
Chúng ta có thể gọi đây là gót chân Achilles của AI giám sát, một điểm tương đồng hoàn hảo với gót chân Achilles của DeFi – sự phụ thuộc vào độ trễ của oracle feed. Trong cả hai trường hợp, chúng ta có một hệ thống ra quyết định tự động phụ thuộc vào nguồn dữ liệu bên ngoài mà nó không kiểm soát được. Và trong cả hai trường hợp, khi dữ liệu chậm, sai hoặc bị gián đoạn, hệ thống sẽ thất bại theo cách không thể dự đoán trước được. Đây là một vấn đề cấu trúc, không phải một lỗi lập trình. Nó sẽ không biến mất chỉ bằng cách nâng cấp thuật toán; nó đòi hỏi các nhà thiết kế phải xây dựng lại toàn bộ kiến trúc với khả năng chịu lỗi và chịu trễ được đặt lên hàng đầu.
Điều này giải thích vì sao những lời kêu gọi quay lại thi trên giấy là một phản ứng hành vi, không phải là một giải pháp kỹ thuật. Bạn không giải quyết vấn đề cấu trúc bằng cách rút lui khỏi công nghệ; bạn giải quyết nó bằng cách thiết kế lại các cơ chế kiểm soát niềm tin.
Bài học từ Layer 2 và các hệ thống tập trung ẩn
Điều thú vị là thị trường crypto đã trải qua những cơn ác mộng tương tự nhưng chúng ta hiếm khi nhìn nhận chúng một cách đúng đắn. Hãy nhớ lại sự kiện Sàn Mt. Gox sụp đổ vào năm 2014, nơi khoảng 850.000 bitcoin – tương đương hơn 16 tỷ đô la theo giá hiện tại – bị mất vĩnh viễn khi một hệ thống giao dịch tập trung không thể bảo vệ quỹ của khách hàng. Sau đó là sự sụp đổ của FTX năm 2022, và nhiều lần khủng hoảng thanh khoản tại các nền tảng cho vay trên danh nghĩa phi tập trung nhưng trên thực tế vận hành hoàn toàn tập trung như Celsius và Voyager Digital.
Trong mỗi trường hợp, có một khuôn mẫu lặp lại: một hệ thống trông có vẻ an toàn vì được thiết kế bởi những kỹ sư thông minh, hứa hẹn bảo mật bằng mã hóa mạnh nhất, nhưng khi bị đặt dưới áp lực của khối lượng giao dịch lớn hoặc khi một người quản trị có quyền truy cập đặc quyền làm điều gì đó sai trái, không ai có thể ngăn chặn thảm họa.
Hệ thống AI giám sát của UNAM cũng vậy. Về mặt công nghệ, các mô hình nhận diện khuôn mặt, phát hiện chuyển động mắt và phân tích âm thanh đều đã trưởng thành từ lâu. Những thứ này được thử nghiệm hàng ngày tại các trường đại học, ngân hàng và sân bay trên khắp thế giới. Nhưng sự cố của UNAM không đến từ việc thuật toán phát hiện gian lận hoạt động kém, mà đến từ việc toàn bộ kiến trúc hạ tầng xung quanh thuật toán không đủ mạnh để chịu được mức tải của một trong những trường đại học lớn nhất thế giới. Và bởi vì hệ thống này là một khối đen tập trung, không ai – kể cả UNAM và các nhà nghiên cứu độc lập – có thể xác định chính xác gốc rễ của vấn đề.
Điều này dẫn tôi đến một điểm đau quen thuộc trong thế giới blockchain: sự khác biệt giữa phi tập trung về mặt tuyên bố và phi tập trung về mặt kiến trúc. Trên giấy tờ, Layer 2 là những hệ thống mở, cho phép bất kỳ ai vận hành một node để xác minh trạng thái. Nhưng trong thực tế, sequencer – bộ phận quyết định thứ tự giao dịch – do một công ty duy nhất kiểm soát, và nếu công ty đó vận hành yếu kém hoặc bị tấn công, toàn bộ chuỗi sẽ chịu hậu quả. Đó là một sự tập trung hóa tinh vi, ẩn sau vỏ bọc của decentralized sequencing – một thuật ngữ chúng ta đã nghe trong nhiều năm nhưng vẫn chưa thấy một hệ thống nào thực sự triển khai ở quy mô sản xuất. Cùng một câu chuyện hoàn toàn giống với AI giám sát: thứ nghe có vẻ thông minh, được tiếp thị như một công nghệ mang tính cách mạng, nhưng bên dưới nó vẫn là một máy chủ duy nhất mà không ai kiểm tra.
Sinh trắc học và lời nguyền của dữ liệu không thể thu hồi
Một khía cạnh mà hầu hết các báo cáo về sự cố của UNAM bỏ qua – nhưng lại đặc biệt quan trọng đối với tôi với tư cách là một nhà mật mã – là chuyện gì đang xảy ra với dữ liệu sinh trắc học của 58.000 sinh viên trong và sau khi hệ thống sụp đổ.
Dữ liệu sinh trắc học là một trong những loại dữ liệu nhạy cảm nhất trên hành tinh. Khác với mật khẩu, thẻ tín dụng hay khóa riêng tư của ví crypto, dữ liệu sinh trắc học không thể thay đổi được nếu bị rò rỉ. Bạn không thể đổi gương mặt, không thể thay dấu vân tay, và không thể tạo lại đặc điểm nhận dạng giọng nói của mình. Khi dữ liệu này bị đánh cắp, nó bị đánh cắp vĩnh viễn.
Trong một hệ thống AI giám sát thi, dữ liệu thu thập được không chỉ gồm tên và ảnh đại diện – mà là một gói hồ sơ hành vi bao gồm chuyển động mắt, hướng nhìn, tư thế đầu, nhịp thở, cử động tay và vô số đặc điểm sinh trắc học hành vi khác. Những dữ liệu này không chỉ nhạy cảm mà còn mang tính tiết lộ cực kỳ sâu sắc: chúng có thể tiết lộ sức khỏe thần kinh, trạng thái cảm xúc, thậm chí là các dấu hiệu bệnh lý tiềm ẩn.
Khi hệ thống sụp đổ, các luồng dữ liệu đang truyền qua mạng có thể bị dừng nửa chừng, bị lưu trữ trong các vùng đệm không rõ ràng, hoặc bị ghi vào những cơ sở dữ liệu mà không có cơ chế mã hóa đầu cuối rõ ràng. Vấn đề ở đây không phải là liệu dữ liệu có bị hack hay không – ít nhất là chưa có bằng chứng về việc đó – mà là vấn đề về trách nhiệm giải trình. Ai đã thấy dữ liệu này? Chúng được lưu trữ ở đâu? Chúng được bảo vệ bằng loại mã hóa nào? Và ai sẽ xóa chúng sau khi kỳ thi kết thúc? Nếu UNAM và nhà cung cấp không thể trả lời rõ ràng những câu hỏi này, thì sự cố kỹ thuật còn nghiêm trọng hơn nhiều so với một kỳ thi bị hỏng.
Về điểm này, thế giới blockchain có một bài học quan trọng. Khái niệm bằng chứng không tiết lộ (zero-knowledge proofs) đã cho chúng ta một phương pháp toán học để chứng minh một điều gì đó là đúng mà không cần phải tiết lộ nội dung cụ thể. Một sinh viên có thể chứng minh rằng mình đã hoàn thành kỳ thi, chứng minh rằng mình không gian lận, thậm chí chứng minh rằng họ vượt qua bài kiểm tra – tất cả mà không cần phải cung cấp video khuôn mặt, bản ghi âm hay dữ liệu hành vi nhạy cảm cho một công ty công nghệ tập trung. Đó là một sự khác biệt triết học nền tảng: một hệ thống tin cậy dựa trên sự xác minh mật mã, thay vì dựa trên sự giám sát toàn diện.
Nhưng như tôi đã nói, chúng ta còn rất xa điều đó.
Góc nhìn đối lập: Chúng ta đang đổ lỗi cho AI thay vì nhìn vào hạ tầng
Bây giờ, hãy để tôi đưa ra một góc nhìn phản trực giác mà hầu như không ai trong làn sóng chỉ trích AI giám sát nghĩ đến.
Vấn đề của UNAM không phải là AI. Vấn đề là mô hình tín nhiệm tập trung đã lỗi thời – và blockchain, dù bản thân nó không phải là giải pháp trực tiếp, đã phát triển một bộ công cụ nhận thức để đối phó với chính loại thất bại này.
Thị trường crypto đã từng phạm phải những sai lầm y hệt UNAM. Trong mỗi trường hợp, chúng ta chứng kiến một kiểu suy nghĩ kỳ diệu: tin rằng một hệ thống phức tạp hoạt động tốt trong điều kiện bình thường sẽ tiếp tục hoạt động tốt trong điều kiện căng thẳng. Điều này cũng giống như tin rằng một chiếc xe chạy ổn định ở tốc độ 60 km/h sẽ, đương nhiên, chạy an toàn ở tốc độ 300 km/h. Không hề. Sự hư hỏng chỉ xảy ra ở mức độ căng thẳng, và đó là lúc thiết kế kém chuẩn của hệ thống bị lộ ra.
Nhưng đây là điểm mấu chốt mà tôi cho rằng cộng đồng crypto hiểu rất rõ nhưng ngành giáo dục vẫn chưa nắm bắt: việc biến một hệ thống thành minh bạch và có thể kiểm toán không chỉ là việc làm cho dữ liệu trở nên công khai. Nó đòi hỏi thiết kế các cơ chế dự phòng, sự phân tán quyền lực và khả năng cho bất kỳ ai xác minh trạng thái của hệ thống một cách độc lập. Trong cuộc sống thực, điều này có nghĩa là: một hệ thống giám sát thi nên cho phép bên thứ ba kiểm tra xem mã nguồn của nó có được triển khai đúng như tài liệu mô tả hay không; nó nên lưu trữ dữ liệu thi trong một dạng không thể thay đổi – để nếu có tranh chấp, sẽ có một cơ quan lưu trữ bất khả biến để trọng tài phân xử; và nó nên trao cho sinh viên quyền sở hữu dữ liệu của họ, giống như cách mà một người dùng ví crypto có quyền kiểm soát khóa riêng của mình.
Khi Code is law trở thành Điều khoản dịch vụ là law
Một trong những khẩu hiệu nổi tiếng trong cộng đồng blockchain là Code is law – mã là luật. Ý tưởng này ra đời trong những ngày đầu của hợp đồng thông minh với niềm tin rằng một khi mã nguồn đã được triển khai lên chuỗi, không ai – kể cả nhà phát triển – có thể thay đổi nó. Nhưng thực tế đã chứng minh điều ngược lại. Hầu hết các giao thức DeFi vẫn có admin key hoặc multi-sig wallet do một nhóm nhỏ kiểm soát, cho phép họ nâng cấp hợp đồng thông minh, đóng băng tài sản hoặc thay đổi các tham số trong thời gian ngắn. Khái niệm Code is law vì thế đã bị bóc trần: luật thực sự nằm trong tay của nhóm vận hành, không nằm trong mã nguồn.
Sự cố của UNAM cũng vậy. Sinh viên tham gia kỳ thi và chấp nhận các điều khoản sử dụng do nhà cung cấp AI giám sát đặt ra – một dạng hợp đồng chấp nhận bắt buộc, nếu không đồng ý sẽ không được thi. Họ không có quyền thương lượng, không có quyền kiểm tra mã nguồn của hệ thống giám sát, và không có khả năng xác minh rằng dữ liệu của họ được xử lý theo đúng cam kết. Trong thế giới blockchain, chúng ta gọi đây là khủng hoảng niềm tin: người dùng không có bất kỳ quyền lực thương lượng nào khi đối mặt với một hệ thống được duy trì bởi một thực thể tập trung mạnh hơn.
Nhưng ở đây có một điểm khác biệt quan trọng giữa crypto và giáo dục: trong crypto, bạn có thể chọn một giao thức khác nếu không thích. Bạn có thể dịch chuyển tài sản từ một sàn tập trung yếu kém sang một sàn phi tập trung. Nhưng một sinh viên của UNAM không có sự lựa chọn như vậy – họ buộc phải sử dụng hệ thống giám sát do trường đại học chỉ định, với điều khoản do họ đưa ra. Đây là một loại khóa cứng thậm chí còn tệ hơn bất kỳ hợp đồng thông minh nào trong crypto, bởi vì nó kết hợp cả quyền lực thể chế lẫn kỹ thuật.
Tuy nhiên, có một sự phản biện mà tôi buộc phải đưa ra: blockchain không phải là câu trả lời thần kỳ. Nếu một ai đó đề xuất đưa tất cả dữ liệu thi lên chuỗi để giải quyết vấn đề của UNAM, tôi sẽ cười. Việc đưa video quay khuôn mặt của 58.000 sinh viên lên một blockchain công khai không chỉ là một thảm họa bảo mật do dữ liệu nhạy cảm bị công khai vĩnh viễn – nó còn là một sự hiểu lầm nghiêm trọng về bản chất của công nghệ blockchain. Blockchain không giải quyết vấn đề niềm tin bằng cách đẩy dữ liệu vào một máy chủ phân tán. Nó giải quyết vấn đề niềm tin bằng cách tạo ra các bằng chứng mật mã có thể xác minh độc lập mà không cần tiết lộ dữ liệu gốc – một khái niệm tinh tế hơn nhiều so với việc chia sẻ dữ liệu.
Vậy nên, khi đọc những dòng bình luận trên mạng xã hội đổ lỗi cho AI, chỉ trích nhà cung cấp, hoặc kêu gọi quay lại với các kỳ thi giấy truyền thống, tôi thấy họ đang hướng sự tức giận vào một cái bóng. Cái bóng của AI che giấu vấn đề thực sự: một hệ thống tập trung thiếu trách nhiệm giải trình. Nếu không sửa cái gốc đó – tức là tạo ra các tiêu chuẩn về khả năng mở rộng, cơ chế xác minh minh bạch, và quyền kiểm soát dữ liệu của người dùng – thì bất kể thay thế công nghệ AI bằng công nghệ gì đi nữa, thảm họa vẫn sẽ tái diễn.
Takeaway: Câu hỏi để ngỏ
Sự cố của UNAM không phải là một câu chuyện về AI thất bại. Nó là một câu chuyện về việc chúng ta đã đặt niềm tin vào những hệ thống mà chúng ta không kiểm soát, không hiểu, và không thể xác minh.
Khi tôi khởi nghiệp viết báo crypto ở Amsterdam gần hai thập kỷ trước, tôi luôn tự nhắc mình một nguyên tắc: chỉ tin vào những gì có thể kiểm chứng. Trong suốt những năm tháng đó, tôi chứng kiến hàng trăm dự án huy động hàng tỷ đô la mà không có sản phẩm thực tế, hàng chục sàn giao dịch sụp đổ vì quản lý yếu kém, và vô số vụ lừa đảo ẩn sau thuật ngữ công nghệ cách mạng. Nguyên tắc của tôi rất đơn giản: hãy kiểm tra mã nguồn, xem xét hợp đồng thông minh, đọc báo cáo kiểm toán, và luôn tự hỏi – nếu hệ thống này sụp đổ vào giây phút tồi tệ nhất, điều gì sẽ xảy ra với tôi?
Câu hỏi đó là thứ mà UNAM không bao giờ tự đặt ra khi ký hợp đồng với nhà cung cấp AI giám sát. Câu hỏi đó cũng là thứ mà các nhà đầu tư không bao giờ tự đặt ra khi mua token của một Layer 2 thiếu phân quyền thực sự. Và khi sự cố xảy ra, họ quay sang đổ lỗi cho công nghệ thay vì quay lại bàn thiết kế và đặt câu hỏi về cấu trúc.
58.000 sinh viên phải thi lại là một bài học đắt giá. Nhưng trên bình diện lớn hơn, đó là lời nhắc nhở rằng trong một thế giới ngày càng bị chi phối bởi các hệ thống thuật toán, khả năng kiểm chứng không chỉ là một đặc tính kỹ thuật – nó là một quyền cơ bản. Và khi một thế hệ trẻ buộc phải tin tưởng vô điều kiện vào những khối đen công nghệ, chúng ta không chỉ đối mặt với rủi ro sập hệ thống, mà còn với một mối nguy hiểm tinh vi hơn: việc thế hệ đó học cách chấp nhận sự bất lực trước các quyết định được ẩn sau thuật toán như một điều bình thường.
Điều đó có chấp nhận được không?
Câu hỏi này không chỉ dành riêng cho ngành giáo dục. Nó dành cho tất cả những ai đang xây dựng nền tảng của nền kinh tế số mới – một nơi mà lẽ ra không nên tồn tại những chiếc hộp đen.