Chương 36. AI như đồng nghiệp bị quản trị

AI đang đi vào giáo dục bằng nhiều cửa cùng lúc. Nó đi vào nội dung qua công cụ tạo bài giảng, tóm tắt, dịch, viết câu hỏi, tạo ví dụ và chỉnh văn bản. Nó đi vào đánh giá qua chấm tự động, feedback viết, phân tích lỗi, phát hiện đạo văn, tạo rubric và mô phỏng vấn đáp. Nó đi vào hỗ trợ người học qua chatbot, tutor, hệ thống gợi ý, luyện tập cá nhân hóa và trợ năng. Nó đi vào công việc giáo viên qua soạn giáo án, phân hóa nhiệm vụ, viết nhận xét, lập kế hoạch can thiệp và tìm tài liệu. Nó đi vào vận hành qua tuyển sinh, tư vấn, lịch học, báo cáo, phân tích rủi ro bỏ học, chăm sóc phụ huynh và support. Nó đi vào quản trị qua dashboard, dự báo, phân bổ nguồn lực và đánh giá hiệu quả chương trình.

Vì vậy, câu hỏi “có dùng AI không?” ngày càng ít thực tế. Trường có thể cấm một số công cụ, nhưng AI vẫn xuất hiện trong phần mềm văn phòng, trình tìm kiếm, LMS, công cụ giao tiếp, nền tảng nội dung, phần mềm quản trị, thiết bị trợ năng và điện thoại cá nhân. Giáo viên có thể không gọi nó là AI, nhưng dùng tính năng gợi ý câu, tóm tắt văn bản, dịch tự động hoặc phân tích điểm. Học sinh có thể không được phép dùng chatbot trong bài kiểm tra, nhưng vẫn dùng AI để hiểu đề, viết nháp, sửa lỗi, học ngoại ngữ hoặc làm bài ở nhà. AI sẽ không bước vào trường như một dự án duy nhất có ngày khởi động rõ ràng; nó sẽ thấm vào stack công nghệ như một lớp năng lực mới.

Nhưng từ chỗ “AI sẽ có mặt” không suy ra “AI nên được thả tự do”. Chương này đề xuất một hình dung vừa hữu ích vừa nguy hiểm: hãy xem AI như một đồng nghiệp bị quản trị. “Đồng nghiệp” vì AI không chỉ là bút chì hay máy chiếu; nó tạo nội dung, gợi ý quyết định, phản hồi người học, tổng hợp dữ liệu, và có thể ảnh hưởng đến hành vi của con người. “Bị quản trị” vì nó không có phẩm giá nghề nghiệp, không có trách nhiệm đạo đức, không hiểu trẻ em như con người, không chịu hậu quả xã hội, không nên được trao quyền mơ hồ, và không được phép tự mở rộng vai trò chỉ vì có vẻ hữu ích.

Gọi AI là đồng nghiệp không có nghĩa nhân hóa nó. Ngược lại, chính vì AI tạo cảm giác như một người cộng tác nên ta càng phải tước bớt sự mơ hồ. Một đồng nghiệp con người có hợp đồng, chức danh, trách nhiệm, người quản lý, quyền truy cập, quy trình báo cáo, giới hạn nghề nghiệp, đào tạo, đánh giá, kỷ luật và khả năng bị thay thế. Nếu AI được đưa vào giáo dục mà không có những thứ tương đương, nó không phải đồng nghiệp; nó là một thực thể bán quyền lực không ai quản. Một trường học trưởng thành không thần tượng AI, cũng không giả vờ AI biến mất. Nó viết job description cho AI, giới hạn dữ liệu của AI, xác định ai chịu trách nhiệm khi AI sai, đặt fallback khi AI bất định, kiểm toán việc dùng AI, và giữ con người ở nơi quyết định giáo dục thật sự được đưa ra.

Mâu thuẫn của chương này là: nếu đối xử với AI chỉ như công cụ, ta đánh giá thấp mức độ nó can thiệp vào phán đoán; nếu đối xử với AI như một chủ thể gần người, ta dễ trao cho nó niềm tin và quyền lực quá mức. Lối thoát không nằm ở một từ đẹp hơn, mà ở quản trị. AI có thể là trợ lý, cộng tác viên, hệ thống hỗ trợ, bộ lọc, người nháp, người kiểm tra, người gợi ý, người tổng hợp, người cảnh báo. Nhưng mỗi vai trò phải có điều kiện: dùng để làm gì, không dùng để làm gì, dữ liệu nào được xem, dữ liệu nào cấm, ai phê duyệt đầu ra, khi nào phải dừng, khi nào gọi người, log ở đâu, ai audit, ai giải thích với người học và phụ huynh.

1. AI không còn là một sản phẩm; nó là một lớp năng lực

Trong giai đoạn đầu của EdTech, một sản phẩm thường có ranh giới tương đối rõ. LMS là LMS, phần mềm quiz là quiz, app phụ huynh là app phụ huynh, hệ thống quản trị học sinh là hệ thống quản trị học sinh. AI làm ranh giới ấy mờ đi. Một công cụ soạn bài có thể đồng thời là công cụ tạo nội dung, công cụ gợi ý sư phạm, công cụ phân tích chương trình, công cụ dịch ngôn ngữ và công cụ đánh giá. Một hệ thống điểm danh có thể trở thành early warning system. Một chatbot support có thể chuyển thành tutor. Một AI viết email có thể vô tình xử lý dữ liệu nhạy cảm về học sinh. Một tính năng tóm tắt họp có thể biến cuộc họp chuyên môn thành dữ liệu huấn luyện hoặc dữ liệu lưu trữ lâu dài.

Điều này làm cách mua và quản lý công nghệ cũ trở nên thiếu. Trường không thể chỉ hỏi “sản phẩm này có AI không?” vì câu trả lời thường là có ở mức nào đó, hoặc sẽ có trong bản cập nhật sau. Câu hỏi tốt hơn là: AI trong sản phẩm này làm chức năng nào, ảnh hưởng đến ai, dùng dữ liệu nào, tạo đầu ra nào, đầu ra ấy đi vào quyết định nào, ai nhìn thấy nó, và nếu nó sai thì thiệt hại nằm ở đâu? Một AI gợi ý tiêu đề bài học có rủi ro khác AI gợi ý xếp lớp. Một AI sửa ngữ pháp cho người học trưởng thành khác AI phản hồi cảm xúc cho trẻ nhỏ. Một AI hỗ trợ giáo viên viết nhận xét khác AI tự động gửi cảnh báo rủi ro đến phụ huynh.

U.S. Department of Education mô tả AI trong giáo dục như một bước chuyển từ việc máy tính chỉ lưu và trình bày dữ liệu sang việc phát hiện mẫu hình và tự động hóa các quyết định về dạy học hoặc quy trình giáo dục; vì vậy hệ thống giáo dục phải quản trị việc dùng AI.[^usdoe-ai] Điểm quan trọng nằm ở chữ “quyết định”. AI không chỉ làm nhanh hơn những thao tác cũ. Nó bắt đầu tham gia vào câu hỏi ai cần hỗ trợ, học sinh nào đang yếu, câu trả lời nào đủ tốt, tài liệu nào phù hợp, thông điệp nào nên gửi, giáo viên nào cần chú ý, lớp nào có vấn đề. Khi công nghệ chuyển từ trình bày sang gợi ý và quyết định, trách nhiệm tổ chức cũng phải đổi.

Ở đây có một xung đột thật. Vendor muốn AI trở thành tính năng nền vì như vậy sản phẩm hấp dẫn hơn và khó bị so sánh theo từng chức năng nhỏ. Nhà trường muốn AI trở thành năng lực chung vì không muốn mua lắt nhắt quá nhiều công cụ. Giáo viên muốn AI nằm ngay trong công việc hằng ngày, không phải mở thêm một nền tảng. Người học muốn AI phản hồi tức thì, không phải chờ. Nhưng chính việc AI thành lớp nền khiến nó khó được nhìn thấy, khó xin consent, khó kiểm soát dữ liệu, khó audit và khó tách ra khi không phù hợp. AI càng “tiện” thì càng dễ biến thành hạ tầng vô hình; hạ tầng vô hình thì thường ít bị tranh luận hơn quyền lực của nó xứng đáng được tranh luận.

2. Vì sao hình dung “đồng nghiệp” vừa hữu ích vừa nguy hiểm

Hình dung AI như đồng nghiệp hữu ích vì nó buộc ta hỏi những câu mà hình dung “công cụ” thường bỏ qua. Nếu một đồng nghiệp mới vào trường, ta không cho người đó tùy tiện đọc hồ sơ học sinh, tự gửi nhận xét cho phụ huynh, chấm bài high-stakes, tư vấn tâm lý, quyết định can thiệp, hoặc nói chuyện riêng với trẻ em mà không có quy tắc. Ta hỏi người ấy phụ trách việc gì, trình độ ra sao, ai giám sát, báo cáo cho ai, khi nào được nói “tôi không biết”, khi nào phải chuyển ca, khi nào không được tham gia. Với AI cũng vậy. Nó càng tham gia vào dòng công việc giống con người, càng cần job description giống một vai trò tổ chức.

Hình dung này cũng giúp chống một ảo tưởng phổ biến: AI như phép màu trung tính. Một công cụ chấm bài AI không chỉ “chấm nhanh”; nó thể hiện một lý thuyết ngầm về bài viết tốt. Một AI tutor không chỉ “trả lời câu hỏi”; nó thể hiện một lý thuyết ngầm về giúp đỡ, khó dễ, kiên nhẫn, thử sai và quyền tự chủ. Một AI phân tích rủi ro bỏ học không chỉ “dự báo”; nó thể hiện một lý thuyết ngầm về nguyên nhân thất bại, dữ liệu nào đáng tin và ai đáng được ưu tiên. Nếu xem AI như một tác nhân công việc, ta thấy rõ hơn nó mang phán đoán vào hệ thống.

Nhưng hình dung AI như đồng nghiệp cũng nguy hiểm vì nó mời gọi nhân hóa. Học sinh có thể tin AI “hiểu mình”. Giáo viên có thể thấy AI “biết lớp mình” chỉ vì nó viết trôi chảy. Nhà trường có thể xem AI như chuyên gia khách quan. Phụ huynh có thể tưởng AI tutor kiên nhẫn hơn con người nên mặc định tốt hơn. Ngôn ngữ giao diện càng thân thiện, ranh giới càng mờ. Một chatbot gọi tên trẻ, nhớ lịch sử trò chuyện, khen ngợi, trấn an và đưa lời khuyên có thể tạo cảm giác quan hệ. Nhưng cảm giác quan hệ không phải quan hệ giáo dục. Sự trôi chảy không phải hiểu biết. Sự tự tin không phải đúng. Sự phản hồi liên tục không phải trách nhiệm.

Vì vậy, chương này dùng cụm “đồng nghiệp bị quản trị” như một nghịch lý có chủ ý. Ta mượn chữ “đồng nghiệp” để nghiêm túc hóa trách nhiệm, rồi dùng chữ “bị quản trị” để không quên nó không phải con người. AI không có quyền nghề nghiệp như giáo viên, không có quyền riêng tư như học sinh, không có quyền tự diễn giải nhiệm vụ như cố vấn. Nó là một hệ thống kỹ thuật được trao vai trò trong một tổ chức con người. Nếu vai trò đó ảnh hưởng đến học tập, quyền riêng tư, đánh giá, cơ hội hoặc phẩm giá, vai trò ấy phải được viết ra, kiểm soát và có thể bị thu hồi.

UNESCO trong hướng dẫn về GenAI nhấn mạnh cách tiếp cận human-centred, bảo vệ quyền riêng tư dữ liệu, giới hạn tuổi cho hội thoại độc lập với GenAI, và thiết kế ethical validation/pedagogical design theo hướng human-agent, age-appropriate.[^unesco-genai] Nói cách khác, vấn đề không phải chỉ là AI có thông minh không. Vấn đề là quan hệ giữa con người và tác nhân AI được thiết kế thế nào, ở tuổi nào, trong nhiệm vụ nào, với giới hạn nào. Đây chính là nền của “đồng nghiệp bị quản trị”: AI có thể tham gia, nhưng quan hệ tham gia ấy phải được thiết kế, không được để trôi theo mặc định sản phẩm.

3. Job description: AI được thuê để làm việc gì?

Một tổ chức nghiêm túc không bắt đầu AI governance bằng danh sách công cụ. Nó bắt đầu bằng job description. AI này được dùng như người nháp nội dung, người kiểm lỗi, người gợi ý câu hỏi, người phân tích dữ liệu, người luyện tập cùng học sinh, người hỗ trợ hành chính, người tổng hợp tài liệu, hay người cảnh báo rủi ro? Với mỗi vai trò, phải có mục tiêu, phạm vi, đầu vào, đầu ra, quyền truy cập, người chịu trách nhiệm, tiêu chuẩn chất lượng, điều kiện dừng và quy trình khiếu nại.

Ví dụ, AI “người nháp” cho giáo viên có thể được phép tạo bản nháp giáo án, câu hỏi luyện tập, ví dụ địa phương hóa, bản dịch thô và gợi ý phân hóa. Nó không được phép tự xuất bản nội dung cho học sinh mà không có giáo viên xem. Nó không được phép dùng dữ liệu cá nhân của học sinh nếu nhiệm vụ chỉ cần nội dung chung. Nó phải ghi nhãn đầu ra là bản nháp. Nó phải có checklist để giáo viên kiểm chứng độ đúng, bias, độ phù hợp chương trình và accessibility. Nếu nó tạo thông tin sai, trách nhiệm cuối cùng thuộc về người phê duyệt, nhưng tổ chức cũng phải hỏi vì sao workflow cho phép sai đi qua.

AI “người phản hồi” cho học sinh có job description khác. Nó có thể chỉ ra lỗi lập luận, hỏi câu gợi mở, yêu cầu giải thích lại, đề xuất bài luyện tương tự và khuyến khích revision. Nó không nên làm hộ bài, không nên đưa đáp án cuối quá sớm, không nên đánh giá phẩm chất cá nhân, không nên tư vấn tâm lý ngoài năng lực, không nên nói như người có quyền chấm chính thức nếu không có giáo viên. Với trẻ nhỏ, nó càng phải có giới hạn ngôn ngữ, thời lượng, nội dung, dữ liệu, chuyển quyền cho người lớn và khả năng báo hiệu khi tình huống vượt phạm vi.

AI “người phân tích” cho lãnh đạo trường lại có rủi ro khác. Nó có thể tổng hợp attendance, tiến độ, dấu hiệu rủi ro, bottleneck vận hành và xu hướng lớp học. Nhưng nó không nên tự quyết định xếp lớp, kỷ luật, học bổng, chuyển chương trình hoặc nhãn “nguy cơ” mà không có human review. Nếu nó dùng dữ liệu lịch sử, cần hỏi dữ liệu ấy có phản ánh thiên kiến cũ không. Nếu nó tạo điểm rủi ro, cần hỏi điểm đó được giải thích ra sao, ai xem được, học sinh có quyền phản biện không, và hệ thống có cung cấp hỗ trợ thật hay chỉ tạo nhãn.

Job description là cách biến câu “AI hỗ trợ giáo dục” thành cấu trúc có thể quản lý. Không có job description, AI sẽ làm thứ nó làm tốt nhất theo logic sản phẩm: trả lời mọi câu hỏi, tạo mọi thứ, dự đoán mọi thứ, tối ưu mọi chỉ số và mở rộng vai trò. Nhưng giáo dục không cần một tác nhân luôn muốn giúp. Nó cần các vai trò có ranh giới. Một đồng nghiệp tốt không phải người xen vào mọi việc; một AI tốt cũng vậy.

4. Giới hạn vai trò: AI không được làm gì?

Trong quản trị AI, danh sách “được làm” thường dễ viết hơn danh sách “không được làm”. Tổ chức thích nói AI sẽ tiết kiệm thời gian, cá nhân hóa, tăng tương tác, cải thiện feedback, tối ưu vận hành. Nhưng một job description trưởng thành phải có vùng cấm. Không phải vì sợ công nghệ, mà vì quyền lực giáo dục có những chỗ không nên giao cho hệ thống xác suất.

AI không nên là người quyết định cuối trong high-stakes assessment. Nó có thể hỗ trợ chấm nháp, phát hiện điểm cần xem lại, gợi ý rubric, so sánh nhất quán, đưa feedback formative. Nhưng điểm cuối ảnh hưởng đến tốt nghiệp, tuyển sinh, học bổng, kỷ luật hoặc cơ hội lớn phải có quy trình con người có thẩm quyền, giải thích được và có quyền khiếu nại. AI không nên là người duy nhất xác định học sinh “rủi ro”, “thiếu động lực”, “không phù hợp”, “có vấn đề hành vi” hoặc “cần phân luồng thấp”. Các nhãn này bám rất lâu vào đời học sinh.

AI không nên là người thay thế quan hệ chăm sóc. Nó có thể giúp học sinh luyện tập mà ít xấu hổ, trả lời câu hỏi cơ bản, nhắc kế hoạch, gợi ý cách chia nhỏ nhiệm vụ. Nhưng khi câu chuyện chuyển sang lo âu, tự hại, bạo lực, lạm dụng, khủng hoảng gia đình, cô lập, bị bắt nạt, hay quyết định đời sống, AI phải có ranh giới và đường chuyển đến người có trách nhiệm. Một chatbot càng nghe giống bạn, càng phải biết không giả vờ là bạn. Trong giáo dục, “luôn sẵn sàng” không đủ để trở thành đáng tin.

AI không nên là công cụ giám sát cảm xúc hoặc chú ý theo mặc định. Nhiều sản phẩm muốn dùng camera, hành vi click, tốc độ gõ, biểu cảm, giọng nói hoặc eye tracking để đo engagement, attention, cheating, cảm xúc hoặc rủi ro. Nhưng những tín hiệu này dễ sai, dễ thiên lệch, dễ xâm phạm và dễ biến lớp học thành không gian bị quan sát liên tục. EU AI Act xếp nhiều hệ thống AI trong giáo dục và đào tạo nghề vào nhóm high-risk khi chúng ảnh hưởng đến truy cập, kết quả học tập, hướng đi học thuật/nghề nghiệp hoặc giám sát hành vi trong kiểm tra; luật cũng yêu cầu human oversight đối với high-risk AI và AI literacy cho người vận hành.[^eu-ai-act] Dù không áp dụng trực tiếp cho mọi quốc gia, logic risk-based này rất đáng học: càng gần quyền, cơ hội và phẩm giá, AI càng phải bị giới hạn.

AI cũng không nên là nơi trút trách nhiệm đạo đức. Khi một trường nói “AI đề xuất vậy”, câu hỏi phải là ai chọn AI, ai cấu hình, ai cung cấp dữ liệu, ai quyết định dùng đầu ra, ai giải thích với người bị ảnh hưởng, ai chịu trách nhiệm sửa sai. Accountability không thể nằm trong model. Nó nằm trong tổ chức đã trao quyền cho model.

5. Dữ liệu: đồng nghiệp này được xem hồ sơ nào?

Một đồng nghiệp trong trường không được đọc mọi hồ sơ chỉ vì làm việc ở trường. Giáo viên bộ môn biết dữ liệu khác cố vấn học tập. Nhân viên tài chính biết dữ liệu khác chuyên viên tâm lý. Người chấm thi biết dữ liệu khác người phụ trách kỷ luật. Quyền truy cập dữ liệu gắn với vai trò. AI cũng phải như vậy. Nhưng nhiều hệ thống AI đang bị triển khai theo kiểu ngược lại: đưa càng nhiều dữ liệu càng tốt vào một công cụ chung, rồi hy vọng chính sách sử dụng sẽ kiểm soát hậu quả.

Cách đúng hơn là phân quyền dữ liệu theo job. Nếu AI tạo nội dung chung, nó không cần hồ sơ học sinh. Nếu AI gợi ý phân hóa bài tập, có thể chỉ cần mức năng lực hoặc lỗi phổ biến, không cần tên, địa chỉ, hoàn cảnh gia đình hoặc lịch sử kỷ luật. Nếu AI hỗ trợ counselor, mức bảo mật phải cao hơn, quy trình ghi nhận phải rõ hơn, và đầu ra không được tự động chảy sang dashboard quản trị. Nếu AI tổng hợp dữ liệu lớp, cần cân nhắc aggregation và pseudonymization. Nếu AI dùng dữ liệu trẻ em, tiêu chuẩn phải cao hơn vì học sinh không có quyền mặc cả thật sự với trường.

UNICEF trong hướng dẫn về AI cho trẻ em đưa ra các yêu cầu như hỗ trợ phát triển và wellbeing, bảo đảm inclusion, ưu tiên fairness/non-discrimination, bảo vệ dữ liệu và quyền riêng tư, bảo đảm safety, transparency, explainability và accountability cho trẻ em.[^unicef-ai-children] Đây là lời nhắc quan trọng: dữ liệu học sinh không phải nguyên liệu thô của đổi mới. Nó là dấu vết của một đời sống đang phát triển. Một lỗi dữ liệu trong thương mại có thể làm quảng cáo sai. Một lỗi dữ liệu trong giáo dục có thể làm kỳ vọng của người lớn về trẻ bị lệch.

NIST AI RMF cũng đặt quản trị rủi ro AI trong vòng đời gồm govern, map, measure và manage; khung này không chỉ dành cho nhà phát triển, mà cho cả tổ chức thiết kế, triển khai hoặc sử dụng AI.[^nist-rmf] Với trường học, “map” nghĩa là biết AI đang dùng ở đâu, trong nhiệm vụ nào, với dữ liệu nào. “Measure” nghĩa là đo lỗi, bias, workload, privacy risk, overreliance và tác động học tập. “Manage” nghĩa là giảm rủi ro, có fallback, có người chịu trách nhiệm và có khả năng dừng. “Govern” nghĩa là những việc ấy không phụ thuộc vào một cá nhân nhiệt tình, mà trở thành quy trình của tổ chức.

Mâu thuẫn nằm ở chỗ AI càng cá nhân hóa thì càng thèm dữ liệu, nhưng giáo dục càng đạo đức thì càng phải tiết chế dữ liệu. Người bán nói: không có dữ liệu sâu thì không cá nhân hóa được. Người bảo vệ quyền riêng tư nói: cá nhân hóa không thể là giấy phép thu mọi thứ. Lập trường hợp lý là phân tầng: nhiều chức năng không cần dữ liệu cá nhân; một số chức năng cần dữ liệu giới hạn; rất ít chức năng cần dữ liệu nhạy cảm; và bất kỳ chức năng nào dùng dữ liệu nhạy cảm phải chứng minh giá trị giáo dục rõ, có bảo vệ mạnh, có thời hạn lưu, có quyền truy cập hẹp, có audit và có quyền rút lui nơi có thể.

6. Quyền: AI được khuyến nghị, quyết định hay chỉ nhắc?

Một AI có thể tham gia cùng một nội dung ở nhiều mức quyền khác nhau. Mức nhẹ nhất là tạo bản nháp: AI đề xuất, con người dùng hoặc bỏ. Mức tiếp theo là gợi ý: AI xếp hạng lựa chọn, con người quyết. Mức cao hơn là mặc định: AI chọn phương án và con người phải đổi nếu không đồng ý. Mức rất cao là tự động hóa: AI quyết và hệ thống thực thi. Trong giáo dục, sự khác biệt giữa bốn mức này không phải kỹ thuật nhỏ; nó là khác biệt quyền lực.

Ví dụ, AI gợi ý ba học sinh cần giáo viên hỏi thăm là một chuyện. AI tự gửi email cho phụ huynh rằng con họ có nguy cơ trượt là chuyện khác. AI tạo feedback nháp cho bài viết là một chuyện. AI tự nhập điểm vào sổ là chuyện khác. AI đề xuất nhóm học tập là một chuyện. AI tự phân học sinh vào track thấp là chuyện khác. AI nhắc giáo viên “dữ liệu tuần này có điểm bất thường” là một chuyện. AI yêu cầu giáo viên làm can thiệp theo kịch bản là chuyện khác.

Quản trị AI phải ghi rõ mức quyền này. Nếu không, quyền lực sẽ trượt dần theo hướng tự động hóa vì tự động hóa tiết kiệm thời gian hơn. Ban đầu AI chỉ viết nháp nhận xét, sau đó hệ thống cho gửi hàng loạt, rồi giáo viên chỉ duyệt nhanh, rồi mặc định duyệt, rồi phụ huynh nhận thông điệp gần như từ máy. Ban đầu AI chỉ phân tích lỗi, sau đó gợi ý bài, rồi tự giao bài, rồi tiến độ học của trẻ bị điều khiển bởi hệ thống mà giáo viên chỉ nhìn dashboard. Trượt quyền lực không cần âm mưu; nó xảy ra qua tiện lợi.

OECD AI Principles, được cập nhật năm 2024, nhấn mạnh AI đáng tin cậy phải tôn trọng quyền con người, công bằng, quyền riêng tư, transparency/explainability, robustness/security/safety và accountability; trong đó cần cơ chế human agency and oversight, khả năng challenge output và quản trị rủi ro trong vòng đời.[^oecd-ai] Với giáo dục, điều này có nghĩa người bị ảnh hưởng bởi AI không nên chỉ là đối tượng của quyết định. Học sinh, phụ huynh và giáo viên cần biết khi nào AI tham gia, có cách hiểu đầu ra ở mức phù hợp, có quyền hỏi lại, và có con người chịu trách nhiệm.

Một tổ chức trưởng thành không cãi nhau chung chung “AI có được quyết định không?” Nó phân loại quyết định. Quyết định thấp rủi ro, dễ đảo ngược, không cá nhân nhạy cảm có thể tự động hóa nhiều hơn. Quyết định trung bình rủi ro cần review. Quyết định cao rủi ro cần con người quyết, có giải thích, có hồ sơ, có quyền khiếu nại. Quyết định về quan hệ, phẩm giá, kỷ luật, phân luồng và cơ hội cần thận trọng đặc biệt. AI có thể nói “có tín hiệu cần xem”. Nó không nên là tiếng nói cuối về một đứa trẻ.

7. Bất định: AI tốt phải biết nói “tôi không đủ chắc”

Một trong những vấn đề lớn của AI tạo sinh là nó có thể sai bằng giọng rất trôi chảy. Trong giáo dục, lỗi này nguy hiểm không chỉ vì thông tin sai, mà vì nó dạy người học một thói quen sai: tin vào sự tự tin bề mặt. Một AI tutor giải toán sai nhưng trình bày mạch lạc có thể làm học sinh học sai. Một AI phản hồi bài viết không hiểu mục tiêu bài học có thể đẩy học sinh sửa theo hướng nông. Một AI tóm tắt hồ sơ học sinh có thể bỏ qua chi tiết quan trọng. Một AI phân tích dữ liệu có thể tạo mối liên hệ giả giữa hành vi và năng lực.

NIST Generative AI Profile nêu các rủi ro đặc thù hoặc bị khuếch đại bởi GenAI, trong đó có confabulation/hallucination, privacy, harmful content, data provenance và các vấn đề liên quan đến testing, incident disclosure, content provenance và governance.[^nist-genai] Nếu dịch vào trường học, điều này nói rằng AI không chỉ cần “đúng trung bình”. Nó cần biết vùng nó hay sai, cần được test trong bối cảnh dùng thật, cần ghi lại incident, cần có cơ chế sửa, và cần có giao diện thể hiện bất định một cách con người hiểu được.

AI tốt trong giáo dục phải biết dừng. Khi câu hỏi vượt ngoài dữ liệu, nó phải nói không đủ cơ sở. Khi học sinh hỏi cách làm bài high-stakes bị cấm, nó phải chuyển sang hướng dẫn học. Khi vấn đề chạm sức khỏe tâm thần hoặc an toàn, nó phải gọi người lớn. Khi tài liệu nguồn mâu thuẫn, nó phải nêu mâu thuẫn. Khi feedback có thể ảnh hưởng điểm hoặc quyền lợi, nó phải nhắc cần giáo viên xác nhận. Khi bài làm có dấu hiệu đặc thù văn hóa/ngôn ngữ mà model không hiểu, nó phải giảm tự tin. Một AI luôn có câu trả lời là một AI hấp dẫn về trải nghiệm nhưng nguy hiểm về giáo dục.

Vấn đề là thị trường thường thưởng cho AI tự tin. Người dùng thích câu trả lời ngay. Demo thích output đẹp. Sales thích cảm giác kỳ diệu. “Tôi không biết” làm sản phẩm trông kém thông minh. Nhưng trong giáo dục, biết giới hạn là một dạng thông minh. Một giáo viên tốt không bịa khi không chắc. Một cố vấn tốt không tư vấn ngoài năng lực. Một người chấm tốt không chấm nếu rubric không rõ. Nếu AI được xem như đồng nghiệp bị quản trị, khả năng abstain, defer và escalate phải là tiêu chí mua, không phải lỗi cần che.

8. Fallback: khi AI sai, ai và cái gì đỡ hệ thống?

Một hệ thống giáo dục không được phép vận hành như thể AI luôn hoạt động. Server có thể lỗi, model có thể đổi, API có thể tăng giá, nhà cung cấp có thể thay điều khoản, dữ liệu đầu vào có thể hỏng, prompt có thể bị thao túng, người dùng có thể hiểu sai, output có thể vi phạm chính sách. Nếu một workflow giáo dục chỉ chạy được khi AI chạy tốt, đó không phải chuyển đổi thông minh; đó là phụ thuộc không có phanh.

Fallback đầu tiên là fallback sư phạm. Nếu AI tutor không dùng được, học sinh còn tài liệu, bạn học, giáo viên, bài luyện offline, hướng dẫn tự học hay không? Nếu AI feedback sai, người học có cách hỏi lại con người không? Nếu AI tạo bài bị lỗi, giáo viên có thư viện bài chuẩn hoặc quy trình soạn thường không? Nếu hệ thống gợi ý can thiệp mất, trường có quy trình cố vấn dựa trên dữ liệu cơ bản không? Công nghệ tốt không xóa năng lực nền của tổ chức; nó làm năng lực ấy mạnh hơn.

Fallback thứ hai là fallback vận hành. Nếu AI chấm hàng loạt gặp sự cố, điểm có bị treo không? Nếu chatbot support trả lời sai chính sách học phí, ai sửa và thông báo? Nếu AI phân tích rủi ro bỏ sót một nhóm học sinh, dashboard có cách phát hiện drift không? Nếu vendor ngừng dịch vụ, dữ liệu xuất được không? Nếu AI bị phát hiện bias, có cơ chế tạm dừng không? Quản trị không chỉ là văn bản “dùng AI có trách nhiệm”. Nó là khả năng dừng mà không làm tổ chức sụp.

Fallback thứ ba là fallback quan hệ. Khi AI làm một tương tác trở nên lạnh, sai hoặc gây tổn thương, ai phục hồi quan hệ? Một phụ huynh nhận thông báo tự động rằng con mình “không đạt chuẩn” có thể mất niềm tin. Một học sinh bị AI gắn cờ đạo văn sai có thể thấy bị xúc phạm. Một giáo viên bị dashboard AI đánh giá lớp mình “low engagement” có thể thấy bị giám sát. Fallback trong giáo dục không chỉ là sửa dữ liệu; nó là sửa lòng tin.

EU AI Act yêu cầu high-risk AI được thiết kế để natural persons có thể giám sát hiệu quả, hiểu khả năng và giới hạn, phát hiện bất thường, tránh overreliance, diễn giải output, quyết định không dùng hoặc dừng hệ thống khi cần.[^eu-ai-act] Đây là một chuẩn rất đáng mượn cho mọi trường, dù không nằm trong EU. Human oversight không phải người ngồi cạnh AI cho có. Người giám sát phải có năng lực, quyền, thời gian, thông tin và nút dừng thật. Nếu giáo viên chịu trách nhiệm nhưng không có quyền cấu hình, không có log, không biết model đổi, không có thời gian review, thì “human in the loop” chỉ là mỹ từ để chuyển rủi ro sang giáo viên.

9. Audit: không thể quản trị thứ không được ghi lại

AI trong giáo dục cần audit, nhưng audit không có nghĩa lưu mọi thứ mãi mãi. Audit nghĩa là có đủ dấu vết để hiểu AI đã được dùng ở đâu, cho việc gì, với dữ liệu nào, bởi ai, tạo output nào, output ấy ảnh hưởng quyết định nào, có sự cố gì, và đã sửa ra sao. Không có audit, tổ chức chỉ còn cảm giác: giáo viên thấy có ích, học sinh thích, phụ huynh ít phàn nàn, vendor báo usage tăng. Cảm giác đó không đủ để quản lý quyền lực.

Audit phải tương xứng rủi ro. AI tạo ý tưởng hoạt động lớp học không cần hồ sơ nặng. AI gợi ý can thiệp cá nhân cần log rõ hơn. AI hỗ trợ chấm điểm cần versioning của rubric, output, human override và lý do sửa. AI tư vấn học tập cần ghi nhận phạm vi lời khuyên và escalation. AI trong vận hành tài chính hoặc tuyển sinh cần audit nghiêm. Một lỗi phổ biến là hoặc không audit gì, hoặc audit quá nhiều đến mức tạo rủi ro privacy mới. Audit tốt là audit vừa đủ để accountability, không biến thành surveillance.

Audit cũng phải đọc được bởi người không phải kỹ sư. Nếu chỉ đội kỹ thuật hiểu log, giáo viên và lãnh đạo giáo dục không thể tham gia. Nếu chỉ legal hiểu chính sách, người dùng không thay đổi hành vi. Nếu chỉ vendor có dữ liệu, trường không có quyền kiểm chứng. Audit trong giáo dục cần nhiều lớp: bản kỹ thuật cho incident, bản quản trị cho lãnh đạo, bản sư phạm cho giáo viên, bản minh bạch dễ hiểu cho phụ huynh và học sinh khi quyết định ảnh hưởng đến họ.

European Commission trong hướng dẫn đạo đức về AI và dữ liệu trong dạy học nhấn mạnh các yêu cầu như human agency and oversight, transparency, diversity/non-discrimination/fairness, privacy/data governance, technical robustness/safety và accountability; tài liệu này được viết để giáo viên và lãnh đạo trường có thể dùng dù ít kinh nghiệm AI.[^ec-guidelines] Điểm đáng chú ý là governance không thể chỉ nằm ở tầng chuyên gia. Nếu AI đi vào lớp học, giáo viên cần đủ hiểu để hỏi đúng câu, học sinh cần đủ hiểu để không bị mê hoặc, phụ huynh cần đủ hiểu để consent không rỗng, và lãnh đạo cần đủ hiểu để không mua bằng niềm tin.

Audit cuối cùng phải dẫn đến thay đổi. Nếu audit chỉ tạo báo cáo, nó thành nghi thức. Audit tốt có quyền sửa prompt, đổi model, thu hẹp dữ liệu, thay workflow, thêm training, tắt tính năng, báo sự cố, bồi hoàn, xin lỗi, hoặc chấm dứt hợp đồng. Một đồng nghiệp con người được đánh giá không phải để lưu hồ sơ cho đẹp; đánh giá để cải thiện hoặc xử lý. AI cũng vậy. Nếu không có đường từ audit đến hành động, audit là trang trí đạo đức.

10. AI literacy: không thể giao AI cho người không được đào tạo

Một nghịch lý của AI trong trường học là công cụ càng dễ dùng, người ta càng nghĩ không cần đào tạo. Gõ câu hỏi, nhận câu trả lời, copy vào bài giảng, gửi cho học sinh. Chính sự dễ dùng này làm AI nguy hiểm. Người dùng không thấy model, dữ liệu huấn luyện, giới hạn, bias, hallucination, điều khoản sử dụng, vòng lưu dữ liệu, hay cách output có thể định hình suy nghĩ. Công cụ càng trơn, literacy càng cần.

AI literacy không phải biến giáo viên thành kỹ sư machine learning. Nó là năng lực hiểu AI làm gì ở mức đủ để dùng có trách nhiệm: biết AI dựa trên xác suất và mẫu hình, biết output có thể sai, biết dữ liệu nhập vào có thể bị lưu hoặc dùng ngoài ý định, biết không đưa dữ liệu nhạy cảm vào công cụ không được phê duyệt, biết phân biệt hỗ trợ formative với quyết định high-stakes, biết yêu cầu nguồn, biết kiểm chứng, biết nhận diện bias, biết thiết kế nhiệm vụ học trong thế giới có AI, biết nói với học sinh khi nào được dùng và dùng thế nào.

UNESCO AI Competency Framework for Teachers đưa ra 15 năng lực qua năm chiều: human-centred mindset, ethics of AI, AI foundations and applications, AI pedagogy và AI for professional learning; khung này nhấn mạnh bảo vệ quyền của giáo viên, tăng human agency và sustainability.[^unesco-teachers] Điều này rất quan trọng: teacher AI literacy không nên chỉ là “cách prompt hiệu quả”. Nếu đào tạo AI cho giáo viên chỉ dạy mẹo tạo bài nhanh, nó đang đẩy giáo viên vào vai trò người vận hành công cụ. Đào tạo đúng phải giúp giáo viên giữ quyền phán đoán, hiểu rủi ro, thiết kế hoạt động học, và nói không với AI khi cần.

Học sinh cũng cần AI literacy, nhưng không theo kiểu khuyến khích dùng mọi lúc. Học sinh cần hiểu AI có thể giúp brainstorming, giải thích lại, luyện tập, phản biện, dịch, sửa lỗi và mô phỏng đối thoại; đồng thời AI có thể làm yếu tư duy nếu dùng để né khó, có thể bịa, có thể làm mất giọng riêng, có thể khiến học sinh không biết mình hiểu gì, có thể vi phạm học thuật. Một trường trưởng thành không chỉ ban hành chính sách “cấm ChatGPT” hoặc “cho dùng AI”. Nó dạy cách dùng AI theo mục tiêu học, theo mức hỗ trợ, theo minh bạch, theo khả năng tự giải thích.

Lãnh đạo cũng cần AI literacy. Người mua công nghệ không cần biết viết model, nhưng phải biết hỏi vendor về dữ liệu, audit, evaluation, human oversight, model updates, security, export, fallback, accessibility, bias testing, incident reporting, age-appropriateness và exit. Nếu lãnh đạo không có literacy, procurement sẽ bị demo đẹp dẫn dắt. Nếu giáo viên không có literacy, implementation sẽ thành thử sai cá nhân. Nếu học sinh không có literacy, AI sẽ thành đường tắt. Nếu phụ huynh không có literacy, consent sẽ là tick box.

11. Vai trò của giáo viên: từ người dùng sang người quản trị sư phạm

Nhiều tranh luận AI trong giáo dục bị mắc ở câu hỏi “AI có thay giáo viên không?” Câu trả lời đơn giản là không nên, nhưng câu trả lời đó chưa đủ. Câu hỏi sâu hơn là AI làm thay đổi quyền nghề nghiệp của giáo viên thế nào. Nếu AI viết bài giảng, gợi ý phản hồi, phân tích dữ liệu và đề xuất can thiệp, giáo viên có thể được giải phóng khỏi việc lặp lại, hoặc bị đẩy thành người duyệt sản phẩm của máy. Nếu tổ chức không thiết kế quyền nghề nghiệp, AI có thể giảm tải ở một mặt và deskill ở mặt khác.

Giáo viên trong hệ thống có AI cần trở thành người quản trị sư phạm của AI, không chỉ người dùng. Họ cần quyền sửa output, bỏ qua gợi ý, phản biện dashboard, điều chỉnh prompt, chọn lúc dùng, chọn lúc không dùng, báo lỗi, tham gia đánh giá sản phẩm, và có tiếng nói trong procurement. Nếu AI được dùng trong lớp nhưng giáo viên không hiểu logic, không có quyền override, và vẫn chịu trách nhiệm khi sai, đó là bất công nghề nghiệp.

U.S. Department of Education khuyến nghị “human in the loop”, nhấn mạnh con người ở trung tâm, educator involvement, AI inspectable/explainable/overridable, và cảnh báo việc làm công việc dạy học dễ hơn không được biến thành surveillance.[^usdoe-ai] Điểm này chạm đúng căng thẳng nghề nghiệp: AI có thể giúp giáo viên nhìn lớp rõ hơn, nhưng cũng có thể làm lãnh đạo nhìn giáo viên kỹ hơn theo cách nghèo nàn. Dashboard AI có thể hỗ trợ can thiệp, nhưng cũng có thể trở thành công cụ đánh giá giáo viên bằng dữ liệu không đủ nghĩa.

Một trường dùng AI tử tế phải nói rõ: AI hỗ trợ giáo viên chứ không đánh tráo quan hệ trách nhiệm. Nếu AI tạo nhận xét, giáo viên vẫn quyết định giọng, nội dung và ngữ cảnh. Nếu AI phân tích bài làm, giáo viên vẫn hiểu học sinh ngoài dữ liệu. Nếu AI gợi ý bài luyện, giáo viên vẫn biết khi nào bài đó làm người học mất động lực. Nếu AI giảm việc hành chính, thời gian tiết kiệm phải quay lại dạy học, chuẩn bị, phản hồi, nghỉ ngơi hoặc phát triển nghề nghiệp, không chỉ tăng thêm chỉ tiêu.

Nhưng cũng phải công bằng với phe ngược lại: giáo viên không thể dùng “quyền nghề nghiệp” để từ chối mọi minh bạch. Nếu AI hỗ trợ một quyết định ảnh hưởng học sinh, giáo viên phải sẵn sàng giải thích. Nếu giáo viên dùng công cụ cá nhân để xử lý dữ liệu học sinh, trường có quyền quản. Nếu giáo viên dùng AI tạo feedback, học sinh có quyền biết mức AI tham gia ở nơi cần. Professional dignity không phải quyền không bị hỏi. Nó là quyền được tin như chuyên gia và nghĩa vụ hành xử như chuyên gia.

12. Người học: AI giúp tự chủ hay tạo phụ thuộc?

Với người học, AI có thể là một trong những công cụ hỗ trợ mạnh nhất từng xuất hiện. Một học sinh nhút nhát có thể hỏi lại mà không sợ bị cười. Một người học ngoại ngữ có thể luyện hội thoại vô hạn. Một sinh viên có thể yêu cầu giải thích theo nhiều cách. Một người khuyết tật có thể dùng speech-to-text, text-to-speech, caption, tóm tắt, mô tả hình ảnh. Một người học ở nơi thiếu giáo viên có thể có thêm kênh phản hồi. Một người học đi làm có thể học theo thời gian rời rạc.

Nhưng chính sự sẵn sàng của AI có thể làm năng lực tự chủ yếu đi. Nếu AI luôn chia nhỏ nhiệm vụ, người học có thể không học cách tự chia. Nếu AI luôn sửa câu, người học có thể không nghe được giọng mình. Nếu AI luôn gợi ý đáp án, người học có thể ít chịu đựng vùng khó. Nếu AI luôn xác nhận, người học có thể ít học cách nghi ngờ. Nếu AI luôn làm bạn, người học có thể ít tìm người thật. Tự chủ không phải có công cụ trả lời mọi lúc; tự chủ là biết khi nào cần hỗ trợ, hỗ trợ nào phù hợp, khi nào phải tự vật lộn, và làm sao kiểm tra mình thật sự hiểu.

Vì vậy, AI cho người học cần thiết kế theo mức hỗ trợ. Mức một là gợi ý nhẹ: hỏi lại, nhắc khái niệm, chỉ ra lỗi. Mức hai là scaffold: chia bài, cung cấp ví dụ tương tự, đưa hint. Mức ba là mô phỏng: tranh luận, hỏi vấn đáp, role-play. Mức bốn là giải thích trực tiếp. Mức năm là làm thay. Giáo dục nên khuyến khích ba mức đầu nhiều hơn, dùng mức bốn có điều kiện, và chặn mức năm trong nhiệm vụ học cần đánh giá năng lực. Không phải mọi “giúp” đều giúp học.

UNESCO GenAI guidance đề xuất cách tiếp cận age-appropriate và human-agent trong giáo dục; UNICEF cũng nhấn mạnh child-centred AI phải bảo vệ phát triển, an toàn, quyền riêng tư, minh bạch và accountability cho trẻ em.[^unesco-genai][^unicef-ai-children] Điều này buộc ta không xem người học là “user” chung chung. Trẻ tám tuổi, thiếu niên mười lăm tuổi, sinh viên đại học và người học trưởng thành cần ranh giới khác nhau. Một AI tutor cho trẻ nhỏ phải hạn chế quan hệ hóa và thu dữ liệu nhiều hơn AI hỗ trợ nghiên cứu cho sinh viên. Một công cụ feedback cho bài tập lớp sáu phải khác công cụ phản biện luận văn.

13. Phụ huynh: minh bạch nhưng không đẩy trách nhiệm về nhà

Phụ huynh có quyền biết AI đang được dùng với con mình, nhưng nếu trường biến minh bạch thành một đống policy dài, trách nhiệm lại bị đẩy về nhà. Nhiều phụ huynh không có thời gian, ngôn ngữ kỹ thuật hoặc quyền lực mặc cả để hiểu các điều khoản AI. Họ có thể bấm đồng ý vì sợ con bị thiệt. Họ có thể từ chối vì sợ mơ hồ. Họ có thể tin quá mức vì trường nói dùng công nghệ hiện đại. Vì vậy, minh bạch phải thực dụng: AI nào, dùng để làm gì, dữ liệu nào, ai xem, rủi ro gì, con tôi có bị ảnh hưởng điểm hoặc cơ hội không, ai chịu trách nhiệm, tôi hỏi ai, tôi có quyền gì.

Phụ huynh cũng cần phân biệt AI hỗ trợ học với AI quyết định về trẻ. Nếu AI chỉ giúp giáo viên tạo ví dụ, mức consent khác. Nếu AI phân tích bài làm cá nhân để gợi ý học tập, cần thông tin rõ hơn. Nếu AI chấm điểm, gắn cờ hành vi, tư vấn lộ trình hoặc phân tích cảm xúc, phụ huynh cần quyền biết, quyền hỏi và quyền khiếu nại mạnh hơn. Một trường nói “chúng tôi dùng AI” là quá mơ hồ; một trường nói “AI này chỉ tạo bản nháp, giáo viên phê duyệt, không dùng dữ liệu cá nhân” mới bắt đầu minh bạch.

Nhưng phụ huynh không nên bị biến thành đội kiểm toán cá nhân cho từng công cụ. Công bằng đòi hỏi nhà trường và hệ thống công phải làm phần nặng: chọn công cụ, đánh giá rủi ro, ký điều khoản dữ liệu, giám sát vendor, đào tạo giáo viên, báo sự cố, và tạo kênh phản hồi. Phụ huynh có quyền tham gia, nhưng quyền ấy không được trở thành nghĩa vụ tự bảo vệ con khỏi hệ thống mà họ không kiểm soát.

Ở đây mâu thuẫn rất rõ. Nếu trường không minh bạch, phụ huynh mất niềm tin. Nếu trường minh bạch bằng ngôn ngữ pháp lý dài và yêu cầu phụ huynh tự quyết từng thứ, phụ huynh bị quá tải. Cách tốt hơn là tầng hóa minh bạch: bản ngắn dễ hiểu cho mọi người, bản chi tiết cho ai muốn xem, buổi giải thích cộng đồng, kênh hỏi đáp, và chính sách rằng các AI high-risk không được triển khai chỉ bằng consent hình thức.

14. Lãnh đạo trường: governance không phải bảng nội quy treo tường

Lãnh đạo trường thường bị kẹt giữa hai áp lực. Một bên là áp lực đổi mới: phụ huynh hỏi trường có AI chưa, giáo viên tự dùng công cụ, học sinh đã dùng ở nhà, vendor hứa giảm tải, đối thủ truyền thông mạnh. Bên kia là áp lực rủi ro: dữ liệu trẻ em, gian lận, sai thông tin, bất bình đẳng, phụ thuộc vendor, phản ứng xã hội, quy định chưa ổn định. Nếu lãnh đạo chỉ cấm, AI đi ngầm. Nếu lãnh đạo chỉ khuyến khích, AI lan không kiểm soát.

AI governance ở cấp trường cần vừa rõ vừa nhẹ. Rõ ở các nguyên tắc: không đưa dữ liệu nhạy cảm vào công cụ chưa duyệt; không dùng AI làm quyết định cuối ở high-stakes; phải ghi nhãn khi AI tham gia đáng kể vào feedback hoặc nội dung; phải có người chịu trách nhiệm; phải có quy trình báo lỗi; phải có danh mục công cụ được phép. Nhẹ ở cách thực hiện: giáo viên có sandbox, có mẫu hướng dẫn, có checklist, có buổi chia sẻ, có hỗ trợ kỹ thuật, có ví dụ nhiệm vụ học dùng AI đúng, có không gian thử mà không sợ bị phạt vì đang học.

Governance cũng cần một AI register, tức bản đồ các hệ thống AI đang dùng. Không cần phức tạp như doanh nghiệp lớn, nhưng phải biết công cụ nào, owner nào, dữ liệu nào, nhóm người dùng nào, mục tiêu nào, mức rủi ro nào, ngày review nào, vendor nào, điều khoản nào, khả năng export nào. Không có register, trường sẽ không biết AI thật sự đang ở đâu. Và khi sự cố xảy ra, câu hỏi đầu tiên “ai đang dùng cái gì?” sẽ không trả lời được.

NIST AI RMF và OECD AI Principles đều nhấn mạnh quản trị rủi ro theo vòng đời, accountability và transparency; EU AI Act thì đưa AI literacy, human oversight, risk management, data governance, documentation, record-keeping, transparency và robustness/cybersecurity vào nhóm yêu cầu cho high-risk AI.[^nist-rmf][^oecd-ai][^eu-ai-act] Dù trường nhỏ không thể làm đầy đủ như tập đoàn hoặc cơ quan công, tinh thần vẫn áp dụng được: AI không phải mua xong là xong. Nó phải được kiểm tra trước khi dùng, theo dõi trong khi dùng, sửa khi sai, và loại bỏ khi không còn phù hợp.

15. Vendor: bán AI nghĩa là bán cả trách nhiệm triển khai

Vendor EdTech có thể nói “chúng tôi chỉ cung cấp công cụ, trường quyết định cách dùng”. Câu này đúng một phần, nhưng không đủ. Nếu sản phẩm thiết kế giao diện khiến người dùng quá tin AI, nếu mặc định thu nhiều dữ liệu, nếu không có export, nếu không có log, nếu không nói rõ model limitations, nếu không hỗ trợ age-appropriate settings, nếu không có cách tắt tính năng, nếu update model làm thay đổi behavior mà không thông báo, vendor không thể rửa tay bằng câu “người dùng tự chịu”.

Một vendor AI trong giáo dục phải cung cấp model card hoặc tài liệu tương đương ở mức người mua hiểu được: AI làm gì, không làm gì, dữ liệu nào dùng, dữ liệu khách hàng có dùng để huấn luyện không, lưu bao lâu, bảo mật thế nào, evaluation ra sao, nhóm nào có thể bị ảnh hưởng khác nhau, có human override không, có logs không, có incident response không, có thể cấu hình theo tuổi không, có thể dùng offline/local không, có API/export không, có cam kết khi dừng hợp đồng không. Vendor không cần tiết lộ bí mật thương mại vô hạn, nhưng phải đủ minh bạch cho trường chịu trách nhiệm với học sinh.

Vendor cũng phải chống cám dỗ làm AI quá người. AI nói chuyện càng giống con người, người học càng dễ gắn bó. AI tutor càng biết khen, nhớ, an ủi, càng giữ chân. Nhưng giáo dục không phải mạng xã hội. Retention không phải lúc nào cũng là learning. Một sản phẩm tử tế phải phân biệt engagement lành mạnh với phụ thuộc. Nó phải thiết kế để người học mạnh hơn sau khi rời AI, không yếu hơn khi thiếu AI. Đây là nơi kinh tế sản phẩm xung đột với đạo đức giáo dục: sản phẩm muốn người dùng quay lại nhiều; giáo dục muốn người học dần tự làm được.

Vendor tốt không chỉ bán tính năng. Họ bán điều kiện dùng an toàn: hướng dẫn triển khai, tài liệu cho giáo viên, ví dụ nhiệm vụ học, chính sách dữ liệu rõ, hỗ trợ evaluation, cách đo workload, cách báo lỗi, chế độ không dùng dữ liệu nhạy cảm, cấu hình theo rủi ro, và đường rời đi. Nếu vendor không giúp trường quản trị AI, vendor đang bán một phần trách nhiệm mà trường có thể không đủ năng lực gánh.

16. Nhà nước và hệ thống: không thể để từng trường tự xoay

AI governance không thể chỉ là trách nhiệm của từng giáo viên hoặc từng trường. Nếu mỗi trường tự diễn giải rủi ro, bất bình đẳng sẽ tăng. Trường giàu thuê tư vấn, có đội IT, có legal, có training, có quyền đàm phán vendor. Trường nghèo dùng bản miễn phí, điều khoản mơ hồ, giáo viên tự học qua mạng, phụ huynh ít quyền. Trong khi đó, học sinh ở mọi nơi đều có quyền được bảo vệ.

Nhà nước và hệ thống giáo dục cần tạo khung: chuẩn dữ liệu, phân loại rủi ro, hướng dẫn procurement, danh mục câu hỏi bắt buộc với vendor, tiêu chuẩn AI literacy, quy trình báo sự cố, cơ chế khiếu nại, nguyên tắc dùng AI trong đánh giá, chính sách dữ liệu trẻ em, yêu cầu accessibility, và hạ tầng công giúp trường không phải phụ thuộc hoàn toàn vào sản phẩm đóng. Khung này không nên bóp nghẹt thử nghiệm, nhưng phải tạo đường ray.

UNESCO Recommendation on the Ethics of AI đặt quyền con người, phẩm giá, transparency, fairness và human oversight ở trung tâm, đồng thời có các policy action areas như data governance, education and research, health/social wellbeing và environment.[^unesco-ethics] Đây là lời nhắc rằng AI trong giáo dục không chỉ là chuyện trường mua phần mềm. Nó là chuyện quyền trẻ em, năng lực công dân, thị trường lao động, văn hóa tri thức và lợi ích công. Nếu để thị trường tự định hình AI trong trường, những gì tối ưu cho growth và dữ liệu có thể thắng những gì tốt cho học tập và phẩm giá.

Nhưng nhà nước cũng có thể làm sai. Một hệ thống quá tập trung có thể chọn một nền tảng AI quốc gia cứng nhắc, ép mọi trường dùng chung, tạo giám sát quy mô lớn, hoặc biến AI governance thành thủ tục giấy. Cân bằng tốt là hạ tầng công và chuẩn chung ở nơi cần công bằng, cộng với quyền địa phương hóa ở nơi cần phù hợp. Nhà nước không nên viết prompt cho từng lớp học. Nhưng nhà nước nên bảo đảm mọi lớp học có quyền dữ liệu, chuẩn an toàn, khả năng rời nền tảng, và năng lực hiểu AI.

17. AI trong nội dung: người nháp không phải tác giả cuối

Trong nội dung giáo dục, AI có thể rất hữu ích. Nó tạo ví dụ nhanh, dịch bài đọc, điều chỉnh độ khó, gợi ý câu hỏi, tạo tình huống thực tế, tóm tắt tài liệu, biến một chủ đề thành nhiều dạng hoạt động. Với giáo viên đang quá tải, đây là giá trị thật. Một giáo viên có thể dùng AI để tạo mười ví dụ địa phương hóa rồi chọn hai ví dụ tốt. Một giáo viên ngoại ngữ có thể tạo đoạn hội thoại theo trình độ. Một giáo viên khoa học có thể yêu cầu AI đề xuất analogies, rồi tự kiểm chứng. Một nhóm giáo viên có thể dùng AI để biến OER thành bản phù hợp chương trình.

Nhưng AI trong nội dung có ba rủi ro. Thứ nhất là độ đúng. Nội dung trôi chảy có thể sai khái niệm, sai nguồn, sai ngữ cảnh, hoặc đơn giản hóa quá mức. Thứ hai là nghèo hóa sư phạm. AI thường tạo bài “ổn ổn”: mục tiêu, hoạt động, câu hỏi, kết luận. Nếu giáo viên dùng quá nhiều mà không thiết kế sâu, lớp học có thể đầy nội dung hợp lệ nhưng thiếu linh hồn học tập. Thứ ba là đồng dạng hóa. Nếu nhiều người dùng cùng model, cùng prompt, nội dung giáo dục có thể trở nên giống nhau: cùng cấu trúc, cùng ví dụ trung bình, cùng giọng văn mượt, ít gai góc.

Do đó AI trong nội dung nên được quản như người nháp. Người nháp có thể gợi ý, nhưng tác giả cuối là giáo viên hoặc nhóm chuyên môn. Quy trình tốt là: AI tạo nhiều phương án, giáo viên chọn và sửa, kiểm chứng nguồn, kiểm tra độ phù hợp chương trình, kiểm tra bias/ngôn ngữ, thử với lớp, ghi lại phiên bản tốt, chia sẻ với đồng nghiệp. Nếu AI tạo tài liệu cho học sinh, tài liệu ấy phải được người có chuyên môn phê duyệt. Nếu AI trích dẫn nguồn, nguồn phải được kiểm. Nếu AI tạo nội dung văn hóa/địa phương, người địa phương phải đọc.

Ở đây mâu thuẫn nằm ở thời gian. Nếu giáo viên phải kiểm mọi thứ quá kỹ, lợi ích tiết kiệm giảm. Nếu không kiểm, rủi ro tăng. Cách thực tế là phân loại: nội dung low-stakes có thể kiểm nhẹ; nội dung high-stakes, nhạy cảm, khoa học, lịch sử, sức khỏe, đạo đức, chính trị, hoặc dùng rộng phải kiểm sâu. AI không loại bỏ nhu cầu chuyên môn. Nó làm chuyên môn chuyển từ viết từ đầu sang biên tập, lựa chọn, kiểm chứng và đặt vào bối cảnh.

18. AI trong đánh giá: nhất quán hơn không đồng nghĩa công bằng hơn

AI trong đánh giá có sức hấp dẫn lớn vì đánh giá là nơi giáo dục tốn nhiều thời gian. Chấm bài, phản hồi, phân tích lỗi, tạo đề, chống gian lận, so sánh tiến bộ, chuẩn hóa rubric. AI có thể tăng số vòng feedback, giúp giáo viên thấy lỗi phổ biến, cho học sinh luyện tập nhiều hơn, và giảm thời gian chấm một số dạng bài. Đây là giá trị không nên phủ nhận. Một hệ thống feedback viết tốt có thể giúp học sinh revision trước khi nộp. Một công cụ phân tích câu trả lời có thể giúp giáo viên biết cả lớp đang hiểu sai chỗ nào.

Nhưng đánh giá là vùng nguy hiểm vì nó ảnh hưởng quyền lợi và tự hiểu bản thân của người học. AI chấm nhất quán không có nghĩa công bằng. Nó có thể nhất quán với một tiêu chuẩn hẹp. Nó có thể ưu ái giọng văn giống dữ liệu huấn luyện. Nó có thể phạt cách diễn đạt của người học đa ngôn ngữ. Nó có thể không hiểu ý tưởng sáng tạo nhưng chưa mượt. Nó có thể làm rubric trở nên cơ giới. Nó có thể tạo cảm giác khách quan khiến con người ít nghi ngờ hơn.

Vì vậy, AI trong đánh giá nên ưu tiên formative trước summative. Nó nên giúp người học sửa, thử, nhận phản hồi, tự giải thích, so sánh phiên bản, hiểu lỗi. Khi bước vào summative, vai trò AI phải thu hẹp và quy trình phải chặt: rubric rõ, human review, sampling, bias checks, appeal, transparency, record-keeping. Đặc biệt, AI-generated detection không nên được dùng như bằng chứng duy nhất để kết luận gian lận. Một học sinh bị buộc tội bởi thuật toán cần quyền được nghe, được giải thích và được xem xét bởi con người.

EU AI Act xem nhiều hệ thống AI dùng để đánh giá kết quả học tập hoặc ảnh hưởng lộ trình giáo dục/nghề nghiệp là high-risk trong Annex III; điều này phản ánh trực giác đạo đức rất mạnh: đánh giá không phải chức năng tiện ích bình thường.[^eu-ai-act] Nếu AI giúp chấm bài tập luyện, rủi ro có thể chấp nhận được. Nếu AI ảnh hưởng điểm cuối, học bổng, tuyển sinh hoặc phân luồng, tổ chức phải nâng chuẩn. Không thể dùng cùng một mức governance cho quiz tự luyện và quyết định tốt nghiệp.

19. AI trong hỗ trợ người học: tutor, coach hay bạn giả?

AI tutor là nơi tranh luận dễ nóng nhất vì nó chạm giấc mơ giáo dục lâu đời: mỗi người học có một gia sư riêng. Với chi phí thấp hơn, phản hồi tức thì hơn, kiên nhẫn hơn, cá nhân hóa hơn. Trong bối cảnh thiếu giáo viên, lớp đông, người học cần luyện nhiều, AI tutor có giá trị thật. Nó có thể giải thích lại, tạo bài tương tự, hỏi Socratic, luyện phát âm, mô phỏng phỏng vấn, hỗ trợ homework, và giúp người học đỡ bị kẹt khi không có ai bên cạnh.

Nhưng AI tutor cũng có thể tạo phụ thuộc và quan hệ giả. Nếu nó trả lời quá nhanh, người học ít tự nghĩ. Nếu nó quá chiều, người học ít chịu sai. Nếu nó quá thân mật, người học gắn cảm xúc vào một hệ thống không có trách nhiệm người. Nếu nó quá tối ưu theo engagement, người học dùng nhiều nhưng không học sâu. Nếu nó thu nhiều dữ liệu hội thoại, đời sống học tập trở thành kho dữ liệu rất nhạy cảm. Nếu nó thay thế hỗ trợ con người ở nơi người học cần quan hệ thật, nó làm nghèo giáo dục.

AI tutor tốt phải có vai trò hẹp: trợ học, không phải bạn thân; gợi mở, không phải làm hộ; phản hồi, không phải phán xét con người; chuyển ca, không phải tư vấn ngoài năng lực; minh bạch là AI, không giả làm giáo viên; nhớ vừa đủ để hỗ trợ, không tích lũy đời sống riêng tư quá mức. Với trẻ em, phải có giới hạn tuổi, thời lượng, nội dung, dữ liệu, phụ huynh/giáo viên biết, và escalation. Với người lớn, có thể tự chủ hơn, nhưng vẫn cần minh bạch về dữ liệu và giới hạn.

UNESCO GenAI guidance nói đến việc đặt age limit cho independent conversations với GenAI platforms và dùng human-agent, age-appropriate approach trong validation/pedagogical design.[^unesco-genai] Điều này trực tiếp phản biện giấc mơ AI tutor không giới hạn. Một đứa trẻ không nên bị bỏ một mình trong quan hệ hội thoại dài với một hệ thống tối ưu hóa phản hồi mà người lớn không hiểu. Tự học có hỗ trợ không đồng nghĩa cô đơn với máy.

20. AI trong vận hành: ít lãng mạn nhưng dễ trượt sang giám sát

Không phải mọi AI giáo dục đều nằm trong lớp học. Nhiều AI sẽ ở hậu trường: trả lời câu hỏi tuyển sinh, phân loại ticket, dự báo sĩ số, tối ưu lịch, phát hiện học sinh vắng nhiều, nhắc đóng phí, tổng hợp báo cáo, phân tích nhu cầu hỗ trợ, tạo hồ sơ học viên, gợi ý chiến dịch giữ chân. Đây là phần ít lãng mạn nhưng có thể đem lại giá trị thật. Một trường vận hành tốt hơn có thể bớt thất lạc thông tin, can thiệp sớm hơn, giảm việc hành chính, phục vụ phụ huynh rõ hơn.

Nhưng vận hành là nơi surveillance lẻn vào dễ nhất vì nó được biện minh bằng hiệu quả. Một hệ thống attendance có thể thành hệ thống điểm rủi ro. Một chatbot support có thể thu cảm xúc và nhu cầu của phụ huynh. Một dashboard quản trị có thể xếp hạng giáo viên. Một hệ thống cảnh báo bỏ học có thể biến người học thành portfolio nguy cơ. Một AI phân tích communication có thể theo dõi nhân viên. Khi dữ liệu vận hành được nối với dữ liệu học tập, hành vi, tài chính và gia đình, bức tranh về người học trở nên rất sâu.

Quản trị AI vận hành phải tách rõ dữ liệu nào dùng để cải thiện dịch vụ, dữ liệu nào dùng để đánh giá con người, dữ liệu nào không được nối, dữ liệu nào chỉ tổng hợp, dữ liệu nào cần xóa. Phải có nguyên tắc purpose limitation: dữ liệu thu để điểm danh không tự động được dùng để dự đoán phẩm chất. Dữ liệu support phụ huynh không tự động được dùng cho marketing. Dữ liệu học tập không tự động được dùng cho financial profiling. Nếu mục đích đổi, cần đánh giá lại.

Ở đây có một sự thật khó chịu: nhiều tổ chức thích AI vận hành vì nó giúp quản trị nhìn thấy nhiều hơn. Nhìn thấy nhiều hơn đôi khi là tốt: vấn đề hiện ra sớm. Nhưng nhìn thấy nhiều hơn cũng có thể là kiểm soát nhiều hơn. Chương này không phản đối dữ liệu vận hành. Nó phản đối việc gọi mọi quan sát là chăm sóc. Care và surveillance có thể dùng cùng dữ liệu; khác nhau ở mục đích, quyền, giới hạn, quan hệ và hậu quả.

21. Prompt, policy và workflow: quản trị không nằm trong một văn bản

Trong thực tế, nhiều hành vi AI được điều khiển bởi prompt, system instruction, workflow, quyền truy cập và giao diện nhiều hơn bởi policy chính thức. Một trường có thể viết chính sách “AI không được thay giáo viên”, nhưng nếu sản phẩm có nút “auto-send feedback to all students”, policy bị giao diện làm yếu. Một công ty có thể nói “AI chỉ hỗ trợ”, nhưng nếu dashboard mặc định xếp hạng học sinh bằng màu đỏ, giáo viên sẽ bị kéo theo. Một tổ chức có thể nói “bảo vệ dữ liệu”, nhưng nếu workflow yêu cầu copy hồ sơ học sinh vào chatbot chung, hành vi thật sẽ thắng văn bản.

Vì vậy, AI governance phải đi vào thiết kế công việc. Prompt chuẩn cho giáo viên phải nhắc không nhập dữ liệu nhạy cảm, yêu cầu AI hỏi thêm khi thiếu bối cảnh, buộc AI nêu bất định và nguồn, yêu cầu gợi ý không làm hộ. Workflow feedback phải có bước giáo viên duyệt. Dashboard rủi ro phải hiển thị giới hạn dữ liệu và khuyến nghị hành động hỗ trợ, không chỉ nhãn. Công cụ chấm phải cho học sinh quyền xem tiêu chí và hỏi lại. Hệ thống support phải có escalation rõ khi câu hỏi vượt phạm vi.

Policy là cần, nhưng policy không đủ. Training là cần, nhưng training không đủ. Công cụ phải làm việc đúng trở nên dễ hơn việc sai. Nếu muốn giáo viên không đưa dữ liệu nhạy cảm vào AI, hãy cung cấp công cụ được duyệt với bảo vệ dữ liệu, template prompt, cảnh báo và ví dụ. Nếu muốn học sinh dùng AI để học chứ không làm hộ, hãy thiết kế nhiệm vụ yêu cầu reflection, process log, defense, oral check, revision history. Nếu muốn human oversight thật, hãy cấp thời gian review và quyền override. Quản trị AI không nằm trên giấy; nó nằm trong ma sát hằng ngày.

Mâu thuẫn là càng đưa governance vào workflow, càng có nguy cơ làm giáo viên thấy bị kiểm soát. Vì vậy, thiết kế phải có sự tham gia của giáo viên. Những người làm việc thật biết ma sát nào hợp lý, ma sát nào vô nghĩa. Governance tốt không phải khóa mọi thứ. Nó đặt lan can ở nơi rơi đau, và để người dùng di chuyển linh hoạt trong phần còn lại.

22. Overreliance: con người trong vòng lặp có thể ngủ gật

Nhiều tổ chức yên tâm khi nói “có human in the loop”. Nhưng con người trong vòng lặp không tự động tạo an toàn. Nếu AI thường đúng, người duyệt dễ tin. Nếu output dài và mượt, người duyệt dễ lướt. Nếu workload cao, người duyệt bấm duyệt để kịp việc. Nếu giao diện làm lựa chọn AI thành mặc định, override trở thành việc thêm. Nếu người duyệt không có chuyên môn, họ không phát hiện lỗi. Nếu tổ chức phạt chậm trễ nhưng không phạt duyệt sai, con người sẽ thành cao su đóng dấu.

Overreliance là một rủi ro trung tâm. Một giáo viên mệt có thể dùng nhận xét AI mà không chỉnh. Một lãnh đạo có thể tin dashboard vì nó có màu và số. Một học sinh có thể tin giải thích vì nó giống sách. Một phụ huynh có thể tin chatbot vì nó trả lời như đại diện trường. Một người chấm có thể để AI score neo kỳ vọng. Khi AI đi vào workflow, nó không chỉ đưa thông tin; nó định hình chú ý của con người.

EU AI Act khi nói về human oversight nhấn mạnh người giám sát phải có khả năng hiểu năng lực/giới hạn, nhận biết xu hướng overreliance, diễn giải output, quyết định không dùng hoặc dừng.[^eu-ai-act] Đây là điểm rất thực tế. Oversight không phải “có người ở đó”. Oversight là một năng lực, một quyền và một thiết kế giao diện. Nếu giao diện không cho thấy lý do, không cho thấy bất định, không cho so sánh nguồn, không cho override dễ, thì con người không thật sự oversight.

Để giảm overreliance, AI trong giáo dục cần friction thông minh. Output không nên luôn là câu trả lời hoàn chỉnh; đôi khi nên là ba phương án với điểm mạnh/yếu. Feedback không nên luôn chắc chắn; nên ghi “cần giáo viên kiểm”. Dashboard không nên chỉ cho điểm rủi ro; nên cho dữ liệu thành phần và giới hạn. AI tutor không nên chỉ giải; nên hỏi người học giải thích trước. Công cụ chấm không nên chỉ đưa điểm; nên đưa vùng cần human review. Friction đúng không làm chậm vô nghĩa; nó giữ con người tỉnh.

23. Benchmark cho AI như đồng nghiệp bị quản trị

Benchmark đầu tiên là job clarity. AI này có chức danh công việc rõ không? Nó là người nháp, người kiểm, người gợi ý, người phản hồi, người phân tích hay người tự động hóa? Nó không được làm gì? Nếu trường không thể nói job của AI trong hai câu rõ, chưa nên triển khai rộng.

Benchmark thứ hai là risk classification. Tác vụ này low-stakes hay high-stakes? Có ảnh hưởng điểm, cơ hội, phân luồng, kỷ luật, wellbeing, privacy, trẻ em, nhóm yếu thế không? Cùng một model nhưng tác vụ khác nhau phải có governance khác nhau. Benchmark thứ ba là data minimization. AI có dùng ít dữ liệu nhất có thể không? Có dữ liệu nào đáng lẽ không cần? Có phân quyền, retention, deletion, export và purpose limitation không?

Benchmark thứ tư là human authority. Ai phê duyệt output? Ai có quyền override? Ai có quyền dừng? Người đó có thời gian, năng lực và thông tin không? Benchmark thứ năm là uncertainty and escalation. AI có biết nói không chắc, không biết, ngoài phạm vi, cần nguồn, cần người lớn, cần giáo viên, cần counselor không? Benchmark thứ sáu là auditability. Có log vừa đủ không? Có incident report không? Có thể xem model/version/prompt/workflow khi cần không? Có đo bias, lỗi, workload, overreliance và tác động học tập không?

Benchmark thứ bảy là age-appropriateness. Công cụ có phân biệt trẻ nhỏ, thiếu niên, người trưởng thành không? Có giới hạn hội thoại độc lập, dữ liệu, nội dung và quan hệ hóa không? Benchmark thứ tám là teacher agency. Giáo viên có tham gia chọn, cấu hình, thử nghiệm, phản hồi, sửa, bỏ qua không? AI có giảm tải thật hay chuyển việc vô hình sang giáo viên? Benchmark thứ chín là learner agency. Người học có hiểu AI tham gia thế nào, có học được cách dùng, có quyền hỏi lại, có bị phụ thuộc không?

Benchmark thứ mười là exit and fallback. Nếu AI biến mất, trường còn quy trình, tài liệu, dữ liệu, năng lực không? Nếu AI sai, có đường sửa không? Nếu vendor đổi điều khoản, có quyền rời không? Benchmark cuối cùng là educational residue: sau khi dùng AI, cộng đồng học tập có mạnh hơn không? Giáo viên hiểu lớp hơn, học sinh tự học hơn, dữ liệu sạch hơn, quy trình rõ hơn, phụ huynh tin hơn, hay chỉ có thêm một công cụ trả lời nhanh?

24. Các bên trong cuộc tranh luận

Vendor nói: “Nếu quản quá chặt, trường sẽ bỏ lỡ đổi mới.” Họ có lý một phần. AI thay đổi nhanh, và nếu mọi thử nghiệm đều bị thủ tục hóa như hệ thống high-stakes, giáo viên sẽ dùng lén hoặc không dùng gì. Nhưng vendor cũng phải nghe câu hỏi ngược lại: nếu đổi mới chỉ chạy được khi bỏ qua dữ liệu trẻ em, trách nhiệm, audit và quyền khiếu nại, đó là đổi mới cho ai?

Giáo viên nói: “Tôi cần AI để bớt tải, không cần thêm policy.” Họ cũng có lý. Nhiều giáo viên đang kiệt sức, và AI có thể giúp thật. Nhưng nếu AI dùng dữ liệu học sinh, tạo feedback, ảnh hưởng điểm hoặc giao tiếp với phụ huynh, nó không còn là mẹo cá nhân. Nó là một hành động nghề nghiệp có trách nhiệm. Policy tốt không nên làm giáo viên thêm mệt; nó nên bảo vệ họ khỏi phải tự gánh rủi ro mơ hồ.

Học sinh nói: “AI giúp em học theo cách của em.” Đây là tiếng nói cần tôn trọng. Cấm toàn bộ AI có thể làm trường xa đời sống thật và tước công cụ hỗ trợ của người cần. Nhưng học sinh cũng cần được bảo vệ khỏi công cụ làm hộ, công cụ tạo phụ thuộc, công cụ thu dữ liệu quá mức, và công cụ biến việc học thành đối thoại vô tận với máy. Tự do học tập cần năng lực tự vệ.

Phụ huynh nói: “Tôi muốn biết con tôi đang tương tác với cái gì.” Đây là yêu cầu chính đáng. Nhưng phụ huynh không nên bị dồn vào việc đọc terms of service và tự chọn từng rủi ro. Trường phải dịch governance thành ngôn ngữ thường. Nhà nước phải đặt chuẩn tối thiểu. Vendor phải minh bạch. Phụ huynh có quyền giám sát, không phải nghĩa vụ làm compliance officer tại nhà.

Lãnh đạo trường nói: “Tôi cần vừa đổi mới vừa tránh sự cố.” Đây là vị trí khó nhất. Nếu lãnh đạo chỉ sợ, trường đứng ngoài một năng lực đang định hình xã hội. Nếu lãnh đạo chỉ chạy theo, trường biến học sinh thành đối tượng thử nghiệm. Lãnh đạo tốt không hỏi “AI có hot không?” mà hỏi “AI này giữ vai trò gì trong chiến lược học tập, rủi ro nằm ở đâu, ai quản, và nếu thất bại chúng ta học gì?”

Nhà nước nói: “Cần chuẩn và công bằng.” Đúng. Nhưng chuẩn không nên thành máy nghiền địa phương. AI governance quốc gia phải bảo vệ quyền và tạo hạ tầng, đồng thời cho phép trường điều chỉnh theo bối cảnh. Một khung tốt không bắt mọi nơi dùng cùng một AI; nó đảm bảo mọi nơi có quyền hỏi cùng những câu khó.

25. Một kiến trúc quản trị AI vừa đủ cho trường học

Nếu một trường muốn bắt đầu nghiêm túc mà không bị tê liệt, có thể dùng kiến trúc bảy lớp. Lớp một là AI register: danh sách công cụ AI đang dùng, owner, mục tiêu, dữ liệu, nhóm người dùng, mức rủi ro, ngày review. Lớp hai là phân loại tác vụ: low-stakes, medium-stakes, high-stakes; nội dung, feedback, assessment, support, admin, analytics; trẻ em hay người lớn; dữ liệu cá nhân hay không. Lớp ba là quy tắc dữ liệu: dữ liệu nào được nhập, dữ liệu nào cấm, lưu bao lâu, ai truy cập, có dùng huấn luyện không, có export/xóa không.

Lớp bốn là vai trò và quyền: AI chỉ nháp hay được gợi ý? Con người nào duyệt? Ai override? Ai dừng? Ai trả lời khi phụ huynh hỏi? Lớp năm là AI literacy: đào tạo cho giáo viên, học sinh, lãnh đạo và phụ huynh theo vai trò, không chỉ mẹo prompt. Lớp sáu là evaluation: đo giá trị học tập, workload, lỗi, bias, adoption, equity, privacy incidents, overreliance và feedback người dùng. Lớp bảy là incident and exit: báo lỗi, sửa lỗi, thông báo, tạm dừng, rời vendor, giữ dữ liệu, phục hồi quy trình.

Kiến trúc này nghe có vẻ nhiều, nhưng có thể làm nhẹ. Một trường nhỏ không cần hội đồng AI đồ sộ. Nó cần một nhóm phụ trách, vài biểu mẫu rõ, danh mục công cụ được duyệt, quy trình sandbox, lịch review, và kênh báo sự cố. Một trung tâm EdTech nhỏ không cần viết hiến pháp AI dài trăm trang. Nhưng nếu sản phẩm dùng AI với trẻ em, nó phải có job description, data map, human oversight, risk review và fallback.

Điểm quan trọng là governance phải sống cùng sản phẩm. Mỗi lần thêm tính năng AI, hỏi lại job, dữ liệu, quyền, rủi ro, fallback. Mỗi lần triển khai ở nhóm tuổi mới, hỏi lại age-appropriateness. Mỗi lần dùng cho quyết định quan trọng hơn, nâng mức kiểm soát. Mỗi lần model đổi, review lại. Mỗi lần có incident, học và sửa. AI governance không phải dự án một lần. Nó là vệ sinh tổ chức.

26. Lập trường của chương này

Chương này không nói AI là đồng nghiệp theo nghĩa đạo đức hoặc pháp lý. Nó không có ý thức, không có trách nhiệm, không có phẩm giá, không có quyền nghề nghiệp. Nhưng chương này cũng không gọi AI là công cụ bình thường, vì công cụ bình thường không viết feedback cho học sinh, không gợi ý phân luồng, không tổng hợp hồ sơ, không trò chuyện như người, không tạo nội dung giống giáo viên, không định hình dashboard quản trị. AI nằm ở một vùng khó chịu: không phải người, nhưng có thể hành động trong workflow như một tác nhân. Chính vì vậy nó cần vai trò và quản trị.

AI như đồng nghiệp bị quản trị nghĩa là: có job description, có quyền hạn, có dữ liệu giới hạn, có người quản, có audit, có fallback, có đào tạo, có đánh giá, có đường khiếu nại và có khả năng bị dừng. Nó được phép giúp, nhưng không được phép tự phình vai trò. Nó được phép gợi ý, nhưng không được phép biến gợi ý thành định mệnh. Nó được phép phản hồi, nhưng không được phép giả làm quan hệ chăm sóc. Nó được phép phân tích, nhưng không được phép biến người học thành nhãn. Nó được phép làm nhanh, nhưng không được phép làm nghèo phán đoán.

Một hệ thống giáo dục trưởng thành sẽ không thắng AI bằng cấm đoán biểu tượng, cũng không tiến bộ nhờ mua AI thật nhanh. Nó sẽ trưởng thành bằng cách học đặt AI vào đúng vị trí: đủ gần để hỗ trợ, đủ xa để không nuốt mất con người; đủ mạnh để giảm việc vô nghĩa, đủ bị giới hạn để không quyết thay; đủ thông minh để gợi ý, đủ khiêm tốn để nói không biết; đủ tích hợp để hữu ích, đủ rời được để tổ chức không bị khóa.

Nếu phải nén chương này thành một câu, câu đó là: AI trong giáo dục chỉ đáng tin khi nó được đối xử như một vai trò có trách nhiệm trong tổ chức, chứ không phải phép màu của vendor, đường tắt của người dùng, hay người bạn tưởng tượng của người học. Chúng ta không cần AI được yêu mến. Chúng ta cần AI biết việc, biết giới hạn, biết dừng, biết gọi người, và để lại phía sau những con người có năng lực hơn trước khi dùng nó.

Ghi chú nguồn cho chương

[^usdoe-ai]: U.S. Department of Education, Office of Educational Technology, Artificial Intelligence and the Future of Teaching and Learning: Insights and Recommendations (May 2023). Báo cáo mô tả AI trong giáo dục như bước chuyển sang phát hiện mẫu hình và tự động hóa quyết định, khuyến nghị human in the loop, con người ở trung tâm, educator involvement, AI inspectable/explainable/overridable, và cảnh báo rủi ro surveillance, bias, privacy/security, inaccurate output và over-automation. Nguồn: https://www2.ed.gov/documents/ai-report/ai-report.pdf

[^unesco-genai]: UNESCO, Fengchun Miao & Wayne Holmes, Guidance for generative AI in education and research (2023; trang UNESCO cập nhật 16 January 2026). Hướng dẫn đề xuất cách tiếp cận human-centred với GenAI, bảo vệ data privacy, đặt age limit cho independent conversations với GenAI platforms, và dùng human-agent, age-appropriate approach trong ethical validation và pedagogical design. Nguồn: https://www.unesco.org/en/articles/guidance-generative-ai-education-and-research

[^eu-ai-act]: Regulation (EU) 2024/1689, Artificial Intelligence Act (13 June 2024; hiệu lực 1 August 2024). Văn bản quy định AI literacy ở Article 4, high-risk AI requirements như risk management, data governance, technical documentation, record-keeping, transparency, human oversight, accuracy/robustness/cybersecurity; Article 14 yêu cầu high-risk AI có human oversight hiệu quả; Annex III đưa nhiều hệ thống AI trong education and vocational training vào nhóm high-risk khi ảnh hưởng access, learning outcomes, academic/professional path hoặc giám sát hành vi trong kiểm tra. Timeline chính thức của EU cho biết prohibitions/AI literacy áp dụng từ 2 February 2025, GPAI obligations từ 2 August 2025, phần lớn quy tắc gồm high-risk Annex III và transparency áp dụng từ 2 August 2026, với một số ngoại lệ đến 2027. Nguồn: https://eur-lex.europa.eu/eli/reg/2024/1689/ , https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai và https://ai-act-service-desk.ec.europa.eu/en/faq

[^unicef-ai-children]: UNICEF Office of Global Insight and Policy, Policy guidance on AI for children, Version 2.0 (November 2021). Hướng dẫn đưa ra chín yêu cầu cho child-centred AI: hỗ trợ development/well-being, inclusion, fairness/non-discrimination, data privacy, safety, transparency/explainability/accountability, năng lực của chính phủ/doanh nghiệp về AI và quyền trẻ em, chuẩn bị trẻ cho AI, và enabling environment. Nguồn: https://www-self.unicef.org/globalinsight/reports/policy-guidance-ai-children

[^nist-rmf]: NIST, Artificial Intelligence Risk Management Framework (AI RMF 1.0) (26 January 2023). Khung AI RMF hỗ trợ tổ chức thiết kế, phát triển, triển khai hoặc sử dụng AI quản lý rủi ro đối với cá nhân, tổ chức và xã hội; cấu trúc thực hành xoay quanh govern, map, measure và manage để đưa trustworthiness vào vòng đời AI. Nguồn: https://www.nist.gov/itl/ai-risk-management-framework và https://www.nist.gov/publications/artificial-intelligence-risk-management-framework-ai-rmf-10

[^oecd-ai]: OECD, OECD AI Principles (adopted 2019, updated May 2024). Các nguyên tắc thúc đẩy trustworthy AI tôn trọng human rights, democratic values, fairness, privacy, transparency/explainability, robustness/security/safety và accountability; nhấn mạnh human agency and oversight, khả năng challenge outputs, traceability và risk management trong vòng đời AI. Nguồn: https://www.oecd.org/en/topics/ai-principles.html và https://oecd.ai/en/ai-principles

[^nist-genai]: NIST, Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile (NIST AI 600-1, 26 July 2024; updated April 8, 2026). Tài liệu là profile cho GenAI dựa trên AI RMF 1.0, giúp tổ chức nhận diện và quản lý các rủi ro đặc thù hoặc bị khuếch đại bởi generative AI, gồm confabulation/hallucination, privacy, harmful content, data provenance, testing, incident disclosure, content provenance và governance. Nguồn: https://www.nist.gov/publications/artificial-intelligence-risk-management-framework-generative-artificial-intelligence

[^ec-guidelines]: European Commission, Ethical guidelines on the use of artificial intelligence and data in teaching and learning for educators (2022; trang European Education Area cập nhật 2024/2026). Hướng dẫn cho giáo viên và lãnh đạo trường về AI/data trong dạy học, dựa trên các yêu cầu như human agency and oversight, transparency, diversity/non-discrimination/fairness, privacy/data governance, technical robustness/safety và accountability, đồng thời nhấn mạnh AI/data literacy trong cộng đồng giáo dục. Nguồn: https://education.ec.europa.eu/news/ethical-guidelines-on-the-use-of-artificial-intelligence-and-data-in-teaching-and-learning-for-educators và https://education.ec.europa.eu/focus-topics/digital-education/actions/plan/ethical-guidelines-for-educators-on-using-artificial-intelligence

[^unesco-teachers]: UNESCO, Fengchun Miao & Mutlu Cukurova, AI competency framework for teachers (2024; trang UNESCO cập nhật 16 January 2026). Khung xác định 15 năng lực qua năm chiều: human-centred mindset, ethics of AI, AI foundations and applications, AI pedagogy và AI for professional learning; nhấn mạnh bảo vệ quyền của giáo viên, tăng human agency và sustainability trong giáo dục thời AI. Nguồn: https://www.unesco.org/en/articles/ai-competency-framework-teachers và https://www.unesco.org/en/digital-education/ai-future-learning/competency-frameworks

[^unesco-ethics]: UNESCO, Recommendation on the Ethics of Artificial Intelligence (adopted 23 November 2021; published by UNESCO 2022). Khuyến nghị đặt human rights, human dignity, transparency, fairness và human oversight ở trung tâm, đồng thời có các policy action areas như data governance, education and research, environment/ecosystems, gender, health/social wellbeing để chuyển nguyên tắc AI ethics thành hành động chính sách. Nguồn: https://www.unesco.org/en/articles/recommendation-ethics-artificial-intelligence và https://www.unesco.org/en/legal-affairs/recommendation-ethics-artificial-intelligence