Chương 26. AI theo tuổi, quyền và mức rủi ro

Một trường học có thể nói rất gọn: “Năm sau chúng ta sẽ cho học sinh dùng AI.” Câu ấy nghe như một quyết định công nghệ. Nhưng thật ra nó giấu quá nhiều câu hỏi giáo dục bên trong. Học sinh lớp 2 dùng AI để luyện đọc có giống học sinh lớp 9 dùng AI để hỏi chuyện riêng không? Sinh viên đại học dùng AI để phản biện bài luận có giống AI dùng để chấm bài luận đó không? Một người lớn học nghề dùng AI coach có giống trẻ 10 tuổi dùng AI tutor mỗi tối không? Một hệ thống gợi ý bài luyện có giống hệ thống xếp lớp, phát hiện gian lận, cảnh báo kỷ luật hoặc quyết định tuyển sinh không?

Không thể có một chính sách AI duy nhất cho tất cả những trường hợp ấy. Câu “cho dùng AI hay cấm AI” quá thô. Nó giống như hỏi “có cho dùng dao không?” mà không hỏi dao ở trong bếp, trong phòng mổ, trong lớp mẫu giáo hay trong tay một người chưa được hướng dẫn. AI trong giáo dục cũng vậy: cùng một năng lực sinh văn bản, dự đoán, gợi ý hoặc chấm điểm có thể là hỗ trợ nhẹ trong một bối cảnh và quyền lực nguy hiểm trong bối cảnh khác.

Chương này đi từ một lập trường đơn giản: AI giáo dục phải được phân tầng theo tuổi, quyền và mức rủi ro. Tuổi quyết định mức trưởng thành, khả năng tự bảo vệ, khả năng hiểu hệ thống và nhu cầu giám hộ. Quyền quyết định ai có thể xem, can thiệp, từ chối, khiếu nại, xóa dữ liệu, yêu cầu giải thích. Mức rủi ro quyết định AI có được dùng tự động hay không, cần human oversight đến đâu, cần audit gì, fallback thế nào, và người học có quyền phản đối ra sao.

Tranh luận sâu nằm ở đây: nếu ta đặt quá nhiều rào, AI có thể mất cơ hội hỗ trợ những người học cần nó nhất. Nhưng nếu ta đặt quá ít rào, chính những người học cần hỗ trợ nhất, nhất là trẻ em, người học yếu, người học thiếu vốn văn hóa, người học bị phụ thuộc vào trường, sẽ trở thành nhóm chịu rủi ro nhiều nhất. Cẩn trọng không phải chống đổi mới. Cẩn trọng là điều kiện để đổi mới không trở thành thí nghiệm trên người học.

1. Một chính sách AI cho mọi người học là một chính sách lười

Một chính sách AI lười thường nói: “AI được phép dùng cho học tập, không được dùng để gian lận.” Câu đó đúng nhưng gần như vô dụng. Nó không nói người học mấy tuổi, AI dùng cho việc gì, dữ liệu nào được thu, ai được xem log, AI có được đưa đáp án không, có được gợi ý cảm xúc không, có được can thiệp khi người học có dấu hiệu khủng hoảng không, có được dùng trong chấm điểm không, có được dùng trong tuyển sinh không, có người chịu trách nhiệm khi sai không.

Một chính sách AI trưởng thành phải bắt đầu bằng phân loại. AI cho trẻ nhỏ khác AI cho thiếu niên. AI cho sinh viên khác AI cho người lớn đi làm. AI dùng để giải thích khái niệm khác AI dùng để đánh giá năng lực. AI dùng trong luyện tập khác AI dùng trong kỷ luật. AI dùng để gợi ý bài học khác AI dùng để đóng hoặc mở cơ hội. Cùng một model có thể đi qua nhiều mức rủi ro chỉ bằng cách đổi vị trí trong quy trình giáo dục.

Ví dụ, một AI tutor cho học sinh lớp 5 giải thích lại phân số sau giờ học có thể là rủi ro trung bình nếu có nội dung phù hợp tuổi, không thu dữ liệu nhạy cảm, không cho đáp án homework nguyên vẹn, và giáo viên/phụ huynh có cơ chế hỗ trợ. Nhưng một AI system dùng để quyết định học sinh nào được vào lớp nâng cao, ai bị gắn nhãn năng lực thấp, ai bị nghi gian lận, ai phải gặp kỷ luật, thì đó không còn là “AI học tập” chung chung. Nó là hệ thống ảnh hưởng quyền, danh dự và cơ hội.

EU AI Act phản ánh tinh thần phân tầng này khi xếp một số hệ thống AI trong giáo dục và đào tạo nghề vào nhóm high-risk: hệ thống dùng để quyết định access/admission, đánh giá learning outcomes, xác định mức giáo dục phù hợp, hoặc giám sát/phát hiện prohibited behaviour trong tests.[^eu-annex-iii] Ta không cần biến mọi cuộc thảo luận giáo dục thành thảo luận pháp lý châu Âu, nhưng logic ở đây rất hữu ích: rủi ro không nằm trong nhãn “AI”, mà nằm trong mục đích sử dụng và hậu quả của đầu ra.

2. Các bên trong cuộc tranh luận

Người học nhỏ tuổi cần bảo vệ nhiều hơn vì các em chưa có đủ năng lực hiểu và phản đối hệ thống. Nhưng nếu bảo vệ bằng cách cấm sạch, các em cũng có thể mất cơ hội được hỗ trợ cá nhân, nhất là ở nơi thiếu giáo viên, thiếu gia sư, thiếu học liệu phù hợp ngôn ngữ. Thiếu niên cần quyền riêng tư và tự chủ đang tăng lên, nhưng cũng dễ bị kéo vào quan hệ cảm xúc với chatbot, dễ dùng AI để né khó khăn học tập, và dễ bị profiling kéo dài. Sinh viên đại học cần quyền thử nghiệm công cụ như người trưởng thành, nhưng vẫn có thể bị tổ chức dùng AI trong chấm điểm, giám sát, phát hiện gian lận hoặc advising theo cách thiếu minh bạch.

Giáo viên muốn AI giúp phản hồi nhanh hơn, cá nhân hóa hơn, giảm việc lặp lại. Nhưng giáo viên cũng không muốn chịu trách nhiệm cho hệ thống họ không kiểm soát. Nếu AI gợi ý sai, ai sửa? Nếu AI chấm lệch, ai giải thích? Nếu AI phát hiện rủi ro nhưng trường không có nguồn lực hỗ trợ, ai đối diện người học? Nếu dashboard AI khiến phụ huynh lo lắng, ai trả lời? Một chính sách AI tốt phải bảo vệ người học, nhưng cũng phải bảo vệ giáo viên khỏi vai trò “người chịu trách nhiệm danh nghĩa” cho một hệ thống do vendor và lãnh đạo chọn.

Phụ huynh muốn biết con mình dùng gì, dữ liệu đi đâu, AI có an toàn không. Điều đó chính đáng. Nhưng phụ huynh không nên được biến thành người giám sát mọi dấu vết học tập của con, nhất là với thiếu niên. Nhà trường muốn đổi mới và vận hành hiệu quả hơn, nhưng nhà trường cũng có cám dỗ dùng AI để làm thiếu nguồn lực trông có vẻ hiện đại. Vendor muốn sản phẩm hữu ích và mở rộng, nhưng cũng có động lực tăng usage, dữ liệu và lock-in. Nhà quản lý muốn bảo vệ quyền trẻ em và quyền công dân, nhưng nếu quy định quá chậm hoặc quá cứng, trường và giáo viên sẽ phải tự xoay trong vùng xám.

Vì vậy, chương này không chọn phe “mở hết” hay “đóng hết”. Nó chọn cách khó hơn: phân quyền, phân tuổi, phân rủi ro, phân trách nhiệm. AI có thể vào giáo dục, nhưng không được vào mọi nơi với cùng giấy thông hành.

3. Trẻ nhỏ: AI phải hẹp hơn, rõ hơn, ít dữ liệu hơn

Với trẻ nhỏ, câu hỏi đầu tiên không phải “AI có thể làm gì?”, mà là “trẻ có hiểu điều gì đang xảy ra không?”. Một học sinh lớp 2 không thể được kỳ vọng hiểu prompt logging, model training, hallucination, data retention, profiling hoặc commercial secondary use. Nếu sản phẩm yêu cầu trẻ tự quản lý rủi ro, sản phẩm đã thất bại từ đầu. Với nhóm tuổi này, AI nên có phạm vi hẹp, mục tiêu học rõ, ngôn ngữ phù hợp, phản hồi ngắn, không tạo quan hệ giả như bạn thân, không thu dữ liệu nhạy cảm nếu không cần, không khuyến khích chat vô hạn, không dùng nudge để kéo trẻ ở lại.

AI cho trẻ nhỏ nên giống một công cụ học được giáo viên và phụ huynh hiểu, hơn là một chatbot mở. Nó có thể luyện đọc, luyện phát âm, gợi ý bài toán, kể chuyện tương tác, đưa feedback tức thì, nhưng cần giới hạn nội dung, thời lượng, dữ liệu và vai trò. Nếu trẻ hỏi điều vượt phạm vi, hệ thống phải biết chuyển sang người lớn phù hợp. Nếu trẻ có dấu hiệu distress, hệ thống không được tùy tiện tự đóng vai chuyên gia tâm lý, nhưng cũng không được bỏ qua; nó cần quy trình escalation rõ, được thiết kế với chuyên môn.

UNICEF Guidance on AI and children bản 3.0 nhấn mạnh child-centred AI phải có regulatory oversight, safety, bảo vệ dữ liệu và quyền riêng tư, fairness, transparency, accountability và tôn trọng quyền trẻ em.[^unicef-ai-children] ICO Age Appropriate Design Code cũng đặt best interests of the child làm nguyên tắc trung tâm, yêu cầu high privacy by default, data minimisation, hạn chế data sharing, geolocation off by default và không dùng nudge techniques để khuyến khích trẻ cung cấp dữ liệu không cần thiết hoặc làm yếu privacy settings.[^ico-code] Đây không phải chi tiết pháp lý xa xôi; nó là hướng thiết kế rất cụ thể cho EdTech.

Một AI tốt cho trẻ nhỏ không cần khoe rằng nó biết mọi thứ. Nó nên khoe rằng nó biết tự giới hạn. Trong giáo dục trẻ em, năng lực tự giới hạn là một năng lực sản phẩm.

4. Thiếu niên: quyền riêng tư tăng lên, rủi ro quan hệ cũng tăng lên

Thiếu niên là nhóm khó nhất. Các em không còn là trẻ nhỏ cần giám hộ toàn phần, nhưng cũng chưa phải người lớn có đầy đủ năng lực tự quản trị rủi ro. Các em cần vùng riêng để hỏi, thử, sai, tìm hiểu bản thân, nhưng cũng dễ bị ảnh hưởng bởi thiết kế gây nghiện, so sánh xã hội, chatbot quá thân mật, lời khuyên tự tin sai, và hệ thống hồ sơ hóa hành vi. Với AI, thiếu niên vừa cần quyền tự chủ, vừa cần guardrail. Đây là căng thẳng thật, không giải được bằng một nút parental control.

AI tutor cho thiếu niên phải khác AI tutor cho trẻ nhỏ. Nó có thể cho phép đối thoại sâu hơn, phản biện hơn, giải thích meta hơn, dạy người học kiểm chứng AI, và khuyến khích tự lập kế hoạch học. Nhưng nó cũng cần giới hạn với các vùng nhạy cảm: sức khỏe tinh thần, tình dục, bạo lực, tự hại, quan hệ gia đình, kỷ luật, pháp lý, lời khuyên y tế. Không phải mọi câu hỏi nhạy cảm đều nên báo phụ huynh; trong một số hoàn cảnh, báo sai có thể gây hại. Nhưng cũng không thể để AI một mình xử lý rủi ro thật. Vì vậy cần chính sách escalation theo mức nguy cơ, không phải dashboard toàn năng cho người lớn.

Với thiếu niên, minh bạch phải được viết cho chính các em, không chỉ cho phụ huynh và nhà trường. Các em cần hiểu AI có thể sai, có thể lưu dữ liệu, có thể được người lớn xem một số tín hiệu, có giới hạn vai trò, và không phải người bạn bí mật tuyệt đối. Nếu trường triển khai AI nhưng chỉ xin phụ huynh ký một giấy dài, còn học sinh không hiểu quyền của mình, đó là triển khai thiếu tôn trọng.

UNESCO Guidance for generative AI in education and research nhấn mạnh hướng human-centred, bảo vệ data privacy, thiết lập age limit cho independent conversations với GenAI platforms, và ethical validation/pedagogical design phù hợp.[^unesco-genai] Với thiếu niên, tinh thần này nên được dịch thành thiết kế cụ thể: không mở chat vô hạn mặc định, không lưu nhạy cảm quá mức, không giả vờ thân mật quá sâu, không dùng dữ liệu hội thoại cho kỷ luật nếu không có quy trình và human review, và dạy AI literacy như một năng lực công dân.

5. Sinh viên và người lớn: tự chủ cao hơn, nhưng high-stakes vẫn cần bảo vệ

Sinh viên đại học và người lớn học nghề có thể dùng AI linh hoạt hơn. Họ có quyền thử công cụ viết, code, nghiên cứu, phản biện, mô phỏng, luyện phỏng vấn, học ngoại ngữ, thiết kế dự án. Một chính sách quá trẻ con hóa người học trưởng thành sẽ phản tác dụng: nó làm AI thành thứ bị giấu, dùng lén, hoặc chỉ người có vốn văn hóa mới biết dùng tốt. Với nhóm này, trọng tâm nên chuyển từ kiểm soát vi mô sang năng lực: biết công bố việc dùng AI khi cần, biết kiểm chứng, biết không đưa dữ liệu nhạy cảm, biết phân biệt hỗ trợ và gian lận, biết chịu trách nhiệm với đầu ra.

Nhưng người lớn không mất quyền chỉ vì đã trưởng thành. Nếu AI được dùng để chấm bài, phát hiện đạo văn, khuyến nghị học vụ, xếp lớp, tuyển sinh, học bổng, cảnh báo dropout, kỷ luật, hoặc đánh giá năng lực nghề nghiệp, họ vẫn cần minh bạch, giải thích, quyền phản hồi và human review. Một sinh viên 22 tuổi có thể dùng AI để học, nhưng không nên bị một AI detector sai gắn nhãn gian lận mà không có quy trình khiếu nại. Một người lớn học nghề có thể dùng AI coach, nhưng không nên bị một risk score khóa khỏi cơ hội thực tập mà không biết vì sao.

Đây là điểm nối giữa tuổi và mức rủi ro. Tuổi cao hơn cho phép tự chủ cao hơn trong việc sử dụng AI cho học tập cá nhân. Nhưng high-stakes decision vẫn cần bảo vệ mạnh, dù người học là trẻ em, sinh viên hay người lớn. Quyền không biến mất khi người học đủ tuổi ký điều khoản.

6. Mục đích dùng AI quan trọng hơn tên tính năng

Một tính năng có thể mang tên rất hiền: “learning assistant”, “success coach”, “academic support”, “integrity helper”, “placement recommendation”. Nhưng tên không quyết định rủi ro. Mục đích và hậu quả mới quyết định. AI dùng để gợi ý người học ôn lại bài cũ là một chuyện. AI dùng để quyết định người học không đủ năng lực lên lớp là chuyện khác. AI dùng để feedback nháp là một chuyện. AI dùng để chấm điểm cuối kỳ là chuyện khác. AI dùng để nhắc giáo viên “có thể em này cần hỗ trợ” là một chuyện. AI dùng để gắn hồ sơ “low persistence” là chuyện khác.

Ta có thể hình dung bốn tầng. Tầng thấp nhất là AI cá nhân cho luyện tập tự nguyện, không ảnh hưởng điểm, dữ liệu tối thiểu, người học có thể bỏ qua. Tầng tiếp theo là AI trong lớp học cho formative feedback, giáo viên biết và kiểm soát, không dùng trực tiếp cho quyết định hậu quả cao. Tầng cao hơn là AI hỗ trợ quyết định: gợi ý xếp nhóm, cảnh báo rủi ro, đề xuất lộ trình, hỗ trợ chấm bài. Tầng cao nhất là AI tham gia quyết định high-stakes: tuyển sinh, xếp lớp chính thức, điểm số quan trọng, chứng chỉ, kỷ luật, phát hiện gian lận, học bổng, loại khỏi chương trình.

Mỗi tầng cần một mức governance khác. Với luyện tập thấp rủi ro, có thể ưu tiên trải nghiệm, privacy by default và hướng dẫn dùng đúng. Với formative feedback, cần giáo viên hiểu công cụ, kiểm tra chất lượng, không nhầm feedback với điểm. Với decision support, cần documentation, audit, bias review, human oversight, quyền phản hồi. Với high-stakes, cần giải thích, appeal, log, human-in-command, fallback, incident report và có thể cần đánh giá tác động quyền cơ bản.

EU AI Act Article 27 yêu cầu một số deployer trước khi dùng high-risk AI phải thực hiện fundamental rights impact assessment, mô tả cách dùng, nhóm bị ảnh hưởng, rủi ro, human oversight và biện pháp khi rủi ro xảy ra.[^eu-article27] Dù không phải hệ thống nào cũng thuộc phạm vi luật này, tinh thần ấy rất đáng áp dụng trong giáo dục: trước khi đưa AI vào quyết định có hậu quả, hãy viết ra ai bị ảnh hưởng và họ có quyền gì nếu hệ thống sai.

7. Formative feedback khác high-stakes assessment

Một lỗi phổ biến là lấy thành công của AI trong feedback để biện minh cho AI trong chấm điểm. “AI góp ý bài viết khá tốt, vậy AI chấm điểm chắc cũng được.” Không nhanh vậy. Feedback và assessment có logic khác nhau. Feedback tốt có thể không hoàn hảo nhưng vẫn hữu ích nếu người học và giáo viên biết nó là gợi ý để sửa. Điểm số thì khác: điểm số đóng lại, so sánh, xếp hạng, lưu hồ sơ, ảnh hưởng cơ hội. Một nhận xét sai có thể được bỏ qua. Một điểm sai có thể gây hậu quả.

Trong formative feedback, AI có thể nói: “Đoạn này thiếu bằng chứng”, “em thử giải thích lại bước này”, “có thể có lỗi ở giả định này”. Người học còn quyền sửa, hỏi, phản biện, thử lại. Trong high-stakes assessment, AI output có thể trở thành kết luận: đạt hay không đạt, gian lận hay không, vào lớp nào, nhận học bổng hay không. Khi đó, tiêu chuẩn phải cao hơn nhiều: validity, reliability, bias, explainability, human review, appeal, audit trail.

Vì vậy, chính sách AI nên nói rõ: AI được dùng ở đâu trong vòng đời học tập. AI feedback cho bản nháp có thể được khuyến khích. AI chấm cuối kỳ có thể bị giới hạn hoặc phải có human review. AI detector không được dùng như bằng chứng duy nhất. AI placement recommendation không được tự động khóa người học vào lộ trình thấp. AI success coach không được biến thành risk scoring không giải thích. Đó không phải sự mâu thuẫn; đó là phân tầng đúng.

8. Human-in-the-loop không phải một cái tên đẹp

“Có human-in-the-loop” là câu các tổ chức rất thích nói. Nhưng nhiều khi con người trong loop chỉ là người ký tên sau khi AI đã định hướng toàn bộ quyết định. Nếu giáo viên có 200 cảnh báo, không có thời gian kiểm tra, không biết model hoạt động thế nào, không có quyền override thật, không có dữ liệu bối cảnh, và bị KPI ép theo gợi ý của hệ thống, thì đó không phải human oversight. Đó là human rubber stamp.

AI HLEG của European Commission phân biệt ba cách tiếp cận: human-in-the-loop là khả năng can thiệp trong từng chu kỳ quyết định; human-on-the-loop là khả năng giám sát hoạt động hệ thống và can thiệp; human-in-command là khả năng giám sát toàn bộ hoạt động, quyết định khi nào và cách nào dùng hệ thống, kể cả quyền không dùng hoặc override.[^hleg-trustworthy] Trong giáo dục, phân biệt này rất quan trọng. Không phải quyết định nào cũng cần con người can thiệp từng bước. Nhưng mọi quyết định có hậu quả cao cần con người có quyền lực thật, thông tin thật, thời gian thật và trách nhiệm thật.

EU AI Act Article 14 cũng nói human oversight cho high-risk AI phải cho phép người giám sát hiểu năng lực và giới hạn hệ thống, nhận ra automation bias, diễn giải output, quyết định không dùng hoặc override output, và can thiệp hoặc dừng hệ thống khi cần.[^eu-article14] Article 26 yêu cầu deployer của high-risk AI giao human oversight cho người có competence, training, authority và support.[^eu-article26] Đây là bốn từ rất đáng nhớ: năng lực, đào tạo, thẩm quyền, hỗ trợ. Thiếu một trong bốn, “human in the loop” dễ trở thành trang trí.

9. Human oversight phải được thiết kế vào workflow

Trong sản phẩm giáo dục, human oversight không thể chỉ là một dòng policy. Nó phải hiện ra trong workflow. Nếu AI gợi ý xếp học sinh vào nhóm yếu, giao diện phải cho giáo viên xem lý do, dữ liệu nào dùng, mức tự tin, dữ liệu nào thiếu, các lựa chọn thay thế, và nút “không đồng ý” có ý nghĩa. Nếu AI chấm bài, giáo viên phải thấy rubrics, căn cứ, các điểm không chắc, mẫu bài edge case, và có thể sửa điểm mà không bị hệ thống xem là lỗi. Nếu AI cảnh báo gian lận, hệ thống phải yêu cầu bằng chứng bổ sung, không cho phép gửi cáo buộc tự động, và mở quy trình giải trình cho người học.

Human oversight cũng cần thời gian. Một tổ chức không thể nói giáo viên phải review mọi output AI, rồi không giảm workload. Không thể nói cố vấn phải xử lý risk alerts, rồi không có thêm nguồn lực. Không thể nói lãnh đạo có quyền dừng hệ thống, rồi hợp đồng vendor không cho audit. Không thể nói người học có quyền khiếu nại, rồi không ai trả lời. Oversight không miễn phí. Nếu tổ chức không muốn trả chi phí cho oversight, tổ chức chưa nên dùng AI ở mức rủi ro cao.

Điểm khó là con người cũng có bias. Chương này không lãng mạn hóa human judgement. Con người có thể thiên kiến, mệt, thiếu nhất quán, chịu áp lực, bị automation bias. Nhưng giải pháp không phải trao quyền cho AI không kiểm soát. Giải pháp là thiết kế phân quyền đúng: AI giúp phát hiện pattern, con người đặt bối cảnh, quy trình bắt buộc kiểm tra, dữ liệu được audit, người học có quyền phản hồi, và hệ thống học từ sai sót.

10. Age-appropriate design là thiết kế quyền lực theo tuổi

Age-appropriate design không chỉ là đổi font to hơn cho trẻ em. Nó là thiết kế quyền lực theo tuổi. Ai được nói gì với người học? Ai được thấy gì? Dữ liệu nào được thu? Gợi ý nào được phép? AI có được dùng giọng thân mật không? Có được khuyến khích trẻ quay lại mỗi ngày không? Có được dùng leaderboard không? Có được profile học sinh theo cảm xúc không? Có được mở chat đêm khuya không? Có được đưa lời khuyên ngoài học tập không? Có được lưu toàn bộ hội thoại không?

Với trẻ nhỏ, mặc định phải hẹp, riêng tư cao, nội dung được kiểm soát, ít dữ liệu, ít chat mở, nhiều giải thích cho phụ huynh/giáo viên, escalation rõ. Với thiếu niên, cần tăng quyền tự chủ và quyền riêng tư, nhưng vẫn có guardrail cho nội dung nhạy cảm, giới hạn thao túng, minh bạch trực tiếp với người học, và quyền kiểm soát dữ liệu phù hợp. Với sinh viên, cần trao nhiều quyền thử nghiệm hơn, nhưng giữ mạnh các cơ chế disclosure, academic integrity, data protection và appeal trong quyết định có hậu quả. Với người lớn học nghề, có thể ưu tiên quyền tự chủ, portability và trách nhiệm nghề nghiệp, nhưng không được bỏ qua bias trong chứng chỉ, tuyển dụng hoặc định tuyến cơ hội.

Điểm mấu chốt là cùng một tính năng có thể phải thay đổi theo tuổi. “Explain this concept” cho trẻ nhỏ cần ngắn, an toàn, ví dụ quen thuộc, không kéo dài hội thoại. Cho thiếu niên, nó có thể thêm phản biện và lựa chọn. Cho sinh viên, nó có thể có nguồn, giả định, tranh luận phương pháp. “Parent dashboard” cho trẻ nhỏ có thể hữu ích, nhưng với thiếu niên cần giới hạn hơn. “AI memory” có thể giúp người lớn học dài hạn, nhưng với trẻ em phải cực kỳ thận trọng. “Companion tone” có thể làm AI dễ gần, nhưng với người học nhỏ tuổi nó dễ tạo gắn bó không cân xứng.

11. Quyền phụ huynh và quyền người học không phải lúc nào cũng trùng nhau

Trong giáo dục trẻ em, phụ huynh có quyền và trách nhiệm bảo vệ con. Nhưng quyền phụ huynh không thể được hiểu là quyền nhìn vô hạn. Một học sinh nhỏ cần phụ huynh biết công cụ nào được dùng, dữ liệu nào được thu, rủi ro nào tồn tại, và cách hỗ trợ học. Một thiếu niên cần phụ huynh đồng hành, nhưng cũng cần vùng riêng phù hợp để hỏi, thử, đọc, viết và trưởng thành. Một sinh viên trưởng thành có quyền riêng tư độc lập, kể cả khi phụ huynh trả học phí.

AI làm căng thẳng này rõ hơn vì nó ghi lại nhiều hơn lớp học truyền thống. Một cuộc hỏi nhỏ với giáo viên sau giờ học thường không tự động tạo log cho phụ huynh. Một cuộc chat với AI có thể tạo transcript, analytics, risk score, dashboard. Nếu mọi câu hỏi của thiếu niên đều có khả năng thành dữ liệu cho người lớn, các em sẽ học cách không hỏi điều thật. Nếu phụ huynh nhận quá nhiều dữ liệu vi mô, họ có thể biến hỗ trợ thành kiểm soát. Nếu trường giấu hết, phụ huynh không thể bảo vệ con. Cần thiết kế tầng thông tin, không phải mở hết hoặc đóng hết.

Một nguyên tắc thực tế: phụ huynh nên thấy thông tin cần để hỗ trợ, không nhất thiết thấy mọi dấu vết. Giáo viên nên thấy dữ liệu cần để dạy, không nhất thiết thấy mọi hội thoại riêng tư. Lãnh đạo nên thấy dữ liệu tổng hợp để sửa hệ thống, không nhất thiết thấy hồ sơ cá nhân. Vendor nên thấy log kỹ thuật cần thiết, không nhất thiết thấy nội dung nhạy cảm. Quyền truy cập phải theo vai trò, mục đích và tuổi.

12. Audit, fallback và incident report là phần của sư phạm

Khi AI sai trong giáo dục, hậu quả không chỉ là lỗi phần mềm. Một AI tutor giải thích sai có thể tạo hiểu lầm. Một AI detector false positive có thể làm mất danh dự. Một AI placement tool thiên lệch có thể hạ kỳ vọng. Một chatbot không escalation khi người học khủng hoảng có thể bỏ lỡ hỗ trợ. Một grading system lệch có thể ảnh hưởng học bổng. Vì vậy audit, fallback và incident report không phải thứ để đội pháp lý xử lý sau. Chúng là phần của thiết kế sư phạm.

Audit nghĩa là có thể kiểm tra hệ thống trước và sau triển khai: dữ liệu nào, model nào, mục đích nào, nhóm nào bị ảnh hưởng, performance theo nhóm ra sao, error pattern là gì, ai override, ai khiếu nại, sự cố nào xảy ra, vendor sửa thế nào. Fallback nghĩa là khi AI không chắc, lỗi, quá tải, bị nghi lệch, hoặc gặp tình huống ngoài phạm vi, người học không bị bỏ rơi. Có thể chuyển sang giáo viên, bài tập không AI, quy trình chấm người, tư vấn người thật, hoặc tạm dừng tính năng. Incident report nghĩa là sự cố nghiêm trọng phải được ghi nhận, điều tra, sửa và thông báo đúng bên.

NIST AI RMF 1.0 đề xuất khung quản trị rủi ro AI theo các chức năng Govern, Map, Measure, Manage, nhằm đưa trustworthiness vào thiết kế, phát triển, sử dụng và đánh giá AI systems.[^nist-rmf] NIST Generative AI Profile bổ sung các rủi ro và thực hành riêng cho GenAI như đánh giá, tài liệu hóa, quản trị vòng đời, đo lường rủi ro và quản lý tác động.[^nist-genai] EU AI Act Article 73 cũng yêu cầu báo cáo serious incidents với high-risk AI trong các mốc thời gian cụ thể và điều tra/risk assessment/corrective action.[^eu-article73] Chuyển sang ngôn ngữ trường học: nếu AI có thể gây hại, trường cần biết “khi hại xảy ra, ai làm gì trong bao lâu”.

13. Quyền khiếu nại và quyền được giải thích phải đi vào sản phẩm

Một người học không nên phải hiểu kiến trúc AI để phản đối quyết định bất lợi. Nếu hệ thống nói em có nguy cơ rớt, em phải có quyền hỏi vì sao. Nếu AI gợi ý em vào lớp thấp hơn, em phải có quyền yêu cầu xem lại. Nếu AI chấm điểm thấp, em phải có quyền biết tiêu chí và xin human review. Nếu AI detector nghi gian lận, em phải có quyền trình bày, xem bằng chứng, và không bị coi là có tội chỉ vì một score. Nếu AI tutor đưa lời khuyên sai nghiêm trọng, phải có kênh báo lỗi.

EU AI Act Article 85 ghi nhận quyền lodge complaint với market surveillance authority khi có cơ sở cho rằng có vi phạm; Article 86 nói người bị ảnh hưởng bởi quyết định dựa trên output của một số high-risk AI systems có quyền nhận giải thích rõ và có ý nghĩa về vai trò của AI trong decision-making procedure và các yếu tố chính của quyết định.[^eu-article85][^eu-article86] Trong giáo dục, tinh thần này nên được đưa xuống gần người học hơn: không chỉ quyền ngoài hệ thống, mà là nút “yêu cầu xem lại”, “báo lỗi”, “giải thích quyết định”, “gặp người thật”.

Quyền khiếu nại phải có thời hạn xử lý, người chịu trách nhiệm và hậu quả thật. Nếu người học khiếu nại mà không ai trả lời, đó là trang trí. Nếu giáo viên có thể override nhưng bị lãnh đạo hỏi vì sao override quá nhiều, override không tự do. Nếu vendor nhận bug nhưng không sửa, audit không đủ. Nếu trường không thông báo khi AI được dùng trong quyết định, người học thậm chí không biết mình cần khiếu nại. Một quyền không được thiết kế vào workflow thường là quyền trên giấy.

14. AI literacy: không chỉ dạy học sinh prompt

AI literacy trong giáo dục không thể chỉ là “cách viết prompt hay”. Nó phải gồm hiểu AI có thể làm gì, không làm gì, sai thế nào, thiên lệch thế nào, dữ liệu đi đâu, khi nào được dùng, khi nào không nên dùng, khi nào phải công bố, khi nào cần kiểm chứng, khi nào phải hỏi người thật. Với giáo viên, AI literacy còn gồm biết đọc output, biết phát hiện automation bias, biết thiết kế hoạt động học không bị AI làm hộ, biết đặt guardrail và biết bảo vệ dữ liệu người học. Với lãnh đạo, AI literacy là biết mua sản phẩm, hỏi đúng câu hỏi vendor, đánh giá rủi ro, tổ chức oversight, và không bị thuyết trình “AI-powered” làm mờ mắt.

EU AI Act Article 4 yêu cầu providers và deployers thực hiện biện pháp để bảo đảm mức AI literacy đủ cho nhân sự và những người vận hành/dùng AI systems thay mặt họ, xét đến kiến thức, kinh nghiệm, đào tạo, bối cảnh sử dụng và nhóm người bị tác động.[^eu-article4] UNESCO AI Competency Framework for Students cũng đặt AI literacy trong bốn chiều: human-centred mindset, ethics of AI, AI techniques/applications và AI system design; trọng tâm không chỉ là dùng công cụ, mà là critical judgement và responsible citizenship.[^unesco-students]

Điều này rất quan trọng cho chính sách theo tuổi. Trẻ nhỏ không thể gánh AI literacy như người lớn. Thiếu niên cần học cách nghi ngờ và tự bảo vệ. Sinh viên cần học chuẩn học thuật và trách nhiệm nghề nghiệp. Giáo viên cần đào tạo trước khi được yêu cầu giám sát. Lãnh đạo cần năng lực governance trước khi ký hợp đồng. Một trường không thể nói “human oversight” nếu con người trong oversight chưa được học AI literacy.

15. Một mô hình triển khai: ma trận tuổi, mục đích và hậu quả

Một trường hoặc sản phẩm có thể bắt đầu bằng ma trận ba câu hỏi. Thứ nhất: người học ở giai đoạn nào? Trẻ nhỏ, thiếu niên, sinh viên, người lớn? Thứ hai: AI dùng cho mục đích gì? Luyện tập, feedback, sáng tạo, hỗ trợ giáo viên, analytics, assessment, placement, discipline, admission, wellbeing? Thứ ba: output của AI có hậu quả gì? Không hậu quả, hậu quả nhẹ, ảnh hưởng điểm, ảnh hưởng danh dự, ảnh hưởng cơ hội, ảnh hưởng an toàn?

Từ ba câu hỏi đó, chính sách có thể phân tầng. Với trẻ nhỏ và hậu quả thấp, tập trung vào age-appropriate UX, giới hạn nội dung, privacy by default, phụ huynh/giáo viên hiểu được. Với thiếu niên và AI hội thoại, thêm ranh giới quan hệ, dữ liệu nhạy cảm, quyền riêng tư tăng dần và escalation. Với mọi lứa tuổi trong high-stakes assessment, thêm human review, explainability, appeal, audit và incident process. Với AI dùng bởi giáo viên để chuẩn bị bài hoặc tạo gợi ý, cần kiểm chứng chuyên môn nhưng rủi ro với người học thấp hơn nếu không tự động áp vào điểm số. Với AI dùng để quyết định tuyển sinh, xếp lớp, kỷ luật, rủi ro rất cao dù người học ở tuổi nào.

Ma trận này không làm chính sách phức tạp để khoe quản trị. Nó làm chính sách bớt giả. Giáo dục vốn phân tầng theo tuổi, môn học, năng lực, bối cảnh, quyền và hậu quả. AI chỉ buộc ta nói rõ những phân tầng ấy.

16. Benchmark đúng cho AI theo tuổi và mức rủi ro

Benchmark tệ hỏi: “Bao nhiêu học sinh dùng AI?”. Benchmark tốt hỏi: “Nhóm tuổi nào dùng, cho mục đích gì, với hậu quả nào, và quyền nào đi kèm?”. Benchmark tệ hỏi: “AI có tăng completion không?”. Benchmark tốt hỏi: “AI có tăng năng lực còn lại khi không có AI không, đặc biệt với người học mới?”. Benchmark tệ hỏi: “Phụ huynh có dashboard không?”. Benchmark tốt hỏi: “Dashboard giúp hỗ trợ hay làm tăng giám sát?”. Benchmark tệ hỏi: “Có human-in-the-loop không?”. Benchmark tốt hỏi: “Con người đó có training, authority, thời gian, thông tin và quyền override thật không?”.

Benchmark cho trẻ em phải đo safety, privacy, comprehension, không thao túng, không thu quá mức, không tạo phụ thuộc. Benchmark cho thiếu niên phải đo agency, quyền riêng tư, khả năng kiểm chứng AI, ranh giới hội thoại và tác động cảm xúc. Benchmark cho sinh viên phải đo academic integrity theo hướng học thật, không chỉ phát hiện gian lận, và quyền phản biện khi AI tham gia đánh giá. Benchmark cho high-stakes AI phải đo validity, bias, explainability, appeal outcomes, false positives, false negatives, incident handling và tác động lên nhóm yếu thế.

Một benchmark đáng tin còn phải đo “mức độ rút lui”. AI có dần giảm hỗ trợ khi người học mạnh hơn không? Hệ thống có biết chuyển sang người thật khi vượt phạm vi không? Trường có dừng tính năng khi phát hiện hại không? Vendor có sửa model khi audit phát hiện bias không? Người học có thắng khiếu nại khi AI sai không? Nếu câu trả lời luôn là “không”, hệ thống có thể thông minh, nhưng không có trách nhiệm.

17. Lập trường của chương này

Chương này không đề nghị trường học sợ AI. Nó đề nghị trường học đừng dùng AI như một khối mơ hồ. AI tutor, AI feedback, AI grading, AI detector, AI advisor, AI dashboard, AI companion, AI proctoring, AI placement, AI wellbeing triage không cùng một thứ về mặt giáo dục, dù chúng có thể dùng công nghệ tương tự. Cùng một model có thể là công cụ học nhẹ trong một bối cảnh và hệ thống quyền lực cao trong bối cảnh khác.

Lập trường của chương này là: càng nhỏ tuổi, mặc định bảo vệ càng cao; càng hậu quả cao, oversight càng mạnh; càng dữ liệu nhạy cảm, thu càng ít và lưu càng ngắn; càng tự động hóa gần quyết định, quyền giải thích và khiếu nại càng phải rõ; càng dùng AI để hỗ trợ con người, càng phải bảo đảm con người có năng lực và thẩm quyền thật. AI trong giáo dục phải được cấp quyền theo vai trò, không được cấp quyền theo hào quang công nghệ.

Một AI cho trẻ nhỏ nên biết ít hơn, nói ít hơn, lưu ít hơn và chuyển cho người lớn đúng lúc. Một AI cho thiếu niên nên tôn trọng sự lớn lên, không biến mọi riêng tư thành dữ liệu cho người lớn. Một AI cho sinh viên nên trao quyền thử nghiệm nhưng không được âm thầm quyết định cơ hội. Một AI cho người lớn nên hỗ trợ tự chủ nhưng không được che bias trong chứng chỉ và nghề nghiệp. Một AI trong formative feedback nên giúp học. Một AI trong high-stakes assessment phải chịu kiểm định và khiếu nại. Một AI có human oversight phải có con người đủ quyền lực để nói “không”.

Cuối cùng, câu hỏi không phải “AI có được vào trường không?”. AI đã vào rồi, bằng nhiều đường: điện thoại, chatbot, LMS, công cụ viết, công cụ chấm, công cụ quản trị, công cụ tìm kiếm, công cụ học cá nhân. Câu hỏi thật là: AI vào phòng nào, gặp ai, được làm gì, được giữ dữ liệu gì, ai có thể dừng nó, ai giải thích khi nó sai, và người học có còn quyền trở thành nhiều hơn hồ sơ mà AI tạo ra về họ hay không.

Một nền giáo dục trưởng thành không nói “AI cho tất cả” hoặc “AI cho không ai”. Nó nói: đúng AI, đúng tuổi, đúng mục đích, đúng giới hạn, đúng người giám sát, đúng quyền phản hồi. Nghe có vẻ ít hào nhoáng hơn một khẩu hiệu. Nhưng giáo dục không cần khẩu hiệu nhanh. Nó cần những ranh giới đủ tốt để người học có thể lớn lên bên cạnh công nghệ mà không bị công nghệ quyết định thay tương lai.

Ghi chú nguồn cho chương

[^eu-annex-iii]: European Commission / AI Act Service Desk, Annex III: High-risk AI systems. Annex III xếp một số hệ thống AI trong education and vocational training vào nhóm high-risk, gồm AI dùng để quyết định access/admission, evaluate learning outcomes, assess appropriate level of education, hoặc monitor/detect prohibited behaviour during tests. Nguồn: https://ai-act-service-desk.ec.europa.eu/en/ai-act/annex-3

[^unicef-ai-children]: UNICEF Innocenti, Guidance on AI and children: Version 3.0 (2025). UNICEF đưa ra các yêu cầu cho child-centred AI, gồm regulatory frameworks/oversight/compliance, safety for children, protect children's data and privacy, non-discrimination/fairness, transparency/explainability/accountability, và tôn trọng human rights/child rights trong AI. Nguồn: https://www.unicef.org/innocenti/reports/policy-guidance-ai-children

[^ico-code]: UK Information Commissioner’s Office, Age appropriate design: a code of practice for online services. ICO Children’s Code đặt best interests of the child làm primary consideration, yêu cầu high privacy by default, data minimisation, hạn chế data sharing, geolocation off by default, xử lý parental controls/profiling/nudge techniques theo hướng bảo vệ trẻ em. Nguồn: https://ico.org.uk/for-organisations/uk-gdpr-guidance-and-resources/childrens-information/childrens-code-guidance-and-resources/age-appropriate-design-a-code-of-practice-for-online-services/

[^unesco-genai]: UNESCO, Guidance for generative AI in education and research (2023, trang cập nhật 2026). UNESCO đề xuất human-centred approach, bảo vệ data privacy, đặt age limit cho independent conversations với GenAI platforms, và yêu cầu ethical validation cùng pedagogical design phù hợp với tuổi và bối cảnh. Nguồn: https://www.unesco.org/en/articles/guidance-generative-ai-education-and-research

[^eu-article27]: European Commission / AI Act Service Desk, Article 27: Fundamental rights impact assessment for high-risk AI systems. Article 27 yêu cầu một số deployer trước khi dùng high-risk AI phải đánh giá tác động lên fundamental rights, gồm mô tả quy trình dùng, thời gian/tần suất, nhóm bị ảnh hưởng, rủi ro, human oversight và biện pháp khi rủi ro xảy ra. Nguồn: https://ai-act-service-desk.ec.europa.eu/en/ai-act/article-27

[^hleg-trustworthy]: European Commission High-Level Expert Group on AI, Ethics Guidelines for Trustworthy AI (2019). Guidelines nêu trustworthy AI gồm lawful, ethical, robust và bảy yêu cầu như human agency and oversight, technical robustness and safety, privacy/data governance, transparency, fairness, societal/environmental well-being, accountability; human oversight có thể qua human-in-the-loop, human-on-the-loop và human-in-command. Nguồn: https://digital-strategy.ec.europa.eu/en/library/ethics-guidelines-trustworthy-ai và bản tóm tắt: https://knowledge4policy.ec.europa.eu/publication/ethics-guidelines-trustworthy-ai_en

[^eu-article14]: European Commission / AI Act Service Desk, Article 14: Human oversight. Article 14 yêu cầu high-risk AI systems được thiết kế để natural persons có thể oversee hiệu quả, hiểu capabilities/limitations, nhận ra automation bias, diễn giải output, quyết định không dùng hoặc override output, và can thiệp/dừng hệ thống khi cần. Nguồn: https://ai-act-service-desk.ec.europa.eu/en/ai-act/article-14

[^eu-article26]: European Commission / AI Act Service Desk, Article 26: Obligations of deployers of high-risk AI systems. Article 26 yêu cầu deployers dùng high-risk AI theo instructions, giao human oversight cho người có competence, training, authority và support, monitor operation, giữ logs khi phù hợp, thông báo risks/incidents, và inform individuals subject to AI-assisted decisions trong các trường hợp áp dụng. Nguồn: https://ai-act-service-desk.ec.europa.eu/en/ai-act/article-26

[^nist-rmf]: NIST, Artificial Intelligence Risk Management Framework (AI RMF 1.0) (2023). AI RMF là khung tự nguyện để các tổ chức quản lý rủi ro AI và đưa trustworthiness vào thiết kế, phát triển, sử dụng và đánh giá AI systems; khung vận hành qua các functions như Govern, Map, Measure, Manage. Nguồn: https://www.nist.gov/publications/artificial-intelligence-risk-management-framework-ai-rmf-10

[^nist-genai]: NIST, Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile (2024, updated 2026). Profile này là companion resource cho AI RMF 1.0, tập trung vào rủi ro GenAI và thực hành quản trị/đo lường/quản lý trong vòng đời AI. Nguồn: https://www.nist.gov/publications/artificial-intelligence-risk-management-framework-generative-artificial-intelligence

[^eu-article73]: European Commission / AI Act Service Desk, Article 73: Reporting of serious incidents. Article 73 yêu cầu providers của high-risk AI systems báo cáo serious incidents cho market surveillance authorities trong thời hạn tùy mức độ nghiêm trọng, đồng thời điều tra, risk assessment và corrective action. Nguồn: https://ai-act-service-desk.ec.europa.eu/en/ai-act/article-73

[^eu-article85]: European Commission / AI Act Service Desk, Article 85: Right to lodge a complaint with a market surveillance authority. Article 85 cho phép natural/legal persons có căn cứ cho rằng có infringement của AI Act nộp complaint tới market surveillance authority. Nguồn: https://ai-act-service-desk.ec.europa.eu/en/ai-act/article-85

[^eu-article86]: European Commission / AI Act Service Desk, Article 86: Right to explanation of individual decision-making. Article 86 nêu người bị ảnh hưởng bởi quyết định dựa trên output của một số high-risk AI systems trong Annex III, gây legal effects hoặc similarly significantly affects họ theo hướng bất lợi, có quyền nhận clear and meaningful explanations về vai trò AI và các yếu tố chính của quyết định, trong phạm vi điều khoản áp dụng. Nguồn: https://ai-act-service-desk.ec.europa.eu/en/ai-act/article-86

[^eu-article4]: European Commission / AI Act Service Desk, Article 4: AI literacy. Article 4 yêu cầu providers và deployers của AI systems thực hiện biện pháp để bảo đảm sufficient AI literacy cho nhân sự và người dùng/vận hành thay mặt họ, xét đến technical knowledge, experience, education, training, context of use và groups affected. Nguồn: https://ai-act-service-desk.ec.europa.eu/en/ai-act/article-4

[^unesco-students]: UNESCO, AI competency framework for students (2024). Framework nêu 12 competencies theo bốn chiều: human-centred mindset, ethics of AI, AI techniques and applications, AI system design; nhấn mạnh critical judgement, responsible use, foundational AI knowledge và năng lực tham gia AI an toàn, có ý nghĩa. Nguồn: https://www.unesco.org/en/articles/ai-competency-framework-students