Chương 27. Những thứ không nên tự động hóa

Một trường học đang quá tải. Giáo viên chấm bài đến tối. Cố vấn học tập có quá nhiều sinh viên cần gặp. Phòng đào tạo xử lý hàng nghìn yêu cầu mỗi kỳ. Học sinh cần phản hồi nhanh hơn. Phụ huynh cần thông tin rõ hơn. Lãnh đạo cần dữ liệu để ra quyết định. Vendor bước vào và nói: “Việc này có thể tự động hóa.”

Câu đó có sức quyến rũ rất lớn. Nó hứa giảm tải, tăng tốc, giảm lỗi, giảm chi phí, chuẩn hóa quy trình, mở rộng hỗ trợ. Và trong nhiều trường hợp, nó đúng. Có những việc nền trong giáo dục rất nên tự động hóa: nhắc deadline, sắp lịch, kiểm tra bài nộp thiếu, gợi ý tài liệu, chuyển đổi định dạng cho người khuyết tật, dịch bản nháp để tiếp cận, tổng hợp câu hỏi thường gặp, tạo bài luyện thêm, phát hiện lỗi hệ thống, giúp giáo viên tìm lại dữ liệu lớp. Tự động hóa tốt có thể trả lại thời gian cho con người.

Nhưng có một câu khác phải đứng cạnh câu đó: không phải việc nào lặp lại cũng nên giao cho máy. Một việc lặp lại có thể là việc nền. Nhưng nó cũng có thể là nghi thức quan hệ. Một việc tốn thời gian có thể là lãng phí. Nhưng nó cũng có thể là nơi giáo viên hiểu người học. Một quyết định có vẻ theo quy tắc có thể là thủ tục. Nhưng nó cũng có thể là phán đoán đạo đức. Một phản hồi có thể được sinh tự động. Nhưng khoảnh khắc người học nhận ra “có người thật đang đọc mình” thì không tự động hóa dễ dàng.

Chương này không chống tự động hóa. Nó chống một cách nghĩ quá nghèo về giáo dục: hễ việc nào chậm, lặp, mệt, khó mở rộng thì giao cho máy. Giáo dục không chỉ là dòng việc cần tối ưu. Nó là một hệ thống quan hệ, phán đoán, kỳ vọng, trách nhiệm và trưởng thành. Nếu tự động hóa việc nền để con người có thêm thời gian ở nơi ý nghĩa giáo dục được quyết định, công nghệ đáng dùng. Nếu tự động hóa chính những nơi ấy để hệ thống chạy rẻ hơn, nhanh hơn, ít phiền hơn, thì đó là một thất bại được trình bày như đổi mới.

1. Câu hỏi không phải “có thể tự động hóa không?”

Trong công nghệ, câu hỏi “có thể tự động hóa không?” thường đến rất sớm. Nếu có dữ liệu, có quy trình, có pattern, có API, có model, có thể tự động hóa. Nhưng trong giáo dục, câu hỏi đó chưa đủ. Câu hỏi đúng hơn là: “Nếu tự động hóa việc này, người học mất gì, giáo viên mất gì, tổ chức được gì, và quyền lực chuyển sang đâu?”

Một hệ thống có thể tự động gửi feedback. Nhưng nếu feedback ấy làm người học sửa lỗi nhanh hơn mà giáo viên vẫn thấy được pattern của lớp, tốt. Nếu feedback ấy khiến giáo viên không còn đọc bài viết của học sinh, mất cơ hội hiểu suy nghĩ của học sinh, xấu. Một hệ thống có thể tự động gợi ý nhóm học. Nhưng nếu gợi ý là điểm bắt đầu để giáo viên cân nhắc, được. Nếu gợi ý đóng nhãn năng lực và cố định kỳ vọng, nguy hiểm. Một hệ thống có thể tự động cảnh báo gian lận. Nhưng nếu cảnh báo là tín hiệu cần điều tra, có thể hữu ích. Nếu cảnh báo trở thành cáo buộc, không chấp nhận được.

Tự động hóa không chỉ thay đổi ai làm việc. Nó thay đổi bản chất việc. Khi một giáo viên đọc bài nháp, giáo viên không chỉ sửa lỗi. Họ nhận ra người học đang nghĩ gì, sợ gì, bắt chước gì, tiến bộ ở đâu, cần được hỏi gì. Khi một cố vấn gặp sinh viên có nguy cơ bỏ học, họ không chỉ thu thập nguyên nhân. Họ tạo một cơ hội để sinh viên được nhìn thấy như người có hoàn cảnh, không chỉ là risk score. Khi một giáo viên xử lý xung đột trong lớp, họ không chỉ áp dụng quy định. Họ dạy học sinh cách sống với người khác.

Nếu tự động hóa cắt bỏ những cơ hội hiểu, hỏi, gặp, chịu trách nhiệm và học cùng nhau, nó không đơn giản là tiết kiệm thời gian. Nó làm nghèo giáo dục.

2. Các bên trong cuộc tranh luận

Người làm sản phẩm nói: “Nếu có thể tự động hóa phần lặp lại, giáo viên sẽ có thời gian cho việc sâu hơn.” Đây là lập luận mạnh và không nên xem nhẹ. Nhiều giáo viên thật sự bị chôn dưới việc hành chính, chấm lặp, nhập dữ liệu, trả lời câu hỏi giống nhau, xử lý biểu mẫu, tìm tài liệu, viết báo cáo. Tự động hóa phần nền có thể là cách bảo vệ phẩm giá nghề giáo.

Giáo viên nói: “Nhưng ai quyết định phần nào là lặp lại vô nghĩa?” Đây là câu hỏi sắc. Với người ngoài lớp học, việc đọc 30 bài viết về cùng một chủ đề có vẻ lặp. Với giáo viên, đó có thể là 30 cách hiểu khác nhau, 30 dấu hiệu của tiến bộ, 30 cơ hội nhận ra ai đang bắt đầu có giọng riêng. Với lãnh đạo, cuộc trò chuyện cố vấn có thể là chi phí. Với người học, đó có thể là lần đầu có người hỏi “em ổn không?”.

Người học nói: “Tôi muốn được hỗ trợ nhanh, nhưng không muốn bị xử lý như ticket.” Một chatbot trả lời câu hỏi thường gặp có thể tốt. Một hệ thống tự động bác đơn xin gia hạn vì thiếu trường thông tin có thể tàn nhẫn. Một AI tutor gợi ý bài luyện có thể hữu ích. Một AI advisor tự động đẩy người học khỏi ngành khó vì xác suất thành công thấp có thể đóng tương lai.

Lãnh đạo trường nói: “Chúng tôi phải vận hành hệ thống lớn.” Điều này đúng. Một trường lớn cần quy trình. Không thể mọi việc đều tùy cảm xúc cá nhân. Nhưng quản trị tốt không phải loại bỏ phán đoán; quản trị tốt là đặt phán đoán vào đúng nơi, có quy trình, có trách nhiệm, có quyền khiếu nại. Tự động hóa có thể giúp hệ thống nhất quán hơn. Nó cũng có thể giúp hệ thống vô cảm hơn nếu nhất quán với một quy tắc nghèo.

Vendor nói: “Máy có thể giảm bias của con người.” Có khi đúng. Con người có thiên kiến. Con người mệt. Con người không nhất quán. Nhưng máy không đứng ngoài xã hội. AI học từ dữ liệu cũ, mục tiêu đo được, quy trình đã được mã hóa, và giả định của người thiết kế. Nếu tự động hóa một quy trình bất công, ta có thể làm bất công chạy nhanh hơn, sạch hơn, khó thấy hơn.

Nhà quản lý nói: “Một số việc phải bị giới hạn hoặc cấm.” Điều này không phải phản công nghệ. EU AI Act cấm một số thực hành AI như manipulative/exploitative systems, social scoring, và trong bối cảnh giáo dục có điểm rất đáng chú ý: cấm AI systems infer emotions của người tự nhiên trong education institutions, trừ một số mục đích medical hoặc safety.[^eu-article5] Việc này gửi một tín hiệu rõ: có những năng lực kỹ thuật không nên được triển khai chỉ vì chúng khả thi.

3. Không phải việc nào lặp lại cũng là việc nền

Trong trường học, nhiều việc lặp lại chính là mô hình giáo dục. Giáo viên lặp lại câu hỏi “vì sao em nghĩ vậy?” không phải vì chưa biết câu trả lời. Họ lặp để hình thành thói quen lập luận. Giáo viên đọc nhiều bài nháp không phải vì thích sửa lỗi dấu câu. Họ đọc để hiểu sự phát triển của tư duy. Một cố vấn gặp nhiều sinh viên đang mất phương hướng không phải chỉ để phân loại nguyên nhân. Họ gặp để tạo không gian người học tự nghe chính mình nói ra vấn đề.

Nếu nhìn từ workflow, tất cả có vẻ tự động hóa được. Nếu nhìn từ sư phạm, nhiều hành động lặp lại là cách con người tạo quan hệ và kỳ vọng. Một lời nhắc tự động có thể thay thế thông báo. Nó không thay thế ánh mắt của giáo viên khi nói: “Tôi biết em có thể làm tốt hơn.” Một rubric tự động có thể giúp phản hồi cấu trúc. Nó không thay thế cuộc trò chuyện về vì sao một lập luận quan trọng với người viết. Một risk alert có thể chỉ ra người học đang biến mất. Nó không thay thế cuộc gọi mà người học nghe thấy giọng người thật.

Điều này không có nghĩa giáo viên phải làm thủ công mọi thứ. Ngược lại, tự động hóa nên được dùng để bảo vệ những hành động lặp lại có giá trị. Nếu AI giúp gom lỗi phổ biến để giáo viên không phải chấm từng lỗi nhỏ, giáo viên có thêm thời gian cho phản hồi sâu. Nếu AI trả lời câu hỏi hành chính, cố vấn có thêm thời gian cho ca khó. Nếu AI sắp lịch, người học gặp người thật nhanh hơn. Nhưng nếu AI thay chính cuộc gặp, thay chính phán đoán, thay chính quan hệ, ta phải dừng lại.

4. Kỷ luật không nên được tự động hóa

Kỷ luật trong giáo dục không chỉ là áp dụng hình phạt. Nó là nơi một cộng đồng nói với người học: hành vi này gây hại, vì sao gây hại, ai bị ảnh hưởng, trách nhiệm là gì, làm sao sửa, và em vẫn còn cơ hội trở thành người khác hay không. Nếu kỷ luật bị tự động hóa thành rule engine, education mất đi một trong những chức năng khó nhất: dạy trách nhiệm mà không hủy con người.

AI có thể hỗ trợ phát hiện pattern: vắng học nhiều, submission bất thường, hành vi online gây nguy cơ, nhiều báo cáo bắt nạt. Nhưng từ pattern đến kỷ luật là một bước đạo đức. Một học sinh không bật camera có thể đang chống đối, cũng có thể đang ở nhà chật. Một sinh viên nộp bài giống AI có thể gian lận, cũng có thể bị detector false positive, cũng có thể dùng AI theo cách được phép nhưng không biết công bố. Một em nổi nóng trên diễn đàn có thể vi phạm, cũng có thể đang phản ứng với bắt nạt. Một học sinh đi trễ liên tục có thể thiếu trách nhiệm, cũng có thể phải đưa em nhỏ đi học.

Tự động hóa kỷ luật có xu hướng làm bối cảnh biến mất. Nó thích dấu hiệu rõ, quy tắc rõ, hành động rõ. Nhưng giáo dục cần hỏi thêm: chuyện gì đã xảy ra, ai bị hại, người học hiểu gì, người học có cơ hội sửa không, hình phạt có tương xứng không, có yếu tố bất bình đẳng không, có cách phục hồi quan hệ không. Đây là những câu hỏi máy có thể hỗ trợ chuẩn bị dữ liệu, nhưng không nên tự quyết.

Vì vậy, nguyên tắc tối thiểu là: AI không được tự động đưa ra hình phạt, loại khỏi lớp, ghi vi phạm, cáo buộc gian lận, báo phụ huynh theo cách gây hậu quả, hoặc chuyển hồ sơ kỷ luật mà không có human review thực chất, quyền giải trình và cơ chế khiếu nại. Kỷ luật là nơi giáo dục quyết định người học có còn được xem là chủ thể có thể sửa mình hay không. Không nên giao quyết định ấy cho một hệ thống tối ưu quy trình.

5. Kỳ vọng về người học không nên bị máy đóng khung

Một trong những quyền lực âm thầm nhất của giáo dục là kỳ vọng. Ai được xem là có tiềm năng? Ai được giao việc khó? Ai được khuyến khích thử ngành mới? Ai được đưa vào nhóm nâng cao? Ai bị khuyên chọn đường an toàn? Ai được tha thứ khi sai? Ai bị giải thích thất bại như thiếu năng lực?

AI trong giáo dục rất dễ chạm vào kỳ vọng vì nó thích dự đoán. Dự đoán ai rớt. Dự đoán ai bỏ học. Dự đoán ai phù hợp với môn nào. Dự đoán ai cần remedial. Dự đoán ai có khả năng thành công. Dự đoán có thể giúp hỗ trợ sớm. Nhưng dự đoán cũng có thể làm tương lai co lại. Khi một người học bị gắn nhãn “low probability of success”, hệ thống có thể nói rằng đó chỉ là tín hiệu. Nhưng giáo viên, cố vấn, phụ huynh và chính người học có thể bắt đầu cư xử như thể đó là bản chất.

Đây là lý do chương trước nhấn mạnh risk score không phải số phận. Ở chương này, ta nói mạnh hơn: kỳ vọng không nên được tự động hóa. AI có thể nói “dữ liệu hiện tại cho thấy người học có thể cần hỗ trợ ở kỹ năng X”. AI không nên nói, trực tiếp hoặc gián tiếp, “người này thuộc loại không phù hợp”. Một hệ thống giáo dục tốt phải giữ cửa mở lâu hơn mô hình dự đoán. Vì giáo dục chính là niềm tin rằng người học có thể vượt dữ liệu cũ của họ.

Biesta viết về “beautiful risk of education”: giáo dục thật luôn có rủi ro vì người học không phải vật thể để nắn theo kế hoạch, mà là chủ thể của hành động và trách nhiệm.[^biesta-risk] Nếu ta tự động hóa kỳ vọng để giảm rủi ro, ta có thể làm giáo dục trông hiệu quả hơn nhưng ít giáo dục hơn. Một trường học không nên chỉ tối ưu xác suất thành công; nó phải biết trao những cơ hội mà xác suất ban đầu chưa biết cách thấy.

6. Quan hệ không nên được thay bằng mô phỏng quan hệ

AI có thể nói bằng giọng ấm. Nó có thể nhớ tên, hỏi han, khen ngợi, an ủi, động viên. Một số người học có thể thấy dễ hỏi AI hơn hỏi người thật. Điều này có giá trị, đặc biệt với người xấu hổ, người học một mình, người không có hỗ trợ ở nhà. Nhưng ta phải phân biệt hỗ trợ hội thoại với quan hệ giáo dục. Một quan hệ giáo dục có trách nhiệm, ký ức chung, bối cảnh xã hội, giới hạn đạo đức, và sự hiện diện của một con người cũng có thể bị người học làm thay đổi.

Một AI companion có thể làm người học bớt cô đơn trong khoảnh khắc. Nhưng nếu trường dùng nó như thay thế cho cố vấn, giáo viên chủ nhiệm, cộng đồng lớp, hoặc bạn học, nó có thể làm vấn đề quan hệ biến thành vấn đề giao diện. Người học không chỉ cần lời an ủi. Họ cần thuộc về một nhóm, được người khác nhận ra khi vắng mặt, được tranh luận, được sửa sai trong quan hệ thật, được chịu trách nhiệm trước người khác và được tha thứ bởi người khác.

UNESCO GEM Report 2023 kêu gọi công nghệ trong giáo dục phải đặt nhu cầu người học lên trước, hỗ trợ giáo viên, dùng cho enhanced learning experiences và wellbeing, không thay thế tương tác người-người.[^unesco-gem] Đây là điểm mà mọi sản phẩm AI companion trong giáo dục phải đối diện. Nếu công nghệ giúp người học đi tới quan hệ tốt hơn, nó đáng quý. Nếu nó làm quan hệ người-người trở nên tùy chọn vì máy luôn tiện hơn, giáo dục đang trả một chi phí âm thầm.

7. Cảm xúc không nên bị tự động suy luận để quản lý lớp học

Một camera nhìn mặt học sinh và nói em chán. Một hệ thống nhìn mắt sinh viên và nói em mất tập trung. Một AI phân tích giọng nói và nói em lo âu. Một dashboard cảm xúc báo lớp đang giảm engagement. Những thứ này nghe hiện đại, nhưng giáo dục cần cực kỳ thận trọng. Cảm xúc không phải chỉ số đơn giản. Một người im lặng có thể đang buồn, tập trung, phản kháng, mệt, sợ, suy nghĩ sâu, hoặc đơn giản là không muốn bị nhìn.

Tự động hóa suy luận cảm xúc trong giáo dục có nguy cơ biến đời sống nội tâm thành đối tượng quản trị. Khi học sinh biết mặt mình bị phân tích, mắt mình bị đọc, giọng mình bị chấm, họ không chỉ học nội dung môn học; họ học cách biểu diễn cảm xúc “đúng”. Điều đó xâm phạm vùng riêng cần thiết cho trưởng thành. Nó cũng rất dễ sai theo văn hóa, khuyết tật, neurodiversity, tính cách, ngôn ngữ cơ thể và bối cảnh.

EU AI Act Article 5 cấm sử dụng AI systems để infer emotions của người tự nhiên trong education institutions, trừ một số ngoại lệ medical hoặc safety.[^eu-article5] Dù các hệ thống pháp lý khác có thể khác, tinh thần giáo dục ở đây rất rõ: có những thứ không nên đo chỉ vì đo được. Nếu giáo viên lo học sinh buồn, cách đúng đầu tiên không phải camera cảm xúc. Cách đúng là quan hệ đủ tin để hỏi và đủ nguồn lực để hỗ trợ.

8. Feedback không nên bị biến thành sản phẩm đầu ra tự động

AI có thể tạo feedback rất nhanh. Đây là một lợi ích thật. Nhưng feedback trong giáo dục không chỉ là một đoạn chữ gắn vào bài làm. Feedback là một hành động trong quan hệ học tập: người học hiểu mục tiêu, thấy khoảng cách, biết bước tiếp theo, có cơ hội sửa, và tin rằng việc sửa có ý nghĩa. Nếu AI tạo feedback mà người học không đọc, không hiểu, không dùng, hoặc dùng để sửa bề mặt, feedback ấy chỉ là văn bản.

Black và Wiliam cho thấy formative assessment là thành phần quan trọng của classroom work và có thể nâng thành tích khi evidence được dùng để điều chỉnh dạy và học.[^black-wiliam] Education Endowment Foundation cũng nhấn mạnh feedback tốt có thể hỗ trợ tiến bộ, nhưng feedback không phải lúc nào cũng tích cực; làm sai có thể gây hại và feedback không hề “miễn phí” về thời gian.[^eef-feedback] Những điểm này rất quan trọng với AI feedback: tự động sinh phản hồi không đồng nghĩa tự động tạo học tập.

AI có thể hỗ trợ feedback ở tầng nền: chỉ ra lỗi ngữ pháp, gợi ý cấu trúc, phát hiện misconception, tạo câu hỏi phản tư, giúp giáo viên xem pattern. Nhưng nó không nên thay toàn bộ vòng feedback nếu vòng đó là nơi giáo viên hiểu người học và người học học cách đối thoại với tiêu chuẩn. Đặc biệt trong viết, dự án, nghiên cứu, nghệ thuật, đạo đức, phản biện và môn học mở, feedback không chỉ sửa bài; nó dạy người học nhìn lại chính suy nghĩ của mình.

Một nguyên tắc tốt là: tự động hóa feedback bề mặt, hỗ trợ feedback quá trình, giữ con người ở feedback bản sắc và phán đoán sâu. Máy có thể nói câu này mơ hồ. Giáo viên có thể hỏi: “Em đang cố nói điều gì mà chưa dám nói thẳng?”. Hai việc đó không cùng loại.

9. Đánh giá con người không nên bị giảm thành scoring

Chương 22 đã nói nhiều về đánh giá. Ở đây ta chốt lại ranh giới: scoring có thể được hỗ trợ tự động trong một số trường hợp, nhưng đánh giá con người không nên bị tự động hóa hoàn toàn. Điểm số là một phần của đánh giá. Nhưng đánh giá giáo dục còn gồm hiểu bằng chứng, mục tiêu học, bối cảnh, tiến bộ, chiến lược, cơ hội sửa, và hậu quả xã hội của kết luận.

Một AI có thể chấm câu trắc nghiệm. Có thể hỗ trợ phát hiện lỗi trong bài viết. Có thể gợi ý rubric. Có thể so sánh bài với tiêu chí. Nhưng khi đánh giá ảnh hưởng cơ hội, danh dự hoặc tương lai, máy không được là người cuối cùng. Một điểm tự động sai có thể được sửa nếu quy trình tốt. Nhưng nếu hệ thống khiến giáo viên tin rằng “đã có score nghĩa là đã có judgment”, đánh giá đã bị làm nghèo.

Điều nguy hiểm là scoring có vẻ khách quan. Nó có số, có confidence, có rubric, có dashboard. Nhưng số không tự làm cho phán đoán thành công bằng. Một hệ thống có thể nhất quán trong sai lệch. Có thể chấm cao phong cách văn quen thuộc với dữ liệu huấn luyện. Có thể phạt ngôn ngữ của người học không chuẩn mực trung tâm. Có thể đánh giá thấp sáng tạo vì lạ. Có thể thưởng văn bản trôi chảy nhưng rỗng. Đánh giá con người cần con người không phải vì con người hoàn hảo, mà vì phán đoán giáo dục phải có người chịu trách nhiệm và có thể đối thoại.

10. Academic integrity không nên được tự động hóa thành buộc tội

AI detectors, plagiarism systems, proctoring tools và anomaly detection có thể tạo tín hiệu. Nhưng trong academic integrity, tín hiệu không phải bản án. Một false positive không chỉ là lỗi kỹ thuật; nó chạm vào danh dự. Một sinh viên bị nghi gian lận có thể mất học bổng, bị kỷ luật, mất niềm tin với giáo viên, hoặc tự thấy mình bị hệ thống xem là kẻ gian. Vì vậy, mọi công cụ phát hiện phải bị giới hạn bởi nguyên tắc due process.

AI có thể hỗ trợ người dạy phát hiện điểm cần xem lại: đoạn văn đổi giọng, similarity cao, hành vi thi bất thường, thời gian làm bài lạ. Nhưng cáo buộc phải do con người quyết định sau khi xem nhiều bằng chứng, nghe người học giải trình, xét bối cảnh, và cho quyền khiếu nại. Một trường học tự động gửi email “bạn đã gian lận” dựa trên detector là trường học đã nhầm quản trị rủi ro với giáo dục công bằng.

Đây cũng là nơi automation bias rất nguy hiểm. Parasuraman và Riley gọi “misuse” là over-reliance vào automation dẫn đến failures of monitoring hoặc decision biases; họ cũng cảnh báo “automation abuse” khi nhà thiết kế hoặc quản lý tự động hóa chức năng mà không xét hậu quả với vai trò và hiệu năng con người.[^parasuraman-riley] Trong academic integrity, nếu giáo viên quá tải và detector đưa score đỏ, áp lực rubber-stamp rất lớn. Vì vậy, hệ thống phải được thiết kế để làm chậm việc buộc tội, không làm nó nhanh hơn.

11. Tự động hóa có thể làm mất cơ hội học của người học

Một số việc khó chính là nơi học diễn ra. Tự viết email xin gia hạn là học cách trình bày trách nhiệm. Tự lập kế hoạch dự án là học cách quản lý thời gian. Tự đọc rubric là học cách hiểu tiêu chuẩn. Tự sửa bài là học cách nhìn lại. Tự tranh luận với bạn là học cách nghe. Tự đi gặp giáo viên là học cách xin hỗ trợ. Nếu AI làm hết các bước này, người học có thể hoàn thành nhiều hơn nhưng trưởng thành ít hơn.

Điều này không có nghĩa người học phải bị bỏ mặc. Hỗ trợ là cần thiết. Nhưng hỗ trợ tốt không thay người học thực hiện toàn bộ hành động; nó scaffold để người học làm được. Một AI có thể giúp soạn email bằng cách hỏi người học muốn nói gì, gợi ý cấu trúc, nhắc trung thực và tôn trọng. Nhưng nếu nó viết một email hoàn hảo thay cho người học, người học mất cơ hội học cách chịu trách nhiệm bằng lời của mình. Một AI có thể giúp lập kế hoạch học bằng cách đặt câu hỏi. Nhưng nếu nó tự tối ưu mọi lịch, người học mất cơ hội hiểu chính nhịp học của mình.

Đây là tiêu chí quan trọng cho tự động hóa trong EdTech: việc này đang làm thay một thao tác nền, hay làm thay một năng lực mà giáo dục muốn người học phát triển? Nếu là thao tác nền, tự động hóa có thể tốt. Nếu là năng lực cần hình thành, tự động hóa phải trở thành scaffold có rút dần, không phải thay thế vĩnh viễn.

12. Tự động hóa có thể làm mất cơ hội hiểu người học của giáo viên

Không chỉ người học mất cơ hội học. Giáo viên cũng có thể mất cơ hội hiểu người học. Khi AI tóm tắt toàn bộ bài viết, giáo viên có thể đọc nhanh hơn nhưng ít nghe giọng người học hơn. Khi AI chấm lỗi, giáo viên có thể tiết kiệm thời gian nhưng bỏ qua pattern tư duy phía sau lỗi. Khi dashboard quyết định ai cần hỗ trợ, giáo viên có thể không phát triển trực giác lớp học. Khi AI trả lời mọi câu hỏi nhỏ của học sinh, giáo viên có thể không biết lớp đang mắc ở đâu.

Một nghề chuyên môn không chỉ gồm quyết định cuối cùng; nó gồm quá trình cảm nhận, so sánh, lắng nghe, đọc dấu hiệu và học từ trường hợp cụ thể. Nếu tự động hóa lấy đi quá nhiều tiếp xúc với dữ liệu sống của nghề, chuyên môn có thể teo lại. Trong y khoa, người ta lo bác sĩ quá phụ thuộc vào decision support. Trong giáo dục, ta cũng nên lo giáo viên quá phụ thuộc vào dashboard và AI summary. Một giáo viên không còn đọc bài của học sinh, không còn nghe câu hỏi vụng, không còn thấy lỗi lặp, sẽ mất một phần chất liệu để dạy tốt.

Parasuraman và Manzey, trong review về automation complacency và automation bias, nhấn mạnh complacency có thể xuất hiện trong điều kiện workload nhiều nhiệm vụ và bias có thể khiến người dùng theo khuyến nghị tự động mà không tìm kiếm đủ thông tin hoặc xử lý thông tin đầy đủ.[^parasuraman-manzey] Giáo viên cũng là con người trong workload cao. Nếu ta đặt AI vào môi trường quá tải mà không thiết kế thời gian, đào tạo và quyền nghi ngờ, giáo viên sẽ không giám sát AI như lý tưởng; họ sẽ sống sót bằng cách tin AI.

13. Những thứ nên tự động hóa

Nói “có những thứ không nên tự động hóa” không có nghĩa giữ giáo dục trong thủ công. Ngược lại, chương này ủng hộ tự động hóa mạnh ở những nơi giúp con người có thêm năng lượng cho phán đoán giáo dục. Hãy tự động hóa việc tìm tài liệu, nhưng giữ giáo viên ở quyết định tài liệu nào phù hợp. Hãy tự động hóa nhắc lịch, nhưng giữ con người trong cuộc trò chuyện khi người học liên tục trễ. Hãy tự động hóa kiểm tra lỗi định dạng, nhưng giữ con người trong đánh giá ý tưởng. Hãy tự động hóa báo cáo tổng hợp, nhưng giữ con người trong quyết định hậu quả.

Hãy tự động hóa accessibility: caption, text-to-speech, speech-to-text, chuyển định dạng, mô tả hình ảnh, hỗ trợ ngôn ngữ. Hãy tự động hóa administrative friction: đăng ký lịch, truy xuất chính sách, nhắc biểu mẫu, sắp xếp tài nguyên. Hãy tự động hóa practice thấp rủi ro: bài luyện thêm, flashcards, quiz formative, giải thích lại khái niệm với guardrail. Hãy tự động hóa insight tổng hợp: misconception phổ biến, câu hỏi thường gặp, phần video bị bỏ, chỗ tài liệu khó hiểu. Hãy tự động hóa việc khiến hệ thống thấy vấn đề của chính nó: môn nào gây rơi, deadline nào chồng chéo, feedback nào đến quá muộn.

Nhưng tự động hóa tốt phải có hướng: nó kéo con người về gần nơi ý nghĩa được quyết định. Nếu AI giúp giáo viên bớt nhập điểm để có thêm thời gian gặp người học, tốt. Nếu AI giúp người học bớt kẹt kỹ thuật để tập trung vào tư duy, tốt. Nếu AI giúp lãnh đạo thấy vấn đề thiết kế chương trình thay vì đổ lỗi cá nhân, tốt. Nếu AI giúp người khuyết tật tiếp cận học tập tốt hơn, rất tốt. Tự động hóa không phải kẻ thù. Kẻ thù là tự động hóa sai chỗ.

14. Một nguyên tắc thiết kế: máy làm nền, người giữ nghĩa

Nguyên tắc của chương này có thể viết ngắn: máy làm nền, người giữ nghĩa. Máy có thể làm những việc nhanh, lặp, kỹ thuật, tổng hợp, chuyển đổi, gợi ý, nhắc, sắp xếp, mở rộng luyện tập. Con người phải giữ những việc quyết định ý nghĩa giáo dục: mục tiêu học, kỳ vọng, phán đoán đạo đức, quan hệ, kỷ luật, đánh giá có hậu quả, chăm sóc, tha thứ, đặt câu hỏi khó, và quyết định khi nào không nên tối ưu.

Nguyên tắc này không lãng mạn hóa con người. Con người sai. Con người thiên kiến. Con người mệt. Nhưng khi con người giữ nghĩa, họ có thể bị hỏi lại, bị thuyết phục, xin lỗi, sửa quyết định, chịu trách nhiệm, nhìn người học trong bối cảnh. Máy có thể hỗ trợ phán đoán, nhưng không nên là nơi trách nhiệm biến mất. Khi một quyết định làm người học đau, người học cần biết ai chịu trách nhiệm, không phải chỉ thấy một hệ thống.

EU HLEG về Trustworthy AI đặt human agency and oversight là một trong bảy yêu cầu của AI đáng tin, cùng với robustness, privacy/data governance, transparency, fairness, societal well-being và accountability.[^hleg-trustworthy] EU AI Act Article 14 cũng yêu cầu high-risk AI có human oversight để người giám sát hiểu giới hạn, tránh automation bias, diễn giải output, override hoặc dừng hệ thống khi cần.[^eu-article14] Dịch sang giáo dục: nếu không có người có quyền thật để nói “không”, đừng gọi đó là oversight.

15. Checklist ranh giới trước khi tự động hóa

Trước khi tự động hóa một việc trong giáo dục, tổ chức nên hỏi ít nhất mười câu. Việc này có ảnh hưởng điểm số, danh dự, cơ hội, kỷ luật hoặc an toàn không? Việc này có liên quan đến trẻ em, nhóm yếu thế, người học khuyết tật, người học nghèo, người học ngôn ngữ thiểu số không? Việc này có cần hiểu bối cảnh cá nhân không? Nếu AI sai, ai bị hại và hại thế nào? Người học có biết AI được dùng không? Có quyền giải thích và khiếu nại không? Con người có thời gian, thông tin và thẩm quyền để override không? Có cách fallback không? Có audit theo nhóm không? Việc này nếu làm thủ công có tạo cơ hội học hoặc cơ hội hiểu người học không?

Nếu câu trả lời cho nhiều câu là “có rủi ro cao”, tự động hóa không nhất thiết bị cấm, nhưng phải chuyển từ mode “automation” sang mode “decision support with governance”. Nếu không có governance, đừng triển khai. Nếu tổ chức không đủ nguồn lực xử lý khiếu nại, đừng dùng trong quyết định hậu quả cao. Nếu giáo viên không được đào tạo, đừng bắt họ giám sát. Nếu người học không thể hiểu quyền của mình, đừng thu dữ liệu nhạy cảm. Nếu vendor không cho audit, đừng đặt nó ở nơi phán đoán.

Một nguyên tắc thực tế khác: hãy bắt đầu bằng tự động hóa việc ít hậu quả và dễ đảo ngược. Đừng bắt đầu bằng kỷ luật, chấm điểm cuối kỳ, xếp lớp, phát hiện gian lận, wellbeing triage hoặc tuyển sinh. Nếu một tổ chức muốn “AI-first” ở những vùng này, ta nên hỏi liệu họ đang đổi mới giáo dục hay đang thử nghiệm quyền lực.

16. Benchmark đúng: tự động hóa có trả con người về đúng chỗ không?

Benchmark tệ hỏi: tiết kiệm bao nhiêu phút, xử lý bao nhiêu ticket, tạo bao nhiêu feedback, giảm bao nhiêu chi phí. Benchmark tốt hỏi thêm: thời gian tiết kiệm có thật sự chuyển sang tương tác có giá trị không? Giáo viên có hiểu người học hơn không? Người học có agency hơn không? Quyết định có công bằng hơn không? Khi AI sai, có sửa được không? Người học có quyền phản hồi không? Tự động hóa có làm tổ chức tránh câu hỏi khó không? Có nhóm nào bị hại nhiều hơn không?

Một hệ thống tự động hóa tốt không chỉ làm quy trình nhanh hơn. Nó làm giáo dục nhân tính hơn ở tầng con người. Nếu AI chấm lỗi chính tả để giáo viên có thêm thời gian bàn về luận điểm, tốt. Nếu AI chấm toàn bộ bài để giáo viên không đọc học sinh nữa, xấu. Nếu AI nhắc lịch để cố vấn gặp người học đúng lúc, tốt. Nếu AI thay cuộc gặp bằng email mẫu, xấu. Nếu AI phát hiện pattern bất bình đẳng để trường sửa thiết kế, tốt. Nếu AI biến bất bình đẳng thành risk score cá nhân, xấu.

Benchmark cuối cùng là câu hỏi rất giản dị: sau tự động hóa, con người trong hệ thống có được đặt ở nơi con người cần nhất không? Hay con người chỉ còn ở lại để ký tên, xử lý ngoại lệ, xin lỗi khi máy sai, và làm mềm một hệ thống đã quyết định trước?

17. Lập trường của chương này

Chương này không nói “đừng tự động hóa giáo dục”. Một nền giáo dục không tự động hóa gì có thể mệt mỏi, chậm, bất công, tốn kém và bỏ rơi người học. Có những việc máy làm tốt hơn người, hoặc ít nhất làm đủ tốt để con người được giải phóng khỏi việc nền. Từ chối mọi tự động hóa là một kiểu đặc quyền: chỉ những nơi đủ người, đủ tiền, đủ thời gian mới chịu nổi.

Nhưng chương này nói: hãy tự động hóa với một ranh giới đạo đức rõ. Đừng tự động hóa kỷ luật. Đừng tự động hóa kỳ vọng về tương lai người học. Đừng tự động hóa quan hệ. Đừng tự động hóa suy luận cảm xúc để quản lý lớp. Đừng tự động hóa buộc tội gian lận. Đừng tự động hóa high-stakes judgment mà không có human review, explanation, appeal và audit. Đừng tự động hóa những cơ hội người học cần để lớn lên. Đừng tự động hóa những cơ hội giáo viên cần để hiểu người học.

Tự động hóa tốt nhất là tự động hóa làm con người hiện diện tốt hơn. Nó dọn nền để giáo viên đọc sâu hơn, cố vấn nghe kỹ hơn, người học tự chủ hơn, phụ huynh hỗ trợ tinh tế hơn, lãnh đạo sửa hệ thống thay vì đổ lỗi cá nhân. Tự động hóa tệ nhất là tự động hóa làm con người biến mất ở đúng nơi cần họ nhất.

Trong giáo dục, không phải mọi thứ chậm đều là lỗi. Có những thứ chậm vì chúng cần người. Một cuộc trò chuyện về thất bại. Một phản hồi làm người học thấy được nhìn thấy. Một quyết định kỷ luật biết phân biệt trừng phạt và phục hồi. Một kỳ vọng trái với xác suất thống kê. Một lời mời thử lại. Một sự im lặng để người học tự nghĩ. Một giáo viên đọc giữa những dòng chữ.

Máy có thể giúp rất nhiều quanh những khoảnh khắc ấy. Nhưng nếu máy thay thế chúng, ta không chỉ mất một thao tác. Ta mất một phần giáo dục.

Ghi chú nguồn cho chương

[^eu-article5]: European Commission / AI Act Service Desk, Article 5: Prohibited AI practices. Article 5 cấm một số thực hành AI như manipulative/deceptive techniques gây hại, exploitation of vulnerabilities do age/disability/social-economic situation, social scoring, và AI systems infer emotions trong workplace và education institutions, trừ một số mục đích medical hoặc safety. Nguồn: https://ai-act-service-desk.ec.europa.eu/en/ai-act/article-5

[^biesta-risk]: Gert J. J. Biesta, The Beautiful Risk of Education (Routledge, 2013). Biesta lập luận rằng giáo dục thật luôn có rủi ro vì người học không phải đối tượng để nắn theo kế hoạch, mà là chủ thể của hành động và trách nhiệm; quan điểm này hữu ích khi bàn về giới hạn của tự động hóa trong giáo dục. Nguồn: https://www.research.ed.ac.uk/en/publications/beautiful-risk-of-education/ và DOI: https://doi.org/10.4324/9781315635866

[^unesco-gem]: UNESCO Global Education Monitoring Report Team, Technology in education: A tool on whose terms? (2023). GEM Report nhấn mạnh công nghệ giáo dục phải đặt nhu cầu người học lên trước, hỗ trợ giáo viên, phục vụ enhanced learning experiences và wellbeing, không thay thế tương tác người-người; báo cáo cũng cảnh báo thiếu governance và regulation trong digitisation of education. Nguồn: https://www.unesco.org/gem-report/en/publication/technology-education và thông cáo: https://www.unesco.org/gem-report/en/articles/unesco-issues-urgent-call-appropriate-use-technology-education

[^black-wiliam]: Paul Black & Dylan Wiliam, “Inside the Black Box: Raising Standards Through Classroom Assessment” (Phi Delta Kappan, bản reprint 2010). Bài kinh điển về formative assessment nhấn mạnh formative assessment là thành phần thiết yếu của classroom work và có thể nâng achievement khi evidence được dùng để điều chỉnh dạy và học. Nguồn DOI: https://doi.org/10.1177/003172171009200119

[^eef-feedback]: Education Endowment Foundation, Teacher Feedback to Improve Pupil Learning (2021). EEF nhấn mạnh feedback tốt có thể hỗ trợ pupil progress bằng cách xây dựng learning, xử lý misunderstanding và thu hẹp khoảng cách tới mục tiêu; nhưng feedback không phải lúc nào cũng tích cực, làm sai có thể gây hại và feedback không miễn phí về thời gian. Nguồn: https://educationendowmentfoundation.org.uk/education-evidence/guidance-reports/feedback

[^parasuraman-riley]: Raja Parasuraman & Victor Riley, “Humans and Automation: Use, Misuse, Disuse, Abuse” (Human Factors, 1997). Bài viết phân biệt use, misuse, disuse và abuse của automation; misuse là over-reliance có thể gây failures of monitoring hoặc decision biases, còn automation abuse là tự động hóa chức năng mà không xét đầy đủ hậu quả cho vai trò và hiệu năng con người. Nguồn DOI: https://doi.org/10.1518/001872097778543886

[^parasuraman-manzey]: Raja Parasuraman & Dietrich H. Manzey, “Complacency and Bias in Human Use of Automation: An Attentional Integration” (Human Factors, 2010). Review này tổng hợp bằng chứng về automation complacency và automation bias, cho thấy complacency dễ xảy ra dưới multiple-task load và automation bias có thể làm người dùng theo automated recommendations mà không tìm kiếm/xử lý đủ thông tin. Nguồn DOI: https://doi.org/10.1177/0018720810376055

[^hleg-trustworthy]: European Commission High-Level Expert Group on AI, Ethics Guidelines for Trustworthy AI (2019). Guidelines nêu trustworthy AI gồm lawful, ethical, robust và bảy yêu cầu: human agency and oversight, technical robustness/safety, privacy/data governance, transparency, diversity/non-discrimination/fairness, societal/environmental well-being, accountability. Nguồn: https://digital-strategy.ec.europa.eu/en/library/ethics-guidelines-trustworthy-ai và bản tóm tắt: https://knowledge4policy.ec.europa.eu/publication/ethics-guidelines-trustworthy-ai_en

[^eu-article14]: European Commission / AI Act Service Desk, Article 14: Human oversight. Article 14 yêu cầu high-risk AI systems được thiết kế để con người có thể overseen hiệu quả, hiểu capabilities/limitations, nhận ra automation bias, diễn giải output, quyết định không dùng hoặc override output, và can thiệp/dừng hệ thống khi cần. Nguồn: https://ai-act-service-desk.ec.europa.eu/en/ai-act/article-14