数年前から中国の学校に顔認証システムが導入されており、保護者から危惧する声が上がっています。
教室の顔認証システムは数年前に既に一部の学校で導入され、大きな論争を巻き起こしている。2016年当時、汉王科技が開発した「CCS教室ケアシステム」は、北京牛栏山第一中学や内蒙古自治区赤峰第四中学など、中国全国の多くの学校で試験的に導入されています。
このシステムは教室を常に監視し、生徒の行動を分析するもので、気が散って授業を聞いていない生徒には赤いボックスで、しっかり聞いている生徒には緑のボックスで、質問に答えている生徒には青いボックスで丸をつけ識別しています。
ウイグル監視企業として米国に制裁を受けているMegvii Technologyは、以前、自社の製品が教育分野でどのように利用できるかを紹介するデモンストレーションを行っています。
画像には、制服姿の女子学生2人が教室にいる様子が写っているが、その周りには、机の上に2回、スマホをいじる1回、寝る0回、講義を聞く3回、本を読む8回、手を上げる4回・・・・・・と、多数のタグが表示されています。
教室内での学生の一挙手一投足が丸見えになっており、 監視カメラの映像は、教室内での生徒の動きがよくわかるようになっています。
2018 年、杭州第 11 中学校は学校全体に「スマート教室行動分析システム」を採用。
教室では、黒板上部に取り付けられた3台のカメラが30秒ごとに生徒の顔をスキャンし、分類・採点を行い、生徒が授業に注意を払っているか、サボっていないかなどを識別します。
リアルタイムで授業出席データ、授業集中度偏差値分析、授業行動記録データ、授業表情データなどが算出され、その結果は教師にフィードバックされます。
中学校だけでなく大学でも導入が始まっており、2018年度、中国医薬大学が顔認証技術を本格導入し、入退室管理だけでなく、試験的に教室にカメラを設置して出席を取ったり、学生の授業風景を総合的に監視しています。
学生が教室に入った瞬間から、完全な監視と本人確認が始まります。
こちらは別の教室の様子です。
この教室の状況について中国メディア捜狐は「まるで哲学者や社会学者が考えた「超パノラマ刑務所」にいるようだ」と報道しています。
現代版オーウェルですね。
捜狐ですら「以前は、生徒は教室のドアの向こうにいる先生の目を気にしていました。現在では教室の上に置かれたカメラは先生にとってもう一つの「目」となり、生徒は「見られる」だけでなく、「データによって分析」されるようになりました。
生徒達は「見られる」だけでなく、「データで分析される」「スコアを付けられ評価をされる」のです。
「良い教室は、本当に監視によって作られるのだろうか？」とこの状況に疑問を投げかけています。
まず、教室での生徒の行動、つまり、本を読む、手を挙げる、書く、座る、立つ、聞く、机に伏せる、あくびをする、などの行動を分析。
また、生徒の座り方や態度の悪さなどの状態を把握・判断し、早期警告レポートを作成するシステムもあります。このデータが教師に届くと、特定のデータと録画映像のマッチングにより、教師は特定の指導の効果について具体的な分析と考察を行うことができるようになります。
次に、授業中の生徒の表情を、中立、幸せ、怖い、悲しい、驚いた、悲しい、怒った、嫌だというように識別し、クラス、あるいは学校全体の生徒の状態を分析。
教師の教え方を改善させる事にも使われ、 教師の生徒との向き合い方、歩き方、音量、発話速度、教師の歩行軌跡など、教室内での教師の行動データも記録するシステムもあり、教師の軌跡をヒートマップで作成し、このデータをもとに教師が適切な指導調整を行うことができます。
※教師も監視されています。なので、余計な事を喋れば解雇ですね。
システムのアルゴリズムによれば、授業中に動き回らず、積極的に手を挙げる生徒が優秀で、板書を見ず、手を挙げない生徒は明らかに劣等生であるとのこと。
しかし、事実はどうだろう。
2回手を挙げるより3回挙げる方が良いというのは本当だろうか。
この分類が正当化されない事は容易に理解できます。
おそらく、これらの顔認識「スマート」システムは、単に生徒の評価を定量的にスマート化したに過ぎず、改善には至っていないと言えるでしょう。
教育は人間の為にあるのか、それとも昇進率の為にあるのか？
学生は人間であり、機械ではありません。
教育とは、試験に合格するような組立式製品を生産する事ではありません。
逆に考えて、私達大人が毎日このように機械に監視され、表情や精神状態を分析されたら、不快でたまらなく、見下されていると感じ、あるいは私自身の存在価値さえも疑われるのではないでしょうか？
確かに人工知能は、講義を聞く学生の集中度を細分化し、教育現場をデータ化して分かり易く、より便利なものにする事ができます。
しかし、教育の近代化とは、教育機器の近代化と決して同じではなく、ましてや教育の全過程が完全に機械化・デジタル化される事でもありません。 教育の近代化の核心・鍵は、教育の概念・内容・方法の近代化です。
この様に、良心的な中国人はこういった人間をスコアリングするAIシステムの危険性を訴えています。