Spying on Student Devices, Schools Aim to Intercept Self-Harm Before It Happens
夜明けまではまだ数時間ある朝早く、エンゼル・チョルカさんは窓から差し込む警官の懐中電灯の光で目を覚ました。ドアの前には警官が立っていて、マディという名の人物が住んでいるかと聞き、様子を見に行かなければならないと言う。チョルカさんは気が動転し、16歳になる娘の寝室に走った。そして突然、恐怖に襲われた。
米ミズーリ州ネオショーの地元の教育委員会が運用する人工知能（AI）搭載のソフトウェアが、学校支給のタブレット端末、クロームブックにマディさんが入力した文書の内容を追跡していることを、チョルカさんは知らなかった。
家族が寝ている間に、マディさんは抗不安薬を過剰摂取するつもりだとテキストメッセージで友人に伝えていた。その情報が学校の主任カウンセラーに届き、警察に通報された。チョルカさんと警官がマディさんの元に着いたとき、彼女はすでに15錠ほどをのんでいた。彼らは彼女をベッドから引きずり出し、急いで病院に運んだ。
誤認による深夜の警官訪問、トラウマに
一方、何千マイルも離れたコネティカット州フェアフィールド郡に住む、ある母親と父親は深夜に自宅の固定電話が鳴ったが、間に合わず出られなかった。その15分後、玄関のベルが鳴った。3人の警官がいて、17歳の娘への面会を求めた。監視ソフトによって自傷の危険が差し迫っていると警告が出ているという。
- 【注目記事を翻訳】連載「NYTから読み解く世界」
AI搭載のソフトウェアが、生徒たちがタブレット端末に入力する内容のうち、自殺や自傷行為につながるとみられるものを追跡し、危険が迫っていると判断した場合はアラートを出します。それによって間一髪で助かる命がある一方、プライバシーが侵害されるという批判的な意見もあります。
両親は娘を起こして階下に連…
