生成AI（人工知能）を使って、偽の性的画像や動画を簡単に作れるようになった。子どもたちが軽い気持ちで作り、拡散してしまう可能性もある。被害者にも加害者にもしないために、どうすればいいのか。
シンガポールのガラス張りの図書館にいる男性が流暢（りゅうちょう）な英語で語りかける映像が、教室のスクリーン上から流れる。男性は、教壇に立つ情報教育担当講師、安藤昇さん（56）の顔だ。
「私はこんなに英語は話せませんし、シンガポールにも行っていません」。映像を見た後、安藤さんはAIが作った「ディープフェイク」だと明かした。
11月上旬、東京都の青山学院中等部で3年生向けに行われた「ディープフェイク技術の民主化から考えるAI倫理」の授業の一コマだ。
続いて、生徒の一人が日本語で、架空の「エビ部」に勧誘する動画も流れた。動画に出ていた生徒は「何もしてないのに」と笑う。
ディープフェイクの事件「いつ起きてもおかしくない」
動画は、安藤さんが生成AIの動画制作フォームで作った。顔以外の映像や音声はすべて「偽物」。数年前なら専門知識がなければ難しかったが、いまや手軽に作ることができる。
技術は創造的な利用も、悪用もできる。同校では、生成AIなど最新のデジタル技術を生徒自身が活用し、効果的な活用法を模索すると同時に、リスクから守るための倫理的な教育も行う。
「女子高生」「独裁者」など、各生徒が設定したキャラクターにあわせて生成された内容と音声で返答するチャットを作る授業も行った。
今回の授業では、米国や韓国で、同じ学校の生徒の写真を性的画像に加工して拡散する被害があったことも伝えた。性的な加工ではないが、「顔だけ差し替えられるオンラインゲームはあるし、結構みんなやってる」という生徒も。自分の顔がわかる画像をSNSに投稿しないようにしているという生徒も多いが、「学校行事の写真をデータで注文して、加工することも出来るよね」といった声もあがった。
- 女子生徒30人の偽ポルノ、作ったのは同級生 AI使えば数秒で…
安藤さんは、「日本の学校でも、いつ同じような事件が起きてもおかしくない」と懸念する。技術の進歩は早く、「倫理教育を家庭だけに任せるのは無理がある。いじめなどの意図はなくても、活用法を間違えれば、被害者の命を奪う結果すら招くことを伝えることが重要」と話す。
■「AI倫理』教える場を…
