教育現場、ディープフェイク対策と研修に課題

EdWeekリサーチセンターが教育関係者852人を対象に全国調査を行ったところ、3人に1人が、生徒の安全を脅かすAI生成ディープフェイクについて、学校または学区に方針があるか分からないと回答しました。22％は方針がないと答え、2％は当局が方針を検討中だとしました。調査はこの夏に実施されました。別の調査では、2024年に民主主義・技術センターが、幼稚園から高校までの生徒の4人に1人が、本人の同意なく性的に露骨なディープフェイクに描かれた知人を知っていると報告しました。

無料でダウンロードできるAIツールを使えば、生徒はクラスメートや教職員の偽画像・偽動画を簡単に作成し、広められると報告されています。多くは性的に露骨な内容で、女性や女子生徒を標的にしています。学校職員が人種差別的または不適切な発言をしているように見せるものもあります。学校危機対応を支援するマーケティング会社、ケイラー・ソリューションズ創業者のバート・ケイラー氏は、動画と「人物の発言や行動を変える」という簡単な指示だけで作成できると述べました。

調査対象者の多くは、ディープフェイクの見分け方や対応について研修を受けておらず、13％はディープフェイクが何か分からないと答えました。10人に9人は、過去2年間に検出や対応の研修を受けていません。イノベートEDUの最高経営責任者エリン・モート氏は、教師が生徒間で広まる露骨な画像に最初に気づく場合があると述べ、安全に発見・報告し、拡散を抑え、心的外傷に配慮したケアで被害者を支える統一対応計画を勧めました。また、未成年者の親密な画像を個人の携帯電話に送ると、児童性的虐待画像を端末に保存することになり得るため、教師は送らないよう警告しました。

回答者の20％超は、学校の既存方針で性的に露骨なディープフェイクを十分に扱えると答えました。一方、専門家は、こうした事案はネットいじめとは異なると指摘しています。未成年者の同意のない性的画像を配布することは連邦犯罪であり、一部の州の措置と連邦法では、懲役が科される可能性もあります。民主主義・技術センターのクリスティン・ウォーフェル氏は、必ずしも新たな方針を作らずとも、既存の技術利用、嫌がらせ、ネットいじめに関する方針に具体的な文言を加えられると述べました。画像が本物かどうかを判断することより、被害への対応が重要であり、被害者への影響は同じだとも説明しました。

調査では、生徒が有害なディープフェイクを作成・配布した場合、56％の学校が保護者に知らせる可能性が最も高く、48％が生徒を停学にし、4分の1が退学処分にし、33％が修復的な取り組みを行うと回答しました。モート氏は、生徒に学校の規則と処分を平易な言葉で説明する必要があると述べました。ウォーフェル氏は、同意について教え、こうした素材を作成・共有することは間違いだと生徒に伝えるべきだとしました。別途、28州の議員が、政治的メッセージにおけるAI生成ディープフェイクを規制する法律を成立させています。

EdWeekリサーチセンターが教育関係者852人を対象に全国調査を行ったところ、3人に1人が、生徒の安全を脅かすAI生成ディープフェイクについて、学校または学区に方針があるか分からないと回答しました。22％は方針がないと答え、2％は当局が方針を検討中だとしました。調査はこの夏に実施されました。別の調査では、2024年に民主主義・技術センターが、幼稚園から高校までの生徒の4人に1人が、本人の同意なく性的に露骨なディープフェイクに描かれた知人を知っていると報告しました。

無料でダウンロードできるAIツールを使えば、生徒はクラスメートや教職員の偽画像・偽動画を簡単に作成し、広められると報告されています。多くは性的に露骨な内容で、女性や女子生徒を標的にしています。学校職員が人種差別的または不適切な発言をしているように見せるものもあります。学校危機対応を支援するマーケティング会社、ケイラー・ソリューションズ創業者のバート・ケイラー氏は、動画と「人物の発言や行動を変える」という簡単な指示だけで作成できると述べました。

調査対象者の多くは、ディープフェイクの見分け方や対応について研修を受けておらず、13％はディープフェイクが何か分からないと答えました。10人に9人は、過去2年間に検出や対応の研修を受けていません。イノベートEDUの最高経営責任者エリン・モート氏は、教師が生徒間で広まる露骨な画像に最初に気づく場合があると述べ、安全に発見・報告し、拡散を抑え、心的外傷に配慮したケアで被害者を支える統一対応計画を勧めました。また、未成年者の親密な画像を個人の携帯電話に送ると、児童性的虐待画像を端末に保存することになり得るため、教師は送らないよう警告しました。

回答者の20％超は、学校の既存方針で性的に露骨なディープフェイクを十分に扱えると答えました。一方、専門家は、こうした事案はネットいじめとは異なると指摘しています。未成年者の同意のない性的画像を配布することは連邦犯罪であり、一部の州の措置と連邦法では、懲役が科される可能性もあります。民主主義・技術センターのクリスティン・ウォーフェル氏は、必ずしも新たな方針を作らずとも、既存の技術利用、嫌がらせ、ネットいじめに関する方針に具体的な文言を加えられると述べました。画像が本物かどうかを判断することより、被害への対応が重要であり、被害者への影響は同じだとも説明しました。

調査では、生徒が有害なディープフェイクを作成・配布した場合、56％の学校が保護者に知らせる可能性が最も高く、48％が生徒を停学にし、4分の1が退学処分にし、33％が修復的な取り組みを行うと回答しました。モート氏は、生徒に学校の規則と処分を平易な言葉で説明する必要があると述べました。ウォーフェル氏は、同意について教え、こうした素材を作成・共有することは間違いだと生徒に伝えるべきだとしました。別途、28州の議員が、政治的メッセージにおけるAI生成ディープフェイクを規制する法律を成立させています。