OpenAIが、子どもを性的に傷つける画像を見つけるAIの道具を、審査した団体に無料で提供。AIで作られた画像かどうかの手がかりも示し、ChatGPTでは探そうとした人に警告を出して24時間使えなくする
・OpenAIが2026年11月16日、子どもを性的に傷つける画像(児童性的虐待コンテンツ)を見つけるための新しい画像の判定の道具を発表した。AIで作られた画像かどうかの手がかりも示す、広く使える初めての道具だとしている
・この道具は、審査を通った団体に、開発者向けの窓口から無料で提供する。米国の行方不明・被搾取児童センター(NCMEC)の協力を得て作った
・ChatGPTでは、こうした画像を探そうとする人に警告を出し、会話を消して24時間使えなくする。くり返すと、より長い制限やアカウントの停止、当局への通報もありうる
OpenAIは2026年11月16日、ネットで子どもが性的に傷つけられるのを防ぐための、新しい道具と取り組みを発表しました。
画像を作るAIが広がるなかで、子どもを性的に傷つける画像が、AIで作られて出回る心配も大きくなっています。今回の発表は、そうした画像を見つける道具を広く配り、ChatGPTの中でも、探そうとする行為を止めて、助けにつなぐしくみを強めるものです。
この記事では、OpenAIの発表で分かったことを整理したうえで、ふだんの仕事がどう変わるのかを考えます。
画像を見つける道具を、審査した団体に無料で
まずは、新しい道具です。
OpenAIの発表によると、次のとおりです。
・新しい画像の判定の道具は、虐待の目に見える手がかりを探し、これまでに見つかっていない新しい画像も見つけられるようにする
・確認する人が、どの画像を先に見るべきかを決められるよう、点数を返す
・AIで作られた画像かどうかの手がかりを示す、広く使える初めての道具だとしている
・審査を通った団体に、開発者向けの窓口から無料で提供する。子どもを守る団体や業界団体とも組んで、使える範囲を広げる
社内と、先に使った会社での試験の結果は、次のとおりです。
| 試験 | 結果 |
|---|---|
| OpenAIの社内の比較 | 今の道具とほぼ同じ数の虐待の画像を見つけながら、確認に回す画像は48%少なくなると見積もった |
| 同じく社内の比較 | 新しい道具が知らせた画像は、虐待を含む割合が約2倍だった |
| 画像を作るAIの会社falの試験 | 確信の高い知らせの72%が、新しい虐待の画像だと確かめられた |
ChatGPTでは、警告を出して24時間使えなくする
次に、ChatGPTの中の取り組みです。
・こうした画像はもともと禁じていて、AIは頼まれても断るように学ばせ、決まりを破ったアカウントには対応してきた
・これに加えて、探そうとする人に、ChatGPTの中で警告を出す。AIで作った画像であっても、子どもを性的に扱うことは害になると、はっきり伝える
・警告とともに、その会話を消し、ChatGPTを24時間使えなくする。その間も、行動を止めるための専門の相談先は案内する
・くり返すと、より長い制限、アカウントの停止、当局への通報につながることがある
・警告は、子どもへの性的虐待を防ぐ団体や研究者と一緒に作った。できるだけ多くの国で、その国の相談先につなぐようにする
スポンサーリンク
開発者向けの手引きと、他社との協力
ここで、ほかの取り組みも見ておきます。
・AIのサービスを作る開発者向けに、虐待を防ぎ、見つけ、対応するための手引きを公開した。子どもを守る団体などの意見を入れて作った
・AnthropicやGoogleと一緒に、AIのサービスで子どもが被害を打ち明けたときの対応の手引きづくりも進めている
・ネットの子どもの性的搾取について、ほかのサービスと手がかりを共有する業界の取り組みにも加わった
仕事はどう変わるか:AIのサービスを作る側に、子どもを守る準備が求められる
ここからは、公式の情報をもとにした僕の見方です。
今回の発表で変わるのは、画像を扱うサービスを作る会社が、子どもを守るしくみを用意するときの手間だと考えています。
これまで、こうした画像を見つける道具は、大きな会社でなければ用意しにくいものでした。審査を通れば無料で使える道具と、手引きが出たことで、小さな会社でも守りのしくみを作りやすくなります。11月16日に紹介したように、MetaもInstagramで、AIで10代を見つけて守る取り組みを全世界に広げていて(Instagramの年齢推定の記事)、子どもを守るためのAIの使い方が、各社で広がっています。
一方で、画像を見つける道具は、確認する人の判断を助けるもので、最終的に確かめるのは人です。
利用者が画像を投稿できるサービスを運営している個人事業主にとっては、こうした道具や手引きを使って、投稿のチェックのしくみを見直すきっかけになりそうです。
あわせて、知っておきたいこともあります。
・画像の判定の道具を使えるのは、審査を通った団体。申し込みは、OpenAIの受付のページから行う
・試験の結果は、OpenAIと、先に使った会社が出した数字
・今回の道具や警告は、OpenAIのサービスと、道具を使う団体の中での取り組み。子どもの被害に気づいたときは、自分の国の警察などの窓口に知らせる
まとめ:子どもを傷つける画像を見つける道具を、無料で配る
OpenAIは、子どもを性的に傷つける画像を見つける新しい道具を、審査を通った団体に無料で提供すると発表しました。AIで作られた画像かどうかの手がかりも示します。ChatGPTでは、探そうとする人に警告を出し、会話を消して24時間使えなくし、相談先につなぎます。
AIで作られる画像が広がるなかで、それを見つけて止めるためにもAIを使い、その道具を業界で分け合う流れが進んできた、というのがいちばん大きな変化です。
まずは、画像を投稿できるサービスにかかわる人は、自分のサービスで不適切な画像を見つけたときの連絡先と手順が決まっているかを確かめてみるのがよさそうです。
出典
・OpenAI「Strengthening the fight against online child sexual abuse with new tools and support」(2026年11月16日) https://openai.com/index/strengthening-online-child-safety/
