まいにちこども新聞

AIの安全をまもる新しいルールを政府が検討

2026-11-17 ・ 出典: NHKニュース ・ 小学生にもわかるニュース
写真: NHKニュース

政府せいふは、AI(エーアイ)の安全あんぜんをまもるための新あたらしいルールづくりを検討けんとうしています。AIを提供ていきょうする会社かいしゃに、危険きけんにつながる情報じょうほうを国くにへ報告ほうこくするよう求もとめる仕組しくみです。ルールを守まもらない会社かいしゃへの罰則ばっそくも考かんがえられています。AIが悪用あくようされたり、思おもわぬ動うごきをしたりする危険きけんをへらせるかが注目ちゅうもくされています。

AI(エーアイ)は、たくさんの情報じょうほうを学まなんで、人ひとのように答こたえを出だすコンピューターの技術ぎじゅつです。写真しゃしんを見分みわけたり、文章ぶんしょうをつくったりできます。とても便利べんりなので、世界中せかいじゅうで急きゅうに広ひろがっています。だからこそ、安心あんしんして使つかえるルールが大切たいせつになっているのです。

🔍 AIってなに?タップでくわしい解説へ

では、なぜルールがいるのでしょうか。AIが悪わるい目的もくてきで使つかわれると、うその情報じょうほうが広ひろがったり、人ひとをだましたりするおそれがあります。また、AIが想定外そうていがいの動うごきをしてしまうこともあります。こうした「起おこるかもしれない危あぶないこと」を「リスク」といいます。国くにはこのリスクを早はやく知しるために、会社かいしゃからの報告ほうこくを求もとめようとしています。

🔍 リスクってなに?タップでくわしい解説へ
💬 ハカセに聞こう
👧
ワタシ
どうしてAIをつくる会社かいしゃに報告ほうこくさせるの?
🧓
ハカセ
AIの中身なかみをいちばんよく知しっているのは、つくった会社かいしゃじゃからのう。リスクを早はやく国くにに伝つたえてもらえば、問題もんだいが大おおきくなる前まえに手てを打うてるんじゃ。
👧
ワタシ
だから報告ほうこくのルールを考かんがえているんだね!

最近さいきんは、文章ぶんしょうや絵えを自分じぶんでつくり出だす「生成せいせいAI」が急きゅうに広ひろがっています。調しらべものや勉強べんきょうに役立やくだつ一方いっぽうで、本物ほんものそっくりのうその文章ぶんしょうや画像がぞうをつくれてしまう心配しんぱいもあります。こうした新あたらしい技術ぎじゅつの登場とうじょうが、ルールづくりを急いそがせる理由りゆうのひとつになっています。

🔍 生成AIってなに?タップでくわしい解説へ
📖 ことばのミニかいせつ
リスク
起おこるかもしれない危あぶないことや、悪わるい結果けっかにつながるおそれのこと。
罰則ばっそく
ルールを守まもらなかったときに受うける、きまりの上うえでのばつ。
⭐ きょうのポイント
政府せいふは、AIを提供ていきょうする会社かいしゃにリスクの報告ほうこくを求もとめる法規制ほうきせいを検討けんとうしています。悪用あくようや想定外そうていがいの動うごきをふせぐためです。
📰 つづきはアプリで

この記事は3つのむずかしさ(やさしい・ふつう・くわしい)でよめます。毎朝あたらしい新聞がとどくよ。

App Storeで「まいにちこども新聞」を入手